Según TechCrunch, Lilian Weng, una investigadora líder en seguridad en OpenAI, anunció su salida de la empresa. Weng, quien se desempeñó como Vicepresidenta de Investigación y Seguridad, reveló su decisión el viernes, afirmando que está lista para explorar nuevas oportunidades después de siete años con la startup. Su último día será el 15 de noviembre, aunque no ha divulgado sus planes futuros. Weng expresó orgullo por los logros del equipo de Sistemas de Seguridad y confianza en su éxito continuo.
La salida de Weng es parte de una tendencia más amplia de salidas de OpenAI, con varios investigadores en política y seguridad de IA dejando la empresa en el último año. Algunos han criticado a OpenAI por priorizar los intereses comerciales sobre la seguridad de la IA. Weng se une a otras figuras notables como Ilya Sutskever y Jan Leike, quienes también dejaron OpenAI este año para centrarse en la seguridad de la IA en otros lugares. Weng se unió a OpenAI en 2018, contribuyendo al equipo de robótica que desarrolló una mano robótica capaz de resolver un cubo de Rubik. A medida que OpenAI cambió su enfoque hacia el paradigma GPT, Weng pasó a construir el equipo de investigación aplicada en IA en 2021 y más tarde lideró la creación de un equipo dedicado a sistemas de seguridad en 2023.
A pesar del crecimiento de la unidad de sistemas de seguridad de OpenAI, que ahora incluye a más de 80 científicos, investigadores y expertos en políticas, persisten las preocupaciones sobre el compromiso de la empresa con la seguridad a medida que desarrolla sistemas de IA más poderosos. Miles Brundage, un exinvestigador de políticas, dejó OpenAI en octubre, citando la disolución del equipo de preparación para la AGI que él asesoraba. Además, el exinvestigador Suchir Balaji expresó preocupaciones sobre el potencial daño social de la tecnología de OpenAI. OpenAI ha declarado que está trabajando en un plan de transición para reemplazar a Weng y enfatizó la importancia del equipo de Sistemas de Seguridad para garantizar la seguridad y la fiabilidad de sus sistemas de IA.
Otras salidas recientes de OpenAI incluyen a la CTO Mira Murati, al Director de Investigación Bob McGrew y al VP de Investigación Barret Zoph. En agosto, el investigador destacado Andrej Karpathy y el cofundador John Schulman también anunciaron sus salidas. Algunas de estas personas, incluidos Leike y Schulman, se han unido al competidor de OpenAI Anthropic, mientras que otros han perseguido sus propios proyectos.
