OpenAI disolvió su equipo de preparación para riesgos de IA
El equipo encargado de evaluar riesgos graves de los modelos fue disuelto a fines de julio. Sus responsabilidades se repartieron en otros grupos mientras la compañía avanza hacia su IPO.
OpenAI disolvió a fines de julio su equipo de preparedness, el grupo que se ocupaba de evaluar si los modelos representaban riesgos serios y de desarrollar formas de mitigarlos.
Según reveló el Financial Times, la responsabilidad ahora se divide por áreas específicas —como biología y ciberseguridad— y se integra en equipos ya existentes. El cambio es el último de una serie de reestructuraciones que vienen ocurriendo en la empresa mientras se prepara para lo que se espera sea una de las Ofertas Públicas Iniciales más grandes del sector.
El equipo de preparedness era el que, entre otras cosas, tenía que pensar en escenarios como un modelo que se vuelva autónomo y ataque infraestructuras ajenas. Su disolución se suma a la de otros grupos que antes se ocupaban de temas de largo plazo: el equipo de AGI readiness y el famoso superalignment team, que se disolvieron en los últimos años.
En las últimas semanas también dejaron la compañía figuras clave en el área de seguridad y ética: la jefa de ética Chloé Bakalar, el “chief futurist” Josh Achiam y el head of safety Johannes Heidecke. Jan Leike, que renunció a OpenAI en 2024 y fue uno de los que más criticó la dirección de la empresa, le dijo al FT que OpenAI está priorizando “productos brillantes” por sobre la seguridad.
Dylan Scandinaro, que había sido contratado en febrero desde Anthropic para liderar el equipo de preparedness, ahora se va a dedicar a estudiar las implicancias de la “self-improvement recursiva”, es decir, modelos que mejoran su propio código y capacidades de forma autónoma.
Qué significa esto en la práctica
Para el usuario común de ChatGPT o de la API, el cambio no se nota de inmediato. Pero sí habla de una tendencia clara en OpenAI: el foco está cada vez más puesto en el desarrollo rápido de productos y en llegar al mercado antes que la competencia. Los riesgos catastróficos —los que antes se estudiaban en equipos dedicados— ahora se manejan de forma distribuida dentro de los equipos de producto.
Esto no es necesariamente malo si los equipos existentes tienen la capacidad y el mandato para frenar un lanzamiento riesgoso. La duda que queda es si, en la práctica, alguien va a tener poder real para decir “no” cuando un modelo pase ciertos umbrales de riesgo.
El contexto argentino
En la Argentina, donde muchas startups y pymes ya están integrando herramientas de OpenAI en sus procesos, este tipo de noticias genera preocupación. Si la empresa líder baja el perfil de sus equipos de seguridad justo antes de cotizar en bolsa, ¿quién va a marcar los límites? Por ahora no hay regulación local específica sobre seguridad de modelos frontier, aunque el tema está en discusión en comisiones del Congreso.
Mientras tanto, la recomendación para empresas locales es la misma de siempre: no poner todos los huevos en una sola canasta. Diversificar proveedores, auditar lo crítico y entender que la responsabilidad final de lo que se construye con IA sigue siendo nuestra.
El anuncio llega en un año en el que OpenAI ya presentó varios modelos nuevos y sigue expandiendo sus productos. La pregunta que queda flotando es si la velocidad de innovación está empezando a correr más rápido que la capacidad de entender qué estamos soltando al mundo.
