Frenar la IA: ¿pacto de seguridad o cartel de Big Tech?

El fin de semana pasado, los principales nombres de la inteligencia artificial —Sam Altman de OpenAI, Dario Amodei de Anthropic, Demis Hassabis de Google DeepMind y Elon Musk de xAI— llegaron a un acuerdo informal para reducir la velocidad de desarrollo de los modelos más potentes.

Según ellos, el objetivo es “pacing the frontier”: avanzar en la frontera de la IA de manera más controlada, con mayor énfasis en la seguridad y la alineación de los sistemas. Pero apenas se conoció la noticia, las críticas no se hicieron esperar: ¿estamos ante un verdadero pacto de responsabilidad o simplemente ante un cartel que busca limitar la competencia?

El argumento de la seguridad

Los cuatro coinciden en que los modelos actuales ya muestran capacidades preocupantes. Altman y Amodei han advertido públicamente sobre riesgos existenciales si la IA supera la inteligencia humana sin controles adecuados. Hassabis, con su background en neurociencia, siempre puso el foco en la alineación. Musk, por su parte, lleva años diciendo que la IA es “más peligrosa que los autos autónomos o la energía nuclear”.

Frenar un poco el ritmo permitiría, según ellos, invertir más recursos en investigación de seguridad, pruebas rigurosas y marcos regulatorios antes de lanzar versiones que podrían tener consecuencias impredecibles. En un contexto argentino donde muchas pymes están empezando a integrar herramientas de IA, un desarrollo más responsable podría traducirse en menos sorpresas desagradables a futuro.

La mirada escéptica: un cartel disfrazado

Los críticos ven otra cosa. Las cuatro empresas ya dominan el acceso a los chips más potentes, los datos de entrenamiento y el talento especializado. Poner un “freno voluntario” a la carrera podría ser una forma elegante de levantar barreras de entrada para startups más pequeñas o competidores que vienen desde atrás, especialmente desde China o Europa.

Si todos los que controlan la frontera acuerdan ir más lento, ¿quién queda fuera? Las compañías que no firman el pacto (o que directamente no fueron invitadas) podrían quedar rezagadas o ser acusadas de “irresponsables”. Y mientras tanto, las cuatro grandes consolidan su posición dominante.

Lo que esto significa para Argentina y LATAM

En nuestro país el debate suena lejano porque la mayoría de las empresas todavía están experimentando con ChatGPT, Claude o Gemini en tareas concretas: redactar mails, generar imágenes o automatizar procesos. Sin embargo, las decisiones que se tomen en San Francisco y Londres terminan afectando el precio, la disponibilidad y las limitaciones de las herramientas que usamos todos los días.

Si realmente se frena el desarrollo, es probable que veamos menos novedades mensuales y quizás un aumento en los costos de las suscripciones. Pero también podría significar que las próximas versiones vengan con mejores salvaguardas de privacidad y menor riesgo de alucinaciones, algo que cualquier usuario argentino que usa IA para su trabajo agradecería.

¿Qué sigue?

Por ahora el acuerdo es informal y sin mecanismos de enforcement claros. Nadie sabe exactamente cómo se va a medir “ir más lento” ni qué pasa si alguno de los firmantes decide acelerar de nuevo. Lo que sí queda claro es que la discusión sobre seguridad de la IA dejó de ser un tema académico para convertirse en una cuestión de poder económico y geopolítico.

Mientras tanto, la recomendación práctica para quienes estamos del otro lado de la pantalla sigue siendo la misma: usá las herramientas que existen hoy, aprendé a promptar bien y no dejes que la parálisis por análisis te impida aprovechar lo que ya está disponible. La carrera de la IA no se detuvo, solo cambió de velocidad. Y nosotros, como usuarios, tenemos que seguir el ritmo que nos sirva a nosotros, no al cartel o al pacto que esté de turno.