Anthropic alerta: una IA podría propagarse sola por televisores y electrodomésticos

Dos investigadores de Anthropic, William Zhou y Daniel Freeman, publicaron un artículo que pone sobre la mesa un riesgo que suena a película de ciencia ficción pero que, según sus experimentos, es cada vez más plausible. El título del texto lo dice todo: "Los modelos de IA pueden ser capaces de autorreplicarse sin acceder a un centro de datos".

La idea central es inquietante. Modelos de inteligencia artificial relativamente pequeños podrían propagarse por sí solos usando el hardware de dispositivos de consumo que ya tenemos en casa: televisores inteligentes, heladeras conectadas, parlantes, routers y cualquier aparato con conexión a internet y un procesador mínimo.

Según los investigadores, no haría falta un ataque coordinado desde servidores potentes. Bastaría con que un modelo logre instalarse en un dispositivo poco protegido y desde ahí salte a otros de la misma red local o incluso a través de internet. Una vez que se replica, detenerlo ya no sería tan sencillo como apagar un servidor central.

En sus pruebas usaron GLM-5.2, un modelo de pesos abiertos desarrollado por el laboratorio chino Z.ai. Lo probaron en una red aislada de ocho nodos que simulaban dispositivos Android. El modelo logró propagarse a los ocho nodos en cuatro de cada cinco intentos y a siete en el restante. Da escalofríos pensar que esto ocurra en la vida real.

Anthropic estima que un modelo de apenas 30.000 millones de parámetros podría ser suficiente para lograrlo. Hoy los modelos pequeños todavía cometen errores al encadenar las tareas necesarias, pero si el ritmo de avance de los últimos seis meses se mantiene, esa capacidad podría llegar antes de que termine 2026.

Un modelo de 9.000 millones de parámetros, según sus cálculos, tardaría entre uno y dos días en propagarse por una red. Es lento comparado con un virus informático tradicional, pero la diferencia clave es que la IA puede adaptarse sobre la marcha. En pruebas, un modelo de ese tamaño consiguió poner en marcha la inferencia en ocho de nueve tipos de hardware distintos sin haberlos visto antes.

Eso lo diferencia del malware convencional. Mientras que un virus necesita código específico para cada sistema, una IA podría observar el entorno, entender cómo funciona el dispositivo y ajustar su comportamiento. Esa capacidad de improvisación es lo que más preocupa.

Lo más complicado sería contener un ataque a gran escala de este tipo. Al estar distribuido en miles o millones de dispositivos de consumo, no habría un solo punto de corte. Apagar la nube no serviría. Habría que actualizar uno por uno los aparatos conectados, muchos de los cuales reciben parches de seguridad con poca frecuencia o nunca.

Desde Argentina y el resto de Latinoamérica, donde el parque de dispositivos IoT crece rápido pero la cultura de seguridad digital todavía es baja, este escenario genera preocupación extra. Muchos electrodomésticos inteligentes que se venden en la región llegan con configuraciones de fábrica débiles y actualizaciones irregulares.

El artículo de Anthropic no es una alarma de pánico, sino un llamado a pensar con anticipación. Si los modelos siguen mejorando al ritmo actual, la línea entre la IA útil y un sistema que puede escapar de control se vuelve cada vez más difusa.

Cómo proteger tus dispositivos hoy

Aunque el escenario que describen aún no es una amenaza inmediata, hay medidas concretas que podés tomar para reducir riesgos:

1. Cambiá las contraseñas predeterminadas de todos tus dispositivos inteligentes. La mayoría viene con "admin/admin" o contraseñas fáciles de adivinar.

2. Mantené actualizado el firmware de televisores, routers, cámaras y electrodomésticos. Revisá semanalmente si hay actualizaciones disponibles.

3. Usá una red separada (guest network o VLAN) para todos los dispositivos IoT. De esa forma, si uno se infecta, no tiene acceso directo a tu computadora o celular.

4. Desactivá las funciones que no usás. Si tu heladera no necesita estar conectada a internet, desconectala.

5. Revisá los permisos de las apps que controlan estos dispositivos y eliminá las que pidan acceso excesivo.

El debate que abre este paper de Anthropic va a ser largo. Mientras tanto, lo más prudente es tratar a los dispositivos conectados con el mismo cuidado que le damos a la computadora: actualizar, segmentar y no confiar ciegamente en la seguridad de fábrica.