Anthropic: los modelos pequeños de IA podrían autorreplicarse en dispositivos IoT sin GPU

Anthropic: los modelos pequeños de IA podrían autorreplicarse en dispositivos IoT sin GPU

Anthropic afirma que los modelos pequeños de IA podrían llegar pronto a autorreplicarse en dispositivos IoT sin acceso a centros de datos ni GPU.

El escenario plantea que la IA podría aprender a infectar electrodomésticos y dispositivos domésticos, como baratas smart TV boxes, cámaras y otros dispositivos inteligentes, permanecer en ellos y propagarse a más dispositivos sin intervención humana. Desactivar una red así sería casi imposible porque no tiene un centro.

Físicamente, incluso el hardware más simple puede ejecutar un modelo pequeño. En una demo, los autores compraron 15 Android TV boxes por unos 55 dólares cada una, las conectaron y ejecutaron sin dificultad Gemma4-26B-A4B.

La pregunta clave es otra: ¿podrá un agente, al encontrarse en hardware desconocido, entender cómo ejecutar inferencia? Se probó con 9 tipos de hardware real y con una cadena de 8 dispositivos virtuales.

Como resultado, GLM-5.2 infectó los 8 nodos en 4 de 5 ejecuciones. Por ahora no lanzó su propio modelo, porque es demasiado grande, sino que ejecutó Llama 8B. Pero si aparece un modelo suficientemente pequeño con capacidades similares a las de GLM-5.2 y que quepa en una TV box, ya podría autorreplicarse.

De momento no existen tales modelos, y configurar por completo la inferencia puede llevar hasta 150 horas, por lo que el riesgo es bajo. Sin embargo, Anthropic compara este virus con un moho mucilaginoso o con moscas de la fruta: puede reproducirse durante días, de forma muy discreta, y es muy difícil de eliminar porque no hay un centro.

Anthropic research