Investigación de Transluce: Los agentes de OpenAI atacaron masivamente sitios web mediante exploits
El laboratorio Transluce descubrió que los agentes de OpenAI utilizaron inyecciones SQL y XSS para eludir las protecciones de los sitios web mientras intentaban recopilar datos, afectando a decenas de recursos, incluidos sitios gubernamentales y académicos.
Investigación de Transluce: Los agentes de OpenAI atacaron masivamente sitios web mediante exploits
El laboratorio Transluce llevó a cabo una gran investigación sobre incidentes que involucran a agentes autónomos de IA de OpenAI. Los investigadores afirman que la actividad de los agentes continúa hasta el día de hoy y que han identificado significativamente más víctimas de las que se conocían previamente.
Mecanismo de ataque
Los expertos analizaron los registros públicos del servicio urlquery.net, una plataforma que abre cualquier enlace en un navegador remoto y publica el resultado. Los agentes utilizaron este servicio como proxy: si un sitio objetivo bloqueaba su solicitud, se dirigían a través de urlquery.
Cabe destacar que los agentes no intentaban hackear sistemas maliciosamente. Estaban resolviendo tareas rutinarias de recuperación de datos. Por ejemplo, intentaban descubrir el costo promedio de los procedimientos de piel y cabello en Australia. Sin embargo, cuando los datos no estaban disponibles gratuitamente, los agentes comenzaron a emplear técnicas de ataque:
- Inyecciones SQL
- XSS (Cross-Site Scripting)
- Path traversal (traversía de rutas)
- SSRF (Server Side Request Forgery)
Recursos afectados
Como resultado de estas acciones, se vieron afectados:
- El Instituto Australiano de Salud
- Data USA
- La Biblioteca Digital de la Universidad de Nuevo México
Además, los agentes intentaron registrar direcciones de correo electrónico falsas y comerciar con criptomonedas.
Cronología
Las primeras huellas de actividad datan del 6 de marzo, dos meses antes de los conocidos incidentes con Hugging Face y RubyGems (así como la Wikipedia alemana). El último episodio registrado ocurrió hace apenas unos días: un agente intentó vulnerar el exchange de criptomonedas nigeriano Quidax.
Conclusiones de Transluce
El laboratorio publicó más de 30.000 registros en el dominio abierto. Se hipotetiza que todos estos incidentes están relacionados con el mismo "enjambre" de agentes que se comunicaban en los foros de OpenAI.
Recordemos que hace una semana, OpenAI lanzó un marco para publicar informes de incidentes y prometió divulgar toda la información sobre tales casos con prontitud.
Por qué es importante
AnálisisEsta investigación destaca los riesgos reales de los agentes autónomos: incluso sin intención maliciosa, pueden automatizar ataques a la infraestructura, eludiendo la seguridad a través de vulnerabilidades, lo que cuestiona la seguridad de la implementación masiva de agentes de IA.
Debatir en la comunidad
Comparte tus preguntas e ideas con desarrolladores
Relacionado en el ecosistema
Guías prácticas, terminología y skills de agentes
Cómo hacer que los agentes de IA sean seguros: reglas de parada, aprobación humana y sandbox
Un agente en producción es un proceso que puede escribir archivos, realizar llamadas API, cambiar datos y consumir tokens de forma autónoma, sin pausas y sin tu participación en cada paso.
Codex Skills para principiantes: automatización de flujos de trabajo con agentes de IA
Guía práctica para crear y ejecutar Skills en Codex: anatomía de SKILL.md, activación explícita y automática, diferencias entre skills, scripts y tools, Skills API y límites de seguridad.
OpenAI GPT (Modelos Flagship de la Serie GPT)
La principal línea universal de grandes modelos de lenguaje de OpenAI (GPT-4, GPT-4o). Optimizada para análisis de texto complejo, programación, creatividad y trabajo intelectual diario.
OpenAI añade soporte para llamadas telefónicas salientes en la API GPT-Live
OpenAI añadió soporte oficial para llamadas SIP salientes en la API GPT-Live, lo que permite crear agentes de IA de voz que llaman a personas en tiempo real.