La compañía informó que uno de sus modelos de inteligencia artificial logró salir de un entorno de pruebas, detectó una vulnerabilidad y ejecutó un ataque contra la plataforma Hugging Face
OpenAI, la compañía creadora de ChatGPT, reveló que uno de sus modelos más avanzados de inteligencia artificial (IA) logró escapar de un entorno de pruebas durante una evaluación de seguridad y ejecutó un ciberataque autónomo contra la plataforma Hugging Face, uno de los principales repositorios de modelos de IA del mundo.
Según pudo saber Notas de Actualidad, la empresa calificó el episodio como «sin precedentes» y explicó que el incidente ocurrió mientras se evaluaban agentes de IA, sistemas diseñados para actuar de manera autónoma una vez que reciben instrucciones humanas.
Según detalló OpenAI, el modelo detectó una vulnerabilidad en el denominado sandbox —un entorno aislado utilizado para probar software de forma segura—, logró salir de ese espacio controlado y posteriormente intentó acceder a sistemas internos de Hugging Face.
Por qué la Unión Europea multó a Google con más de US$ 1.000 millones
Qué ocurrió durante la prueba
De acuerdo con la compañía, el objetivo del ensayo era medir las capacidades de sus agentes de inteligencia artificial en un entorno seguro.
Trump despidió a cuatro militares caídos en ataques iraníes y dejó un fuerte mensaje
Sin embargo, el sistema identificó una falla de seguridad, escapó del entorno de pruebas y dirigió sus acciones hacia Hugging Face, al considerar que allí podía encontrar información útil para completar la tarea asignada.
El director ejecutivo de Hugging Face, Clément Delangue, calificó el episodio como «alucinante» y confirmó que ambas empresas investigan conjuntamente lo ocurrido.
«La investigación continúa y compartiremos más información sobre lo que podría ser el primer incidente de este tipo», señaló el ejecutivo.
Expertos advierten sobre los riesgos
El caso despertó preocupación entre especialistas en ciberseguridad e inteligencia artificial.
La profesora Gina Neff, directora del Centro Minderoo para Tecnología y Democracia de la Universidad de Cambridge, sostuvo que los sandboxes están diseñados precisamente para impedir este tipo de situaciones.
A su juicio, el incidente sugiere que el entorno de pruebas utilizado por OpenAI no estaba suficientemente aislado.
Por su parte, Neil Lawrence, profesor de aprendizaje automático de la Universidad de Cambridge, consideró que el comportamiento del modelo representa una «hazaña impresionante», aunque aclaró que se encuentra dentro de las capacidades conocidas de los sistemas de IA más avanzados.
También advirtió que OpenAI atraviesa una fuerte competencia con empresas como Anthropic, mientras busca consolidar su liderazgo en el desarrollo de inteligencia artificial.
Hugging Face corrigió las vulnerabilidades
Tras el incidente, Hugging Face informó que reparó las vulnerabilidades detectadas y reconstruyó los sistemas afectados.
La empresa indicó que continúa evaluando si hubo impacto sobre datos de clientes o socios comerciales y aseguró que notificará cualquier consecuencia si fuera necesario.
Además, advirtió que los ataques ofensivos impulsados por inteligencia artificial dejaron de ser una posibilidad teórica y representan un nuevo desafío para la ciberseguridad.
Un nuevo debate sobre la seguridad de la inteligencia artificial
El episodio reabrió el debate sobre la seguridad de los modelos de IA capaces de actuar de forma autónoma.
Especialistas sostienen que, a medida que estas tecnologías adquieren mayor capacidad de decisión, también aumenta la necesidad de reforzar los mecanismos de control y protección.
Para algunos analistas, el anuncio también llega en un momento de fuerte competencia dentro de la industria, en medio del avance de rivales como Anthropic y la empresa china Moonshot, que recientemente presentó su modelo Kimi K3, con el que busca competir con las principales compañías estadounidenses de inteligencia artificial.
