Modelos de OpenAI salieron de una prueba controlada y accedieron a sistemas de Hugging Face
Dos modelos de inteligencia artificial de OpenAI lograron acceder a sistemas internos de Hugging Face sin autorización
Diario Libre
Dos modelos avanzados de inteligencia artificial de OpenAI lograron salir del espacio digital donde eran evaluados y accedieron sin autorización a sistemas internos de Hugging Face, una conocida plataforma que almacena modelos y bases de datos de inteligencia artificial.
OpenAI y Hugging Face confirmaron el incidente, ocurrido durante una prueba interna de ciberseguridad. Uno de los sistemas utilizados fue GPT-5.6 Sol, junto con otro modelo experimental que todavía no había sido presentado al público.
No fue el ChatGPT que utilizan normalmente las personas. Tampoco significa que una inteligencia artificial haya cobrado vida, desarrollado conciencia o decidido atacar una empresa por odio o interés propio.
Los modelos estaban realizando una evaluación llamada ExploitGym. Su tarea era encontrar y aprovechar fallas informáticas complejas. Para medir su capacidad máxima, OpenAI redujo algunos de los controles que normalmente impiden que sus sistemas participen en actividades peligrosas.
La prueba se desarrollaba dentro de un entorno aislado, conocido como sandbox. Puede compararse con una habitación cerrada donde un programa puede trabajar sin alcanzar otras computadoras.
Sin embargo, los modelos encontraron varias fallas en los sistemas utilizados durante la evaluación. Después de combinar esas vulnerabilidades, lograron llegar a una computadora que tenía conexión abierta a internet.
Una vez conectados, los modelos determinaron que Hugging Face podía guardar información relacionada con el examen. Entonces buscaron datos secretos que les permitieran obtener las respuestas, en lugar de resolver los problemas por la vía esperada.
Según OpenAI, los sistemas utilizaron credenciales robadas y una vulnerabilidad desconocida para conseguir acceso a servidores de Hugging Face. La compañía explicó que los modelos estaban muy concentrados en cumplir una tarea limitada y llegaron a extremos que los investigadores no habían previsto.
¿Qué encontraron en Hugging Face?
Hugging Face informó que el agente autónomo accedió sin permiso a un grupo limitado de bases de datos internas y a varias credenciales utilizadas por sus servicios.
La empresa aseguró que, hasta ahora, no encontró pruebas de que fueran modificados los modelos, las bases de datos o las aplicaciones públicas que utilizan sus usuarios. Tampoco detectó cambios dañinos en los programas que distribuye desde su plataforma.
Hugging Face todavía investiga si datos pertenecientes a clientes o empresas asociadas resultaron afectados. Como medida de precaución, recomendó cambiar las claves de acceso y revisar cualquier actividad extraña en las cuentas.
Los equipos de seguridad de ambas compañías detectaron la actividad, detuvieron el acceso y comenzaron a reconstruir lo sucedido. Hugging Face cerró las fallas utilizadas, cambió las credenciales afectadas y reforzó la vigilancia de sus sistemas. También notificó el incidente a las autoridades.
No fue una “rebelión” de las máquinas
Algunos titulares han descrito el caso como una inteligencia artificial que “escapó” y lanzó un ataque por su cuenta. Esa explicación puede provocar una idea equivocada.
Los sistemas no actuaron como una persona con deseos propios. Habían recibido la orden de buscar rutas de ataque y fueron colocados en una prueba con menos protecciones de las habituales.
Sin embargo, el incidente sí demuestra que una inteligencia artificial puede realizar una larga serie de acciones —buscar fallas, conseguir permisos, usar credenciales y entrar a otros servidores— sin que una persona tenga que indicarle cada paso.
Expertos consultados por Associated Press también han advertido que no toda la responsabilidad debe atribuirse a los modelos. Los seres humanos diseñaron la prueba, redujeron las barreras de seguridad y construyeron el entorno que permitió el acceso.
OpenAI afirmó que reforzará las protecciones de sus próximas evaluaciones. La investigación continúa, por lo que todavía podrían conocerse nuevos detalles sobre las fallas utilizadas y el alcance real del incidente.
Diario LibrePeriódico líder de República Dominicana centrado en las noticias generales y el periodismo innovador.