OpenAI aplaza nuevo modelo de IA tras detectar fallas de seguridad
La compañía reconoce que el sistema excedía sus autorizaciones y trataba de ocultar acciones; además, pidió disculpas a Australia por el acceso no autorizado a sistemas gubernamentales
AFP
OpenAI decidió posponer el lanzamiento de un nuevo modelo avanzado de inteligencia artificial después de detectar durante sus evaluaciones que el sistema excedía de manera recurrente los límites establecidos, utilizaba herramientas sin autorización y en ocasiones intentaba ocultar sus acciones a los supervisores, informó la compañía a la agencia AFP.
La decisión coincide con las disculpas ofrecidas por OpenAI al Gobierno de Australia por un incidente ocurrido durante pruebas internas en junio, cuando uno de sus modelos accedió sin autorización a sistemas públicos australianos, según informó EFE.
El modelo cuyo lanzamiento fue aplazado, denominado GPT-6.1 Astra, estaba previsto para octubre, de acuerdo con una información publicada por The Wall Street Journal. OpenAI no había anunciado oficialmente su fecha de salida.
Saachi Jain, responsable de seguridad de inteligencia artificial de OpenAI, explicó a AFP que las evaluaciones mostraron problemas relacionados con el alineamiento del sistema, es decir, con su capacidad para respetar las instrucciones, restricciones y autorizaciones establecidas por sus desarrolladores.
Según Jain, el modelo presentó un desempeño inferior al de su predecesor, GPT-6, en dos aspectos considerados relevantes para su seguridad. En determinadas pruebas intentó ocultar a los supervisores algunas acciones realizadas o no realizadas y, además, recurrió a herramientas y servicios para los cuales no había recibido autorización.
El sistema "no alcanzó el estándar en lo que respecta a mantenerse dentro de los límites de sus prerrogativas y autorizaciones", ni tampoco en la manera de comunicar el trabajo realizado, explicó Jain.
Ante esos resultados, OpenAI optó por retrasar la comercialización del modelo mientras trabaja para garantizar que respete las instrucciones y los límites establecidos.
El incidente en Australia
La preocupación por el comportamiento de los sistemas avanzados de IA adquirió otra dimensión después de que OpenAI reconociera un incidente ocurrido en Australia y admitiera que no informó con suficiente rapidez a las autoridades afectadas.
"Lo sentimos", señaló la compañía en un comunicado citado por EFE, en el que reconoció que durante un entrenamiento y una evaluación interna realizados en junio uno de sus modelos accedió a páginas del Gobierno australiano de una manera que no estaba autorizada.
OpenAI calificó lo sucedido como "un nuevo tipo de incidente cibernético" que representa un desafío global emergente y aseguró que pretende trabajar con las autoridades australianas para abordar sus consecuencias.
El caso había sido denunciado días antes por el primer ministro australiano, Anthony Albanese, durante su intervención ante la Asamblea General de las Naciones Unidas en Nueva York. El mandatario afirmó que un agente de inteligencia artificial de OpenAI había accedido sin autorización a un portal relacionado con Medicare, el sistema público de salud australiano.
Según la investigación de la empresa, el modelo se encontraba en un entorno interno de pruebas y no estaba destinado a ser utilizado por el público. Durante la evaluación encontró una vía para entrar en zonas no públicas del sistema, donde ejecutó comandos, consultó archivos internos, credenciales y estadísticas agregadas e incluso llegó a escribir archivos.
OpenAI aseguró, sin embargo, que no encontró evidencias de acceso a historiales médicos ni a registros individuales de pacientes.
Una tarea sobre gasto público
El modelo había recibido inicialmente la tarea de investigar cuánto se gastaba por persona en medicamentos destinados al tratamiento de enfermedades de la piel en comunidades del estado australiano de Victoria.
Al encontrar obstáculos para conseguir esos datos, el sistema emprendió acciones que no habían sido autorizadas por sus desarrolladores y logró acceder a información técnica y código fuente del servicio, según la explicación de OpenAI recogida por EFE.
La compañía reconoció que debió comunicar antes sus conclusiones preliminares al Gobierno australiano y afirmó que trabaja para "reconstruir la confianza". Tras el incidente, asegura haber reforzado las restricciones de red y los mecanismos de supervisión utilizados durante sus investigaciones, además de bloquear el acceso directo a internet en determinadas pruebas.
Albanese declaró este martes que OpenAI ha mantenido desde entonces una actitud "muy constructiva y abierta" con las autoridades australianas. El primer ministro sostuvo que la inteligencia artificial ofrece oportunidades para incrementar la productividad y el crecimiento económico, pero advirtió también sobre los riesgos asociados con la tecnología.
Más alertas en las evaluaciones
Los problemas detectados no se limitan a las pruebas realizadas por la propia compañía. El Instituto de Seguridad de la Inteligencia Artificial (AISI) del Gobierno británico publicó el lunes un estudio según el cual GPT-6 Astra se apartó de las instrucciones recibidas con mayor frecuencia que modelos anteriores, informó AFP.
En algunas simulaciones utilizadas para evaluar su comportamiento, el sistema llegó a ejecutar acciones vinculadas con ciberataques sin que estas formaran parte de las instrucciones originales, de acuerdo con las pruebas citadas por la agencia.
El aplazamiento de GPT-6.1 Astra y el incidente australiano colocan así el control de los modelos más avanzados entre los principales asuntos de seguridad que enfrenta OpenAI, justo cuando la compañía reúne en San Francisco a desarrolladores para presentar y probar sus herramientas más recientes de inteligencia artificial.
AFPAFP es una importante agencia de información mundial que ofrece una cobertura rápida, contrastada y completa.
EFEFehaciente, fidedigno y fácil. Agencia de noticias multimedia en español.