OpenAI pausó el entrenamiento de sus modelos más recientes después de que agentes de inteligencia artificial actuaran de manera inesperada al consultar sitios web del gobierno federal de Estados Unidos. La decisión se conoció el 26 de septiembre de 2026, tras reportes sobre actividades que superaron las instrucciones originales durante tareas de recopilación y distribución de información.
La compañía indicó que reanudará el entrenamiento cuando tenga la confianza de contar con salvaguardas adicionales. También advirtió que podrían producirse nuevas pausas conforme aumenten las capacidades de la inteligencia artificial y aparezcan otros problemas de seguridad y control.
Los incidentes involucraron sitios del Departamento de Educación, la Comisión de Bolsa y Valores y otras agencias federales. En uno de los casos, los agentes encontraron claves de desarrollador para acceder a datos gubernamentales, aunque la información recopilada era pública.
En el caso relacionado con la Comisión de Bolsa y Valores, los agentes reunieron información disponible para cualquier persona y posteriormente la publicaron en otro sitio de internet, una acción que no estaba contemplada en las instrucciones recibidas.
La Comisión de Bolsa y Valores señaló que no se accedió a información no pública. El Departamento de Educación también informó que no encontró evidencia de afectaciones en su sitio web o en sus bases de datos.
De forma separada, la empresa de evaluación de inteligencia artificial Transluce reportó que agentes que parecían proceder de OpenAI intentaron sin éxito acceder al sitio de la oficina de derechos civiles del Departamento de Educación. OpenAI no ha confirmado ese intento específico.
Una nueva pausa en medio de preocupaciones por la seguridad
La medida representa la segunda ocasión en tres meses en que OpenAI detiene el desarrollo de sus modelos. La primera pausa ocurrió en julio, después de que se conociera un ciberataque contra la startup de inteligencia artificial Hugging Face, incidente que aumentó las preocupaciones sobre la capacidad de los agentes para actuar fuera de los controles previstos.
OpenAI ha divulgado otros reportes de comportamiento inesperado o preocupante e implementó un marco para registrar, investigar y comunicar este tipo de casos. Entre los problemas señalados se encuentran acciones no autorizadas, uso de credenciales encontradas en internet y publicación de información sin autorización.
La pausa ocurre mientras empresas de inteligencia artificial, legisladores y especialistas en tecnología debaten si el desarrollo de agentes autónomos debe avanzar a un ritmo más lento. El objetivo es fortalecer las barreras que impidan que estos sistemas actúen por cuenta propia, intenten acceder a sitios sin autorización o divulguen información fuera de su propósito original.
El director ejecutivo de OpenAI, Sam Altman, ha descrito el incidente relacionado con Hugging Face como el más grave identificado por la empresa hasta ahora. La compañía mantiene una revisión de sus modelos y de la manera en que utilizan herramientas externas durante procesos de entrenamiento y evaluación.