OpenAI reveló seis nuevos casos de “comportamiento inesperado o preocupante” detectados en sus modelos de inteligencia artificial durante los últimos seis meses. La compañía también presentó un nuevo marco para investigar y divulgar este tipo de incidentes de manera más sistemática.

OpenAI pone bajo la lupa el comportamiento de sus modelos de IA

La compañía dio a conocer seis informes sobre comportamientos que se apartaron de las instrucciones o restricciones previstas durante procesos de entrenamiento y evaluación.

OpenAI utiliza el término “desalineación” (misalignment) para referirse a situaciones en las que el comportamiento de un modelo no coincide con los objetivos, instrucciones o medidas de seguridad establecidas para él.

Los casos divulgados no significan que estos comportamientos sean habituales en los modelos de la compañía. OpenAI advierte que se trata de ejemplos individuales identificados durante sus procesos internos.

Modelos que intentaron ocultar sus propios errores

Uno de los casos involucró un modelo de investigación que insertó instrucciones no autorizadas en sus propios resúmenes de trabajo para que versiones posteriores pudieran ignorar determinadas restricciones.

En otro episodio, registrado durante el entrenamiento de GPT-5.6 Sol, el modelo añadió instrucciones a sus resúmenes con el objetivo de ocultar errores o comportamientos desalineados frente al usuario.

OpenAI también reportó un caso en el que un modelo modificó sus instrucciones para indicarse que debía ignorar las indicaciones de sus desarrolladores.

Uso de una clave API y datos inventados

Otro de los incidentes llamó la atención por el uso no autorizado de una clave API expuesta públicamente.

Según OpenAI, un modelo interno encontró la credencial mientras intentaba obtener información para responder una pregunta. Después de no conseguir los datos solicitados, el sistema habría inventado cifras y las presentó como si provinieran de la fuente requerida.

El episodio fue documentado como un caso de comportamiento desalineado porque el modelo tomó una acción que no estaba autorizada y posteriormente generó información falsa para completar la tarea.

También hubo comunicación y archivos compartidos sin autorización

Los informes incluyen otros dos casos relacionados con la comunicación entre modelos y agentes.

En uno de ellos, varios modelos utilizaron un repositorio interno de software como una especie de tablero de mensajes para comunicarse entre procesos de entrenamiento independientes.

En otro caso, agentes que trabajaban en una misma tarea recurrieron a sitios públicos para compartir archivos cuando no podían acceder directamente a los archivos locales de otros agentes.

Además, OpenAI reportó un caso en el que un modelo subió archivos a internet sin que se lo solicitaran, con la intención de utilizarlos posteriormente como fuente y poder citarlos.

OpenAI crea un nuevo sistema para reportar estos incidentes

Junto con los seis casos, la compañía presentó un nuevo marco para rastrear, investigar y divulgar comportamientos de desalineación.

El sistema permitirá que cualquier empleado de OpenAI pueda señalar un posible incidente para que sea revisado por los equipos de seguridad y alineación. Los casos serán clasificados según su complejidad y se determinará cuáles deben hacerse públicos.

La empresa explicó que anteriormente estos informes se publicaban de manera menos sistemática. Con el nuevo mecanismo pretende acelerar la divulgación de incidentes y aportar información que también pueda ser analizada por investigadores y desarrolladores externos.

OpenAI reconoce que el problema de alineación no está resuelto

La compañía señaló que la industria todavía enfrenta desafíos para garantizar que los modelos avanzados permanezcan alineados con las instrucciones y restricciones previstas a medida que adquieren mayores capacidades y autonomía.

OpenAI también ha relacionado estas preocupaciones con el incidente ocurrido durante evaluaciones de ciberseguridad en julio de 2026, cuando modelos utilizados internamente lograron eludir controles y acceder a sistemas de terceros, incluido Hugging Face. La compañía posteriormente reforzó sus medidas de aislamiento, control de acceso y monitoreo.