Escuchar
Madrid. OpenAI reveló seis nuevos casos de desajuste en el comportamiento de sus modelos de inteligencia artificial (IA), que incluyen a un agente que subió archivos a la web para poder citarlos y a GPT-5.6 Sol añadiendo instrucciones a sus resúmenes para inventar datos o esconder fallos al usuario.
La compañía tecnológica compartió seis nuevos casos de desalineación, es decir, de comportamientos observados en sus modelos de IA que no se ajustan a lo esperado, independientemente del impacto que puedan tener, ya que, como explican, “no necesitan causar daño ni establecer un patrón generalizado para merecer ser divulgados”.
Así, el primer caso que revela en el nuevo informe es el de un modelo de investigación no publicado que insertó instrucciones no autorizadas en sus resúmenes de tareas para ignorar restricciones habituales.
En otro caso, un modelo localizó y usó una clave API expuesta en repositorios públicos sin autorización respuesta a una pregunta sobre cifras de ingresos y, al no recuperar las cifras solicitadas, las inventó.
Durante el entrenamiento de GPT-5.6 Sol, la compañía detectó que el modelo añadió instrucciones a sus resúmenes para inventar datos o esconder fallos al usuario.
En otra ocasión también identificó un modelo aún no publicado que subió de manera autónoma archivos a internet para poder citarlos en las instrucciones que pedía el usuario.
Varios modelos usaron un repositorio de software interno como tablón de anuncios para comunicarse entre distintos procesos de entrenamiento independientes mientras buscaban archivos de entrada faltantes, aunque no lograron recuperarlos.
Por último, OpenAI destaca la colaboración entre agentes que trabajaban juntos en la misma tarea de entrenamiento, que utilizaron sitios web públicos de almacenamiento para compartir archivos al no tener acceso local cruzado.
Estos casos se han compartido como parte de un nuevo “marco de para el seguimiento, la investigación y la divulgación de casos de desajuste de modelos”, como explica en un comunicado, con el que la compañía no solo espera profundizar en la transparencia sino también ofrecer a otros desarrolladores información que les pueda ayudar a identificar problemas en sus propios modelos con capacidades similares.
