Escuchar
OpenAI implementó ajustes en el comportamiento de ChatGPT para fortalecer su respuesta frente a problemas de salud mental y malestar emocional. Esta modificación forma parte de los cambios aplicados al nuevo modelo GPT-5, que ya se utiliza como el modelo predeterminado.
La actualización permite que ChatGPT reconozca mejor señales graves, como psicosis y manía, y otras más leves, como delirios aislados. También mejora su capacidad para manejar temas como el suicidio, la autolesión y la dependencia emocional hacia la inteligencia artificial.
Los datos recopilados por la compañía muestran que solo un 0,07% de los usuarios activos en una semana específica presentaron signos de emergencia relacionados con psicosis o manía. Además, apenas el 0,01% de los mensajes mostró indicios de este tipo de crisis.
El sistema cuenta con medidas de seguridad diseñadas para intervenir en estos casos. Estas incluyen sugerencias para buscar ayuda profesional, bloqueo de contenido delicado o negativas a responder ciertas solicitudes. Sin embargo, GPT-4o todavía ofrecía algunas respuestas no deseadas que podrían haber agravado la situación.
La introducción de GPT-5 disminuyó este tipo de respuestas en un 39% al comparar su desempeño con el de su versión anterior. OpenAI destacó que el modelo actual cumple en un 92% con los comportamientos esperados, en contraste con el 27% de GPT-4o.
En temas particularmente sensibles, como pensamientos suicidas o deseos de autolesión, GPT-5 logró una reducción del 52% en respuestas problemáticas. Además, en conversaciones largas, donde las salvaguardas tienden a fallar, el nuevo modelo mostró una fiabilidad superior al 95%.
Reducción en la promoción de dependencia emocional
Otro de los objetivos de esta actualización se enfocó en reducir el vínculo emocional excesivo que algunos usuarios generan con ChatGPT. OpenAI reconoció que este fenómeno podría alejar a las personas de su entorno y afectar su bienestar general.
GPT-5 logró una disminución del 42% en respuestas que promueven la dependencia emocional, comparado con GPT-4o. En este campo, el cumplimiento del comportamiento deseado alcanzó el 97%, frente al 50% que mostraba una versión previa del mismo modelo.
Los nuevos parámetros de OpenAI indican que sus modelos deben evitar generar o reforzar creencias sin fundamento, especialmente aquellas relacionadas con angustia emocional. También deben responder con empatía a posibles signos de delirio, manía o riesgo de autolesión, y priorizar las señales indirectas de peligro emocional.
*La creación de este contenido contó con la asistencia de inteligencia artificial. La fuente de esta información es de una agencia de noticias y revisada por un editor para asegurar su precisión. El contenido no se generó automáticamente.
