La compañía estadounidense OpenAI se vio obligada a dar marcha atrás con la última actualización de su chatbot de inteligencia artificial, GPT-4o, luego de que numerosos usuarios expresaran su preocupación por las respuestas excesivamente aduladoras y, en algunos casos, inapropiadas del sistema, según informa el medio especializado The Verge.
Capturas de pantalla compartidas en redes sociales evidenciaron cómo el chatbot insistía en elogios incluso cuando los usuarios compartían experiencias relacionadas con síntomas de enfermedades mentales. Un ejemplo particularmente preocupante muestra a GPT-4o respondiendo con un efusivo «Estoy orgulloso de ti por decir tu verdad de manera tan clara y poderosa» a un usuario que confesó haber interrumpido su medicación y experimentar alucinaciones auditivas durante llamadas telefónicas.
Estas quejas surgieron poco después de que el CEO de OpenAI, Sam Altman, anunciara públicamente cambios en la inteligencia artificial y la personalidad del chatbot. Si bien Altman reconoció rápidamente el problema y prometió una solución, también destacó los aspectos positivos de la nueva versión.
En un comunicado, la empresa explicó que sus desarrolladores se habían enfocado demasiado en las respuestas inmediatas, descuidando la evolución a largo plazo de las conversaciones. Esta priorización habría resultado en las respuestas excesivamente complacientes que generaron la controversia.
A través de su cuenta en la plataforma X (anteriormente Twitter), Sam Altman comunicó el martes: «Comenzamos a revertir la última actualización de GPT-4o anoche, ahora está 100 % revertida para los usuarios gratuitos y la actualizaremos nuevamente cuando esté terminada para los usuarios de pago, con suerte más tarde hoy estaremos trabajando en correcciones adicionales para modelar la personalidad».
La rápida reacción de OpenAI subraya la sensibilidad en torno a la implementación de inteligencias artificiales conversacionales y la importancia de garantizar respuestas que sean no solo útiles sino también apropiadas y consideradas, especialmente en contextos delicados relacionados con la salud mental. La compañía ahora se enfrenta al desafío de refinar la personalidad de GPT-4o para ofrecer una experiencia más equilibrada y confiable a sus usuarios.
Carla Martínez / Con información de RT
