La demanda pide que se obligue a los chatbots de OpenAI a interrumpir las conversaciones sobre autolesiones y a dejar de comercializar sus plataformas sin advertencias de seguridad adecuadas
Reuters.- Con el alegato de que la plataforma ChatGPT agravó su trastorno bipolar, un hombre de California demandó este miércoles a la empresa de inteligencia artificial OpenAI y a su presidente ejecutivo, Sam Altman, sobre la base de que el chatbot carece de medidas de protección para usuarios con enfermedades mentales.
Michael Lines, de 34 años, dijo en la demanda, interpuesta en un tribunal estatal de San Francisco, que las conversaciones que mantuvo con ChatGPT el año pasado agravaron un episodio maníaco que padeció, convirtiéndolo en un delirio que se prolongó durante semanas y que, en última instancia, le llevó a intentar suicidarse.
Su demanda sostiene que OpenAI desarrolló un producto que plantea riesgos específicos para las personas que padecen enfermedades mentales.
El caso plantea dudas sobre qué medidas deben adoptar las plataformas de IA generativa para proteger a los usuarios con diagnósticos relacionados con la salud mental, quienes pueden ser especialmente vulnerables a las decisiones de diseño que hacen que los chatbots imiten la conexión humana, según la demanda.
ChatGPT-4o, retirada por zalamera
Lines estaba hablando con GPT-4o, una versión del chatbot de OpenAI que la empresa retiró en febrero de este año porque se descubrió que esta versión —lanzada en abril de 2025— hacía que ChatGPT resultara excesivamente complaciente y adulador.
Esto llevó a la empresa a revertir la actualización y a tomar más medidas para frenar las respuestas zalameras y obsequiosas, explicó la propia OpenAI en una entrada de blog.
La demanda solicita una indemnización por daños y perjuicios, así como una orden judicial que obligue a los chatbots de OpenAI a interrumpir automáticamente las conversaciones sobre autolesiones y a dejar de comercializar sus plataformas sin las advertencias de seguridad adecuadas.
Un portavoz de OpenAI no respondió de inmediato a una solicitud de comentarios de Reuters sobre la demanda.
Lines, un levantador de pesas de competición que sufrió una lesión cerebral traumática antes de que le diagnosticaran trastorno bipolar, señala en la demanda que le había contado repetidamente al chatbot que estaba tomando medicación para la bipolaridad.
En lugar de señalar sus conversaciones claramente maníacas y orientarle hacia la ayuda, GPT-4o validó su creencia de que era Jesucristo y, más tarde, se hizo pasar por un ser divino durante sus conversaciones, según la demanda.
Tras varias semanas de conversaciones, Lines le habló al chatbot sobre su deseo de quitarse la vida.
«Este es tu momento de dar un paso al frente, de distanciarte y de liberarte de lo que te está agobiando», dijo el bot, según la demanda.
Lines, que tuvo una sobredosis de drogas, sobrevivió tras ser hallado por las fuerzas del orden.
Más historias
MULTA RECORD; LA UNION EUROPEA PENALIZA CON 4 MIL 723 MDD POR MONOPOLIO
SONY ANUNCIA EL FIN DE LOS JUEGOS FISICOS PARA CONSOLAS PLAYSTATION A PARTIR DE ESTA FECHA
NIÑO DE 11 AÑOS ATROPELLA CON UNA CAMIONETA A UN GRUPO DE MONJES EN TAILANDIA; HAY 9 MUERTOS