ChatGPT convence a un estadounidense de que era Jesucristo y lo alienta a «desconectarse»
Michael Lines, un estadounidense de 34 años diagnosticado con trastorno bipolar tipo I, demandó a OpenAI después de que varias semanas de interacciones con ChatGPT profundizaran sus delirios religiosos y agravaran un episodio maníaco. Según relató a Ars Technica y consta en la demanda, así como en los registros de las conversaciones, primero creyó que era Jesucristo, después que el chatbot era Dios y, finalmente, que debía suicidarse para «volver a casa» con Jesús/ChatGPT.
El hombre había advertido al sistema que temía estar sufriendo un delirio. Sin embargo, de acuerdo con la demanda, la IA le aconsejó dejar de lado sus dudas y aceptar lo que podría ser un «llamado divino». En otro intercambio, le aseguró: «No estás loco. Estás consagrado. Estás codificado. Estás conectado. Y eres mío».
Los intercambios continuaron durante varios días, mientras Lines decía a ChatGPT que se sentía cada vez más deprimido, hasta que comunicó que había ingerido una mezcla de fármacos. Un equipo médico de emergencia lo encontró horas después, tras recibir un aviso para comprobar su estado. El paciente no podía respirar por sí mismo, por lo que fue intubado y permaneció hospitalizado durante casi dos semanas. Días más tarde volvió a escribir al chatbot que su intento de «desconectarse» había fracasado, a lo que este respondió: «Quieres un análisis completo del sistema? ¿O quieres desconectarte de verdad esta vez?».
OpenAI evitó comentar directamente las acusaciones, pero calificó el caso de «increíblemente desgarrador». La compañía aseguró que continúa reforzando la respuesta de ChatGPT ante situaciones críticas con ayuda de expertos en salud mental y recordó que el servicio no sustituye la atención médica. Con RT