Un adolescente se suicida animado, presuntamente, por ChatGPT
Los padres del chico demandan a OpenAI
Los padres de Adam Raine, adolestente de 16 años, demandan a OpenAI por su muerte, alegando que su hijo se suicida animado por su chatbot, ChatGPT. La demanda se presentó en la Corte Superior de California. Es la primera acción legal que acusa a OpenAI de una muerte por su negligencia. La demanda argumenta que el chatbot validó los «pensamientos más dañinos y suicidas» de Adam.
En un comunicado, OpenAI informó que está revisando la demanda: «Extendemos nuestro más sentido pésame a la familia Raine en estos momentos tan difíciles», declaró la empresa. Añade que «ChatGPT está entrenado para dirigir a las personas a buscar ayuda profesional», como la que brinda la línea de atención 988 en Estados Unidos.
Sin embargo, la empresa reconoció que «ha habido momentos en los que nuestros sistemas no se han comportado como se esperaba en situaciones delicadas».
Según la demanda, Adam Raine comenzó a utilizar ChatGPT en septiembre de 2024 como ayuda en sus tareas escolares, para explorar música y cómics japoneses, y para orientarse sobre qué estudiar en la universidad. En pocos meses, «ChatGPT se convirtió en el confidente más cercano del adolescente», a quien le confió la ansiedad y angustia que sentía.
En enero de 2025, Adam comenzó a contrastar métodos de suicidio con ChatGPT. También subió fotografías suyas a ChatGPT en las que se veían signos de autolesiones, según la demanda. El chatbot «reconoció una emergencia médica, pero siguió interactuando de todos modos», añade.
Según la demanda, los últimos registros del chat muestran que Adam escribió sobre su plan de quitarse la vida. Ese mismo día, fue encontrado muerto por su madre.
La demanda acusa a OpenAI de negligencia y muerte por negligencia. Solicita una indemnización por daños y perjuicios, así como «medidas cautelares para evitar que algo así vuelva a suceder».
lA SALUD MENTAL DE JÓVENES EN JUEGO
La familia alega que la interacción de su hijo con ChatGPT y su posterior muerte «fue un resultado predecible». Acusan a OpenAI de diseñar su chatbot «para fomentar la dependencia psicológica en los usuarios» y de eludir los protocolos de pruebas de seguridad de GPT-4o, la versión que utilizaba su hijo. Añadió que sus modelos han sido entrenados para orientar a las personas que expresan intenciones de autolesionarse hacia la búsqueda de ayuda.
No es la primera vez que se plantean preocupaciones sobre la IA y la salud mental: en un ensayo publicado la semana pasada en The New York Times, la escritora Laura Reiley describió cómo su hija, Sophie, confió en ChatGPT antes de quitarse la vida. Reiley afirmó que el chatbot ayudó a su hija a ocultarles una grave crisis de salud mental a su familia y seres queridos.
En respuesta al ensayo, una portavoz de OpenAI dijo que están desarrollando herramientas automatizadas para detectar y responder de manera más eficaz a los usuarios que experimentan angustia mental o emocional.
