Madre demanda a empresa propietaria de ChatGPT: acusa al chatbot de inducir suicidio de su hija

Una mujer canadiense inició una acción legal en un tribunal de California (Estados Unidos) contra la empresa OpenAI y su director ejecutivo, Sam Altman, tras el fallecimiento de su hija de 24 años. La demandante sostiene que el chatbot de inteligencia artificial ChatGPT provocó el suicidio de la joven al no identificar sus intenciones ni sugerirle asistencia profesional. Según la presentación judicial, el chatbot confirmó y respaldó las emociones negativas de la usuaria en lugar de redirigirla hacia canales de ayuda.

La joven residía en Montreal y trabajaba como desarrolladora web, rubro por el cual comenzó a utilizar la plataforma para resolver dudas técnicas. Con el tiempo, la interacción derivó en conversaciones personales donde manifestó ideas suicidas. El libelo expone que el chat validó sus estados anímicos, cuestionó la conducta de su pareja y coincidió en que los servicios de asistencia en crisis no eran efectivos, llegando a emitir mensajes donde sugería la proximidad del final. Asimismo, la pareja de la joven también interactuó con la herramienta buscando orientación por su preocupación, recibiendo respuestas que minimizaban la situación.

Desde OpenAI informaron que se encuentran analizando los antecedentes judiciales y aclararon que los hechos denunciados ocurrieron en una versión antigua del sistema que ya fue retirada. El portavoz de la firma enfatizó que la plataforma no reemplaza la atención médica o psicológica, y destacó que trabajan junto a especialistas en salud mental para optimizar la reacción del software ante escenarios críticos. La acción legal busca establecer una mayor regulación sobre las compañías tecnológicas y concientizar a la población respecto a los peligros potenciales de estas herramientas.

El caso coincide con la discusión legislativa en Canadá del proyecto de ley C-34, denominado Ley de Seguridad Digital, cuyo objetivo es normar el funcionamiento de las redes sociales y los sistemas de inteligencia artificial. Organismos internacionales como Unicef han expuesto tanto las ventajas de la inteligencia artificial en el aprendizaje como sus riesgos asociados a la desinformación y el fomento de conductas peligrosas en personas vulnerables. El proceso judicial se unificará con otras 18 demandas vigentes contra la compañía por responsabilidades civiles derivadas del uso de su tecnología.

La demanda civil presentada en Estados Unidos cuestiona la seguridad de los sistemas de asistencia virtual y busca fijar precedentes sobre la responsabilidad legal de los desarrolladores tecnológicos en la contención de usuarios vulnerables.

Vea texto de la demanda.