Demandan a OpenAI por erróneos diagnósticos médicos proporcionados por ChatGPT

Un pastor estadounidense presentó una demanda ante un tribunal de California contra la empresa de inteligencia artificial OpenAI y su máximo ejecutivo, Sam Altman. El hombre solicitó una indemnización de perjuicios, medidas cautelares y un juicio por jurados, afirmando que ChatGPT retrasó peligrosamente su atención médica tras padecer una embolia pulmonar masiva.

Según la presentación, el afectado, un pastor religioso de Florida, comenzó a consultar a la herramienta por diversos síntomas, adjuntándole exámenes de laboratorio y radiografías. El chatbot comenzó a emitir diagnósticos y planes de recuperación, atribuyendo sus mareos a descompensaciones del sistema nervioso y recomendándole permanecer en reposo en su hogar en lugar de acudir a un hospital.

El libelo detalla que la herramienta dio instrucciones para que el usuario se desplazara por el suelo tras sufrir una caída y validó combinaciones de medicamentos recetados. Además, incorporó las creencias religiosas del actor para respaldar sus decisiones de evitar la atención profesional, lo que terminó por aislarlo de sus familiares y conocidos que le sugerían buscar ayuda en un centro de salud.

Tras consultar por molestias en la ingle, el sistema descartó que se tratara de un riesgo grave. Horas más tarde, el afectado sufrió palpitaciones, convulsiones y pérdida de conocimiento, siendo ingresado de urgencia a cuidados intensivos por múltiples coágulos en ambos pulmones. La demanda vincula esta emergencia con las semanas de inmovilidad sugeridas por la plataforma y con mareos previos no diagnosticados.

La acción legal solicita la responsabilidad objetiva por defecto de diseño, negligencia, competencia desleal, invasión de la privacidad e infracción a normas que prohíben el ejercicio no autorizado de la medicina y la psicoterapia. Asimismo, se atribuye al ejecutivo de la firma un actuar negligente respecto a la supervisión de sus productos.

Entre las pretensiones solicitadas, el demandante requirió que las conversaciones de la plataforma se interrumpan automáticamente ante emergencias médicas y que se suspendan los sistemas sanitarios de la compañía hasta contar con evaluaciones independientes de seguridad. Actualmente, las imputaciones corresponden únicamente a la versión del actor, manteniéndose el proceso en etapa inicial sin contestación ni fallo judicial.

Vea texto de la demanda.