Justicia de EE.UU. rechaza defensa de Character.AI y Google por muerte de adolescente: IA podría ser considerada producto defectuoso

En una decisión que podría sentar un precedente clave en la relación entre inteligencia artificial (IA) y responsabilidad legal, un tribunal federal de Estados Unidos rechazó el intento de Character.AI y Google de desestimar una demanda por muerte por negligencia. La acción judicial fue presentada por Megan García, madre de Sewell Setzer, un adolescente de 14 años que se quitó la vida tras establecer un vínculo emocional con un chatbot.

Las empresas demandadas argumentaron que las respuestas del chatbot estaban protegidas por la Primera Enmienda de la Constitución de EE.UU., que ampara la libertad de expresión. Alegaron que, al tratarse de una forma de “expresión”, dichas respuestas no podían generar responsabilidad legal. Sin embargo, la jueza Anne Conway desestimó esa defensa y señaló que, al menos en esta etapa del proceso, los resultados generados por el chatbot podrían ser considerados productos defectuosos.

“El fallo envía un mensaje claro a Silicon Valley: es momento de detenerse, reflexionar e implementar medidas de seguridad antes de lanzar productos al mercado”, expresó Meetali Jain, abogado de García, en declaraciones a la agencia Associated Press.