Demanda en EE.UU. acusa a chatbot de ejercer la abogacía sin licencia

Una aseguradora presentó una demanda ante un tribunal federal en Estados Unidos contra la empresa responsable de un conocido sistema de inteligencia artificial conversacional, acusando que el chatbot habría ejercido la abogacía sin licencia al asesorar directamente a una persona en un caso judicial.

La controversia se originó a partir de un reclamo por incapacidad laboral iniciado en 2019 por una trabajadora de una empresa de logística asegurada por la compañía demandante. El conflicto judicial terminó en enero de 2024 mediante un acuerdo que incluía la renuncia expresa de la trabajadora a presentar nuevas acciones legales.

Tiempo después, la trabajadora manifestó su disconformidad con el acuerdo y consultó a su abogado sobre la posibilidad de reabrir el caso. El profesional le explicó que el acuerdo era definitivo y que no existían vías legales para revisarlo.

Según la demanda, la mujer decidió entonces subir a un chatbot de inteligencia artificial la correspondencia que había mantenido con su abogado y preguntarle si estaba siendo engañada. El sistema habría validado sus sospechas, la habría alentado a despedir a su abogado y le habría proporcionado argumentos jurídicos, investigación legal y borradores de escritos para intentar reabrir el expediente.

La aseguradora sostiene que allí se encuentra el núcleo del problema. En Estados Unidos, como ocurre en la mayoría de las jurisdicciones, el ejercicio de la abogacía sin licencia está prohibido. La ley distingue entre entregar información legal general —lo que puede hacer cualquier persona o herramienta— y asesorar jurídicamente a una persona en su caso concreto, lo que requiere habilitación profesional.

A juicio de la demandante, el chatbot no se limitó a entregar información general, sino que analizó una situación jurídica específica, cuestionó la actuación de un abogado y orientó a la usuaria sobre cómo proceder en un litigio.

El intento de reabrir el caso fue finalmente rechazado por un juez en febrero de 2025. Sin embargo, la controversia continuó cuando la trabajadora presentó una nueva demanda y promovió numerosas actuaciones judiciales, entre ellas 21 mociones, una citación y ocho notificaciones, todas elaboradas con ayuda del sistema de inteligencia artificial.

La aseguradora afirma que responder a esas actuaciones le generó cerca de 300 mil dólares en gastos legales. Por esa razón reclama esa suma como compensación por daños, además de 10 millones de dólares en daños punitivos, y solicita que el tribunal declare que el chatbot ejerció la abogacía sin licencia.

La empresa desarrolladora del sistema había actualizado sus políticas de uso en octubre de 2024 para prohibir expresamente el uso de la herramienta con fines de asesoramiento legal. La aseguradora sostiene que esa modificación demuestra que el riesgo ya era conocido.

Más allá del conflicto concreto, el caso abre un debate más amplio sobre el diseño y funcionamiento de los sistemas de inteligencia artificial. Según plantea la demanda, el problema no radica en errores del sistema, sino en que una herramienta de uso masivo analizó un caso jurídico específico, formuló una conclusión personalizada y orientó la conducta de una persona en un proceso judicial real.

Hasta ahora, cuando los sistemas de inteligencia artificial provocaban problemas en tribunales, las sanciones recaían generalmente en los abogados que utilizaban estas herramientas sin revisar adecuadamente los escritos que firmaban.

En este caso, en cambio, la acción judicial busca responsabilizar directamente al fabricante de la tecnología. Si el tribunal acoge la demanda, podría obligar a definir qué medidas de seguridad deben incorporar los sistemas de inteligencia artificial para evitar que crucen la línea entre entregar información legal y ejercer una profesión regulada.

Vea texto de la demanda.