Sistemas sin culpables: La erosión del nexo causal en la era de la Inteligencia Artificial

La irrupción de la inteligencia artificial (IA) ha dado paso a una gran incertidumbre en la dogmática civil, específicamente en la erosión del nexo causal. Más allá del debate ético, la implementación de esta tecnología exige una reinterpretación de la responsabilidad civil extracontractual. Especialmente en un contexto donde los modelos de aprendizaje automático comienzan a desbordar el control humano y la previsibilidad.

Estas herramientas digitales han trascendido de ser meros programas de instrucciones lineales. Según el management sloan school ysiguiendo la definición clásica de Arthur Samuel, la capacidad de los sistemas para aprender sin ser programados explícitamente se conoce como machine learning*.Un prototipo que plantea una diversidad de cuestionamientos e introduce un conflicto de carácter general y legal.*La doctrina ha identificado el problema como la caja negra algorítmica, destacando que incluso los propios desarrolladores carecen de una explicación sobre por qué el sistema produjo un determinado resultado. Dicho prototipo introduce un dilema, dado que si la tecnología entrega un resultado dañoso, este no provendrá de una instrucción humana y la responsabilidad civil clásica se torna difusa. Esta realidad contraviene con artículo 2314 del código civil (CC), el cual dispone que quien ha cometido un delito o cuasidelito infiriendo daño a otro, es obligado a la indemnización. Una norma que solo prevé la voluntad humana controlable, sin embargo, la IA carece de personalidad jurídica y no es sujeto de derechos ni obligaciones, por lo que es imposible atribuirle responsabilidad directamente.

Esta disyuntiva dogmática no se limita al campo académico; sus consecuencias ya se manifiestan en la práctica judicial internacional. Lo anterior se evidencia con la nueva serie de recurrencias en litigios que acusan negligencia por parte de las empresas programadoras de la IA. Así lo demuestra un caso en curso, donde Matt y Maria Raine demandaron a la empresa Open AI , alegando que su chatbot (Chat GPT) habría animado a su hijo a quitarse la vida. Bajo este contexto, la defensa de la imprevisibilidad del algoritmo resulta insuficiente y la autonomía estocástica del sistema no puede operar como una inmunidad jurídica. Aquellas empresas que decidan lanzar su producto al mercado deben hacerse responsables por las externalidades que generen y de indemnizar en los casos que así se decida.

Sin embargo, incluso ante perjuicios evidentes, la dificultad para demostrar un nexo causal claro se traduce en una complejidad para la víctima. Incluso en el mejor de los escenarios posibles —esto es, contando con la cooperación del demandado a través del acceso a la documentación, datos de entrenamiento y registros—, un experto enfrentaría dificultades extremas para probar la existencia de una culpa o un defecto. En este panorama, el estándar tradicional se vuelve desproporcionado; es por dicha razón que la carga de la prueba debe flexibilizarse. Tal medida permitiría a los afectados demostrar el daño de forma más expedita y que la causalidad difusa no se convierta en una barrera procesal.

Este escenario obliga a desplazar el foco a responsabilizar por el riesgo creado, específicamente cuando el sistema genera un daño por aprendizaje autónomo. Una consideración similar a la del artículo 2327 del CC, el cual obliga a indemnizar a quien posea un animal fiero que haya causado un daño. Una disposición que evidencia que, desde la génesis de nuestro código el legislador previó la necesidad de otorgar responsabilidad a quien introduce un riesgo imprevisible a la sociedad. No obstante, la creación de una legislación de carácter especial se torna cada vez más necesaria. Dicha normativa permitiría aplicar normas claras y actualizadas, evitando la necesidad de forzar reinterpretación de artículos pertenecientes a un código promulgado hace 169 años, una época donde tecnologías tan avanzadas como la IA aún no existían.

Finalmente, el disponer límites claros ante estas situaciones no es un hecho aislado; así lo ha demostrado el boletín 16821-19. Un proyecto de ley en segundo trámite constitucional que regula los sistemas de IA, ingresado a la cámara en mayo del 2024. En este marco, y respecto de la responsabilidad, su artículo 18 indica que la persona que sufra un daño como consecuencia de su utilización podrá demandar civilmente la indemnización correspondiente. Una disposición fundamental que asume que la complejidad técnica del algoritmo y su imprevisibilidad no pueden constituir un obstáculo para el derecho a la reparación.

En suma, la irrupción de esta tecnología es también el origen de nuevas problemáticas jurídicas, especialmente en la atribución de responsabilidad. Los sistemas autónomos han planteado conflictos en donde el tenor original de los textos legales resulta insuficiente para afrontar el auge de la era digital. Es por ello que la respuesta del derecho debe basarse en una adaptación proactiva que combine la creación de nuevos marcos legales y la reinterpretación funcional de la causalidad. Solo a través de este fortalecimiento se conseguirá que la IA continúe representando una ventaja para la sociedad sin que ello sacrifique la protección de los derechos para aquellos que se vean afectados al utilizarla.

Cristóbal Cortés Rocha