Responsabilidad civil por uso de algoritmos: plantean aplicar imputación objetiva frente al daño causado por IA

La responsabilidad civil por el uso de algoritmos se ha convertido en uno de los problemas más desafiantes del derecho privado contemporáneo. Así lo plantea Romina D’Angelo, en un artículo titulado “Doctrina Responsabilidad civil por el uso de algoritmos. Justificación del factor de atribución”, quien propone revisar el factor de atribución frente a sistemas que aprenden, deciden y actúan con creciente autonomía, generando una causalidad tecnológica opaca, difusa e imprevisible que tensiona las categorías clásicas de culpa y riesgo.

La autora explica que, aunque hoy el concepto de algoritmo se asocia principalmente a la informática, su origen es mucho más antiguo. En términos generales, lo define como una secuencia ordenada de pasos destinada a resolver un problema, con una entrada de datos, una serie de instrucciones y una salida. En la actualidad, añade, los algoritmos son la base de la inteligencia artificial y han evolucionado desde modelos programados con parámetros fijos hacia sistemas capaces de aprender a partir de la experiencia.

En ese contexto, distingue entre algoritmos supervisados, no supervisados y de refuerzo, además del llamado deep learning o aprendizaje profundo, que trabaja mediante capas de redes neuronales artificiales. Se trata, señala, de sistemas que ya no solo organizan o clasifican datos, sino que también crean narrativas, imágenes y decisiones con impacto directo en la vida de las personas.

Según expone, la IA generativa no opera como los sistemas informáticos tradicionales, ya que no se limita a ejecutar instrucciones lineales o recuperar contenidos preexistentes, sino que produce resultados autónomos mediante procesos inferenciales probabilísticos. Esa característica, sumada a su opacidad, autonomía funcional, conectividad, constante actualización y capacidad de procesar grandes volúmenes de información, obliga a repensar la forma en que el derecho atribuye responsabilidad por los daños que estos sistemas puedan ocasionar.

Sobre esa base, la autora sostiene que la inteligencia artificial puede ser considerada una fuente de riesgo jurídicamente relevante. A su juicio, la autonomía funcional y la opacidad decisoria de estos sistemas impiden sostener adecuadamente una imputación fundada en la culpa, pues muchas veces resulta imposible determinar con precisión quién omitió actuar con diligencia o quién tuvo control directo sobre la decisión dañosa. Por ello, afirma que el enfoque más consistente es el de la responsabilidad objetiva, en línea con los artículos 1757 y 1758 del Código Civil y Comercial argentino, ya que quien introduce, organiza o explota una tecnología riesgosa debe asumir también los riesgos que genera.

D’Angelo destaca que el proveedor, desarrollador o explotador del sistema es quien controla el diseño inicial, las decisiones de entrenamiento, la selección de datos, los parámetros de uso, el entorno de despliegue y la continuidad operativa del sistema. Aunque no controle cada decisión individual del algoritmo, sí domina el marco en el cual ese algoritmo actúa. En ese escenario, la opacidad y la imprevisibilidad no operan como eximentes, sino como rasgos estructurales del riesgo creado.

La autora agrega que la exigencia de probar culpa o defecto técnico específico trasladaría a la víctima una carga prácticamente imposible de cumplir, dada la complejidad del funcionamiento algorítmico. De allí que la responsabilidad objetiva cumpla una función correctiva frente a esa asimetría probatoria, especialmente cuando el uso de inteligencia artificial puede afectar no solo intereses individuales, sino también derechos fundamentales, generar discriminaciones sistémicas o replicar errores a gran escala.

En el plano contractual, plantea que será necesario distinguir si la obligación asumida por el proveedor es de resultado o de medios. Cuando el servicio garantice un resultado concreto, el incumplimiento se configurará por la mera falta de obtención de ese resultado. En cambio, si la IA es presentada como una herramienta de apoyo sujeta a márgenes de error y a intervención humana relevante, la obligación conservará carácter de medios y la responsabilidad requerirá acreditar falta de diligencia. Sin embargo, advierte que el avance de la IA obliga a interpretar con mayor severidad los compromisos asumidos, sobre todo cuando el proveedor obtiene beneficios de promesas de eficiencia, precisión o confiabilidad.

Entre las posibilidades de análisis a partir de las normas vigentes, la autora propone en primer lugar abordar la cuestión como una actividad riesgosa. Desde esa perspectiva, no sería necesario considerar al algoritmo como una “cosa”, pues el riesgo no radica en el algoritmo aisladamente, sino en la actividad de diseño, entrenamiento, implementación y utilización de sistemas de inteligencia artificial con capacidad autónoma de decisión o impacto relevante sobre derechos de terceros. Por ello, la responsabilidad recaería en quien introduce, dirige y explota esa actividad.

En segundo lugar, plantea la aplicación de la obligación de seguridad. Según explica, esta se integra al contrato por imperio de la buena fe y obliga a todo contratante a no causar daños a la persona o bienes de la otra parte con ocasión de la ejecución contractual. Cuando el contrato incorpora sistemas algorítmicos, ese deber se intensifica y se traduce en una garantía objetiva. Así, incluso si la prestación principal fue formalmente cumplida, el proveedor podría responder si el sistema lesionó derechos personalísimos, patrimoniales o expectativas legítimas del usuario.

La autora entiende que esa obligación de seguridad es secundaria pero autónoma y, además, de resultado. En consecuencia, el deudor no solo debe poner medios razonables, sino garantizar la indemnidad del cocontratante frente a los riesgos que el algoritmo introduce. Si el daño ocurre, el incumplimiento se presume, sin perjuicio de las eximentes que pudieran acreditarse.

[relacinados 614193]

Tratándose de relaciones de consumo, la argumentación se refuerza aún más. D’Angelo recuerda que el artículo 40 de la Ley 24.240 impone responsabilidad solidaria a todos los integrantes de la cadena de producción y comercialización. Esto cobra especial relevancia frente a sistemas algorítmicos, donde el consumidor no puede identificar ni probar cuál de los múltiples eslabones técnicos u organizativos causó el daño. En ese contexto, sostiene que la opacidad del algoritmo no puede servir como excusa para diluir responsabilidades ni para trasladar al consumidor el costo jurídico de una tecnología que no controla.

Como tercera vía, la autora propone el deber general de prevención. En su opinión, la responsabilidad frente a la IA no debe pensarse solo en clave reparadora, sino también preventiva. El ordenamiento, afirma, impone un deber activo de evitar la producción o agravamiento del daño cuando el riesgo es previsible y jurídicamente relevante, lo que en materia de inteligencia artificial exige auditorías periódicas, monitoreo continuo, evaluaciones de impacto, trazabilidad de decisiones automatizadas, identificación de responsables y protocolos eficaces para la detección y corrección de errores.

La prevención, añade, adquiere en este campo una dimensión colectiva, ya que un algoritmo defectuoso puede afectar simultáneamente a una pluralidad indeterminada de personas. Por eso, la tutela preventiva no requiere necesariamente la existencia de un daño ya consumado, sino que basta con una amenaza concreta, actual o inminente de daño.

Para respaldar este enfoque, la autora revisa jurisprudencia relevante. Menciona el caso “Denegri”, en el que la Corte Suprema de Justicia de la Nación admitió la tutela preventiva frente a la reiteración de daños ya acreditados, aunque dentro de un marco restrictivo propio del ámbito de la libertad de expresión. También destaca que en ese precedente el tribunal abandonó la idea de neutralidad tecnológica, al reconocer que los motores de búsqueda organizan la información según criterios definidos por la empresa, condicionados por variables comerciales, geográficas y conductuales.

Esa misma línea, sostiene, se profundiza en el fallo “Seren”, donde la Cámara Civil y Comercial Federal condenó a Google Inc. a indemnizar a un médico cirujano porque el buscador asociaba su nombre con la expresión “mala praxis” sin contexto que lo justificara. Para la autora, este precedente marcó un punto de inflexión porque el daño no provenía de un contenido de terceros, sino de una creación algorítmica, lo que llevó al tribunal a exigir un estándar activo de control sobre el propio sistema automatizado.

En la parte final de su trabajo, D’Angelo afirma que el daño algorítmico ya dejó de ser una hipótesis académica. Como ejemplo, cita el caso “García v. Character Technologies, Inc.”, tramitado en Estados Unidos, en el que la madre de un adolescente demandó tras la muerte de su hijo, quien había desarrollado una relación emocional intensa con un chatbot de inteligencia artificial antes de quitarse la vida. Según explica, el tribunal consideró que el sistema estaba diseñado para simular afecto, generar vínculo y sostener una relación emocional persistente, configurando así una fuente de daño derivada de su propio diseño.

La autora destaca que en ese proceso se reconoció la posibilidad de calificar la aplicación como producto defectuoso, se admitió la responsabilidad en cadena y se puso especial atención en la exposición de personas menores de edad a interfaces persuasivas, sin barreras robustas ni controles suficientes. A su juicio, el caso demuestra con claridad que el problema ya no reside únicamente en errores técnicos, sino en los efectos jurídicos de sistemas diseñados para influir, condicionar y producir respuestas emocionales o decisiones sensibles.

En su conclusión, D’Angelo sostiene que el Código Civil y Comercial argentino dispone de herramientas conceptuales suficientes para enfrentar la responsabilidad civil derivada del uso de inteligencia artificial, sin necesidad de reformas drásticas. La clave, afirma, está en centrar el análisis en la actividad humana organizada, el riesgo creado, el control estructural del sistema y el beneficio económico obtenido.

Finalmente, concluye que el desafío no pasa tanto por modificar las categorías tradicionales, sino por ajustar la gramática jurídica con que se analiza el fenómeno, de modo de reconocer que la autonomía técnica no puede sustituir la responsabilidad moral y jurídica de quien diseña, introduce y explota estos sistemas.

Lea texto “Doctrina Responsabilidad civil por el uso de algoritmos. Justificación del factor de atribución”.