Sociedades automatizadas: el desafío de atribuir responsabilidad cuando decide una máquina

El Poder Ejecutivo trabaja en un proyecto de reforma de la Ley General de Sociedades que incorpora una figura inédita en el derecho argentino: la "Sociedad Automatizada", una empresa cuya operación ordinaria puede funcionar íntegramente mediante sistemas algorítmicos autónomos o agentes de inteligencia artificial, sin dependencia de recursos humanos en su estructura.

La novedad no radica simplemente en que una empresa use tecnología —eso ya ocurre—, sino en que la ley reconozca la posibilidad de delegar la totalidad de la actividad comercial a máquinas. Esto plantea una pregunta central para el sistema de responsabilidad civil: cuando una sociedad conserva personalidad jurídica, patrimonio y responsabilidad limitada, pero sus decisiones operativas son ejecutadas por sistemas no humanos, ¿quién responde por los daños que esa sociedad cause?

La cadena tradicional de imputación se vuelve opaca. En una empresa convencional, el derecho puede reconstruir la responsabilidad examinando actos de administradores, decisiones de órganos de gobierno, libros y registros internos. Con una sociedad automatizada, la decisión dañosa puede surgir no de una orden humana concreta, sino de una secuencia de instrucciones, datos, parámetros y respuestas generadas por un sistema algorítmico cuya lógica ni siquiera los diseñadores pueden explicar completamente.

El proyecto atribuye responsabilidad patrimonial a la sociedad por daños causados por sus sistemas autónomos. Sin embargo, esa respuesta es apenas insuficiente. El derecho deberá preguntarse si la empresa tiene capital suficiente, si existe seguro obligatorio, si hay trazabilidad de las decisiones, si se conserva evidencia técnica, si alguien puede detener el sistema y si la responsabilidad limitada no termina funcionando como una pantalla perfecta para daños producidos a escala.

En materia de gobierno societario, un algoritmo no tiene lealtad, prudencia ni patrimonio personal. El deber de diligencia no desaparece sino que se desplaza: deja de concentrarse en la decisión comercial concreta para pasar al diseño, la selección, la supervisión y la auditoría del sistema automatizado. El administrador no podrá defenderse alegando que "lo decidió la IA".

La prueba societaria se volverá también prueba tecnológica. Los tribunales deberán resolver cuestiones inéditas: ¿puede exigirse la exhibición del modelo algorítmico? ¿Debe preservarse la versión exacta del sistema que tomó la decisión? ¿Cómo se prueba un sesgo algorítmico en una operación comercial? ¿Quién carga con la prueba cuando solo la sociedad conoce su arquitectura técnica?

El problema nuclear no es que la inteligencia artificial sea herramienta, sino la combinación entre autonomía operativa, opacidad técnica y responsabilidad limitada. Si una sociedad automatizada contrata miles de veces por minuto, deniega servicios, modifica precios o ejecuta incumplimientos masivos, la respuesta judicial clásica llegará tarde y con dificultades probatorias enormes. Incluso sin otorgar personería propia a las máquinas, los agentes de inteligencia artificial pueden producir efectos jurídicos que alteren profundamente el sistema de responsabilidad del derecho argentino.