IA SIN CONTROL EN SENTENCIA
Tribunal argentino anula sentencia por uso indebido de IA en redacción judicial
Descubrió que el juez de primera instancia utilizó indebidamente IA generativa para redactar partes de la sentencia. Tribunal consideró que esto viola la prohibición de delegar funciones jurisdiccionales, la garantía del debido proceso, la exigencia constitucional de motivación suficiente. Cita Directrices Éticas para el uso de IA Generativa en el Poder Judicial como fundamento para la anulación
Un tribunal de segunda instancia de Argentina anuló una condena penal tras comprobar que el juez de primera instancia empleó de manera indebida un sistema de inteligencia artificial generativa para redactar partes de la sentencia.
Un juez penal de Esquel condenó a un sujeto a dos años y seis meses de prisión efectiva por un delito de robo. En la revisión del fallo, los jueces de segunda instancia detectaron una frase que delató la intervención de una herramienta automatizada en la fundamentación: al inicio del apartado “Punto IV”, destinado a resolver planteos probatorios de la defensa, apareció literalmente la oración: “Aquí tienes el punto IV reeditado, sin citas y listo para copiar y pegar”.
Los jueces señalaron que la utilización de esta tecnología, sin trazabilidad ni control humano, configuró una delegación prohibida de funciones jurisdiccionales. Advirtieron además una afectación a la garantía del debido proceso y a la exigencia constitucional de motivación suficiente, ya que no fue posible reconstruir el razonamiento jurídico que sustentaba la decisión.
El tribunal resolvió declarar la nulidad de la sentencia y del juicio que la precedió, y citó como fundamento la vulneración de Directrices Éticas para el uso de Inteligencia Artificial Generativa en el Poder Judicial, que prohíbe delegar decisiones en sistemas automatizados, exige transparencia en su uso, control humano permanente y protección de datos sensibles.
Uno de los miembros del tribunal subrayó que el desarrollo de la Inteligencia Artificial, el Big Data, el blockchain y los avances científicos imponen la necesidad de adaptar las normas jurídicas a esta realidad, siempre con respeto a la ética, la transparencia, la coherencia y los ideales democráticos, y que resulta “trascendental la capacitación de los operadores judiciales” frente a estos desafíos.
Otro magistrado observó que, si bien se autoriza el uso de IA generativa en la Justicia, lo hace bajo estrictos protocolos, los cuales no fueron respetados. Planteó además tres críticas: la posible inclusión de datos personales sin anonimización, la omisión de citas que impiden verificar fuentes y la falta de claridad sobre cuánto texto fue efectivamente elaborado por la IA y cuánto por el juez. Advirtió también que no se dejó constancia sobre qué herramienta se utilizó (ChatGPT, GPT-4, Bard u otra), qué datos de la causa fueron introducidos, ni qué medidas se tomaron para evitar riesgos como sesgos o alucinaciones.
El tribunal dispuso remitir las actuaciones al Superior Tribunal de Justicia de Chubut para que investigue y determine el alcance de las consecuencias generadas por el uso indebido de IA, señalando que este hecho compromete no solo los derechos de los justiciables, sino también la confianza ciudadana en la Justicia y la obligación del Estado de garantizar acceso a la tutela judicial efectiva.
Temas
Te puede interesar
Suscribirme a Newsletter