Falta de cuidado
Tribunal argentino anula resolución judicial redactada con inteligencia artificial por contener jurisprudencia falsa
La revisión de una causa sobre regulación de honorarios reveló la inclusión de fuentes doctrinales y jurisprudencia inexistente. El tribunal de alzada advirtió sobre la falta de verificación de los datos y remarcó los riesgos que conlleva el uso indebido de herramientas de IA en la redacción de resoluciones judiciales, estableciendo pautas sobre la responsabilidad en el manejo de estas plataformas en el ámbito del derecho.
La Cámara de Apelación en lo Civil y Comercial de Azul (Argentina) invalidó una resolución de primera instancia tras confirmar que los argumentos legales que sustentaban la decisión eran inexistentes. Constató que el juez utilizó un sistema de inteligencia artificial para redactar el fallo, incorporando de manera inadvertida jurisprudencia y citas doctrinales falsas.
La resolución versaba sobre el rechazo de la regulación de honorarios para un Curador Oficial. El juez de primera instancia argumentó que la intervención del curador constituía un deber legal de asistencia estatal, por lo que consideró que carecía de sustento jurídico imponer el pago de honorarios a la persona asistida o a su patrimonio.
Para sostener dicha postura, el fallo citó un supuesto texto de la autora Kemelmajer de Carlucci, publicado por la editorial Rubinzal-Culzoni, y un precedente atribuido a la Sala II de la Cámara Civil y Comercial de La Plata. Ante la denegativa, el curador presentó una apelación, argumentando que la normativa vigente exigía solicitar la regulación de honorarios al finalizar sus funciones, un trámite procesal que es independiente de la decisión posterior sobre su cobro efectivo.
Durante la revisión del recurso, la Cámara solicitó a fuentes judiciales que localizaran los textos de referencia. Al recibir una respuesta negativa, el tribunal de alzada se contactó directamente con el juzgado de origen. El tribunal de primera instancia reconoció la imposibilidad de hallar las citas incluidas en su propia resolución y atribuyó la situación a un supuesto error de la web.
Frente a este escenario, la Cámara concluyó que la resolución había sido elaborada utilizando inteligencia artificial sin una posterior corroboración de los datos. En su análisis, destacaron inconsistencias evidentes en las citas, como la omisión de títulos de libros o enlaces específicos para la doctrina, y la mención errónea de una sala en La Plata, una jurisdicción que en realidad posee dos cámaras de apelaciones con tres salas cada una.
En su fallo, los jueces enfatizaron que, si bien el uso de la inteligencia artificial generativa no se encuentra prohibido en el ámbito judicial, su aplicación exige un manejo extremadamente riguroso. El tribunal instruyó que cualquier transcripción o referencia debe indicar adecuadamente su fuente, incluyendo páginas y detalles específicos que permitan una verificación independiente y rigurosa de la información.
El tribunal también abordó el fenómeno técnico conocido como alucinaciones en los modelos de inteligencia artificial. Explicaron que esto sucede cuando los algoritmos carecen de información suficiente y completan sus respuestas con inferencias plausibles pero incorrectas, generando contenido falso que se presenta como verdadero. La resolución concluyó señalando que estos errores tecnológicos pueden desencadenar consecuencias graves si los profesionales del derecho y los jueces no cuentan con los medios o la disposición para verificar la exactitud de los datos entregados por estas plataformas.
Vea sentencia Cámara de Apelación en lo Civil y Comercial de Azul.
Temas
Te puede interesar
Suscribirme a Newsletter