UNESCO presenta directrices para regular el uso de inteligencia artificial en tribunales

El pasado día 30 de abril del presente año, en dependencias de la Escuela de Gobierno de la Universidad de Los Andes, Colombia, la UNESCO realizo el lanzamiento de las “Directrices para el uso de sistemas de inteligencia artificial en juzgados y tribunales”

El interés por parte de los tribunales por el uso de las herramientas de la inteligencia artificial ha ido creciendo de manera exponencial, como ejemplo de ello podemos mencionar el sistema VICTOR en Brasil o el sistema SUVAS en la India, sin embargo, es evidente la escasez de orientaciones generales y oficiales que regulen el uso de estas herramientas tecnológicas por parte de la judicatura.

Por lo anterior es que resulta indispensable para un uso optimo de la IA por parte de la judicatura la existencia de directrices que vengan a influir y regular en aspectos generales, ayudando a mejorar sus capacidades y orientar sobre medidas a implementar en su utilización, proponiendo principios y recomendaciones en su aplicación.

Por ello, la UNESCO ha creado y lanzado estas directrices que en su esencia se diseñan como una proposición de nuevos y viejos principios aplicables a las organizaciones judiciales incluyendo a los y las magistrados, funcionarios judiciales y auxiliares de la administración de justicia, buscando ser una guía en post de mejorar la calidad del trabajo del poder judicial al facilitar la realización de algunas tareas que pueden ser automatizadas por la IA.

Este documento fue creado en base a cuatro fuentes

• Recomendación sobre Ética de la Inteligencia Artificial de la UNESCO

• Kit de herramientas globales sobre IA y el estado de derecho para el poder judicial, Análisis del impacto ético: una recomendación sobre la ética en la IA

• Resultados de la encuesta UNESCO sobre el uso de la IA por parte de los operadores judiciales

• Fuentes secundarias y bibliografía especializada

Es así como estas directrices identifican una serie principios que vendrían a transformarse en los pilares de la adopción y utilización de cualquier tipo de sistema de IA en la labor judicial. Hare mención solo de aquellos principios que resultan más relevantes.

1.- Protección de los Derechos Humanos: este principio guía el uso de la IA en la función judicial teniendo a la vista siempre respeto, promoción y protección de los derechos humanos dado que estos derechos pueden estar expuestos a afectaciones por la función de estos sistemas automatizados, indica el documento que se debe tener especial cuidado en cuatro puntos dada su importancia en los procedimientos judiciales, estos son los de equidad que busca que se garantice un acceso inclusivo a las herramientas de la tecnología; no discriminación, busca evitar los sesgos que reproduzcan, refuercen, perpetúen o agraven hechos discriminatorios; protección de datos personales, busca que el poder judicial en su labor anonimice los datos e los usuarios evitando su divulgación o el acceso no autorizado por parte de terceros.

2.- Conocimiento y Uso Informado: tienen por propósito que los usuarios y actores del sistema judicial comprendan las funcionalidades, tipos de uso y los impactos potenciales a fin de tomar decisiones informadas sobre su implementación.

3.- Auditabilidad del sistema: Este principio tiene por objeto obtener siempre la trazabilidad de los procesos y resultados del sistema, para ello coloca la decisión humana como un gran cortafuego a las decisiones de la IA.

Las directrices igualmente desarrollan recomendaciones a los sistemas judiciales que buscan optimizar sus funciones por medio de la IA, las cuales están en plena concordancia con los principios ya indicados. estas recomendaciones pueden ser resumidas de la siguiente forma

1.- Transparencia, calidad e integridad de los datos: según esta recomendación, se deben adoptar aquellos sistemas de IA que ofrezcan una mayor transparencia en sus datos de entrenamiento y les permitan a los organismos que la implementaran y a los usuarios del sistema evaluar periódicamente la calidad e integridad de los datos utilizados.

2.- Garantizar la viabilidad de las auditorias algorítmicas durante la implementación de los sistemas de IA: Busca que el desarrollador o proveedor del sistema de IA se comprometa a permitir y colaborar con auditorías realizadas o encargadas por la organización que la está utilizando, estableciendo de manera periódica mecanismos que faciliten la idoneidad del sistema.

3.- Asegurar siempre la intervención humana: se recomienda que estos sistemas siempre guarden la posibilidad de que el control y la supervisión radique en humanos.

4.- Protección a la privacidad: atendido a la utilización de datos sensibles que se manejan en procesos judiciales resulta esencial contar con resguardos de la privacidad de los usuarios del sistema, para ello se propone lo siguiente:

• Minimización de datos, busca utilizar sistemas de la IA que utilicen un mínimo de datos sensibles para su funcionamiento

• Protocolos de consentimiento, deberían conversar las legislaciones nacionales sobre protección de datos y privacidad con las herramientas de la IA que se utilizarán en los procesos judiciales.

• Anonimización de datos, esta recomendación busca anonimizar los datos que se utilicen en el estudio jurídico del caso en particular.

Como se aprecia, la UNESCO ha redactado un documento solido que abarca las grandes potencialidades del uso de la IA en los sistemas judiciales pero también se hace cargo de sus potenciales efectos negativos en su uso, creo que estas directrices son el punta pie inicial para que la incorporación de estas herramientas en nuestros procesos judiciales se realice de la forma más perfecta y perfectible posible, es de esperar que las distintas legislaciones nacionales tengan este documento que hoy explico como un marco normativo y doctrinario a fin de identificar las potencialidades y los perjuicios que se pudieran ocasionar con la llegada de la IA a nuestros tribunales. (Santiago, 13 de mayo de 2026)