INTELIGENCIA ARTIFICIAL Y JUSTICIA
La IA en el Sistema Judicial amenaza la independencia y el debido proceso advierte la ONU
Informe de la Relatora Especial destaca riesgos y propone salvaguardas para el uso de inteligencia artificial en tribunales. “El juez no debe convertirse en un operador técnico de decisiones automatizadas”. Llama a los Estados a adoptar un enfoque centrado en los derechos humanos y bajo control humano efectivo.
Un reciente informe de la Relatora Especial sobre la independencia de magistrados y abogados, dependiente del Consejo de Derechos Humanos de las Naciones Unidas, analiza el impacto de los sistemas de inteligencia artificial (IA) en la función judicial y en el ejercicio independiente de la abogacía.
El documento destaca que la introducción de la IA en la administración de justicia —a través de herramientas de análisis predictivo, gestión de expedientes o apoyo a decisiones— ofrece oportunidades de eficiencia, pero también plantea riesgos graves si no se establecen salvaguardas adecuadas.
Según el texto, el uso creciente de sistemas automatizados en los tribunales podría comprometer la autonomía decisional de jueces y magistrados, sobre todo cuando los algoritmos emiten sugerencias o predicciones que influyen en la valoración de pruebas o en la determinación de sentencias. “La tendencia humana a seguir las recomendaciones de los algoritmos y a confiar en la calidad aparentemente científica de la IA puede, de forma casi imperceptible, erosionar la discrecionalidad judicial y conducir al sesgo de automatización”, advierte el informe.
La Relatora subraya que la delegación de funciones jurisdiccionales en sistemas opacos —cuyo funcionamiento no siempre es comprensible ni auditable— puede vulnerar el principio de independencia judicial y el derecho de las partes a un debido proceso.
Además, enfatiza que el uso de IA en etapas críticas del proceso, como la evaluación de riesgos o la fijación de penas, puede introducir sesgos estructurales y reproducir desigualdades históricas o discriminación algorítmica. “El juez no debe convertirse en un operador técnico de decisiones automatizadas”, señala el documento.
Como ejemplo, se menciona una decisión histórica del Tribunal Supremo de Pakistán en 2025, que sostuvo que “la justicia debe ser vista como legítima por aquellos a quienes sirve, y esta legitimidad se deriva de la creencia de que otro ser humano ha escuchado, comprendido y actuado realmente con conciencia”.
En materia de transparencia y rendición de cuentas, el informe enfatiza que toda incorporación de IA en la justicia debe acompañarse de criterios claros de supervisión. Los Estados, señala, tienen la obligación de garantizar que los sistemas sean auditables, explicables y sujetos a control humano efectivo. “Existe el riesgo de que el sesgo de automatización —la tendencia a considerar acríticamente que las soluciones ofrecidas por la tecnología, como la IA, son correctas— haga ineficaz la aportación humana”, reitera la relatora.
El texto también advierte que la llamada “verificación” de los resultados generados por IA no siempre es posible: “Algunos sistemas no son susceptibles de revisión, ya que un juez no puede entrar fácilmente en la caja negra de un algoritmo y determinar si se basó en datos erróneos o discriminatorios. La judicatura debe considerar si la verificación es factible y cuándo, y evaluar rigurosamente los riesgos de externalizar tareas a la IA a la luz de esa evaluación”.
En otro apartado, la relatora aborda la protección de la función legal y la confidencialidad, insistiendo en que el uso de IA en la práctica profesional debe respetar el secreto abogado-cliente y el derecho de defensa. “El derecho a ser oído por un tribunal independiente e imparcial requiere el acceso a un abogado humano elegido libremente”, sostiene el informe, advirtiendo además sobre los riesgos de vigilancia masiva y la recolección de datos personales en entornos judiciales y profesionales.
“Por mucho que se haya avanzado en el desarrollo de una IA jurídica especializada, la tecnología no puede ofrecer todos los servicios de un abogado”, agrega el documento.
Entre sus recomendaciones, la Relatora propone prohibir el uso de sistemas de IA que sustituyan la toma de decisiones judiciales, garantizar la intervención humana significativa en todas las etapas del proceso y fomentar la capacitación de jueces, abogados y funcionarios sobre los alcances y límites de estas tecnologías.
Finalmente, el informe llama a los Estados y organismos judiciales a adoptar un enfoque de “IA centrada en los derechos humanos”, donde la tecnología actúe como herramienta de apoyo, y no como sustituto del juicio y criterio humanos.
Vea Informe de la Relatora Especial sobre la independencia de los magistrados y abogados.
Temas
Te puede interesar
Suscribirme a Newsletter