Inteligencia Artificial en la Justicia: del piloto automático al riesgo de colisión

Entre avances legislativos y tropiezos judiciales, la región enfrenta el desafío de regular la inteligencia artificial antes de que los algoritmos opacos contaminen decisiones que afectan derechos fundamentales. La transparencia, la explicabilidad y el control humano se vuelven urgencias ineludibles.

En los últimos días, América Latina se ha convertido en un laboratorio acelerado de cómo los sistemas judiciales intentan domar la inteligencia artificial antes de que esta les pase por encima. Chile dio un paso audaz: la Cámara de Diputados aprobó en general un proyecto de ley que no se limita a declaraciones de buenas intenciones, sino que impone principios obligatorios supervisión humana, seguridad técnica, protección de datos, transparencia e inclusión y clasifica los sistemas de IA según su nivel de riesgo. En el escalón más alto se ubican los que pueden afectar derechos fundamentales, como la libertad o el acceso a la justicia.

Brasil, por su parte, endureció los límites al uso de IA y reconocimiento facial en investigaciones penales. Solo se permitirán en casos puntuales y bajo control judicial, con obligación de auditorías y estudios de impacto. Argentina todavía no tiene una ley específica, pero avanza con guías éticas y protocolos judiciales que marcan una línea clara: la IA no puede sustituir el juicio humano. Incluso se están desarrollando herramientas locales impulsadas en el ámbito del Ministerio de Justicia para detectar sesgos de género en textos generados por algoritmos.

Mientras la región busca su equilibrio regulatorio, los tribunales del mundo reciben golpes de realidad. En Australia, un abogado presentó en un caso de homicidio citas jurisprudenciales inventadas por una IA, obligando a suspender la audiencia. En EE.UU., varios jueces han tenido que retractarse de decisiones contaminadas por errores algorítmicos, demostrando que el riesgo no solo está en el uso irresponsable por parte de abogados, sino también en la dependencia creciente de los magistrados hacia estas herramientas.

Estos episodios son más que anécdotas: son advertencias. La IA en la justicia no es un problema de futuro, sino de presente. La combinación de sistemas opacos (“cajas negras”), datos con sesgos estructurales y la presión por acelerar procesos puede derivar en errores irreparables y dañar profundamente la confianza pública en las instituciones.

La oportunidad está en diseñar marcos normativos con dientes: transparencia obligatoria de los algoritmos utilizados, explicabilidad técnica en lenguaje claro, auditorías externas, supervisión humana permanente y responsabilidades legales claras si la tecnología falla. No se trata de frenar la innovación, sino de asegurarse de que sirva a la justicia sin socavarla.

La IA puede ser una aliada formidable para reducir la mora judicial, mejorar el acceso a la información y liberar a jueces y fiscales de tareas rutinarias. Pero para que eso ocurra, los Estados deben regular antes de que la inercia tecnológica imponga sus propias reglas. En justicia, como en aviación, el piloto automático nunca es suficiente: siempre debe haber alguien en la cabina, listo para tomar el control.

Ezequiel Brunner