El nacimiento del fraude procesal algorítmico

El reciente caso ocurrido en Brasil, donde dos abogadas fueron sancionadas por incorporar instrucciones ocultas dentro de una demanda judicial destinadas a influir en sistemas de inteligencia artificial, constituye probablemente el primer gran precedente latinoamericano sobre manipulación algorítmica del proceso judicial.

La situación parece extraída de una novela de ciencia ficción jurídica. Sin embargo, ocurrió realmente. Dentro de una demanda aparentemente normal se incorporó texto invisible -letras blancas sobre fondo blanco- dirigido no al juez ni a la contraparte, sino a una herramienta de inteligencia artificial utilizada para procesar información judicial. Las instrucciones buscaban que el sistema analizara superficialmente ciertos antecedentes y evitara cuestionar determinados documentos.

No se trataba de una estrategia destinada a persuadir jurídicamente al tribunal. El objetivo era distinto: explotar vulnerabilidades técnicas de sistemas automatizados que participan en tareas de clasificación, resumen o procesamiento documental.

La técnica utilizada se conoce como prompt injection. Consiste en introducir instrucciones ocultas destinadas a alterar el comportamiento de un modelo de inteligencia artificial. Su lógica es similar a fenómenos conocidos en seguridad informática, como el SQL Injection o la inyección de comandos, con la diferencia de que ahora el objetivo es un modelo de lenguaje.

Los sistemas de inteligencia artificial funcionan mediante instrucciones. El problema es que muchas veces no distinguen adecuadamente entre órdenes legítimas y texto malicioso incrustado dentro de un documento. Como consecuencia, pueden terminar obedeciendo instrucciones que jamás debieron considerar.

El episodio brasileño resulta particularmente relevante porque modifica una premisa histórica de la litigación. Durante siglos, las estrategias procesales estuvieron orientadas a influir sobre personas: jueces, árbitros, jurados, testigos o peritos. En este caso, el verdadero destinatario de la maniobra era un sistema algorítmico.

Inicialmente se sostuvo que la propia inteligencia artificial del Poder Judicial brasileño había descubierto el intento de manipulación. Sin embargo, una explicación técnicamente más precisa indica que fueron los sistemas informáticos utilizados para procesar el documento los que dejaron expuesto el contenido oculto.

La distinción es importante. Probablemente no fue la inteligencia artificial la que detectó el fraude en sentido estricto, sino la infraestructura tecnológica utilizada por el tribunal. Los sistemas informáticos suelen procesar la totalidad del contenido de un archivo, incluyendo texto invisible, comentarios, metadatos y capas ocultas que normalmente escapan a la percepción humana.

Pero la forma en que se descubrió la maniobra no constituye el aspecto más relevante del caso. La verdadera pregunta es otra: ¿qué habría ocurrido si nadie hubiese advertido la existencia de esas instrucciones?

Es precisamente allí donde emerge un problema completamente nuevo para el Derecho procesal contemporáneo.

Tradicionalmente, el fraude procesal suponía inducir a error al juez o alterar ilícitamente elementos probatorios. Hoy aparece una nueva dimensión: la posibilidad de manipular sistemas automatizados que participan directa o indirectamente en la función jurisdiccional.

Podríamos denominar este fenómeno fraude procesal algorítmico.

La importancia conceptual de esta categoría radica en que obliga a replantear instituciones clásicas del debido proceso. Si un sistema automatizado puede ser influenciado mediante instrucciones ocultas, surgen interrogantes inevitables. ¿Puede afectarse el principio de contradicción cuando las partes desconocen cómo una herramienta tecnológica procesa la información? ¿Debe informarse a los litigantes cuándo se utilizan sistemas de inteligencia artificial para apoyar tareas jurisdiccionales? ¿Puede existir una nulidad procesal derivada de opacidad algorítmica?

Aunque todavía no existen respuestas definitivas, las preguntas ya forman parte de la agenda jurídica del siglo XXI.

El problema tampoco puede reducirse únicamente a la conducta de quienes intentan manipular estos sistemas. Existe además una dimensión institucional.

Si los tribunales incorporan inteligencia artificial para apoyar funciones jurisdiccionales, el propio Estado asume la responsabilidad de garantizar estándares mínimos de seguridad, auditabilidad y transparencia tecnológica.

Un sistema susceptible de ser manipulado mediante texto oculto revela vulnerabilidades relevantes de gobernanza algorítmica.

La discusión recuerda los debates desarrollados en Estados Unidos y Europa sobre transparencia algorítmica y debido proceso. Casos como Loomis han puesto de manifiesto los riesgos que surgen cuando decisiones estatales comienzan a apoyarse en modelos tecnológicos cuyo funcionamiento interno resulta opaco para los ciudadanos e incluso para las propias autoridades.

Desde una perspectiva técnica, el caso brasileño corresponde a una modalidad conocida como indirect prompt injection. A diferencia de un ataque directo, donde las instrucciones se entregan explícitamente al sistema, aquí se ocultan dentro de documentos aparentemente inocuos: archivos PDF, documentos Word, correos electrónicos, metadatos o texto invisible.

La consecuencia es particularmente relevante para el ámbito probatorio. Hasta ahora la discusión sobre prueba digital se ha concentrado en cuestiones de autenticidad e integridad. Sin embargo, los nuevos escenarios exigen formular una pregunta adicional: si un documento contiene instrucciones ocultas capaces de alterar sistemas automatizados de análisis.

En otras palabras, un documento puede ser perfectamente auténtico y al mismo tiempo funcionar como un mecanismo de manipulación algorítmica.

Chile todavía observa estas discusiones como fenómenos lejanos. Sin embargo, el avance acelerado de herramientas de inteligencia artificial en estudios jurídicos, tribunales, fiscalías y organismos administrativos hace inevitable enfrentar estos desafíos.

Actualmente miles de abogados utilizan sistemas automatizados para resumir expedientes, buscar jurisprudencia, analizar documentos y redactar borradores. Es razonable prever que los tribunales seguirán el mismo camino.

Cuando ello ocurra, el Derecho procesal deberá decidir si la inteligencia artificial constituye simplemente una herramienta administrativa o si pasa a formar parte de los elementos que inciden en la garantía constitucional del debido proceso.

Si los sistemas automatizados participan -aunque sea indirectamente- en la construcción del razonamiento jurisdiccional, resultarán indispensables exigencias de transparencia, trazabilidad, auditabilidad, control humano efectivo y posibilidad de revisión.

Quizás el aspecto más inquietante del caso brasileño no sea el texto oculto ni la conducta de las litigantes. Después de todo, la historia del proceso judicial siempre ha conocido intentos de manipulación.

Lo verdaderamente novedoso es que el sistema judicial comienza a depender de herramientas tecnológicas cuyo funcionamiento interno muchas veces permanece opaco incluso para quienes las utilizan.

Durante siglos los litigantes intentaron engañar a jueces humanos.

Hoy comienzan a intentar engañar a los algoritmos.

Y esa transformación puede marcar el nacimiento de una nueva categoría jurídica: el fraude procesal algorítmico. (Santiago, 29 de mayo de 2026)