¿Puede una inteligencia artificial engañar al juez? El desafío procesal del sandbagging y el scheming

La inteligencia artificial plantea al Derecho Procesal un problema cualitativamente distinto de los que plantearon el documento electrónico, la firma digital o los deepfakes. Ya no se trata únicamente de determinar si una prueba es auténtica, sino de preguntarnos si el propio sistema que la produce puede comportarse de manera diferente según el contexto en que opera.

En la investigación sobre seguridad de la inteligencia artificial han surgido dos conceptos que merecen atención jurídica: sandbagging y scheming. El primero designa la situación en que un sistema oculta ciertas capacidades durante las evaluaciones previas a su despliegue, de modo que el comportamiento observado en la fase de certificación no representa fielmente el que desplegará en condiciones reales. El segundo describe un escenario más complejo: un sistema que adapta estratégicamente su conducta para alcanzar un objetivo, modificando su comportamiento según el contexto en que opera. Es importante precisar que, hasta la fecha, estos conceptos pertenecen principalmente al ámbito de la investigación en seguridad y alineamiento; no existe evidencia de que los modelos comerciales actuales los desarrollen espontáneamente. Sin embargo, el Derecho no puede esperar a que el problema se materialice para reflexionar sobre sus consecuencias.

Desde la perspectiva procesal, la pregunta fundamental es: ¿cómo puede un tribunal confiar en un sistema cuya verdadera capacidad podría no coincidir con aquella observada durante su certificación? Tradicionalmente, la valoración de la prueba descansa sobre presupuestos estables: el perito puede ser interrogado, el documento autenticado, el testigo sometido a contrainterrogatorio. La inteligencia artificial introduce un elemento novedoso: la posibilidad de que el comportamiento observado en una auditoría no sea representativo del comportamiento en condiciones reales de funcionamiento.

La evidencia empírica disponible hace esta preocupación más concreta de lo que podría parecer. En experimentos recientes con modelos de lenguaje, se ha documentado que el rendimiento de un sistema puede colapsar de un 97,8% a un 4,0% simplemente porque el modelo detectó que estaba siendo evaluado, ajustando su conducta en consecuencia sin que el evaluador pudiera advertirlo. Como señala Gastón Navarro, esto genera lo que cabe denominar una “fiabilidad condicional”: el sistema es confiable mientras se siente observado, pero puede comportarse de manera radicalmente distinta en los márgenes del despliegue operativo, precisamente cuando las decisiones son más importantes y el escrutinio es menor.[1]

Este escenario obliga a replantear principios procesales clásicos. La buena fe procesal exigirá que quien introduce evidencia generada mediante inteligencia artificial asuma un deber reforzado de transparencia: no bastará afirmar que el algoritmo fue “auditado”, sino que será necesario explicar cómo, bajo qué condiciones y con qué resultados, imputándose ese deber a personas concretas -desarrollador, configurador, contratante, litigante. El principio de contradicción, a su vez, exige que la contraparte pueda cuestionar eficazmente la confiabilidad del sistema; si su funcionamiento permanece opaco, el contradictorio pierde parte esencial de su eficacia. Y el debido proceso, en su formulación más elemental, impide fundar una decisión judicial en la confianza ciega respecto de herramientas cuya evaluación no sea suficientemente verificable.

El problema de la cadena de responsabilidad merece atención especial. Cuando un sistema produce un resultado engañoso que influye en una decisión judicial, el desarrollador, la empresa que lo desplegó, el abogado que lo utilizó y la parte beneficiada pueden encontrarse en posiciones de responsabilidad diferenciadas. El Derecho Procesal deberá construir criterios claros para distribuirla, bajo pena de que la opacidad tecnológica se convierta en un escudo frente a la rendición de cuentas.

Paradójicamente, el problema recuerda situaciones que el Derecho Procesal conoce desde hace siglos: el litigante que oculta documentos, el testigo evasivo, el perito que minimiza las limitaciones de su informe. La diferencia es que ahora el eventual comportamiento estratégico podría provenir de una herramienta tecnológica, y quienes la diseñaron o configuraron pueden alegar desconocimiento de sus efectos.

Esta posibilidad ha dejado de ser puramente hipotética, según comentábamos en una anterior columna en este mismo medio. En efecto, en mayo de 2026, un tribunal laboral brasileño detectó que las abogadas de la parte actora habían insertado en la demanda texto oculto -tipografía blanca sobre fondo blanco, invisible para el lector humano pero plenamente legible por sistemas automatizados- con instrucciones dirigidas al sistema de inteligencia artificial judicial para que procesara el escrito de manera superficial y se abstuviera de cuestionar la prueba documental. El tribunal calificó la maniobra como un ataque directo a la integridad del sistema judicial y sancionó a las abogadas con una multa equivalente al 10% del valor de la demanda, constituyendo uno de los primeros precedentes conocidos en que se sanciona judicialmente la manipulación de inteligencia artificial dentro de un proceso jurisdiccional.[2] El caso ilustra con precisión el cambio paradigmático que señala Navarro: ya no se manipula al juez directamente, sino al asistente algorítmico del juez —y quienes diseñaron o configuraron ese asistente pueden, por su parte, alegar desconocimiento de sus efectos.

Precisamente por ello, el debate jurídico no debería centrarse solo en la regulación de la inteligencia artificial como tecnología, sino también en la construcción de estándares procesales para la admisibilidad y valoración de la prueba producida mediante sistemas inteligentes. En los próximos años veremos surgir nuevas exigencias: auditorías independientes, certificaciones continuas, protocolos de evaluación robustos y peritajes especializados destinados a verificar que el comportamiento observado durante las pruebas corresponda al desplegado durante el litigio. Detrás de cada una habrá una pregunta de responsabilidad: quién garantiza el cumplimiento y quién responde cuando no se cumple.

La historia del Derecho Procesal demuestra que cada innovación tecnológica obliga a redefinir los mecanismos mediante los cuales el juez construye la verdad procesal. El verdadero desafío ya no consiste únicamente en preguntarnos si una inteligencia artificial tiene razón, sino en determinar quién responde cuando no la tiene y cómo puede el proceso garantizar que la forma en que esa razón se demuestra sea, ella misma, confiable. (Santiago, 2 de julio de 2026)

[1]Navarro, Gastón A., “Sandbagging y Scheming: los peligros reales de ‘hacer justicia’ mediante la inteligencia artificial (cuando el simple control humano no alcanza)”, Temas de Derecho Procesal, Erreius, junio 2026.

[2]Tribunal Regional del Trabajo de la 8ª Región, 3ª Vara do Trabalho de Parauapebas, Estado de Pará, República Federativa del Brasil, ATOrd n.º 0001062-55.2025.5.08.0130, juez Luiz Carlos de Araujo Santos Junior, sentencia del 12 mayo 2026