Justicia de EE.UU. sanciona a abogado que redactó prompts ocultos en escritos para engañar a sistema judicial de IA

Un tribunal de primera instancia de Connecticut (Estados Unidos) aplicó medidas disciplinarias contra uno de los abogados en un litigio tras comprobar que incorporó prompts (instrucciones) encubiertos en sus documentos procesales. La maniobra buscaba condicionar la lectura de eventuales herramientas de inteligencia artificial de asistencia técnica, mediante órdenes redactadas en fuente de tres puntos y tipografía blanca sobre fondo blanco, las cuales resultaban imperceptibles para la vista humana pero legibles para lectores automatizados.

El propósito de la táctica consistía en que, en caso de que el tribunal empleara tecnología algorítmica para clasificar, resumir o ponderar las presentaciones, el sistema informático interpretara dichas líneas como comandos directos para inclinar el análisis a su favor. La anomalía fue advertida por la magistratura al momento de imprimir los escritos en papel, instancia en la cual se hicieron visibles diversos espacios en blanco irregulares que motivaron una revisión técnica de los archivos.

La resolución judicial calificó este proceder como una inyección de instrucciones no autorizada y remarcó que introduce un debate inédito en la materia. A diferencia de las controversias habituales sobre el empleo de tecnología por las partes para redactar escritos o la inclusión de citas jurídicas erróneas, en esta oportunidad la conducta consistió en diseñar un documento con el propósito expreso de intervenir el procesamiento tecnológico interno del tribunal.

El tribunal precisó que, aun cuando no empleara programas de IA automatizadoS para revisar los expedientes y la maniobra no logró alterar el curso de la causa, la falta mantuvo su gravedad. Para el juzgador, ingresar contenido oculto con la finalidad de influir sobre herramientas tecnológicas institucionales quebranta las exigencias de buena fe procesal que deben regir todo litigio.

A raíz de estos antecedentes, la judicatura determinó revocar al abogado el permiso para utilizar la plataforma electrónica de tramitación judicial. En consecuencia, la resolución ordenó que todas las futuras gestiones, solicitudes y documentos que deba ingresar al proceso se efectúen exclusivamente en formato físico de papel y de manera presencial ante el tribunal.

El pronunciamiento abre una nueva arista respecto a los desafíos que plantea la tecnología en el ámbito legal, al evidenciar la necesidad de resguardar los sistemas judiciales ante archivos concebidos intencionalmente para manipular herramientas digitales, trascendiendo el mero control sobre la redacción de antecedentes jurídicos generados por sistemas externos.

Vea texto de la sentencia.