Bixonimania: una parábola procesal sobre la inteligencia artificial

La bixonimania nunca existió. Fue una enfermedad ficticia creada en 2024 por la investigadora Almira Osmanovic Thunström, de la Universidad de Gotemburgo, para comprobar si una inteligencia artificial incorporaría información falsa como si fuera conocimiento científico. La condición inventada —una hiperpigmentación periorbitaria causada por la luz azul de las pantallas— se sembró de señales de alerta absurdas para que ningún humano cayera en el engaño. Aun así, indexado el material falso, distintos chatbots comenzaron a describirla con naturalidad: explicaban su etiología, proponían diagnósticos y sugerían tratamientos, con respuestas coherentes y de apariencia científica.

Todo era falso. Y, sin embargo, todo parecía verdadero: un equipo de investigadores en India llegó a citar uno de los «papers» falsos en Cureus, revista médica revisada por pares, que debió retractarse meses después. La ficción no solo engañó a la máquina: contaminó la literatura que los propios humanos revisan entre pares.

A mi juicio, esto no es un problema de inteligencia artificial, sino una verdadera parábola procesal: un experimento que, sin ocurrir en tribunal alguno, revela un principio permanente del Derecho Procesal. Durante siglos, éste ha desconfiado de toda afirmación destinada a influir en un juez cuando no es posible conocer cómo fue construida —de ahí el interrogatorio y contrainterrogatorio del testigo, la prueba pericial, la publicidad del juicio y la motivación de las sentencias—. El proceso jamás ha confiado ciegamente en una fuente de conocimiento; ha construido, más bien, un sistema para controlar cómo ese conocimiento se obtiene.

Y entonces aparece la inteligencia artificial. El debate suele concentrarse en la calidad de sus respuestas, pero la pregunta relevante es otra: ¿cómo llegó a saber lo que afirma saber? Un algoritmo no razona como un juez ni investiga como un perito: aprende de lo incorporado en su entrenamiento. Estudios posteriores confirman que los modelos de lenguaje alucinan más cuando el texto imita un documento clínico o científico serio: mientras más profesional parece la fuente, mayor el riesgo de que la máquina la trate como verdadera sin control alguno.

Aquí la bixonimania se vuelve una advertencia constitucional. No demuestra que la inteligencia artificial pueda equivocarse —los humanos también lo hacen—, sino algo más inquietante: que un conocimiento construido sobre premisas falsas puede conservar toda la apariencia de rigor, e infiltrarse incluso en la literatura revisada por pares. Por eso el objeto del control ya no puede ser solo la respuesta del algoritmo, sino el procedimiento mediante el cual ese conocimiento fue construido. La ciencia ya conoció una discusión semejante: el precedente Daubert recordó que el conocimiento científico no ingresa al proceso por la autoridad del experto, sino porque supera estándares mínimos de confiabilidad y se somete al contradictorio. La inteligencia artificial no debería ser la excepción.

Si un algoritmo pretende influir en decisiones sobre la libertad, el patrimonio o los derechos fundamentales, el debido proceso exige la misma pregunta que durante siglos ha dirigido a toda fuente de conocimiento: ¿cómo se construyó aquello que hoy pretende presentarse como verdad? Quizás la principal enseñanza de la bixonimania no pertenezca a la informática, sino al Derecho Procesal: nos recuerda que el debido proceso nunca ha consistido en confiar ciegamente en quien afirma saber, sino en exigir que todo conocimiento pueda ser conocido, examinado y contradicho. Solo así la tecnología dejará de ser un acto de fe para convertirse en una fuente legítima de conocimiento judicial.

Francisco José Pinochet Cantwell

Doctor en Derecho

Universidad Nacional de Rosario, Argentina

LL.M California Western School of Law, USA