Impacto de la inteligencia artificial en la protección de datos personales y privacidad

1. ¿Cree usted que la inteligencia artificial representa una amenaza real a los derechos fundamentales, o es solo un riesgo controlable con regulación adecuada?

Entiendo el sentido de la pregunta, sin embargo, me parece que jurídicamente es mejor asumir una posición descriptiva que normativa frente a la irrupción de la inteligencia artificial —en tanto mecanismo cognoscitivo—. Creo, también, que entender el paradigma de los Derechos Humanos de manera antologizada en nada permite conciliar –o abrir la posibilidad de acoplamiento estructural (a la Luhmann)— uno y otro sistema de significaciones y comunicaciones. Así, tampoco ayuda intencionar una suerte de clausura del sistema de los Derechos Humanos. En términos descriptivos —de nuevo— las garantías fundamentales han sido un discurso, necesario, que ha tenido por objetivo la estabilización de expectativas normativas ante un contexto infraccional de suyo. En tal sentido, el desajuste de esa posibilidad —cuestión empíricamente cierta— exige una renovación de su sentido comunicativo intersubjetivo. Por lo mismo, preguntarse por una suerte de riesgo controlable o regulable es una interrogante incierta que dependerá del modo como tramas de significaciones reaccionen a ese acople y al mayor o menor éxito que tal pueda tener en la función de estabilización social. En ese sentido, me parece, esa pregunta es más sociológica que jurídica lo que no significa que el Derecho no la asuma como desafío.

2. ⁠**¿Qué derechos considera más expuestos frente al uso de IA: privacidad, igualdad, libertad de expresión, ¿debido proceso?¿Por qu****é?**

Creo que resulta una cuestión de natural ocurrencia que las definiciones que se tienen por estructurales padezcan modificaciones fruto de las irritaciones que surgen desde sistemas de comunicaciones colindantes al Derecho. En ese sentido, la mayor o menor exposición que pueda tener la forma de comprensión de una garantía dependerá, de manera precisa, del modo cómo esa definición, en definitiva, sirva a la función de estabilización. Es importante —retomando la idea de la primera respuesta— considerar que en términos descriptivos, la inmovilidad conceptual es un mecanismo de estabilización. Se ontologiza y se recurre a concepciones que así demuestran esa intangibilidad conceptual con la intención precisa de fijar significaciones que permitan a quienes se relacionan al interior de un sistema, representarse con mayor predictibilidad sus posibilidades. Sin embargo, esa fijación —en términos sustantivos— no es sino una función de un sistema y del Derecho, en particular, y no una condición de posibilidad del mismo. Ello quiere decir que la “privacidad”, “igualdad”, “libertad” y demás garantías se encuentran afectas a modificaciones y la exposición por la que pregunta no sería sino el modo como tales se van adaptando a los nuevos contextos.. Si piensa en la noción de libertad del Derecho Romano y la que existe al amparo de la Convención Americana de Derechos Humanos; hay ahí un arco que describe lo que se avanza. Sostener, entonces, que vivimos, hoy, en una suerte de epítome moral intangible parece un error epistémico.

3. ⁠**¿Hasta qu****é punto el uso de IA para recolectar, procesar y cruzar datos personales vulnera el derecho a la vida privada?**

Esa cuestión exige una definición positiva. En tal sentido, the European Union Artificial Intelligence Act —que entró en vigor el día 01 de agosto de 2024 con una vacancia de 24 meses— es un esfuerzo ejemplar en la materia no sólo por el modo cómo intenta regular la incidencia de la inteligencia artificial sino por la forma cómo busca ajustarse a la dinámica de la primera. Así, también, la orgánica europea ha distribuido tareas y responsabilidades entre la Comisión Europea y los Estados miembros, cuestión que permite desarrollar intersubjetividad sobre conceptos, demarcaciones y riesgos. Ese despliegue es siempre lento y dependerá del modo cómo la praxis en inteligencia artificial vaya ajustándose a las nuevas formas de reglamentación. En algún sentido, estamos viviendo un momento equivalente a cuando las legis actiones fueron desplazadas por el procedimiento formulario. En ese sentido, el “hasta qué punto” de la pregunta es una cuestión contingente que exige decisiones comunitarias.

4. ⁠En el caso de tecnologías como el reconocimiento facial en espacios públicos,¿se justifica la intromisión en la privacidad en nombre de la seguridad?

Quizá, de manera muy arbitraria, responderé la pregunta desde el concepto de “espacio público”. Es curioso —y da cuenta cómo las nociones ontologizadas no son sino acomodos y ortopedias de personas que hacen de la repetición memorística de fallos y opiniones sin mayor deliberación y sin pretensión, verdaderamente, normativa— cómo la demarcación de lo que és (y qué no es) espacio público evidencia que el Derecho es un artificio que puede ser explicado en términos foucaultianos más que habermasianos —dándole la razón a Luhmann—. Por ejemplo, hace ya mucho tiempo que en Huachalalume, La Pólvora y en otros centros de cumplimiento penitenciario, la “intromisión en la privacidad”, especialmente, de mujeres pobres es regla franca. Como si se tratara de cuerpos fungibles y utilizables por el Estado (y el Derecho) en tanto mecanismos de pacificación carcelaria. La praxis de los venusterios dista de ser aquélla prevista en la regla sin que ello genere ningún tipo de revuelo o reacción. Hoy, en Chile, el Derecho posibilita la intromisión vejatoria del Estado en la intimidad de mujeres pobres. Y ello ocurre porque la definición que cursa el Derecho resulta incluyente y excluyente de espacios de relaciones y significaciones. Eso implica —y volviendo a la formulación original de la pregunta— que toda justificación de intromisión es arbitraria y se encuentra sujeta a doble contingencia, eso sí.

5. ⁠**¿El uso de IA en publicidad segmentada o en manipulación de contenidos atenta contra la libertad de elección de las personas?**

Habría que definir cuáles son las condiciones que permiten sostener, hoy, que existiría libertad de elección, y cómo es que el Derecho asume que el libre arbitrio de las personas se despliega en ese contexto. Me parece, de nuevo, que la institución romana de la manumisión permite, retrospectivamente, examinar que lo que entendemos por libertad no son sino términos aleatorios que funcionan de manera utilitaria a intereses diferentes del sujeto, y que el Derecho se encontraría al servicio de esos intereses excéntricos al sujeto que cree deliberar sobre su destino (a la Hegel). Frank Ruda en Indifference and Repetition; or, Modern Freedom and Its Discontents afirma que lo que entendemos por libertad —sus términos y extensión— es un artificio funcional a un contexto determinado. Lo que intento sostener es que la libertad de

elección no sería ni libertad ni de elección, por lo mismo cualquier interferencia tampoco importaría una infracción.

6. ⁠**¿El uso de IA por parte del Estado (por ejemplo, en vigilancia predictiva o decisiones judiciales) podría limitar la autonomía y dignidad de los ciudadanos?**

El Derecho, por definición, es una limitación a dicha autonomía y un intento por definir qué sería dignidad. Al menos en términos descriptivos, es el Derecho el que resulta condición de dicha autonomía y dignidad —cualquier intento normativo no constructivo genera dificultades epistémicas muy difíciles de resolver sin incurrir en pensamiento mágico—. El concepto, por ejemplo, de “orden público” que durante mucho tiempo significó, en nuestra jurisprudencia, un mandato —casi una exigencia sacramental— para la Corte Suprema de rechazar la homologación de sentencias de divorcio vincular cursadas en países extranjeros tenía ese mismo efecto. El punto, en esta cuestión, no es la incidencia de la inteligencia artificial sino cómo definimos Derecho.

7. ⁠**¿Chile necesita una normativa constitucional o legal espec****ífica para proteger los derechos fundamentales frente a la IA, o basta con aplicar las normas vigentes?**

La verdad, no tengo una imagen positiva de nuestro legislador. Sí, sin embargo, de nuestro sistema de adjudicación y de sus integrantes. Me parece que la trama de reglas internas, supranacionales y consuetudinarias, hoy, sí permite que jueces y juezas puedan a la Ferrajoli y sin desformalizar el Derecho —a la Atria— enfrentar los desafíos que impone la incidencia de la inteligencia artificial. En tal sentido, no bastan las reglas, pero no son necesarias otras. Habría que enfatizar que la actividad judicial es determinante en esta materia.

8. En su opinión,¿la IA es más una herramienta para potenciar derechos (ej. acceso a la justicia, salud, educación) o una amenaza que debe restringirse?

El Derecho Romano, como sistema de reglas, logró percibir que era necesario un conjunto de normas diferente del ius civile que fuera atinente a las relaciones entre romanos y extranjeros. En tal sentido, el ius gentium logra, al des formalizar la institución romana jurídica original, estabilizar expectativas normativas sobre la base de principios y directivas. Ese cambio, me parece, es el que estamos viviendo. Y resulta un privilegio asistir de espectador.