Daniel Montalva Armanet: «Regular la inteligencia artificial a tiempo es hoy una condición para proteger los derechos fundamentales y la democracia”

Por Verónica Arrieta R., Universidad de Las Américas

La acelerada expansión de la inteligencia artificial ha dejado en evidencia una brecha cada vez más crítica entre el avance tecnológico y la capacidad del derecho para regularlo de manera oportuna y eficaz. En este escenario, Chile enfrenta el desafío de diseñar un marco normativo que permita fomentar la innovación sin sacrificar la protección de los derechos fundamentales, los principios democráticos y el Estado de Derecho. El proyecto de ley sobre Inteligencia Artificial se inscribe precisamente en ese esfuerzo: establecer reglas claras antes de que los riesgos se materialicen de forma irreversible.

La iniciativa propone un modelo regulatorio adaptativo y basado en riesgos, inspirado en la experiencia comparada —especialmente en la normativa europea—, que busca equilibrar el desarrollo tecnológico con mecanismos efectivos de supervisión estatal. A ello se suman incentivos a la investigación, a las pequeñas y medianas empresas y al sector académico, junto con excepciones acotadas en ámbitos sensibles como la defensa nacional y la investigación científica. Sin embargo, su éxito no dependerá solo de su diseño normativo, sino de que la regulación llegue a tiempo y se aplique de manera efectiva, evitando los vacíos legales que en otras materias han permitido vulneraciones sistemáticas de derechos.

En este contexto, la idea central que atraviesa el proyecto es clara: la inteligencia artificial debe estar al servicio del ser humano y no a la inversa, operando siempre dentro de los márgenes que imponen los derechos fundamentales, la democracia y el Estado de Derecho. Sobre estos desafíos, alcances y riesgos de la futura regulación, conversamos con Daniel Montalva Armanet, abogado y decano de la Facultad de Derecho de la Universidad de Las Américas, quien analiza críticamente el proyecto de ley y sus implicancias para la ciudadanía, el sector público y el desarrollo tecnológico del país.

1. ¿Cuál es el objetivo central del proyecto de ley de Inteligencia Artificial y qué problemas busca resolver en Chile?

El proyecto chileno de IA no nace en el vacío. Toma directamente elementos del modelo europeo, tomando como base la Artificial Intelligence Act de la Unión Europea, conocida como AI ACT, así como los principios éticos propuestos por la OCDE y la UNESCO, entre otros modelos.

Bajo este marco, el objeto del proyecto es promover la creación, desarrollo e implementación de la inteligencia artificial. Lo importante es que establece expresamente que esta siempre debe estar al servicio del ser humano, para lo cual se deben respetar los derechos fundamentales, los principios democráticos y el Estado de Derecho.

Esto se traduce en una regulación basada en riesgos, es decir, a mayor el riesgo, mayor la regulación y lo que busca evitar es principalmente la vulneración de derechos, discriminación algorítmica, opacidad, y pérdida de control democrático.

2. ¿Cómo garantiza el proyecto que el desarrollo y uso de la IA respete los derechos fundamentales y los principios democráticos?

El proyecto de ley propone lo que se denomina una “ley marco” que establece determinados principios en los que se hace un enfoque explícito de derechos humanos. Junto con esto se establece un sistema basado en riesgos, para luego realizar una delegación reglamentaria para los aspectos técnicos que requieren mayor flexibilidad.

El enfoque de la iniciativa es adecuado para garantizar el respeto a los derechos fundamentales y principios democráticos. El gran desafío que tenemos en la actualidad, no sólo para la regulación de la IA, sino que para las nuevas tecnologías que ya están comenzando a aparecer como es el caso de la Inteligencia General Artificial, la Computación cuántica, la neuro tecnología avanzada o la biología sintética, es que como nunca, la realidad avanza mucho más rápido que la regulación.

Regular tarde, muchas veces es lo mismo que no regular, y en nuestro país sobran ejemplos. En protección de datos personales tenemos vigente una ley promulgada en 1999 y recién a fines del año comenzará a regir la nueva ley, llegando así más de dos décadas tarde, con toda la vulneración de derechos fundamentales que hemos visto en este cuarto de siglo. Con el transporte por aplicaciones -Uber- pasa lo mismo, ya que somos uno de los pocos países sin regulación a pesar de tener una ley del 2023, ya que aún no comienza a regir debido a que no se ha dictado el reglamento. Con el comercio electrónico, las criptomonedas y la ciberseguridad ocurrió lo mismo, largos vacíos normativos en los que se vulneraron los derechos fundamentales y principios democráticos.

Así si realmente queremos garantizar los derechos fundamentales y los principios democráticos en la era del conocimiento exponencial es necesario avanzar a un modelo legislativo adaptativo que ya está siendo aplicado en diversos países y propuesto por organismos internacionales, de no ser así seguiremos llegando tarde.

3. El proyecto menciona la promoción de la innovación y el desarrollo sostenible. ¿Qué incentivos o regulaciones específicas se contemplan para el sector privado y académico?

El proyecto de ley considera la innovación y el desarrollo a lo largo de su articulado. El primero y más básico es que el sistema de regulación basado en riesgo permite avanzar con mínima regulación en aquellos sistemas de bajo o mínimo riesgo, como son la IA creativa, las herramientas de productividad, la investigación académica y las startups tecnológicas.

Junto con esto se adoptan los sandboxes regulatorios que son espacios controlados de pruebas para sistemas de IA que permiten probar sistemas innovadores con flexibilidad regulatoria temporal, en lo que las universidades jugarán un rol clave. A su vez, se promueven medidas explicitas dirigidas a Pymes. Respecto del desarrollo sostenible, esto se ve recogido en el principio de bienestar social y medioambiental que considera la iniciativa.

4. ¿Qué mecanismos de supervisión y fiscalización se proponen para asegurar que los sistemas de IA sean seguros y transparentes?

De acuerdo al proyecto de ley, la fiscalización y cumplimiento normativo recaerá en la Agencia de Protección de Datos que se creó en la ley 21.719, pero que aún no se constituye, por lo que tendremos que ver si finalmente es la adecuada para la supervigilancia de la IA. Además el proyecto establece un complejo sistema de fiscalización y de sanciones por el incumplimiento normativo con multas que pueden llegar a los más de mil trescientos millones de pesos.

5. ¿Existen excepciones relevantes en la aplicación de la ley, por ejemplo, en defensa nacional o investigación científica? ¿Cómo se justifican estas exclusiones?

Si se consideran estas excepciones, así como ocurre en casi todas las regulaciones nacionales e internacionales. En cuanto a la seguridad nacional, esto se basa en el entendido que la defensa requiere de regulaciones propias, cierta flexibilidad y confidencialidad, pero en ningún caso significa que no quedan sujetas a principios democráticos, al Estado de Derecho y el respeto a los derechos humanos. En todo caso, no se trata de una excepción amplia, sino que únicamente a los sistemas de IA que considere el Ministerio de Defensa Nacional mediante una resolución reservada.

Respecto de la investigación esto se debe a que la ley no puede traducirse en un desincentivo para esta y la innovación. En todo caso la propia ley señala que a pesar de estar excluida, debe respetar los derechos fundamentales y si se producen daños durante las pruebas o investigación de igual manera se aplica la ley.

6. ¿Qué rol tendrán las instituciones públicas en la implementación de esta ley y cómo se coordinarán con el sector privado?

El sector público cumple diversos roles en la implementación de la ley. Como conductor estratégico y coordinador intersectorial mediante el Consejo Asesor Técnico de IA y el Departamento de Tecnología de IA que dependerán del Ministerio de Ciencia, Tecnología, Conocimiento e Innovación.

En cuanto a su rol de fiscalización y supervisión, este recaerá en la Agencia de Protección de Datos.

Finalmente, también tendrá un rol como usuario de IA quedado regulado por la ley como cualquier otro actor.

En cuanto a la coordinación con el sector privado, esto se aplicará mediante los sanboxes regulatorios y el incentivo a las pymes que se radicarán en los ministerios de Ciencia, Tecnología, Conocimiento e Innovación y de Economía, Fomento y Turismo

7. Desde una perspectiva ciudadana, ¿cómo impactará esta ley en la vida cotidiana de las personas y en su relación con tecnologías basadas en IA?

Lo que va a impactar la vida cotidiana de las personas va a ser el uso cada vez más masivo de IA, la que a su vez será cada vez más compleja. La falta de ley tendría más impacto ya que ahí veríamos casos de mal uso de las tecnologías sin ningún tipo de rendición de cuentas con los riesgos cada vez mayores que eso significa.

Una buena ley que establece sistemas de fiscalización y de cumplimiento normativo funciona mejor cuando pasa desapercibida, ya que eso se traduce en que ha sido adecuada para el buen uso de las tecnologías.

El único impacto que podríamos ver a mediano y largo plazo es si los incentivos a la investigación, creación y desarrollo son exitosos en posicionarnos en un nivel distinto de simples usuarios de IA así como incentivar el uso de estas tecnologías por las PYMES haciéndolas más competitivas.