Senadores proponen regular uso ético de IA en investigación biomédica

La moción de los senadores Chahuán, García, Prohens y Pugh, junto a la senadora Rincón, tiene por objeto promover el uso ético de la inteligencia artificial en la investigación biomédica, resguardando la protección de datos personales, evitando la discriminación arbitraria y delimitando la responsabilidad y supervisión humana de estos sistemas, en un contexto de creciente desarrollo tecnológico y científico.

Exponen que la inteligencia artificial ha experimentado un crecimiento exponencial y se ha incorporado en múltiples sectores, entre ellos la medicina y la investigación biomédica, donde puede mejorar la interpretación de datos, la precisión diagnóstica y la generación de conocimiento científico. Sin embargo, este avance plantea desafíos éticos relevantes, como la protección de la privacidad, la prevención de sesgos discriminatorios y la garantía de que dichos sistemas no sustituyan el criterio clínico humano ni la responsabilidad profesional.

En este marco, la iniciativa propone un cuerpo normativo que defina principios como la transparencia, la no discriminación arbitraria, el respeto a los derechos humanos y la confidencialidad en el uso de inteligencia artificial aplicada a la investigación biomédica desarrollada en territorio nacional o con datos provenientes de personas en el país.

También establece que la autorización para llevar a cabo investigaciones que utilicen inteligencia artificial deberá someterse a la decisión del comité de ética del organismo correspondiente, y dispone que todo sistema de este tipo opere bajo supervisión humana constante, asegurando que la toma de decisiones críticas sea evaluada y validada por profesionales.

Asimismo, la moción incorpora obligaciones para las instituciones que apliquen inteligencia artificial en el ámbito investigativo, tales como identificar y mitigar riesgos asociados a sesgos algorítmicos, documentar y declarar en publicaciones científicas el uso de estos sistemas, y mantener una trazabilidad documentada de los datos y modelos utilizados durante el proceso investigativo.

El texto también establece que la utilización de datos provenientes de prestadores de salud deberá respetar plenamente los derechos de las personas en su atención de salud y que el consentimiento informado para el uso de datos personales sea expreso, explícito e inequívoco, con la posibilidad de revocación en cualquier momento.

Finalmente, la iniciativa contempla que el cumplimiento de estas disposiciones será objeto de fiscalización por los organismos competentes y que el incumplimiento podrá ser sancionado con multas, la suspensión del proyecto, la revocación de autorizaciones o la inhabilitación temporal de los responsables.

En síntesis, el proyecto de ley establece un marco regulatorio para el uso de inteligencia artificial (IA) en investigación biomédica en Chile. A continuación, se detallan los puntos clave:

Objetivo y ámbito de aplicación: Promover el uso ético de la IA en investigación biomédica. Aplicable a profesionales e instituciones que usen IA en proyectos de investigación biomédica en Chile o con datos de personas en Chile.

Principios rectores: Transparencia. No discriminación arbitraria. Respeto a los derechos humanos. Confidencialidad.

Autorización y responsabilidad: Los comités de ética deben autorizar las investigaciones que usen IA. La responsabilidad recae en el profesional que usa el sistema, no en la IA.

Supervisión y evaluación: Supervisión humana constante es obligatoria. Las instituciones deben evaluar y mitigar riesgos, especialmente sesgos algorítmicos.

Transparencia y trazabilidad: Obligación de documentar y declarar el uso de IA en publicaciones científicas. Mantener trazabilidad de datos, modelos y modificaciones.

Protección de datos y consentimiento: Respeto a los derechos de las personas según la Ley N°20.584. Consentimiento informado expreso, explícito e inequívoco para el uso de datos personales.

Fiscalización y sanciones: Supervisión por organismos competentes. Sanciones incluyen multas, suspensión de proyectos y inhabilitación de responsables.

Como se ve, el proyecto de ley busca equilibrar el avance científico con la protección de los derechos individuales en el contexto de la investigación biomédica que utiliza IA.

La iniciativa legal, que cumple su primer trámite constitucional en el Senado, se remitió a la Comisión de Desafíos del Futuro, Ciencia, Tecnología e Innovación para su estudio y posterior informe a la Sala de la Corporación.

Vea texto moción Boletín N° 17.982-19 y siga su tramitación aquí.