Senador propone ley para implementar sello distintivo en productos de IA para combatir fraudes y promover uso ético

La moción, patrocinada por el Senador Francisco Chahuán, exige a las aplicaciones de inteligencia artificial la incorporación de un sello distintivo para diferenciar el contenido generado por IA y responsabilizar a las empresas creadoras en caso que generen un uso que no sea transparente, seguro y confiable.

El autor de la iniciativa expone que el avance vertiginoso de la Inteligencia Artificial (IA) a nivel mundial ha traído consigo tanto beneficios como riesgos, especialmente en la creación de imágenes, videos y textos indistinguibles de la realidad. Ante esta situación, Chile se suma a la tendencia global de regular el uso de esta tecnología para prevenir su uso fraudulento y proteger a la sociedad.

Por ello, la iniciativa legal busca establecer un marco regulatorio que exija la implementación de un sello de autenticidad claro y rastreable en todo contenido generado por IA. Esta medida tiene como objetivo principal combatir los llamados «Deep fakes», que han sido utilizados para cometer estafas, abusos sexuales, suplantación de identidad e incluso para fabricar pruebas falsas en procesos judiciales.

Se propone reconocer el principio de transparencia como eje fundamental para el uso ético de la IA, para que las empresas generadoras como Gemini o ChatGPT sean responsables de incorporar este sello desde la elaboración primaria de sus productos, garantizando así la autenticidad desde el origen.

«La regulación de la IA resulta ser una necesidad ineludible para proteger a la sociedad de sus riesgos inherentes, sin frenar su progreso», señala el promotor del proyecto. Esta medida busca no solo prevenir el uso indebido de la tecnología, sino también fomentar una IA transparente, segura y confiable.

El proyecto de ley, afirma su autor, se alinea con iniciativas similares en otros países que han adoptado medidas para combatir las malas prácticas asociadas al uso de la IA.

La propuesta legislativa contempla además la imposición de sanciones drásticas para quienes infrinjan el principio de transparencia, buscando así disuadir el uso fraudulento de la tecnología.

La iniciativa legislativa consta de tres artículos:

Obligación de sello: Los generadores de contenido de IA que usen datos personales para crear o modificar contenido destinado a difusión deben incorporar un sello o indicación en dicho contenido.

Reglamentación: Se establecerá un reglamento que detallará: Características y dimensiones del sello, junto a posibles excepciones a la obligación

Sanciones: Las infracciones a esta ley serán sancionadas según lo dispuesto en el inciso segundo del artículo 3° de la ley N° 21.495, sobre delitos informáticos.

Con todo, se aclara que la iniciativa no pretende frenar el avance de la IA, sino sólo establecer una forma para proteger a la sociedad con una regulación que permita el uso ético y responsable de esta herramienta.

Cabe señalar que existen otras iniciativas respecto a este dispositivo sobre otros ámbitos de utilización de la IA que pretenden “promover la creación, desarrollo, innovación e implementación de sistemas de inteligencia artificial (“IA”) al servicio del ser humano, que sean respetuosos de los principios democráticos, del Estado de Derecho y los derechos fundamentales de las personas frente a los efectos nocivos que determinados usos pudieran irrogar.” (Véase Boletín Nº 16821-19 refundido con Nº 15869-19 ).

El proyecto de ley, que cumple su primer trámite constitucional, quedó radicado para su estudio e informe a la Sala del Senado en su Comisión de Desafíos del Futuro, Ciencia, Tecnología e Innovación.

Vea texto moción Boletín Nº 17810-19 y siga su tramitación aquí.