Amnistía Internacional advierte sobre recolección ilegal de datos para entrenar modelos de inteligencia artificial

La ONG Amnistía Internacional manifestó su preocupación ante el uso de herramientas de extracción masiva de datos en internet por parte de grandes corporaciones tecnológicas. De acuerdo con un reciente informe de la organización, firmas como Google, Meta y OpenAI han recopilado volúmenes significativos de información digital sin la autorización previa de los usuarios con el objetivo de entrenar sus modelos de inteligencia artificial generativa.

La entidad sostiene que esta modalidad de recolección de datos vulnera las normativas internacionales de privacidad y otros derechos fundamentales, por lo que ha solicitado a las autoridades gubernamentales prohibir estas técnicas e implementar regulaciones estrictas sobre el sector.

La denuncia detalla que el funcionamiento y desarrollo de estos sistemas independientes de inteligencia artificial se sustentan en el rastreo automatizado de miles de millones de publicaciones públicas en la web. Likhita Banerji, representante del Laboratorio de Responsabilidad Algorítmica de la ONG, señaló que el procesamiento de datos sin consentimiento explícito contradice los tratados globales que resguardan la vida privada en el entorno digital.

Asimismo, el documento advierte que las herramientas resultantes tienden a reproducir y perpetuar sesgos de género, raciales y estereotipos culturales que ya están presentes en la información extraída de las plataformas virtuales. El reporte también identifica un impacto colateral en el ámbito medioambiental derivado de la expansión de esta tecnología.

La construcción y operación de los centros de datos necesarios para procesar la inteligencia artificial demandan un consumo intensivo de recursos hídricos en zonas que ya enfrentan escasez de agua, además de generar una cantidad considerable de residuos electrónicos con componentes peligrosos como el plomo y el mercurio. A esto se suma que la infraestructura de soporte depende de la explotación de minerales críticos y elementos de tierras raras, cuya obtención se realiza frecuentemente bajo criterios de insostenibilidad.

Ante este escenario, la ONG instó a las compañías del rubro a detener la captación masiva no autorizada de datos y exhortó a los Estados a establecer mecanismos de rendición de cuentas por los eventuales abusos derivados del diseño de software y las políticas corporativas. Este pronunciamiento se enmarca en un debate global creciente sobre los riesgos de la inteligencia artificial.

El debate abarca desde la filtración de datos y la vigilancia automatizada hasta la creación de contenidos sintéticos orientados a influir en la conducta de poblaciones vulnerables, como los menores de edad. En respuesta a estos desafíos, diversas naciones han comenzado a dictar leyes específicas, coincidiendo con el llamado de las Naciones Unidas para estructurar una gobernanza global que regule estos avances sin frenar la innovación tecnológica.

Vea texto del informe.