ONU alerta sobre violaciones de derechos humanos causadas por inteligencia artificial sin regulación clara

En la segunda jornada de la primera cumbre de Naciones Unidas sobre gobernanza de inteligencia artificial, expertos internacionales alertaron sobre crecientes evidencias de violaciones a derechos humanos vinculadas a esta tecnología, planteando una pregunta central aún sin respuesta clara: quién es legalmente responsable cuando la IA causa daño.

Según reportes del Panel Científico Global Independiente sobre IA, en 11 países del Sur Global, hasta un menor por aula informó que se utilizó la inteligencia artificial para crear deepfakes sexualmente explícitos de sus personas. Las denuncias de material de abuso sexual infantil generado por IA remitidas a la línea de denuncia estadounidense CyberTipline registran incrementos exponenciales, lo que evidencia el alcance real de estas vulneraciones.

El panel constató que la IA se está utilizando para "crear y amplificar persuasión y engaño, para difundir desinformación y desconfianza", mientras que los datos personales son "tomados, manipulados, abusados y explotados" por sistemas autoaprendibles. Las evidencias de violaciones contra individuos, grupos vulnerables y desfavorecidos resultan significativamente más contundentes que los beneficios reportados.

Volker Türk, Alto Comisionado de las Naciones Unidas para los Derechos Humanos, subrayó que una forma de asegurar que la IA sirva a la humanidad es "incorporar igualdad, rendición de cuentas y supervisión humana en su diseño, desarrollo e implementación". Comparó esta necesidad con los estándares de seguridad en medicamentos, automóviles y aeronaves, que hoy son vistos como razones para confiar en esas tecnologías, no como obstáculos al progreso.

Los expertos identificaron múltiples desafíos sin resolver: los centros de datos que alimentan las plataformas de IA consumen enormes cantidades de energía, afectando desproporcionadamente a comunidades marginalizadas en el Sur Global a través de "agua, energía, emisiones e impactos sanitarios cada vez más graves". Además, mientras la IA se desarrolla aceleradamente, los mecanismos legislativos de control y equilibrio se rezagan.

Aspectos específicos de seguridad siguen oscuros: los grandes modelos de lenguaje operan con aproximadamente 180 mil millones de parámetros continuamente, pero "muy pocos abogados y sociólogos están en posición de entender exactamente qué está pasando", e incluso investigadores de IA carecen de herramientas para comprender la complejidad de estos algoritmos.

Se documentó además que una de cada cuatro mujeres defensoras de derechos humanos, activistas y periodistas encuestadas por ONU Mujeres reportó haber experimentado violencia en línea asistida por IA, mientras que el 6 por ciento fue víctima de deepfakes o imágenes manipuladas digitalmente. El 88 por ciento de destacados investigadores de IA a nivel mundial son hombres, y las mujeres representan apenas el 30 por ciento de la fuerza laboral global del sector.

La cumbre busca que las prioridades de todas las naciones —no solo las tecnológicamente avanzadas— sean consideradas en la gobernanza global de la IA.