ONU alerta por explosivo aumento del abuso infantil facilitado por IA y exige medidas urgentes a Estados y empresas

El uso masivo de inteligencia artificial en entornos digitales ha provocado un aumento alarmante del abuso infantil facilitado por la tecnología, lo que motivó un llamado urgente desde todo el sistema de las Naciones Unidas para adoptar medidas destinadas a proteger a los niños del abuso, la explotación y el trauma mental. Según estimaciones recientes, solo en Estados Unidos los casos pasaron de 4.700 en 2023 a más de 67.000 en 2024.

Es una amplia gama de riesgos que enfrentan los niños en línea, incluyendo acoso sexual, deepfakes, ciberacoso, incorporación de funciones perjudiciales y exposición a contenido inapropiado. Durante la pandemia de COVID-19 muchos niños, especialmente niñas y mujeres jóvenes, fueron abusados en línea, situaciones que en numerosos casos derivaron en daño físico.

Organizaciones dedicadas a la defensa de los derechos de la infancia han alertado que los depredadores utilizan herramientas de IA para analizar el comportamiento en línea de los niños, su estado emocional y sus intereses, con el fin de adaptar estrategias de acoso. Asimismo, la IA ha facilitado la generación de imágenes falsas explícitas de niños reales, impulsando nuevas formas de extorsión sexual.

Un informe de 2025 del Instituto Global de Seguridad Infantil Childlight confirmó el crecimiento exponencial de estos delitos y reforzó la preocupación de los Estados miembros de la ONU, varios de los cuales han comenzado a adoptar medidas más estrictas. En ese contexto, Australia se convirtió a finales de 2025 en el primer país del mundo en prohibir el uso de redes sociales a menores de 16 años, tras constatar que casi dos tercios de los niños entre 10 y 15 años habían visto contenido violento, de odio o perturbador, y que más de la mitad había sufrido ciberacoso. Países como Malasia, Reino Unido, Francia y Canadá evalúan seguir el mismo camino.

A comienzos de 2026, diversos organismos de la ONU suscribieron una Declaración Conjunta sobre Inteligencia Artificial y los Derechos del Niño, publicada el 19 de enero, en la que se advierte una grave falta de alfabetización en IA entre niños, padres, docentes y cuidadores, así como una carencia de formación técnica en gobiernos y responsables políticos sobre marcos de IA, protección de datos y evaluaciones de impacto en los derechos del niño.

La declaración también puso el foco en la responsabilidad de las empresas tecnológicas, señalando que la mayoría de las herramientas de IA actualmente no están diseñadas teniendo en cuenta el bienestar infantil. Si bien existe preocupación en el sector privado por no frenar la innovación, es posible compatibilizar el despliegue responsable de la IA con la rentabilidad y el desarrollo empresarial, enfatizando que el sector privado es un socio clave, pero que es necesario alertar cuando el uso de la tecnología puede generar resultados perjudiciales.

Desde una perspectiva de derechos de la infancia, los organismos de la ONU recordaron que ya en 2021 se incorporó lenguaje específico sobre riesgos digitales en la Convención sobre los Derechos del Niño, pero subrayaron que se requiere mayor orientación y regulación efectiva. En esa línea, elaboraron un conjunto de recomendaciones dirigidas a Estados, organismos internacionales, empresas, educadores y familias.

Entre las principales medidas propuestas se encuentran el fortalecimiento de los marcos de gobernanza de la IA para proteger los derechos del niño; el diseño de sistemas transparentes y responsables; la prevención de la violencia y explotación infantil amplificadas por la IA; el refuerzo de la protección de datos personales; la priorización del interés superior del niño en decisiones automatizadas; el desarrollo de una IA inclusiva y libre de sesgos; la incorporación de las opiniones de niños y adolescentes en las políticas públicas; y la promoción de un desarrollo tecnológico sostenible que minimice el daño ambiental para las generaciones futuras.