Gobierno español publica informe que analiza responsabilidad penal por pornografía infantil generada con inteligencia artificial en medios digitales

El gobierno de España presentó un informe técnico sobre la convergencia entre inteligencia artificial generativa y redes sociales. El documento examina la creación de contenidos sexuales mediante IA y su propagación masiva, identificando un incremento en la producción de imágenes hiperrealistas y la utilización de sistemas algorítmicos que facilitan la circulación de material que afecta a menores de edad.

El texto aborda la configuración de las herramientas de IA y los mecanismos de recomendación de las plataformas digitales como factores que inciden en la exposición a contenidos explícitos. Según el informe, se han detectado dinámicas donde los algoritmos pueden amplificar la visibilidad de material ilícito o derivar a los usuarios hacia redes de contacto vinculadas a la explotación sexual. Asimismo, se mencionan evaluaciones específicas sobre chatbots y redes sociales que carecerían de filtros preventivos o sistemas de verificación de edad efectivos.

Desde el ámbito jurídico, el documento analiza la adecuación de estas conductas en el Código Penal español, citando los artículos relativos a la pornografía infantil y los delitos contra la integridad moral. El estudio destaca la posibilidad de exigir responsabilidad penal a las personas jurídicas propietarias de las plataformas, fundamentada en el diseño de herramientas que permitan la generación de dichos contenidos o en una gestión algorítmica que fomente su difusión.

Finalmente, el informe aporta datos sobre la conectividad de la población estudiantil y la prevalencia de experiencias de victimización digital. El análisis concluye que la infraestructura técnica de las redes sociales y la capacidad de las herramientas generativas actuales constituyen un nuevo escenario de riesgo que requiere una revisión de las estrategias de persecución penal y de los deberes de cuidado de las empresas tecnológicas.

El documento técnico interministerial de España sistematiza los riesgos derivados de la integración de inteligencia artificial en redes sociales, con énfasis en la creación de deepfakes y la responsabilidad de los sistemas de recomendación. La investigación evalúa la imputación penal de las plataformas como personas jurídicas ante la difusión masiva de contenido sexual de menores, analizando cómo el diseño algorítmico y la falta de controles preventivos pueden configurar delitos previstos en la legislación penal española.

Vea texto del informe.