Juez argentino ordena el bloqueo a nivel nacional de aplicación de inteligencia artificial utilizada para generar imágenes sexuales falsas de menores de edad

El Juzgado de Familia, Niñez y Adolescencia de Paso de los Libres (Argentina) ordenó el bloqueo a nivel nacional de una aplicación que genera imágenes sexuales falsas de mujeres utilizando inteligencia artificial. Dictaminó que los actos denunciados afectan gravemente la dignidad e intimidad de las afectadas, configurándose a su juicio un caso de violencia de género. En su decisión, citó una serie de instrumentos normativos nacionales e internacionales que cautelan los derechos de mujeres y menores de edad.

La decisión fue adoptada en el marco de la denuncia que el padre de una joven realizó ante los tribunales. Alegó que a través de WhatsApp se difundieron imágenes editadas con la referida aplicación, que mostraban a su hija adolescente desnuda y en actitudes sexuales, siendo varias las menores afectadas. En virtud de estos hechos, el juez del caso decretó el bloqueo cautelar de la aplicación en cuestión, así como una investigación para establecer responsabilidades.

En su análisis de fondo, el Juzgado observa que, “(…) de acuerdo al informe pericial informático remitido por el Área de Seguridad Informática de la Dirección de Informática, la aplicación cuenta con una naturaleza técnica “que utiliza inteligencia artificial (IA), específicamente modelos generativos avanzados como Redes Generativas Antagónicas (GANs) o modelos de difusión, para modificar digitalmente imágenes de personas. Su función principal consiste en simular la eliminación digital de ropa en fotografías cargadas por los usuarios. Para la Generación de Contenido: la IA produce nuevas imágenes, eliminando digitalmente la ropa y completando visualmente las áreas ocultas con resultados plausibles”.