Deepfakes
Tribunal de Países Bajos prohíbe a X Corp facilitar creación de pornografía infantil con inteligencia artificial
La decisión examina la responsabilidad jurídica de los proveedores de inteligencia artificial y redes sociales frente a la creación de contenido que vulnera la privacidad y la integridad de las personas. El fallo establece que el cumplimiento de los términos de servicio resulta insuficiente cuando las medidas técnicas implementadas no logran mitigar eficazmente los riesgos de generar material sexual sin consentimiento o representaciones prohibidas de menores.
El Tribunal de Distrito de Ámsterdam (Países Bajos) dictó una sentencia en el marco de un procedimiento sumario iniciado por la fundación Offlimits contra X.AI LLC y X Corp. La resolución prohíbe a la herramienta de inteligencia artificial generativa Grok y a la plataforma X la creación y difusión de imágenes que muestren a personas desnudas total o parcialmente sin su consentimiento explícito. La orden judicial se circunscribe a individuos residentes en los Países Bajos y a la producción o propagación de dicho material dentro del territorio nacional.
El pronunciamiento judicial también extiende la prohibición a la fabricación y exhibición de cualquier contenido generado por inteligencia artificial que, bajo la legislación neerlandesa, sea calificado como material de abuso sexual infantil. La magistrada a cargo del caso fundamentó la decisión en la presunta infracción de normas sobre protección de datos personales, específicamente el Reglamento General de Protección de Datos (RGPD), y en la configuración de actos ilícitos bajo el Código Civil de los Países Bajos. El tribunal desestimó los argumentos de las empresas demandadas, quienes sostenían que sus filtros técnicos actuales eran capaces de impedir estas prácticas de forma global.
Durante la etapa de valoración de pruebas, la parte demandante presentó evidencia de que el chatbot Grok permitía, hasta fechas recientes, la generación de videos de carácter sexual a partir de fotografías de personas reales sin mediar verificación de consentimiento. El juez determinó que existe una duda razonable sobre la efectividad de las salvaguardas tecnológicas aplicadas por X.AI, lo que justifica la imposición de mandatos judiciales para asegurar el cese de estas funciones en la jurisdicción correspondiente.
Como medida de apremio, la sentencia establece una multa coercitiva de 100.000 euros por cada día de incumplimiento de las prohibiciones impuestas, fijando un límite máximo de 10 millones de euros para cada entidad involucrada. Adicionalmente, el fallo prohíbe a X Corp y a su filial europea ofrecer la funcionalidad de Grok integrada en la red social X mientras el sistema de inteligencia artificial no cumpla estrictamente con las restricciones ordenadas respecto a la protección de la privacidad y la seguridad de los menores de edad.
Temas
Te puede interesar
Suscribirme a Newsletter