Regulador británico anuncia investigación contra plataforma X por generación de deepfakes sexuales con Grok AI

La Oficina de Comunicaciones del Reino Unido (Ofcom) oficializó el inicio de una investigación dirigida contra la red social X, de propiedad de Elon Musk, motivada por la detección de contenidos generados mediante su herramienta de inteligencia artificial, Grok. El examen regulatorio se origina ante la presunta creación de representaciones íntimas no consentidas, lo que podría constituir una infracción a los deberes de protección contra material ilegal establecidos en la legislación británica. La indagatoria busca establecer si la plataforma ha implementado salvaguardas suficientes para prevenir la difusión de estos registros.

Este proceso administrativo se desarrolla de forma paralela a la entrada en vigor de una nueva legislación en el Reino Unido que otorga el carácter de delito a la producción de deepfakes de naturaleza sexual. Según la información proporcionada por el Ministerio de Tecnología, el gobierno también impulsa un proyecto de ley adicional enfocado en las empresas que suministran las herramientas técnicas, con el objetivo de sancionar el diseño de software orientado a la creación de estos contenidos. La medida representa un intento institucional por trasladar la responsabilidad hacia el origen de la tecnología.

La fiscalización de Ofcom incrementa la supervisión sobre la compañía de Musk, la cual se encuentra bajo escrutinio judicial y administrativo en múltiples regiones, incluyendo Francia e India. El organismo regulador manifestó que el cumplimiento de los estándares de seguridad es imperativo, especialmente en lo relativo a la prevención de material abusivo y la protección de menores de edad. En virtud de la Ley de Seguridad en Línea aprobada en 2023, los proveedores de servicios digitales tienen la obligación de mitigar activamente el encuentro de los usuarios con elementos prohibidos y proceder a su retiro inmediato al ser notificados.

En respuesta a los cuestionamientos, la plataforma X ha señalado que mantiene políticas de tolerancia cero frente a contenidos que infrinjan la ley, aplicando medidas que van desde la remoción de los registros hasta la suspensión permanente de las cuentas vinculadas. La empresa argumentó que el uso de Grok para fines ilícitos conlleva las mismas consecuencias administrativas y legales que la carga directa de cualquier otro material prohibido.

No obstante, la dirección de la compañía ha manifestado que estas investigaciones podrían representar una amenaza a la libertad de expresión, postura que difiere de la visión gubernamental, la cual fundamenta sus acciones en la defensa de los derechos de las víctimas y el respeto a la soberanía normativa.

El caso de Grok se perfila como una de las primeras aplicaciones prácticas de las facultades sancionatorias de Ofcom bajo el nuevo esquema legal británico. Representantes del gobierno han indicado que, dentro del marco de atribuciones del regulador, existe la posibilidad técnica y legal de restringir el acceso a la plataforma si se comprueba el incumplimiento de las directrices de seguridad. Por ahora, el regulador ha enfatizado que su actuación se encamina a garantizar que los estándares de conducta exigidos en el ámbito físico se apliquen con igual rigor en el espacio digital.

Vea comunicado preliminar