Imagen y voz frente a la inteligencia artificial generativa

La irrupción de la inteligencia artificial generativa ha abierto un nuevo frente de debate jurídico en torno a la protección de la imagen, la voz y la identidad personal, especialmente frente al crecimiento acelerado de los deepfakes y de las réplicas digitales no consentidas. Así lo plantea el abogado Víctor Hugo Roldán en un análisis sobre los derechos personalísimos ante las nuevas tecnologías, elaborado a la luz de la encíclica Magnifica Humanitas del Papa León XIV.

El autor sostiene que pocas veces el derecho ha enfrentado una conmoción tan súbita como la provocada por la inteligencia artificial generativa en el ámbito de los derechos de la personalidad. Aquello que hasta hace poco estaba reservado a operadores técnicos especializados —captar, reproducir o manipular la imagen y la voz humanas— se ha convertido en una posibilidad accesible para cualquier persona con conexión a internet. En cuestión de segundos y a un costo prácticamente nulo, hoy es posible fabricar una réplica indistinguible del rostro o de la voz de otro individuo.

Según el análisis, esta realidad ha diluido la frontera entre lo verdadero y lo falso, entre lo registrado y lo inventado, generando un escenario en que el derecho debe responder a tecnologías capaces de producir simulacros que aparentan autenticidad. Roldán recuerda que los romanos llamaban simulacrum a la imagen que sobrevive al original y lo suplanta en la memoria de los vivos, mientras que la tradición escolástica distinguía entre imago, como copia que reconoce su dependencia, e idolum, como representación que pretende ser el ser mismo. A juicio del autor, la inteligencia artificial generativa ha abolido esa distinción, fabricando imágenes y voces que no reconocen origen ni autorización.

El fenómeno, advierte, no es marginal. De acuerdo con estimaciones citadas en el estudio, los deepfakes en circulación habrían aumentado desde unos quinientos mil ejemplares en 2023 a cerca de ocho millones en 2025, con una progresión anual cercana al novecientos por ciento. Asimismo, se señala que solo en el segundo trimestre de 2025 se habrían contabilizado 487 ataques con deepfakes difundidos públicamente, lo que representaría un incremento del 41% respecto del trimestre anterior y de más del 300% en comparación interanual. Las pérdidas financieras directas asociadas a estafas mediante estas tecnologías se habrían aproximado a 347 millones de dólares en ese trimestre y superarían los 500 millones durante el primer semestre de 2025.

El autor subraya que el régimen tradicional del derecho de autor resulta insuficiente para enfrentar este problema, pues fue concebido para proteger obras intelectuales originales, pero no la sustancia misma de la persona, como su rostro, su voz, sus gestos o su personalidad. Estos atributos pertenecen a un ámbito distinto, vinculado a los derechos personalísimos en la tradición continental, al right of publicity en el sistema anglosajón, a las normas sobre competencia desleal y a la publicidad engañosa.

En esa línea, sostiene que resulta históricamente significativo que la palabra persona, en el latín de los jurisconsultos, designara originalmente la máscara del actor, es decir, el artefacto a través del cual la voz resuena. Precisamente la voz y la máscara —el rostro— son hoy los elementos replicados sin consentimiento mediante tecnologías generativas.

El análisis advierte además sobre la fragmentación normativa existente. No hay, hasta ahora, un tratado internacional específico sobre inteligencia artificial ni un régimen uniforme sobre réplicas digitales. Cada jurisdicción avanza de forma distinta: algunas optan por la criminalización, como Perú, Colombia y San Luis Potosí en México; otras buscan consagrar un derecho autónomo a la integridad digital, como el proyecto chileno; otras acuden indirectamente a la protección de datos biométricos, como Brasil y la Unión Europea; y otras confían en la suficiencia de los regímenes generales de derechos personalísimos, como Argentina y Uruguay.

El trabajo se estructura en tres objetivos principales: sistematizar los casos paradigmáticos surgidos en los últimos años, ofrecer un panorama comparado del estado regulatorio en Estados Unidos, la Unión Europea y América Latina, y extraer conclusiones prácticas para la contratación en las industrias del entretenimiento y los deportes, sectores especialmente expuestos por la naturaleza de sus actividades.

Entre los casos más relevantes, el autor destaca la controversia entre Scarlett Johansson y OpenAI, considerada un precedente central en materia de voz sintética. La actriz sostuvo que la empresa se acercó a ella para solicitar autorización para utilizar su voz en el asistente “Sky”, pero tras su negativa lanzó una versión cuya tonalidad fue ampliamente comparada con la suya. Desde el punto de vista jurídico, el caso abriría dos posibles caminos: uno asociado al derecho de autor, solo viable si se hubieran utilizado directamente muestras de obras publicadas de la actriz, y otro más sólido basado en el right of publicity de California.

El análisis cita al profesor James Grimmelmann, especialista en derecho digital e internet de la Universidad de Cornell, quien ha señalado que el resultado de una controversia de este tipo dependería en gran medida de la intención: si la compañía pudiera demostrar que no buscó imitar la voz de la actriz, podría evitar responsabilidad; de lo contrario, difícilmente podría eludirla. La controversia tuvo un nuevo episodio en mayo de 2025, cuando Johansson denunció la difusión de un video deepfake que asociaba su imagen con otras figuras de origen judío en un mensaje político contra el rapero Kanye West, reavivando la demanda por una legislación federal adecuada.

Otro caso examinado es “Heart on My Sleeve”, canción difundida en 2023 por un creador anónimo conocido como “Ghostwriter”, que imitaba con gran fidelidad las voces de Drake y The Weeknd. La obra se viralizó e incluso llegó a ser considerada para los premios Grammy, hasta que Universal Music Group solicitó su retiro de las principales plataformas. Para el autor, el caso expone los límites del derecho de autor, pues la composición y la letra eran originales, pero se utilizaron voces clonadas, lo que podría dar lugar a acciones por apropiación indebida de voz, falso endoso, indicadores engañosos de origen o competencia desleal.

También se aborda el caso de Lovo, startup demandada en 2024 por dos actores de doblaje que acusaron a la empresa de copiar sus voces sin autorización, luego de haberlos persuadido para entregar muestras de su trabajo bajo el supuesto propósito de una investigación académica. Según el análisis, este caso ilustra cómo la inteligencia artificial puede convertir la expresión creativa profesional en insumo de explotación no consentida, planteando interrogantes relevantes sobre el consentimiento informado.

En el ámbito deportivo, el texto menciona la denuncia realizada en 2025 por Rafael Nadal respecto de videos fraudulentos generados con inteligencia artificial que imitaban su imagen y su voz para promover falsas oportunidades de inversión. El autor señala que esta situación no es aislada, pues Donald Trump, Taylor Swift, Tom Hanks y Florentino Pérez también han sido víctimas de suplantaciones digitales. En el caso de los deportistas, la gravedad aumenta debido a su valor comercial como figuras de endorsement.

El estudio también destaca la estrategia adoptada por Taylor Swift, quien en abril de 2026 presentó solicitudes ante la Oficina de Patentes y Marcas de Estados Unidos para registrar tanto su voz como su imagen como marcas. Esta vía busca obtener una protección federal uniforme frente a clones generados con inteligencia artificial, evitando la litigación caso por caso bajo regímenes estatales de derechos de personalidad. El autor observa que esta estrategia podría permitir cuestionar no solo reproducciones idénticas, sino también imitaciones “confusamente similares”, estándar propio del derecho marcario.

En cuanto al marco regulatorio estadounidense, se señala que el país carece aún de una ley federal uniforme que reconozca un derecho de propiedad sobre la voz, el rostro, la imagen o la réplica digital de una persona. La protección se construye principalmente a partir de normas estatales de right of publicity, aunque en los últimos años han surgido leyes e iniciativas federales relevantes.

Entre ellas destaca la TAKE IT DOWN Act, firmada el 19 de mayo de 2025, primera ley federal estadounidense que aborda directamente los deepfakes, aunque limitada al ámbito de las imágenes íntimas no consentidas. La norma tipifica como delito federal su publicación o amenaza de publicación y obliga a las plataformas digitales a remover ese contenido en aproximadamente 48 horas desde la denuncia de la víctima.

También se menciona la ELVIS Act de Tennessee, vigente desde el 1 de julio de 2024, que actualizó el régimen estatal de derechos personales para proteger expresamente la voz, junto con la imagen y la semejanza, con especial atención al impacto de la inteligencia artificial en músicos, artistas y la industria fonográfica. Asimismo, se analiza el proyecto federal NO FAKES Act, impulsado en 2025 con respaldo bipartidista y apoyo de organizaciones como SAG-AFTRA y la Recording Academy, cuyo objetivo es regular el uso no autorizado de la voz y la imagen mediante réplicas digitales.

El informe de la Oficina de Copyright de Estados Unidos sobre Copyright e Inteligencia Artificial, publicado entre 2024 y 2025, también es citado como antecedente relevante, pues concluye que la legislación vigente es insuficiente para proteger las réplicas digitales y recomienda la creación de un derecho federal específico sobre identidad digital.

En la Unión Europea, el análisis identifica como marco central el AI Act, aprobado en 2024 y con entrada en vigor escalonada entre 2025 y 2026, que exige identificar con claridad los contenidos generados mediante inteligencia artificial, incluidos los deepfakes. El reglamento adopta un enfoque basado en el riesgo, clasificando los sistemas desde riesgo mínimo hasta riesgo inaceptable, con obligaciones diferenciadas.

A ello se suma el Digital Services Act, vigente desde 2024, diseñado para prevenir actividades ilícitas y desinformación en línea, y que somete a los proveedores de servicios digitales a una supervisión europea más estricta. El autor destaca que la Comisión Europea ya ha iniciado investigaciones formales por incumplimientos, lo que demuestra que se trata de un régimen operativo y no meramente declarativo.

El texto también aborda la enmienda danesa al régimen de derechos de autor, presentada en 2025, que permitiría a las personas afectadas por deepfakes solicitar su eliminación y a los artistas reclamar compensación por el uso no autorizado de su imagen, con una protección que se extendería hasta 50 años después de la muerte. A juicio del autor, su importancia radica en el cambio de paradigma: en lugar de crear nuevos tipos penales, se reconoce a las personas un derecho asimilable al copyright sobre su propio rostro y voz.

En España, se examina la Proposición de Ley Orgánica sobre simulaciones de imágenes y voces generadas por inteligencia artificial, publicada el 13 de octubre de 2023, que propone modificar la Ley Orgánica 1/1982 sobre protección civil del derecho al honor, a la intimidad personal y familiar y a la propia imagen. La iniciativa incorpora como intromisión ilegítima la difusión y utilización de deepfakes sin autorización o consentimiento expreso, salvo que exista una advertencia clara sobre el carácter artificial del contenido, y preserva ciertos usos con fines penales, creativos, satíricos, artísticos o de ficción.

En América Latina, Roldán advierte que la región se encuentra en una etapa incipiente, sin estrategia conjunta y con avances normativos dispares. Esta fragmentación es especialmente relevante para las industrias del entretenimiento y los deportes, que operan habitualmente en múltiples territorios y deben articular cláusulas contractuales compatibles con distintas regulaciones.

Respecto de Argentina, sostiene que el régimen civil es uno de los más sólidos de la región. El artículo 53 del Código Civil y Comercial de la Nación exige consentimiento para captar o reproducir la imagen o la voz de una persona, cualquiera sea el modo en que ello se realice, salvo supuestos específicos como actos públicos, interés científico, cultural o educacional prioritario, o ejercicio regular del derecho a informar sobre acontecimientos de interés general. En caso de personas fallecidas, el consentimiento puede ser otorgado por herederos o por quien haya sido designado en una disposición de última voluntad, y transcurridos 20 años desde la muerte, la reproducción no ofensiva queda liberada al uso público.

Para el autor, la amplitud de la fórmula “de cualquier modo que se haga” permite aplicar esta norma a las réplicas generadas por inteligencia artificial sin necesidad de reforma legal. Además, advierte que la autorización para captar imágenes no supone autorización para reproducirlas, pues son actos diferenciados que exigen consentimientos independientes.

El estudio también analiza la coexistencia de ese régimen con el artículo 31 de la Ley 11.723 de Propiedad Intelectual, así como la Ley Olimpia, que incorporó la difusión no consentida de imágenes íntimas como una forma de violencia de género en entornos digitales, aunque sin abordar específicamente el uso de inteligencia artificial. En Argentina también se mencionan proyectos legislativos que buscan sancionar penalmente la generación o modificación no consentida de videos, audios, rostros o voces para hacerlos parecer reales, así como iniciativas para incorporar un artículo 53 bis al Código Civil y Comercial.

En Perú, se destaca la protección civil de la imagen y la voz en los artículos 14 y 15 del Código Civil, la Ley 31814 de 2023 sobre promoción del uso de la inteligencia artificial con principios de transparencia, supervisión humana, innovación responsable y no discriminación, y la Ley 32314 de 2025, que modificó el Código Penal y la Ley de Delitos Informáticos para incorporar el uso de inteligencia artificial como agravante en delitos como difamación, estafa, pornografía infantil, plagio e infracciones de propiedad intelectual.

En Uruguay, se señala que no existe una norma específica sobre imagen y voz frente a la inteligencia artificial, aunque el derecho a la imagen se deriva de los artículos 7 y 72 de la Constitución y del régimen general de responsabilidad civil. La Ley 18.331 de Protección de Datos Personales tutela los datos biométricos, incluida la voz, cuando se usan con fines de identificación, mientras que la estrategia nacional de inteligencia artificial de AGESIC carece de carácter vinculante específico en esta materia.

En Chile, el autor menciona que el derecho a la imagen se reconoce implícitamente a través del artículo 19 N°4 de la Constitución y de la Ley 19.628 sobre Protección de la Vida Privada. Además, examina el proyecto de ley sobre deepfakes, Boletín 17795-19, ingresado en agosto de 2025, que busca regular la creación y difusión de contenidos sintéticos mediante el reconocimiento de un “derecho a la integridad digital”, destinado a proteger la imagen, el cuerpo y la voz frente al uso no autorizado de inteligencia artificial u otras tecnologías. El proyecto contempla etiquetado obligatorio, representante legal en Chile, canales de retiro expedito y un régimen sancionatorio que puede derivar en responsabilidad civil, administrativa y penal.

En Colombia, el análisis destaca la Ley 2502 de 2025, que modificó el artículo 296 del Código Penal para sancionar la suplantación de identidad mediante inteligencia artificial y reconoció conceptos como deepfake, imagen e identidad digital. El uso de inteligencia artificial opera como agravante en la suplantación, con multas que pueden aumentar hasta en un 33%. Para el autor, Colombia se ubica así como referente regional, aunque el desafío será dotar a la ley de capacidad institucional efectiva para su aplicación.

En Brasil, se explica que el derecho de imagen está protegido por la Constitución Federal de 1988 y el Código Civil, mientras que la Ley General de Protección de Datos protege los datos biométricos, incluidos voz e imagen. El uso de estos datos sin consentimiento explícito para entrenamiento de modelos podría vulnerar la normativa de protección de datos, y la creación de deepfakes podría configurar violaciones a la privacidad y a la autodeterminación informativa. También se mencionan proyectos legislativos para criminalizar la manipulación maliciosa de voz e imagen, exigir transparencia y rotulación de contenidos sintéticos, especialmente en período electoral, y reconocer el derecho a autorizar o prohibir el uso de la propia voz e imagen para fines comerciales, políticos, electorales, publicitarios o artísticos.

En México, se señala que no existe una ley federal uniforme sobre derecho de imagen, pues la materia se regula a nivel local. La Ciudad de México cuenta con una Ley de Responsabilidad Civil para la Protección del Derecho a la Vida Privada, el Honor y la Propia Imagen, mientras que San Luis Potosí aprobó en 2025 una regulación específica que penaliza el uso no autorizado de imagen o voz generada mediante inteligencia artificial para crear, modificar o difundir contenidos que simulen la apariencia, voz o identidad de una persona real. También se menciona una iniciativa federal del Senado de 2026 para definir el deepfake y exigir mecanismos que permitan identificar cuándo un contenido fue generado o asistido por inteligencia artificial, aunque organizaciones civiles han advertido riesgos de censura indirecta por formulaciones imprecisas.

En sus reflexiones finales, el autor destaca la asimetría normativa latinoamericana. Mientras Colombia y Perú han optado por la vía penal, Chile y Brasil avanzan hacia mecanismos civiles y regulatorios, y Argentina cuenta con una norma civil amplia aplicable a réplicas digitales. Esta heterogeneidad obliga a operadores jurídicos, especialmente en entretenimiento y deportes, a diseñar estrategias multi-territoriales y cláusulas contractuales compatibles con los estándares más exigentes.

El trabajo también subraya que el derecho de autor tradicional presenta un vacío estructural: protege obras intelectuales originales, pero no la voz, el rostro, el estilo o la personalidad de una persona. Por ello, un mismo deepfake podría dar lugar simultáneamente a acciones por apropiación indebida de imagen, publicidad engañosa, fraude, daños reputacionales, infracciones de consumo o vulneraciones de normas de lealtad comercial.

Pese a las diferencias regulatorias, el autor identifica una convergencia internacional en torno a tres obligaciones para las plataformas digitales: etiquetado obligatorio del contenido sintético, retiro rápido de contenidos ilegítimos y designación de representante legal en la jurisdicción donde circula el material. Esta coincidencia, sostiene, podría servir de base para futuros mecanismos de armonización regional.

El análisis incorpora además una dimensión ética a partir de la encíclica Magnifica Humanitas, firmada por el Papa León XIV el 15 de mayo de 2026 y dedicada a la custodia de la persona humana en el tiempo de la inteligencia artificial. El autor destaca que el documento pontificio advierte expresamente sobre los riesgos de la clonación de imagen y voz sin consentimiento, las campañas de desinformación y los sesgos electorales, y sostiene que la dignidad humana no depende de la utilidad, el éxito social o las capacidades, sino del solo hecho de existir.

Desde esa perspectiva, Roldán afirma que la imagen y la voz no son datos neutros, sino expresiones irreductibles de la identidad personal. Cuando la inteligencia artificial generativa las capta, replica o distorsiona sin consentimiento, no actúa sobre un simple activo patrimonial, sino sobre la dignidad misma de la persona.

Finalmente, el autor propone lineamientos para la práctica contractual en las industrias del entretenimiento y los deportes. Entre ellos, recomienda establecer consentimientos específicos para usos de inteligencia artificial generativa, regular separadamente la replicación digital de imagen y voz, la generación de contenido sintético nuevo y el entrenamiento de modelos con material protegido. También propone prohibir el uso de material para entrenamiento sin autorización separada, incorporar cláusulas de cooperación y retiro frente a deepfakes, regular expresamente los usos post mortem, redactar contratos compatibles con múltiples jurisdicciones y establecer obligaciones de rotulación clara de cualquier contenido sintético.

El análisis concluye que la regulación de los derechos de imagen y voz frente a la inteligencia artificial generativa es un terreno en plena formación, sometido a una velocidad tecnológica que exige respuestas jurídicas adaptativas. En esa frontera entre lo humano y lo sintético, sostiene el autor, no está en juego solo una cuestión técnica, sino la dignidad misma de la persona, que el derecho debe proteger frente a cualquier falsificación impune de su imagen, su voz o su identidad.