IA, Ética y Derecho Penal

El desarrollo de la inteligencia artificial (IA) ha transformado profundamente la forma en que vivimos y nos relacionamos con el entorno. Desde algoritmos de recomendación hasta asistentes virtuales que facilitan las tareas cotidianas, esta tecnología ha impactado múltiples dimensiones de la existencia humana. Sin embargo, no todos sus usos han estado alineados con principios éticos. Entre los más preocupantes se encuentra la creación de contenido falso mediante IA, más conocida como deepfakes, especialmente cuando se trata de imágenes o videos sexualizados de personas reales sin su consentimiento. Este fenómeno ha generado serios interrogantes éticos y jurídicos que requieren atención urgente. Así, surge un dilema complejo: ¿es posible regular herramientas tan poderosas sin frenar la innovación?

Desde el derecho penal, la cuestión adquiere una urgencia aún mayor. El uso de deepfakes con fines de acoso, suplantación o violencia simbólica desafía los marcos normativos tradicionales, que muchas veces no logran tipificar adecuadamente estas conductas. En muchos países aún no existe una respuesta jurídica específica dentro de sus sistemas legales, y aunque hay propuestas legislativas en discusión, no se han registrado avances significativos. Esta falta de acción institucional genera un escenario de impunidad, especialmente preocupante cuando las víctimas son mujeres o menores de edad, grupos históricamente vulnerables frente a las nuevas formas de violencia digital. De ahí la necesidad de revisar críticamente la legislación vigente e impulsar reformas que se ajusten a la complejidad del fenómeno, considerando el impacto psicoemocional que produce en sus víctimas, con consecuencias que se asemejan a las que sufren quienes han experimentado abuso sexual. Por ello, urge una intervención legal que reconozca esta práctica como una nueva forma de violencia y abuso.

Este ensayo se pregunta si el uso indebido de la inteligencia artificial para la creación de contenido sexual falso mediante deepfakes debe ser penalizado. La hipótesis que se sostiene es que la penalización no sólo es legítima e importante, sino absolutamente necesaria, pues la ausencia de una respuesta legal perpetúa la impunidad y la revictimización de quienes sufren estas agresiones. Además, se argumenta que dicha regulación debe contemplar una perspectiva de género, la protección de menores y los principios de justicia digital.

El ensayo se organiza en cuatro secciones. En primer lugar, se definirá el concepto de inteligencia artificial y se delimitan los alcances ético-jurídicos del uso de deepfakes sexuales. En segundo lugar, se analizarán dos casos concretos, uno en Chile y otro en España, para observar cómo ha respondido el aparato jurídico ante estas prácticas. Luego, se desarrollarán los argumentos centrales que justifican la penalización de estos actos. Finalmente, se explorarán enfoques interdisciplinarios jurídicos, éticos, tecnológicos y psicológicos que refuerzan la necesidad de una respuesta integral frente a este fenómeno.

La inteligencia artificial (IA) puede definirse como un campo de la informática orientado al desarrollo de sistemas capaces de emular procesos cognitivos humanos, tales como el aprendizaje, la percepción y el razonamiento[1]. Estas herramientas permiten la generación de contenido visual, auditivo o textual a partir de datos preexistentes, y entre sus aplicaciones más controvertidas se encuentran los denominados deepfakes, que emplean redes neuronales para crear imágenes o videos falsificados con una apariencia sumamente realista.

Desde el punto de vista normativo, el ordenamiento jurídico chileno aún no contempla una tipificación penal específica para el uso de IA en contextos de suplantación o violencia sexual simbólica. En contraste, países como España han comenzado a avanzar en esta materia mediante iniciativas legislativas que buscan sancionar penalmente tales conductas. La carencia de una regulación clara en el contexto chileno deja a las víctimas en una situación de desprotección, sin mecanismos jurídicos eficaces para acceder a la justicia, cuestión que quedó evidenciada en un caso emblemático ocurrido recientemente en el país.

En esta línea, la dogmática penal contemporánea se enfrenta al desafío de adaptar sus categorías tradicionales a los delitos cometidos en entornos digitales mediante tecnologías emergentes. Aunque en Chile se cuenta con la Ley N.º 21.459[2], que tipifica y sanciona delitos informáticos, esta normativa no contempla expresamente el fenómeno de los deepfakes ni aborda de manera integral los ciberdelitos que afectan la integridad psicológica y física de las personas. La Revista de Estudios de la Justicia publicó un análisis exhaustivo sobre esta ley, en el que se abordan figuras delictivas como la interceptación ilícita, la obstrucción o sabotaje contra datos y sistemas informáticos, y la falsificación informática.[3] No obstante, dichas figuras no abarcan la creación de contenido sexual falso mediante IA, lo que evidencia la necesidad de reformar la legislación vigente. En este sentido, no resulta imprescindible crear una ley completamente nueva, sino adaptar y actualizar los cuerpos normativos existentes relacionados con la intimidad, la honra y la integridad psíquica.

Un caso problemático en Chile tuvo lugar en 2024 en el Colegio Saint George, ubicado en la comuna de Vitacura, donde estudiantes de entre doce y dieciocho años utilizaron inteligencia artificial para generar imágenes de carácter sexual de sus compañeras, empleando plataformas como “Clothoff.io”, “DeepNude” y “Undress AI”, las cuales operan sin ningún tipo de regulación. Las víctimas pertenecían a niveles que iban desde octavo básico hasta enseñanza media. Las imágenes fueron creadas sin el consentimiento de las afectadas y luego difundidas en redes sociales, lo que provocó un daño psicológico y moral considerable, además de una revictimización reiterada debido a la cantidad de declaraciones que se vieron obligadas a entregar. Uno de los apoderados presentó un recurso de protección ante la Corte de Apelaciones de Santiago, en el que denunció la inacción del establecimiento educativo al no activar el protocolo correspondiente en materia de sexualidad. A pesar de la gravedad de los hechos, ni la institución escolar ni el sistema de justicia chileno adoptaron medidas sancionatorias ejemplares. La Corte Suprema resolvió que las medidas disciplinarias debían ajustarse al reglamento interno del colegio[4], dejando sin efecto la intervención del derecho penal.

Este caso dejó al descubierto una deficiencia estructural en el ordenamiento jurídico chileno: la inexistencia de una figura penal que sancione de forma específica la generación y difusión de imágenes íntimas falsas mediante IA. La resolución judicial evidenció una interpretación restrictiva del daño, al omitir el impacto psicoemocional y la vulneración de derechos fundamentales como la intimidad, la imagen y el honor.

De manera paralela, en 2023 se documentó un caso similar en la ciudad de Almendralejo, España, donde quince menores fueron condenados a un año de libertad vigilada por haber creado y distribuido imágenes falsas con contenido sexual de sus compañeras mediante inteligencia artificial.[5] Como consecuencia del escándalo público y la presión social, el Parlamento español presentó el Proyecto de Ley N.º 122/000238[6], que propone sancionar penalmente la producción y difusión de material sexual falso generado con tecnologías digitales.

Este ejemplo demuestra cómo una respuesta institucional oportuna no solo permite sancionar adecuadamente a los responsables, sino que también impulsa una actualización normativa coherente con los desafíos tecnológicos actuales. El caso de Almendralejo constituye un antecedente jurisprudencial y legislativo relevante que podría orientar reformas legislativas en otros países, incluido Chile.

Las imágenes o videos creados mediante IA con fines de acoso sexual constituyen una forma de violencia simbólica y psicológica. De acuerdo con un artículo publicado en MHJournal, las víctimas de deepfakes sexuales manifiestan síntomas similares al trastorno de estrés postraumático, tales como ansiedad, depresión y aislamiento social[7]. Desde la perspectiva de la teoría penal del daño, esta afectación justifica la necesidad de tipificar y sancionar penalmente dichas conductas.

Asimismo, se observa una marcada dimensión de género en este tipo de delitos. Según la Revista Latina de Comunicación Social, la mayoría de las víctimas de deepfakes sexuales son mujeres, particularmente figuras públicas, activistas o estudiantes, cuyo objetivo es ser desacreditadas o intimidadas[8]. De este modo, los deepfakes se convierten en un instrumento más para perpetuar la violencia de género, utilizando la tecnología como medio para reforzar estructuras sociales patriarcales.

En el contexto chileno, la abogada Romina Garrido, subdirectora del GobLab de la Universidad Adolfo Ibáñez, sostuvo en una entrevista con El Mostrador que “el uso de deepfakes no constituye actualmente un delito, dado que no se encuentra expresamente tipificado”[9]. Esta omisión legislativa deja a las víctimas sin mecanismos de protección jurídica efectiva, favoreciendo escenarios de impunidad.

Si bien recientemente se presentó el Proyecto de Ley N.º 17.307-07[10], que busca modificar el Código Penal para sancionar estas prácticas, su tramitación legislativa avanza lentamente. El proyecto propone incorporar un nuevo tipo penal que sancione expresamente la generación y difusión de contenido sexual falso. Sin una normativa clara y específica, no es posible aplicar principios penales fundamentales como el de legalidad ni garantizar el acceso efectivo a la justicia.

Cuando los deepfakes sexuales afectan a niños, niñas y adolescentes (NNA), el problema se agrava sustancialmente. A nivel psicológico, los NNA se encuentran en una etapa de desarrollo emocional y cognitivo particularmente vulnerable. Ser víctimas de este tipo de prácticas puede provocar daños persistentes, afectando su autoestima, sus vínculos de confianza y su salud mental.

Desde la perspectiva del derecho penal, ello exige una respuesta diferenciada y reforzada. La infancia y la adolescencia son etapas protegidas tanto por instrumentos internacionales, como la Convención sobre los Derechos del Niño[11], como por principios nacionales, tales como el interés superior del niño, niña y adolescente. La ausencia de una regulación adecuada en estos casos puede constituir una forma de negligencia institucional por parte del Estado.

Desde el ámbito de la ética pública, la penalización del uso indebido de la IA no debe ser concebida como un freno a la innovación tecnológica, sino como un mecanismo legítimo de protección de derechos fundamentales. La imposición de sanciones proporcionales es perfectamente compatible con un Estado democrático de derecho, siempre que se respeten las garantías del debido proceso.

La doctrina penal actual también reconoce que bienes jurídicos como la intimidad, la imagen y la integridad psíquica merecen tutela penal cuando resultan gravemente vulnerados. El principio de mínima intervención del derecho penal no debe confundirse con una postura de inacción frente a nuevas formas de agresión.

Algunas posturas críticas han advertido que penalizar estas conductas podría conllevar una expansión desmedida del derecho penal, generando riesgos de censura. No obstante, tales argumentos pierden solidez ante la gravedad del daño producido por los deepfakes y la falta de mecanismos alternativos eficaces de reparación.

Por otra parte, enfoques como el de la prevención general positiva legitiman el uso del derecho penal como herramienta pedagógica para promover valores sociales y prevenir conductas altamente lesivas. Sancionar penalmente los deepfakes sexuales cumple también una función simbólica y expresiva: establece un límite normativo claro frente al uso malicioso de la tecnología.

Más allá del ámbito jurídico, resulta indispensable promover una formación ética de la ciudadanía en relación con las tecnologías digitales. Las familias, las instituciones educativas y el Estado deben impulsar políticas de alfabetización digital que aborden no solo competencias técnicas, sino también valores como el respeto, la empatía y la responsabilidad social.

Según la Revista Panamericana de Comunicación, no habrá tecnología de detección que sea suficiente para detener la producción de deepfakes. También sostiene que “la producción, difusión y distribución de deepfakes es imposible de detener”[12], con lo cual estoy totalmente en desacuerdo. Si contamos con tecnología lo suficientemente avanzada para crear este tipo de imágenes y suplantaciones, resulta incoherente sostener que no tenemos la capacidad técnica para detenerlas. Esta afirmación implica que la prevención debe comenzar desde la raíz: formar ciudadanos críticos que comprendan los efectos de sus actos digitales.

Asimismo, las plataformas que facilitan la creación o difusión de este tipo de contenido deben asumir responsabilidades claras. Establecer mecanismos preventivos en los algoritmos y sistemas de control puede constituir una medida eficaz. La regulación no debe recaer únicamente en los usuarios, sino también en los desarrolladores y proveedores de estas tecnologías.

Un enfoque de “ética desde el diseño”, que incorpore filtros y advertencias desde el desarrollo mismo de estas herramientas, permitiría un uso más seguro y consciente de la inteligencia artificial. Esta estrategia, sin reemplazar la intervención del derecho penal, puede complementar dentro de un enfoque integral de protección de los derechos fundamentales.

La creación y difusión de deepfakes sexuales constituye una forma particularmente cruel y sofisticada de violencia digital, que afecta de manera directa la dignidad, la integridad psicológica y los derechos fundamentales de las personas. Como se ha sostenido a lo largo de este ensayo, su penalización no solo es jurídicamente necesaria, sino moralmente impostergable. La ausencia de una respuesta legal clara da el paso a la impunidad, genera nuevas formas de revictimización y evidencia una desconexión preocupante entre el avance tecnológico y la capacidad normativa del Estado para proteger a las personas.

No se trata únicamente de llenar vacíos legislativos, sino de reconocer que detrás de cada imagen falsa hay una persona real, afectada por el dolor, la vulnerabilidad y el miedo. Son historias de vidas alteradas por completo, muchas veces en silencio, sin reparación ni justicia. Frente a ello, el derecho penal cuando es aplicado con proporcionalidad, enfoque de género y respeto al debido proceso puede y debe convertirse en una herramienta legítima de protección.

El caso chileno, marcado por la inacción institucional frente a situaciones tan graves como las vividas en el Colegio Saint George, revela la urgencia de una reforma legislativa que no solo actualice el Código Penal, sino que exprese un compromiso ético con las víctimas. A su vez, el ejemplo español demuestra que una respuesta oportuna es posible, y que puede generar efectos positivos tanto en la sanción de los hechos como en la prevención de futuras conductas.

En definitiva, la penalización del uso indebido de la inteligencia artificial para crear contenido sexual falso no es un obstáculo al desarrollo tecnológico, sino una condición necesaria para su desarrollo ético. Solo mediante un enfoque integral que combine sanción penal, alfabetización digital y responsabilidad de las plataformas será posible trazar límites claros frente a los abusos, y garantizar que el progreso tecnológico no se construya a costa del sufrimiento de otros. En tiempos donde las fronteras entre lo real y lo falso se vuelven cada vez más difusas, es deber del derecho hacer visible lo invisible y proteger lo esencial de la dignidad humana. (Santiago, 15 de agosto de 2025)

Bibliografía

Libros y artículos académicos

Arba Arteaga, Cecilia: “Deepfakes sexuales: impacto, prevención y perspectivas de género en el entorno digital,” Miguel Hernández Communication Journal, vol. 15, nº 2, pp. 229–244.

AS “La Fiscalía pide que sean delito los vídeos sexuales con caras suplantadas” AS 05/09/2024 sociedad

Asamblea general de las naciones unidas**:**“Convención sobre los Derechos del Niño,” Naciones Unidas, 1989.

Bañuelos Capistran, Jorge: “Deepfake: la imagen en tiempos de la posverdad,” RPC, nº 1, pp. 51–61

Barrientos Báez, Aída; Piñeiro Otero, María Teresa y Porto Renó, Danilo: “Imágenes falsas, efectos reales. Deepfakes como manifestaciones de la violencia política de género,” Revista Latina de Comunicación Social, nº 82, pp. 1–30.

Bascur Retamal, Gonzalo y Peña, Rodrigo: “Los delitos informáticos en Chile: Tipos delictivos, sanciones y reglas procesales de la Ley 21.459. Segunda parte,” Revista de Estudios de la Justicia, vol. 38, nº 38, pp. 1–28.

El mostrador “Corte de Apelaciones acoge recursos de protección por caso de deepfake en Colegio Saint George” El mostrador 31/05/2024 El mostrador braga

Molina, Jorge “Escándalo en el Saint George: alumnos de colegio élite crearon imágenes de compañeras desnudas usando IA y las viralizaron” interferencia, 24/05/2024

Villalvilla, Elena L. “Los menores que manipularon ‘desnudos’ con inteligencia artificial en Almendralejo quedan en libertad vigilada” Infobae, 09/07/2024

Zúñiga, francisco “Los daños que provoca una imagen deepfake y por qué la legislación chilena no la considera un delito” biobiochile 01/06/2024 ética y transparencia de biobiochile

---

Fuentes formales del Derecho

Ley N. º 21.459 (20/06/2022), Sobre delitos informáticos y adecuación de normas al Convenio de Budapest.

Proyecto de Ley N. º 122/000238 (01/03/2023), Orgánica de modificación de la Ley Orgánica 10/1995, de 23 de noviembre, del Código Penal, para tipificar la creación y difusión de materiales sexuales falsos mediante inteligencia artificial.

Proyecto de Ley N. º 17307-07 (17/12/2024), que modifica el Código Penal para tipificar la generación y difusión de imágenes íntimas creadas con inteligencia artificial.

[1] Gobierno de España, (2023)

[2] Ley N. º 21.459, (2022).

[3] Retamal, Gonzalo y Peña, (2023).

[4] Interferencia, (2024)

[5] Infobae, (2024)

[6] Proyecto de Ley N. º 122/000238, (2023)

[7] MHJournal, (2024)

[8] Revista Latina de Comunicación Social, (2024)

[9] El Mostrador, (2024).

[10] Proyecto de Ley N. º 17307-07, (2024)

[11] Convención sobre los Derechos del Niño, (1989).

[12] Revista Panamericana de Comunicación, (2020).