La democracia en tiempos de IA

1. Evolución del concepto de opinión pública

La opinión pública tuvo sus orígenes más recordados en la etapa previa e incluso en la Revolución Industrial, cuando en los gigantescos galpones donde se explotaba al proletariado mientras los burgueses se quedaban con todas las ganancias, en aquellos lugares inhóspitos quien iba a imaginar que se forjaría indirectamente, sin pensarlo lo que hoy se denomina opinión pública y la tamaña importancia que tuvo y tiene para quienes intentan explicarla.

Sin dudarlo esto fue evolucionando, para los años decenios previo a la Revolución Francesa de 1789, los iluminados (illuminati) recorrieron las calles para llevar las banderas de las “luces” y de esta manera formaban opiniones públicas a un amplio número de personas, buscando generar de esta manera una democracia para muchos, amplia y convocante, lejos de lo que pretendía Rousseau, quien proponía una democracia en pequeño.

Más adelante en el tiempo, durante la Primera Guerra Mundial los Estados participes de este evento global necesitaban enviar a sus ciudadanos una especie de aliento, de crear una banca al gobierno respecto al suceso, es aquí donde empieza a emerger con más fuerza, sentido, razón lo que es la opinión pública, porque ya buscaba influir en el público a través de las propagandas. En la Segunda Guerra Mundial aparece alguien revolucionario para los tiempos pasados y futuros, una persona muy oscura, pero muy inteligente, alguien que logró que lo malo sea visto como algo bueno, que matar a otro sea celebrado y no sea lamentado, que se ponga en un pedestal a un genocida en vez de condenarlo socialmente a priori, ese hombre, Goebbels estaba destinado a consolidar el mal de su gobierno antisemita, racial y genocida con destino directo a la sociedad, a sus seguidores que quizás en algún punto tenían dudas respecto a su apoyo al nazismo y con esto buscaban mayor convicción y aunque hoy parezca descabellado y loco, en los tiempos referidos tuvo mucho éxito, sino se invita a leer y escuchar lo que fueron esos tiempos.

Se puede afirmar desde el lugar que nos ocupa que la opinión pública es como ese conocido que cruzamos en la sala común del trabajo, del edificio donde habitamos, el que en reiteradas ocasiones lo encontramos en el ascensor, en el negocio de la esquina, es alguien que conocemos superficialmente, vagamente.

Desde nuestra posición, opinión pública es aquella voz popular, siguiendo meramente a Maquiavelo que en otras épocas hablaba de vox populi, que hoy puede ser expresada desde cualquier rincón del mundo a través de las diferentes plataformas digitales e incluso la manipulación de sistemas de inteligencia artificial que buscan influir en las personas humanas y de esta manera desestabilizar -o no- un gobierno, una persona pública o cosa pública. Persona pública es quien ocupa circunstancialmente un cargo público y cosa pública es algo de todos administrado por persona pública.

Todos los que tengan interés en el tema pueden dar su opinión al respecto, no adhiriendo a lo que planteaba Platón en otro contexto social, al decir que sólo quienes tenían conocimiento del tema podían emitir opinión, lejos de esa idea que se considera que hoy le quitaría entidad a la democracia, ya que al estar viviendo hoy en la Revolución de la Inteligencia Artificial, entendiendo que enfrentamos una nueva democracia que la vamos a ir construyendo entre todos y a la vez aggiornarnos a ella, a la cual se llama Democracia Digital.

2. Vinculación de la opinión pública, comunicación e IA y la importancia del filtrado de información ante el vacío legal

La comunicación posibilita al emisor poder transmitir sus ideas, pensamientos, inquietudes y demás cuestiones que crea relevante dando de esta manera al receptor o los receptores la posibilidad de adherirse a ella o repelerla. Durante el pasado e incluso hoy tanto emisores como receptores que emiten opinión pública en sentido de comunicación por ejemplo a través de los medios tradicionales (diario, radio, televisión, etc.), luego con la llegada de internet y las redes sociales (Facebook, Twitter -X-, Instagram, TikTok, etc.) fueron por parte de personas humanas, hoy la llegada de la IA nos lleva a que esas cuestiones la manejen los robots o un focus group de personas que por intermedio de esas máquinas influyan en el pensamiento crítico de los demás, o sea los emisores pasan de ser humanos a ser computadores y los receptores siguen siendo personas.

Hoy, ya no solo hay comunicación entre personas, sino que las máquinas logran compartir sus mensajes con los seres humanos, lo hacen por intermedio de la IA, lo peligroso de esto es que no se dimensiona la repercusión que puede tener, imaginemos los estudiantes que son quienes están en constante desarrollo de pensamientos críticos para lograr la mejor construcción social posible y tienen el acceso a una herramienta de IA, a la cual la usan de base consultiva para diferentes problemáticas de la vida cotidiana, desde recetas para comidas hasta resolución de trabajos prácticos, posicionándonos en una hipotética consulta de un estudiante respecto a una persona que se postula para un cargo político, la IA le da su perspectiva de esa persona y el alumno en cuestión sin verificación alguna en otras fuentes toma por cierto lo dicho por ésta.

Ahora bien, como se puede saber que esa información brindada es neutral y se basa en fundamentos verídicos y no en fake new o campañas de desprestigios, nadie conoce quién está detrás de estas máquinas brindándoles información, ¿y si esa información no es cierta y es usada para perjudicar al candidato?, aunque también puede pasar al revés, dibujando una excelencia de candidatura a alguien que no le haría bien al país. Ese es el punto, saber si quienes le dan los informes a las computadoras que sirven de base consultiva, son personas que no tienen intereses políticos, religiosos, económicos, etc. o si ellos sí tienen una inclinación, logrando así que se vicie la neutralidad y cayendo en el típico amarillismo.

Por ello se debe tener un especial cuidado cuando se consume este tipo de herramientas, la información/comunicación que se obtiene de ellas deben ser fehacientes, para lograr eso se tendría que tener en cuenta el filtrado de la información, verbigracia buscar en otras bases de datos, diarios, revistas, etc. y constatar así si estamos frente a una posible verdad o de lo contrario es una mentira producida por un sujeto que tiene un interés y reproducida por la IA con el único fin de influir en los pensamientos de los usuarios. Este tipo de comportamientos se da porque no hay una regulación normativa respecto a los generadores de IA, al no haber ley, no hay límites y al no haber límites hay desigualdad, esta desigualdad provoca que el consumidor final introduzca el mensaje erróneo con un dolo directo de quien añade información a la computadora.

3. La IA y la nueva democracia ¿pone en riesgo a la actual?

Desde el lugar que nos ocupa volvemos a replantear un problema respecto a democracia, pero no en la etimología de la palabra sino en la forma en que se la puede manipular en tiempos más actuales. ¿Por qué surge esto? La respuesta se da en que como hoy los ciudadanos tienen acceso a internet a través de un celular, una tablet, una computadora desde el trabajo, por ocio, en una juntada con amigos y desde allí pueden ingresar a redes sociales e incluso ahora a aplicaciones con inteligencia artificial y de esta manera evacuar dudas respecto a actualidad u otros temas de interés. Estas aplicaciones (IA) ya demostraron tener interferencia a la hora de la decisión de la gente en una elección, en Argentina en las elecciones legislativas de CABA en 2025 ya se manifestaron representantes influyentes en la política en atentados que se llevaron a cabo mediante estas herramientas que no están reguladas, por ejemplo en dicho escenario electoral, durante la veda incluso, circuló un video generado por IA donde el ex Presidente de la Nación, Ing. Mauricio Macri solicitaba a los seguidores de su partido que no voten a sus candidatos y que voten a un candidato que pertenecía a otro partido, respecto a este hecho declaró Macri en el noticiero La Nación (2025) lo siguiente: “(…) Esto es un intento de fraude digital (…)”.(Macri Sobre El Video Editado ConIA, 2025)

Lo que se intenta demostrar es que, al no haber regulación alguna sobre la IA, puede ser utilizada como se vio, para violentar una democracia, en ese sentido hay que ser críticos y llevar la discusión al Congreso o bien, como paso muchas veces en la historia de nuestro país y de otros, hay que movilizarse en las calles, ese ruido desorienta a los tranquilos políticos que nos representan -al menos eso nos hacen creer- y ponen en discusión parlamentaria esto que ya ha dado vastas pruebas que pone en jaque nuestra democratización tradicional que ya está asentada hace mucho tiempo, con aciertos y errores pero con pleno conocimiento de ella como tal.

La IA de a poco va desvelando el peligro que puede ocasionar en la sociedad democrática, esto cada vez se va a ir poniendo peor si no se controla a través de las leyes, que es sin dudas un mecanismo de control ante el desmedido avance que ella tiene. En el año 2025 le tocó a una persona perteneciente a un partido político e indirectamente electores que cayeron en la falsedad y, ¿próximamente quién será víctima de esto? ¿Cómo se va a controlar?

Es ante esta situación que decimos, si se parte de la etimología de la palabra democracia, es el pueblo quien seguirá teniendo el poder a través de sus representantes, o el pueblo será reemplazado por un focus group que a través de los motores de búsquedas y consultas (IA) influyan y marquen los rumbos de las elecciones futuras, siendo quienes coloquen y quiten representantes como mejor les convenga y siendo el mayor afectado en todo esto el pueblo.

4. Las deepfakes como nuevo desafío para el derecho penal

El desarrollo acelerado de tecnologías basadas en inteligencia artificial ha dado lugar a nuevas formas de manipulación digital, entre las cuales se destacan las denominadas deepfakes. Estas consisten en contenidos audiovisuales hiperrealistas generados mediante algoritmos de aprendizaje profundo, capaces de suplantar la identidad de una persona real, reproduciendo su rostro, su voz y sus gestos con un alto grado de verosimilitud.

Desde una perspectiva jurídico-penal, las deepfakes plantean interrogantes relevantes en torno a la protección de bienes jurídicos clásicos, como el honor, la intimidad, la imagen, la libertad sexual, la fe pública y, en determinados supuestos, la seguridad institucional del Estado.

A. Tipología de conductas y bienes jurídicos afectados

El uso malicioso de deepfakes puede manifestarse en diversas conductas penalmente relevantes. Entre las más frecuentes se encuentran la creación de material sexual no consentido, la difusión de información falsa con capacidad de afectar la reputación de una persona, el fraude, la extorsión y la manipulación política o institucional.

En el caso de los denominados deepfakes pornográficos, el bien jurídico primordialmente lesionado es la integridad sexual y la dignidad humana, al tratarse de representaciones íntimas generadas sin consentimiento, que producen un daño psicológico y social equiparable, o incluso superior, al de la pornografía tradicional no consentida.

B. Análisis desde el Derecho Penal Argentino

El ordenamiento jurídico argentino no contempla, al día de hoy, un tipo penal específico que sancione de manera directa la creación o difusión de deepfakes. No obstante, estas conductas pueden subsumirse, según el caso, en figuras ya existentes del Código Penal, tales como:

• Calumnias e injurias (art 109 y 110 CP) cuando se atribuye falsamente la comisión de un delito o se lesiona el honor;

• Estafa (art 172 CP) cuando el contenido sintético se emplea como medio para inducir a error con finalidad patrimonial;

• Amenazas y/o extorsión: (art 149 bis y art 168 CP) cuando la prueba falsa se utiliza como instrumento de coacción.

Sin embargo, la aplicación analógica de estos tipos presenta dificultades probatorias y dogmáticas, especialmente en relación con la autoría, el dolo y la imputación objetiva del resultado.

C. Necesidad de una respuesta normativa específica

La doctrina contemporánea coincide en que la proliferación de deepfakes exige una actualización del derecho penal, ya sea mediante la incorporación de tipos penales autónomos o a través de reformas que contemplen expresamente el uso de tecnologías de inteligencia artificial como medio comisivo agravado.

Asimismo, resulta imprescindible complementar la respuesta penal con políticas públicas orientadas a la prevención, la alfabetización digital y la cooperación internacional, dado el carácter transnacional de estas conductas.

D. Implicancias probatorias de las deepfakes en el proceso penal

Uno de los aspectos más sensibles vinculados al uso de deepfakes en el ámbito judicial reside en la valoración de la prueba. La introducción de material audiovisual generado o manipulado mediante inteligencia artificial compromete directamente la fiabilidad probatoria y obliga a replantear los estándares tradicionales de admisibilidad y apreciación de la prueba digital.

En el proceso penal, donde rige el principio de presunción de inocencia y la prueba debe producir certeza más allá de toda duda razonable, la posibilidad de incorporar registros audiovisuales falsos genera un riesgo sistémico. La apariencia de veracidad que caracteriza a las deepfakes puede influir indebidamente en la convicción judicial, incluso cuando posteriormente se demuestre su falsedad.

En este contexto, resulta imprescindible exigir peritajes técnicos especializados orientados a la detección de contenidos sintéticos, así como el fortalecimiento de la cadena de custodia digital. La verificación de metadatos, registros de edición, trazabilidad del archivo y certificaciones de autenticidad se erigen como requisitos indispensables para resguardar la garantía del debido proceso.

Asimismo, el principio in dubio pro reo adquiere una relevancia reforzada frente a la duda sobre la autenticidad de una prueba audiovisual. Ante la imposibilidad de determinar con certeza si un contenido fue generado o alterado mediante IA, el material probatorio no debería ser valorado en perjuicio del imputado.

E. Adecuación típica y límites de la legislación penal vigente

Si bien los ordenamientos jurídicos contemporáneos cuentan con figuras tradicionales para sancionar el uso de pruebas falsas, como la falsedad documental, la falsedad ideológica o el fraude procesal, estas categorías fueron concebidas para contextos en los que la manipulación probatoria tenía un soporte material o textual claramente identificable.

La sofisticación técnica de las deepfakes desafía estas categorías clásicas, en tanto los contenidos generados no siempre encuadran en la noción tradicional de documento. Ello genera vacíos interpretativos que pueden derivar en inseguridad jurídica y respuestas dispares por parte de los operadores judiciales.

En este sentido, diversos sistemas jurídicos han comenzado a debatir la conveniencia de tipificar de manera específica la creación y el uso de deepfakes con fines de engaño judicial. Esta tipificación permitiría delimitar con mayor precisión el bien jurídico protegido, el elemento subjetivo del tipo y las agravantes vinculadas al contexto procesal.

F. Situación y desafíos en el ordenamiento jurídico argentino

En Argentina, la ausencia de una regulación específica sobre deepfakes obliga a recurrir a interpretaciones extensivas de los tipos penales existentes. No obstante, recientes antecedentes jurisprudenciales han demostrado que el derecho penal puede adaptarse, incluso sin una norma expresa, cuando se encuentran comprometidos derechos fundamentales.

Un precedente relevante lo constituye la jurisprudencia que ha considerado comprendidas dentro del artículo 128 del Código Penal ,modificado por la Ley 27.436, las representaciones de abuso sexual infantil generadas mediante inteligencia artificial, aun cuando no existan víctimas reales identificables. Este criterio evidencia una interpretación amplia del concepto de “representación”, acorde a los nuevos riesgos tecnológicos.

Sin embargo, este avance jurisprudencial no resulta suficiente para cubrir la totalidad de supuestos vinculados al uso malicioso de deepfakes, especialmente en contextos de fraude procesal, manipulación probatoria o afectación del honor. La falta de tipificación específica genera dificultades probatorias, incertidumbre en la imputación y desigualdad en la respuesta penal.

G. Responsabilidad de las plataformas y actores intermedios

Otro eje central del debate jurídico se vincula con la responsabilidad de las plataformas digitales y de los intermediarios tecnológicos en la difusión de contenidos deepfakes. La ausencia de obligaciones claras en materia de detección, rotulación o remoción rápida de estos contenidos contribuye a la expansión del daño.

Desde una perspectiva penal y preventiva, resulta necesario analizar el rol de estas plataformas no solo como meros intermediarios, sino también como posibles corresponsables cuando omiten adoptar medidas razonables para evitar la circulación de pruebas falsas o contenidos ilícitos.

5. Derecho comparado en IA

La Unión Europea emitió el Reglamento 2024/1689 en donde establecen disposiciones en relación a la IA, se aplica progresivamente, pero tendrá mayor solidez a partir de agosto del 2026 y en el año 2027. Tiene un enfoque que busca identificar cuáles son los riesgos que cada una de las herramientas tiene para la seguridad y los derechos fundamentales de las personas ante su uso, calificando a los mismos en bajo y alto. Su objetivo es buscar un equilibrio entre los derechos obtenidos por los humanos y la nueva tecnología. Esta reglamentación cuenta con cuatro puntos claves: fijar las prohibiciones en IA, acompañar el proceso de las catalogadas como “alto riesgo”, no atentar contra los derechos humanos fundamentales y los niveles de transparencia a cumplimentar.

Estados Unidos a nivel federal no se ha manifestado al respecto hasta la administración de Biden, quien a través de un Decreto en octubre del 2023 propulsó la normativa, misma que fue derogada por el Presidente Trump el 23 de enero del 2025. Éste último buscó a través de la nueva disposición que el país norteaméricano lidere la nueva tecnología, no se obstruya su avance y tener una mirada económica, de desarrollo humano y seguridad en dicha temática, a la vez que a los 180 días de entrada en vigor de esta se debía presentar un plan para lograr la política mencionada. Dicho Plan se presentó dentro del término establecido y en carácter general establece La Casa Blanca (2025) que: “(…) Identifica más de 90 acciones de política federal en tres pilares (Acelerar la innovación, construir infraestructura de IA estadounidense y Liderazgo en diplomacia y seguridad internacional) que la Administración Trump adoptará en las próximas semanas y meses” (La Casa Blanca, 2025)

Se destaca igualmente que los Estados de dicha nación han llevado a cabo normas en relación a la IA que sirven de estudio a nivel mundial, ejemplo de ellos son California, Colorado, Nueva York, Texas, Washington, entre otros .

La República Popular de China ha sido pionera en legislación respecto a la IA, brindando Principios rectores, el Reglamento para la Gestión de Recomendaciones Algorítmicas en los Servicios de Información de Internet y el Reglamento para la Gestión de Información de Internet de Síntesis Profunda. Estas normas, en una visión amplia, generalizada hablan de la ética, su regulación, detección de informaciones falsas, no manipulación de las personas, y más. Claro, China tiene además otras leyes vinculantes al tema, pero no se ahondará en ellas por su extensión y su falta de encuadre principal a la IA.

Fiel a su política, este país tiene un criterio de regulación donde todo debe ser evaluado por el gobierno previo a su lanzamiento, es algo que está aceptado por esta autoría pero no compartido, ya que, se entiende que el Estado debe acompañar pero no obstaculizar el desarrollo de esta tecnología.

Argentina, siendo un país en vías de desarrollo y aspiraciones de potencia mundial, no puede ser ciego y mudo ante la falta de regulación de la IA, debe asumir el compromiso con el pueblo y tomar una postura al respecto, pero acompañar este proceso histórico para el mundo, tal como lo fueron otras revoluciones, hoy se está viviendo la de la IA y no se puede dejar pasar la oportunidad de marcar un signo distintivo que revele y siente las bases de lo que el país visiona sobre el tema. En ese sentido se comparte lo afirmado por Banchio (2026) que dicta:

El desarrollo acelerado de la IA y de los sistemas algorítmicos ha puesto en evidencia un desfasaje estructural entre la velocidad de la innovación tecnológica y la capacidad de los ordenamientos jurídicos tradicionales para regularla de manera adecuada. (Banchio, 2026, 64)

El término desfasaje es compartido por esta autoría, la plataforma fáctica demuestra que no hay una visión realista de los peligros que asume la sociedad ante estos avances en la industria de la IA, por parte de los representantes, cuanto más se demore en tutelar a las personas, habrán quedado más víctimas en el camino, cabe distinguir que esas víctimas ya no tendrán solamente como victimaria a la IA, sino también a quienes, teniendo la posibilidad de haberlas protegidos, no lo hicieron.

6. El derecho penal ante el desafío de la identidad sintética

La irrupción de las deepfakes no representa simplemente un avance tecnológico, sino una verdadera prueba de resistencia para los pilares del ordenamiento punitivo. La crisis que estas herramientas provocan en las nociones de autoría, prueba y responsabilidad exige que el Derecho Penal abandone las respuestas reactivas y fragmentarias para adoptar un enfoque proactivo y sistémico.

7. Pilares de la Propuesta Normativa

• Tipificación y Agravantes : No basta con aplicar analógicamente figuras existentes; es imperativa la creación de tipos penales autónomos o la inclusión de la IA como un medio comisivo agravado, reconociendo su capacidad única para masificar el daño y vulnerar la dignidad humana.

• Integridad del Proceso : La justicia debe evolucionar mediante estándares probatorios reforzados y una capacitación judicial técnica que permita distinguir la realidad de la simulación sin vulnerar las garantías procesales.

• Estrategia Transnacional : Dado que los bits no reconocen fronteras, la eficacia de cualquier norma nacional estará supeditada a la cooperación internacional y a políticas de alfabetización digital que fortalezcan la resiliencia de la sociedad.

En última instancia, la adaptación del sistema penal a la era de la Inteligencia Artificial no debe entenderse como una expansión punitiva arbitraria, sino como un fortalecimiento de las garantías fundamentales. Proteger la verdad y la identidad en el entorno digital es, hoy más que nunca, una condición indispensable para salvaguardar la seguridad jurídica y la dignidad de las personas en un mundo donde lo real y lo sintético se confunden.