Lo que le cuentas a tu chatbot: Stanford documentó el problema; Europa ya demostró cómo no resolverlo

En septiembre de 2025, Jennifer King y Kevin Klyman, de la Universidad de Stanford, publicaron lo que podría llamarse el diagnóstico más incómodo del año en materia de privacidad digital. El paper «User Privacy and Large Language Models: An Analysis of Frontier Developers’ Privacy Policies» (arXiv:2509.05382) analizó las políticas de privacidad de los seis desarrolladores de chatbots de IA más importantes del mundo y encontró lo que muchos sospechaban pero pocos habían documentado con esa precisión.

Los seis usan datos de conversaciones de sus usuarios para entrenar sus modelos, por defecto, sin que el usuario deba hacer nada para habilitarlo. Algunos retienen esos datos indefinidamente. Cuatro de los seis incluyen datos conversacionales de menores. Y las políticas de privacidad que supuestamente regulan todo esto carecen, en la mayoría de los casos, de información esencial sobre esas prácticas.

El mecanismo es tan sencillo como efectivo: el usuario no paga con dinero el servicio; paga con sus conversaciones. Cada pregunta, cada documento subido, cada inquietud escrita en el campo de texto se convierte, salvo que el usuario tome el trabajo específico de desactivarlo, en material de entrenamiento para el modelo que acaba de responderle. Y OpenAI, para que quede documentado, enmarca la opción de ceder datos en términos de beneficio social («mejorá el modelo para todos»), lo que los investigadores de Stanford identifican como culpabilización deliberada para desalentar el opt-out.

El diagnóstico es sólido. El problema real es saber qué hacer con él. Y aquí es donde conviene mirar a Europa antes de mirar a Chile.

El experimento europeo y sus resultados

Cuando el GDPR entró en vigencia en 2018, la promesa era clara: transparencia obligatoria, consentimiento real, derechos efectivos para el titular de datos. Un estudio del MIT de 2024 midió los resultados: los costos de manejo de datos en empresas europeas aumentaron un 20%, equivalentes a €16.000 millones anuales. La innovación cayó en sectores regulados. La mejora medible en privacidad efectiva del consumidor fue estadísticamente nula.

El compliance se convirtió en industria; la privacidad, en burocracia.

El AI Act profundizó la misma lógica. Los costos de cumplimiento para proveedores de sistemas de alto riesgo oscilan, según el análisis de Stanford HAI de 2024, entre €6.000 y €500.000 anuales por empresa. Lo que ese rango no muestra es su efecto distributivo: para los cinco grandes desarrolladores de modelos de frontera, que invirtieron más de €38 millones en lobbying durante las negociaciones del AI Act según el Registro de Transparencia de la UE, esos costos son perfectamente absorbibles. Para una startup sin esa escala, son una barrera de entrada que elimina la competencia antes de que empiece. El AI Act, en la práctica, protege a quienes lo diseñaron.

El resultado visible: Europa no tiene ningún actor de escala global en IA de uso masivo. No es casualidad; es consecuencia de años de regulación preventiva que prescribe cómo debe funcionar la tecnología antes de que se sepa qué daño produce.

Lo que Chile ya tiene

Chile no necesita ese camino porque ya tiene algo más eficiente: un instrumento constitucional que actúa sobre el daño verificable, no sobre el riesgo hipotético.

La sentencia de la Corte Suprema en el caso Worldcoin (Rol 35.760-2024, 7 de enero de 2025) es el ejemplo más preciso disponible. Una empresa de tecnología capturó datos biométricos de un menor sin consentimiento válido. La Corte no diseñó un régimen regulatorio; no dictó instrucciones sobre cómo Worldcoin debía gestionar datos en el futuro; no creó una agencia de supervisión. Hizo algo mucho más concreto: ordenó la destrucción total de los datos obtenidos sin permiso real, fijó un plazo de treinta días y exigió prueba documental de cumplimiento.

El fundamento no fue legal sino constitucional. El Considerando Duodécimo ancló la decisión simultáneamente en el artículo 19 N°1 (integridad física y psíquica) y en el 19 N°4 (vida privada y protección de datos). La Ley 19.628 y la Ley 21.430 aparecen como complemento normativo; el núcleo es la garantía constitucional. Eso significa que el piso existe con independencia de lo que diga o cambie la ley ordinaria.

El segundo hallazgo de Worldcoin es igualmente relevante: el Considerando Noveno declaró el efecto horizontal de esa protección en términos que no requieren interpretación forzada. El mandato de no injerencia en la vida privada de un menor «es de cumplimiento transversal, o sea para cualquier persona natural o jurídica que se relacione con ellos.» La garantía opera frente a empresas tecnológicas, no solo frente al Estado.

El argumento del consentimiento, que es la defensa habitual de los desarrolladores que Stanford analizó, fue neutralizado con un criterio que puede replicarse: Worldcoin también tenía formularios de consentimiento. El problema no era ausencia de firma; era que la arquitectura del proceso no permitía un consentimiento genuinamente libre e informado. La Corte no le creyó al formulario; le creyó a la situación. Exactamente el problema que Stanford documentó: consentimiento estructuralmente viciado por el diseño del sistema, no ausente en el papel.

Ese razonamiento ya existe. No requiere nueva legislación para aplicarse.

La Ley 21.719: oportunidad o trampa

La Ley 21.719, publicada el 13 de diciembre de 2024 y con entrada en vigencia el 1 de diciembre de 2026, moderniza el marco de protección de datos y crea la Agencia de Protección de Datos Personales. El Tribunal Constitucional ya reconoció, en la STC 15733-24, que esa agencia desarrolla una garantía constitucional preexistente bajo el artículo 19 N°4.

La pregunta que la ley deja abierta no es si el derecho existe, sino qué tipo de instrumento va a ser la APDP cuando entre en funcionamiento. Puede ser un organismo que defiende la autonomía individual con precisión quirúrgica, actuando donde hay daño verificable y dejando espacio para la innovación donde no lo hay. O puede replicar la lógica europea: cumplimiento preventivo, auditorías obligatorias, costos fijos que inevitablemente recaen más sobre actores pequeños que sobre los grandes plataformeros que generaron el problema.

La evidencia europea sugiere que la segunda opción no mejora la privacidad efectiva de los usuarios; solo encarece el ecosistema y consolida a quienes ya tienen escala para absorber ese costo.

El espacio que Stanford abrió

Lo que el paper de King y Klyman hace, en términos jurídicos, es convertir una sospecha en evidencia. El consentimiento viciado por diseño que Worldcoin resolvió para datos biométricos tiene un equivalente exacto en el universo de los chatbots: los datos conversacionales de usuarios chilenos que usan ChatGPT, Claude o Gemini van al mismo flujo de entrenamiento que los datos de sus contrapartes en California, bajo políticas que los propios investigadores de Stanford califican de opacas e insuficientes.

La extensión del razonamiento constitucional de Worldcoin hacia esos datos no requiere nueva legislación: requiere un caso concreto que obligue a los tribunales a pronunciarse. El TC Rol 2153 ya reconoció los correos electrónicos como expresión de la intimidad protegida por el 19 N°4. La trayectoria que va de los correos a los datos biométricos y de ahí a los datos conversacionales de sistemas de IA sigue una lógica que los precedentes existentes permiten sostener.

Desde afuera, sin pretender dar lecciones sobre un ordenamiento que no es el mío, lo que observo es esto: Chile llegó a 2025 con una ventaja comparativa genuina. Tiene anclaje constitucional sólido, tiene efecto horizontal declarado, tiene un estándar de remedio concreto y verificable, y tiene dieciséis meses antes de que entre en vigor la nueva ley para decidir qué tipo de agencia de protección de datos quiere construir.

Copiar a Bruselas en ese período sería desperdiciar exactamente lo que Worldcoin demostró que ya funciona: proteger la autonomía individual sobre los propios datos con precisión sobre el daño real, sin crear una industria de compliance que beneficia a los mismos actores que generaron el problema.

Stanford documentó el diagnóstico. Europa demostró cómo no tratarlo. Chile ya tiene los instrumentos para una alternativa mejor. (Santiago, 5 de marzo de 2025)