Uso Ético de la IA en Educación: Perspectivas Jurídicas y Pedagógicas

Contrapuntos

Uso Ético de la IA en Educación: Perspectivas Jurídicas y Pedagógicas

29 de septiembre de 2025

Por Josefa Segovia, Universidad de las Américas

La inteligencia artificial (IA) ha adquirido un rol cada vez más relevante en nuestra sociedad, especialmente en el ámbito educacional. Si bien su uso ofrece oportunidades significativas para el aprendizaje y la innovación, este avance tecnológico también conlleva nuevos desafíos y riesgos. Un uso erróneo o irresponsable por parte de los estudiantes —como la creación y difusión de contenido dañino, tales como fotomontajes, videos indebidos, imágenes, entre otros— puede atentar gravemente contra la dignidad e integridad tanto de los propios estudiantes como de la comunidad educativa en su conjunto.

Ante este panorama, se hace necesario orientar a todos quienes utilicen herramientas de IA hacia un manejo adecuado y responsable. En esta línea, el proyecto de ley que propone modificar la Ley N° 20.370, General de Educación (Boletín Nº 17.791-04), tiene como objetivo principal promover el uso ético de la inteligencia artificial en los establecimientos educacionales. Esta iniciativa busca prevenir conductas indeseadas vinculadas al uso de esta tecnología, estableciendo protocolos de actuación específicos dentro del ámbito educativo.

En este contexto, presentamos un contrapunto entre dos especialistas que analizarán el uso de la inteligencia artificial en los establecimientos educacionales desde una perspectiva jurídica y pedagógica. Por un lado, la abogada Dra. Gabriela Flores Calvo, Doctora en Derecho por la Pontificia Universidad Católica, Master in Law por la Boston University y en Ciencias Jurídicas por la misma universidad chilena, entre otros grados académicos. Por otro, la docente especializada en pedagogía Raquel Soto Palavecino, con una trayectoria de 18 años en la profesión, egresada de la Universidad Autónoma y diplomada en el Centro de Mediación de la Universidad Bernardo O’Higgins.

29 de septiembre de 2025

Gabriela Flores Calvo

1. ¿Qué resguardos contiene el proyecto para asegurar un uso adecuado de la IA?

De la lectura de los artículos que se proponen incorporar, uno de los resguardos guarda relación con: la prevención y alfabetización al obligar a los establecimientos a realizar al menos tres charlas anuales sobre uso ético de IA, con enfoque preventivo y pedagógico para el manejo responsable por parte de los estudiantes (art. 16 F propuesto). Se encarga de lo que se conoce como la Gestión de Incidentes cuando mandata a elaborar protocolos rigurosos para abordar la difusión de contenido falso (deepfakes, audios, imágenes, videos) que provoque menoscabo o humillación. Y finalmente, hace referencia a la obligatoriedad de contar con un Régimen disciplinario al permitir que los establecimientos educacionales puedan suspender o cancelar la matrícula, graduación que dependerá de la gravedad de los hechos. (art. 46 letra f) El proyecto en los artículos antes referidos, aborda uno de los principales desafíos y riesgos que enfrenta la educación cuando está relacionada con la IA, la falta de capacitación y alfabetización de los usuarios (estudiantes).

Autores como Saklaki y Gardikiotis (2025) relacionan la alfabetización con el uso responsable y actitudes positivas. A su vez Yoshija (2024) reconoce como crucial la alfabetización en IA. En España la Guía de Educación contra el Ciberacoso señala que “La educación en aspectos de seguridad, privacidad, protección de los derechos de las personas etc. Es algo que se debe enseñar desde la infancia, ya que los menores acceden desde muy pequeños al mundo digital, las redes sociales, los teléfonos móviles, aplicaciones en smartphones, etc.”

Considerando lo señalado, el proyecto incorpora resguardos que, si bien no aseguran por sí mismos un uso adecuado de la IA —pues ello depende de múltiples variables—, sí permiten enfrentar uno de los problemas más relevantes: la falta de educación en su utilización.

2. ¿Cuáles son los principales beneficios de la IA en el ámbito de la educación?

Según la UNESCO y la OCDE, los beneficios del uso de la IA, bajo un marco de buenas prácticas que promuevan una IA confiable orientada a derechos, transparencia y seguridad, permiten la personalización del aprendizaje con tutorías adaptativa, feedbacks inmediatos, detección temprana de brechas, atención a NEE (necesidades educativas especiales) relacionadas con la lectura de pantalla con subtitulado/ASR, mejora de la gestión escolar a través de la administración de programación de clases, gestión de registros y la comunicación con estudiantes y padres, aprendizaje activo (simulaciones), entre otros beneficios.

3. ¿Cuáles son los principales riesgos y peligros que advierte en el uso de la IA en el ámbito de educación?

El Ciberacoso y difamación con deepfakes (uso de archivos de vídeo, imagen o voz manipulados mediante un software de inteligencia artificial) , son dos de los principales peligros del uso de la IA, así lo advierte el propio proyecto al identificarlos como un problema creciente. Otro de los peligros está en los sesgos y discriminación algorítmica, opacidad y explicabilidad limitada (técnicas que le permite a los alumnos a confiar en las decisiones que toman los algoritmos), desgaste de privacidad y protección de datos, dependencia tecnológica y desinformación, afectación del bienestar psicosocial. UNICEF (2020-2021) enfatiza riesgos específicos para niños cuando se incluyen perfiles indebidos y daños reputacionales. Además de todos esos riesgos, la implementación de tecnologías avanzadas puede exacerbar las desigualdades ya existentes en la educación.

4. ¿Cómo debería tratarse la eventual responsabilidad de menores de edad en la creación y difusión de contenidos falsos e impropios generados mediante inteligencia artificial?

En las escuelas/colegios, se debe aplicar un debido proceso, tener una graduación de sanciones, considerar medidas restaurativas, educación digital y apoyo psicosocial, documentar evidencia (preservación de metadatos) y garantizar el derecho a ser oído. Ello es coherente con el enfoque preventivo del proyecto y estándares de interés superior.

En sede judicial, la respuesta debe considerar edad y madurez, régimen de responsabilidad diferenciada para adolescentes y eventuales responsabilidades de los adultos, relacionadas con el deber de cuidado y de la institución educativa con el deber de resguardo.

En los últimos años, la jurisprudencia civil en Chile, ha puesto énfasis en el deber de cuidado y la posición de garante que tienen los establecimientos educacionales y ha sancionado la falta de la activación de los protocolos aprobados para prevenir el ciberbullying.

5. ¿Considera que sancionar con la cancelación de matrícula el uso indebido de IA es una medida proporcionada atendido el principio de interés superior del niño?

La cancelación de matrícula es una medida que debe considerarse como máxima, pues afecta el derecho a la educación, si se utiliza esta sanción, debería ser el último ratio, posterior a la advertencias, mediación, medidas pedagógicas y suspensiones breves, sin descuidar la salud mental y bienestar de quien es agredido. Debe considerarse en casos gravísimos, cuando la afectación es intensa y persistente, y se acredite la ineficacia de las medidas menos graves. Siempre con un debido proceso, evaluación y apoyo psicosocial y garantías. Esto condice con lo que se propone en el proyecto cuando se señala, que se permite la suspensión o cancelación “según la gravedad de los hechos”.

6. ¿Cuáles son, a su juicio, los principales aciertos de la modificación legislativa que se propone?

Se institucionaliza la formación ética en IA (recomendación de la UNESCO). No se centra solo en el castigo, tiene un enfoque preventivo y pedagógico y considera la gradación sancionatoria por gravedad, habilitando herramientas cuando el daño revista seriedad. Uno de los puntos importantes es que da una respuesta específica a la difusión de contenido falso (deepfakes) y exige protocolos frente a contenido que cause daño.

7. ¿Qué cuidados deben tener los protocolos que debieran dictarse para no afectar derechos de los estudiantes?

Algunas de las consideraciones guardan relación con:

• El debido proceso y defensa que permita obtener información clara de los hechos y tener acceso a la evidencias.

• Considerar la proporcionalidad y gradualidad de las medidas que se adopten.

• Es fundamental considerar la privacidad y protección de datos.

• Deben tener un lenguaje claro y un enfoque inclusivo, no discriminatorio.

• Considerar apoyo psicosocial a ambas partes (agresor y víctima).

• Fundamental que estén articulados con los reglamentos internos de convivencia escolar.

8. ¿Considera que la modificación legal propuesta podría ser un primer paso para crear un derecho digital en las escuelas, que regule el uso de nuevas tecnologías en la educación?

Sí. El proyecto contempla medidas de prevención y protocolización de incidentes relacionados con la IA, alineándose con las tendencias regulatorias adoptadas en Europa. Sin embargo, el éxito de su modificación, dependerá del control efectivo en la implementación y cumplimiento de dichos protocolos.