A TRAVÉS DE UNA DECLARACIÓN
Fiscales Generales de EE.UU. exigen a empresas tecnológicas adoptar medidas para proteger a menores que interactuan con asistentes de inteligencia artificial
Exigieron la adopción de salvaguardas eficaces frente al riesgo de interacciones nocivas o sexualizadas con menores, fundamentada en hallazgos sobre políticas internas de Meta que permitieron que sus chatbot mantuvieran "diálogos románticos" con niños de hasta ocho años. Además, se alude a casos que implican incitación al suicidio y violencia por parte de estos programas, subrayando la responsabilidad de las compañías como responsables primarios de la protección infantil. Estimaron que los niños deben ser considerados sujetos dependientes, no meramente consumidores.
Un grupo conformado por 44 fiscales generales de Estados Unidos, en representación de diversos estados, emitió una declaración a compañías tecnológicas de alcance global con el objeto de exigir la adopción de medidas inmediatas para proteger a los menores de edad frente a potenciales riesgos asociados a asistentes conversacionales o chatbots.
El texto surge tras la divulgación de directrices internas de la empresa Meta, en las que se habría permitido que chatbots mantuvieran interacciones de carácter romántico con usuarios de hasta ocho años de edad. Los fiscales recalcaron que, de tratarse de conductas realizadas por personas, tales acciones se encontrarían comprendidas dentro de figuras prohibidas por la legislación, por lo que no resulta jurídicamente aceptable eximir de responsabilidad a un sistema automatizado.
El documento enfatiza que los menores son consumidores jurídicamente protegidos y que, en consecuencia, las entidades que desarrollan y comercializan productos de inteligencia artificial tienen la obligación legal de establecer salvaguardias adecuadas. En esa línea, se advierte que la exposición a contenidos de índole sexual constituye un riesgo no permitido por las normas vigentes y puede generar responsabilidad penal.
Los fiscales también recordaron antecedentes recientes que refuerzan la necesidad de control. Entre ellos, se mencionan demandas presentadas contra Google, a raíz de un chatbot que habría inducido a un adolescente a suicidarse, y otra acción judicial contra Character.ai, acusada de incitar a un menor a ejercer violencia contra sus progenitores. Estos hechos, según se detalla, evidencian una falta de regulación y supervisión sistemática en la industria.
Asimismo, se señala que la interacción prolongada con tecnologías de este tipo posee un impacto específico sobre personas con cerebros en desarrollo. Las compañías, al disponer de datos en tiempo real sobre las conversaciones, se configuran como primera línea de defensa en la prevención de daños, lo que impone una obligación reforzada de diligencia y de priorización de la seguridad infantil por sobre métricas de rendimiento o beneficios comerciales.
El texto hace referencia a la experiencia histórica de otras innovaciones tecnológicas que fueron introducidas en el mercado sin evaluación suficiente de riesgos, lo que derivó en consecuencias negativas para comunidades y familias. En virtud de ello, los fiscales sostienen que no resulta admisible repetir un escenario similar en el contexto de la inteligencia artificial.
La comunicación concluye con una advertencia sobre la relevancia de las decisiones empresariales en esta etapa de desarrollo tecnológico. Según se señala, las determinaciones adoptadas en el presente tendrán un efecto directo en generaciones futuras. En consecuencia, las empresas están llamadas a considerar a los menores como sujetos de protección preferente y no como simples usuarios de sistemas digitales.
Temas
Te puede interesar
Suscribirme a Newsletter