Ante riesgo de respuestas falsas
Italia ordena a empresas de inteligencia artificial transparentar información sobre “alucinaciones” de sus modelos
Finalizó sus indagatorias sobre las plataformas DeepSeek, Mistral y NOVA AI tras alcanzar acuerdos de transparencia. Las compañías implementarán avisos permanentes y advertencias precontractuales que alerten a los consumidores sobre la posibilidad de generar información inexacta. Estas medidas buscan fortalecer la protección del usuario frente al fenómeno de las alucinaciones.
La Autoridad Garante de la Competencia y del Mercado de Italia finalizó tres investigaciones dirigidas a empresas desarrolladoras de inteligencia artificial generativa. El proceso involucró a las firmas Hangzhou DeepSeek Artificial Intelligence Co. Ltd. y Beijing DeepSeek Artificial Intelligence Co. Ltd., Mistral AI SAS y la compañía Scaleup Yazilim Hizmetleri Anonim Şirketi, responsable del chatbot multiplataforma conocido como NOVA AI. Las indagatorias se centraron en la claridad de la información proporcionada a los usuarios sobre el funcionamiento y los alcances de estas herramientas tecnológicas.
El organismo regulador evaluó específicamente la gestión del riesgo asociado a las denominadas alucinaciones, un fenómeno técnico donde los sistemas producen contenidos falsos o engañosos de manera involuntaria. Tras el análisis de los antecedentes, la autoridad aceptó los compromisos propuestos por las empresas y determinó que no se configuraron infracciones al Código del Consumidor. El acuerdo establece la ejecución de medidas destinadas a reforzar la transparencia informativa en los sitios web y aplicaciones antes de que el usuario proceda al registro o a la adquisición de los servicios.
Entre los compromisos adquiridos destaca la incorporación de avisos permanentes en las interfaces de conversación, redactados en idioma italiano, que advierten explícitamente sobre la presencia de contenidos inexactos a través de hipervínculos específicos.
Asimismo, se integraron advertencias en la etapa precontractual que detallan los límites de fiabilidad de los resultados generados y subrayan la necesidad de que el consumidor verifique la información recibida. En el caso de la empresa DeepSeek, se planificó además una inversión tecnológica orientada a mitigar estos errores, aunque la firma reconoció que el estado actual de la tecnología no permite eliminarlos totalmente.
Respecto al servicio NOVA AI, la compañía aclaró a los consumidores que su plataforma opera únicamente como una interfaz de acceso a diversos chatbots de terceros. Con esta precisión, se busca evitar confusiones sobre la naturaleza del servicio, confirmando que no realiza tareas de agregación o procesamiento propio de respuestas. Estas disposiciones judiciales y administrativas pretenden asegurar que los ciudadanos cuenten con datos precisos sobre las capacidades reales de la inteligencia artificial antes de su uso, promoviendo un mercado digital más transparente.
Temas
Te puede interesar
Suscribirme a Newsletter