Albania nombra a su primera “ministra” creada por inteligencia artificial: ¿innovación o riesgo democrático?

El hecho

Albania sorprendió al mundo al presentar a Diella, la primera “ministra de Estado para la Inteligencia Artificial”, encargada de gestionar las contrataciones públicas. El primer ministro Edi Rama la mostró como un avatar con voz e imagen humanas, prometiendo que gracias a ella las licitaciones serían “100% libres de corrupción” .

Detrás del gesto político hay detalles significativos:

• Tecnología base: evolución de un asistente digital del portal estatal e-Albania, desarrollado con soporte de Microsoft/OpenAI .

• Imagen y voz: interpretadas por la actriz Anila Bisha, contratada hasta diciembre .

• Marco legal: la Presidencia decretó que el propio Rama asumirá la responsabilidad de la creación y funcionamiento del sistema, mientras que la oposición anunció un recurso ante la Corte Constitucional .

Lo que mi ponencia ya había advertido

En mi trabajo “Inteligencia Artificial y Derecho: Innovación y Retos Éticos en la Legislación Tecnológica” (Anuario Oficial 2024, Universidad Kennedy) planteé tres principios que hoy son decisivos:

• Transparencia y explicabilidad de las decisiones automatizadas.

• Trazabilidad y auditoría independiente de datos y procesos.

• Revisión humana significativa antes de que una decisión produzca efectos legales.

La ministra virtual no cumple con ninguno de estos pilares. No se han publicado datasets, criterios de decisión ni logs; no hay auditorías externas conocidas; y la revisión humana parece limitada a un decreto político, no a un procedimiento administrativo verificable.

Riesgos identificados

• Vacío de responsabilidad El decreto que hace responsable al primer ministro es un parche. No hay cadena de custodia ni funcionarios que firmen actos administrativos específicos .

• Categoría de alto riesgo en la UE Según la nueva Ley de IA de la Unión Europea, sistemas aplicados a contrataciones públicas son alto riesgo, lo que exige documentación técnica, evaluación de conformidad, supervisión humana y registro oficial .

• Prohibición de decisiones automatizadas sin intervención humana El artículo 22 del GDPR prohíbe decisiones enteramente automatizadas que produzcan efectos legales, salvo excepciones estrictas. La contratación pública no parece encajar en esas excepciones .

• Sesgos y opacidad técnica Un modelo de lenguaje entrenado con datos no transparentados puede reproducir o incluso legitimar la corrupción que dice combatir .

• Legitimidad democrática La oposición cuestiona la constitucionalidad de darle rango ministerial a un avatar. La pregunta clave resuena: “¿Quién controla a Diella?” .

• Dependencia tecnológica El uso de infraestructura de Microsoft/OpenAI sin cláusulas de soberanía tecnológica abre un frente de dependencia externa en un área crítica .

Qué debería hacerse

• Publicar especificaciones técnicas: datasets, métricas de error, tasas de sesgo y protocolos de mitigación.

• Garantizar revisión humana significativa en cada decisión de adjudicación.

• Auditorías externas periódicas con resultados públicos.

• Escrow tecnológico para garantizar independencia del proveedor.

• Canales de impugnación claros para oferentes y ciudadanos, con derecho a explicación caso por caso.

Conclusión

La ministra Diella es un gesto innovador, pero sin transparencia ni control humano real corre el riesgo de convertirse en lo que ya advertimos en nuestra región: una caja negra que decide sobre derechos sin dar explicaciones. Albania puede estar inaugurando un modelo de administración pública con IA, pero también un precedente peligroso de opacidad algorítmica en el corazón del Estado.

Nota del autor: Este caso confirma que la responsabilidad algorítmica no es un debate académico abstracto, sino un desafío urgente para la democracia.

Ezequiel Brunner

Investigador en transparencia algorítmica

Responsabilidad legal y derechos digitales