ONU alerta por riesgos del reconocimiento facial sin regulación

Un nuevo documento elaborado por el relator especial de las Naciones Unidas sobre derechos humanos y lucha contra el terrorismo, Ben Saul, advierte sobre los riesgos que plantea el uso creciente de tecnologías de reconocimiento facial por parte de fuerzas policiales y organismos de inteligencia, alertando que la ausencia de regulaciones claras podría afectar derechos fundamentales como la privacidad, la libertad de expresión, la libertad de reunión y el derecho a no sufrir discriminación.

El informe analiza el avance de sistemas capaces de identificar o verificar la identidad de una persona a partir de imágenes de su rostro y sostiene que, en numerosos países, estas herramientas se están utilizando en contextos de seguridad pública y seguridad nacional sin marcos normativos específicos que garanticen su compatibilidad con los estándares internacionales de derechos humanos.

El documento plantea escenarios que hasta hace algunos años parecían propios de la ciencia ficción, como la identificación automática de personas que participan en manifestaciones públicas o la inclusión errónea de individuos en bases de datos policiales mediante sistemas automatizados. Según advierte el experto, estas situaciones ya están ocurriendo y exigen una respuesta regulatoria urgente.

El análisis distingue tres modalidades principales de utilización del reconocimiento facial. La primera corresponde a la verificación con consentimiento, cuando una persona autoriza voluntariamente el uso de su imagen para desbloquear dispositivos o acceder a controles fronterizos. La segunda consiste en la vigilancia en tiempo real mediante cámaras instaladas en espacios públicos que comparan automáticamente los rostros captados con bases de datos policiales sin aviso previo. La tercera modalidad corresponde al análisis retrospectivo, que permite a las autoridades revisar grabaciones de cámaras de seguridad, registros audiovisuales de protestas o publicaciones en redes sociales para identificar personas después de ocurrido un determinado hecho.

A juicio del relator especial, el problema común a estos tres usos radica en la falta de regulación específica. Según indica, en la mayoría de los países no existe una ley aprobada por los parlamentos que autorice expresamente el uso de reconocimiento facial, establezca límites claros a su utilización o contemple mecanismos independientes de supervisión y control.

El documento advierte además que la tecnología no es neutral y que, utilizada sin controles adecuados, puede transformar los espacios públicos en entornos sometidos a vigilancia permanente.

Entre los riesgos más relevantes identificados por el informe figura el denominado sesgo algorítmico. Diversos estudios independientes han demostrado que muchos sistemas de reconocimiento facial presentan mayores tasas de error al identificar mujeres, personas de piel oscura y jóvenes. El problema, señala el documento, trasciende lo meramente técnico, ya que una identificación errónea puede derivar en detenciones injustificadas, investigaciones infundadas o la incorporación equivocada de una persona a listas de vigilancia.

La fiabilidad de estas tecnologías también disminuye cuando operan en condiciones reales, como ambientes con iluminación deficiente, ángulos desfavorables, movimientos rápidos o uso de mascarillas. Asimismo, el informe cuestiona la validez científica de los sistemas que afirman ser capaces de reconocer emociones o inferir estados psicológicos a partir de expresiones faciales, señalando que actualmente no existe consenso científico que respalde tales capacidades.

Según el experto, la utilización de herramientas destinadas a deducir creencias religiosas, orientación política, estados emocionales u otras características sensibles a partir de la apariencia facial resulta especialmente preocupante desde la perspectiva de los derechos humanos.

Uno de los apartados más sensibles del documento aborda el uso del reconocimiento facial en contextos de protesta social. El informe sostiene que la identificación automática de participantes en manifestaciones pacíficas puede generar un “efecto inhibidor” o “efecto enfriamiento”, provocando que las personas opten por no ejercer sus derechos fundamentales por temor a ser vigiladas, registradas o eventualmente objeto de represalias.

Por esta razón, el relator especial sostiene que el derecho de reunión pacífica constituye un pilar esencial de toda democracia y que cualquier tecnología susceptible de desalentar su ejercicio debe ser sometida a un escrutinio particularmente riguroso. En consecuencia, recomienda prohibir expresamente el uso del reconocimiento facial para identificar participantes de manifestaciones legítimas, salvo en situaciones excepcionales asociadas a hechos graves de violencia y siempre previa autorización judicial.

El documento formula además una serie de recomendaciones destinadas a compatibilizar el desarrollo tecnológico con la protección de los derechos fundamentales. Entre ellas se encuentra la exigencia de una base legal clara para cada utilización de reconocimiento facial, mediante leyes que definan expresamente sus finalidades, límites y mecanismos de control.

Asimismo, propone establecer prohibiciones absolutas respecto de la vigilancia facial masiva e indiscriminada en espacios públicos, la identificación de manifestantes pacíficos y la utilización de sistemas que pretendan inferir emociones, creencias religiosas u orientación política.

El informe también plantea la necesidad de exigir autorización judicial previa para el despliegue de sistemas de reconocimiento facial en tiempo real, salvo situaciones de urgencia debidamente justificadas y sujetas a revisión posterior en un plazo máximo de 24 horas.

Entre las medidas recomendadas se incluyen igualmente mayores estándares de transparencia, mediante la publicación de políticas de uso, tasas de error y resultados de auditorías, junto con la garantía de mecanismos efectivos para que cualquier persona pueda impugnar identificaciones erróneas.

Otro aspecto abordado es el control internacional de la comercialización de estas tecnologías. El experto propone que las exportaciones de sistemas de reconocimiento facial queden sometidas a evaluaciones de riesgo en materia de derechos humanos y que se prohíba su transferencia a Estados con antecedentes de abusos o violaciones sistemáticas de garantías fundamentales.

El documento alerta igualmente sobre un fenómeno menos visible pero potencialmente grave: la exportación de tecnologías desarrolladas en países con regulaciones estrictas hacia jurisdicciones con escasas salvaguardias institucionales, donde estas herramientas podrían transformarse en instrumentos de vigilancia masiva o represión política.

Pese a los riesgos identificados, el informe concluye con una visión optimista. Según el relator especial, todavía es posible prevenir abusos mediante la adopción de leyes vinculantes, la creación de mecanismos de supervisión independientes y la participación efectiva de la sociedad civil en el diseño de las normas que regulen estas tecnologías.

El documento enfatiza que el rostro forma parte de la identidad personal y que su captura, análisis y almacenamiento no deben quedar entregados a decisiones arbitrarias o carentes de control. En esa línea, sostiene que el desarrollo tecnológico debe estar orientado al servicio de las personas y no a la restricción de sus libertades, destacando que la protección temprana de los derechos fundamentales resulta más eficaz y menos costosa que la reparación posterior de los daños derivados de eventuales abusos.