El desafío del reconocimiento facial: demasiado poder, poca regulación

Una cámara capta tu rostro en una manifestación y, al día siguiente, la policía llama a tu puerta. Una mujer no consigue un subsidio público porque su cara no encaja con el retrato de su documento de identidad. O un sistema para controlar el integrismo islámico en Alemania deviene en un control férreo de las minorías religiosas. Son ejemplos de aplicaciones de la tecnología de reconocimiento facial que chocan con los derechos fundamentales de la ciudadanía.

En el marco del congreso Humanism in the digital age, organizado por el programa Digital Future Society, se han analizado los efectos de una herramienta poderosa que, sin embargo, todavía no cuenta con una normativa clara sobre los usos admitidos en una democracia. Aunque hay pasos prometedores como el reglamento que impulsa el Parlamento Europeo y que ha centrado buena parte del debate entre tres expertos en inteligencia artificial (IA).

Buenos usos, malos usos

Sarah Chander, consejera sénior de políticas en el foro European Digital Rights, ha señalado los dos escenarios polémicos del reconocimiento facial. "El primer caso son los aspectos de la vida privada. Todos estamos de acuerdo en que debe haber un límite cuando se entra en la esfera personal", ha explicado. Por otro lado, ha advertido sobre el "impacto en las minorías que ya están sobrecontroladas" que suponen estos mecanismos de procesamiento de imagen.

En este punto, Amos Toh, investigador sénior de Human Rigts Watch, ha mencionado el caso de una trabajadora en Texas que, ante sus dificultades para llegar a fin de mes, optó a una ayuda de la Administración estadounidense. Sin embargo, las dificultades para chequear un selfi de su rostro con su documento de identidad provocaron la denegación del subsidio. Para Toh, este tipo de externalidades son las que deben tenerse en cuenta antes de "externalizar y privatizar funciones claramente gubernamentales" en compañías que desarrollan softwares cuyas consecuencias no son predecibles. Ante estas situaciones, el investigador ha apuntado que algunos estados de EEUU han limitado e incluso prohibido la aplicación de esta tecnología.

Reglamento europeo

Por todo ello, la ley sobre IA que ha iniciado su segunda lectura en el Europarlamento --tras la presentación del borrador por parte de la Comisión Europea-- podría aportar una referencia tanto para limitar las funciones del reconocimiento facial en el continente, como para servir de ejemplo en otras regiones. El eurodiputado Brando Benifei, impulsor de la regulación, ha subrayado que "la propuesta de reglamento será igual para los 27 Estados miembros y no tendrá una adaptación posterior".

"Dado que los gobiernos son tímidos e incluso algunos dicen que la Comisión ha sido demasiado restrictiva, es de una importancia capital que el Parlamento trabaje para enmendar el reglamento. En el texto actual el uso se restringe, pero se permiten muchas interpretaciones que las judicaturas podrían interpretar en función del clima político", ha añadido. Benifei ha llamado a la interlocución de los agentes sociales, tanto las patronales como los sindicatos, para mejorar el resultado final del documento.

Pero, ¿funciona?

Más allá del marco jurídico, Benifei se ha preguntado retóricamente si el reconocimiento facial funciona realmente, sobre todo en áreas sensibles como la lucha antiterrorista. "No hay datos fehacientes que muestren que con el uso de esta tecnología tengamos más capacidad para hacer frente a estos delitos", ha asegurado.

"Veo más amenazas de seguridad en un uso indiscriminado o en un uso falsamente limitado de estas tecnologías", ha apostillado el europarlamentario. Pese a que la tarea legislativa en las instituciones comunitarias puede ayudar a mejorar el entorno regulatorio para el reconocimiento facial y otras herramientas basadas en la IA. "No creo que el reglamento general tome las decisiones adecuadas en materia de derechos fundamentales frente a las tecnologías. Soy escéptica", ha remachado Chandler.