Mientras en Hong Kong y en EE.UU. crece la preocupación por el uso de esta tecnología, en Francia y el Reino Unido el Estado intenta normalizarla.

Se acaba de comprobar estas últimas semanas en Hong Kong: los manifestantes contra la opresión de Pekín ocultaban sus rostros, para evitar ser reconocidos por la policía a través de la infinidad de cámaras que inundan la ciudad. Así, las medidas de seguridad se transforman en instrumento de represión. Aunque su fundamento y sus consecuencias son diversas, sucede algo semejante en las democracias occidentales: van reduciendo ámbitos de intimidad y libertad en nombre de la lucha contra el terrorismo. La aceleración técnica está en el origen de avances que hace poco parecían de ciencia-ficción. Comienzan a aplicarse algoritmos próximos a una inteligencia artificial, con posibles consecuencias maravillosas, por ejemplo, para la atención médica de los ciudadanos. Pero la “predictividad” aplicada a la economía, al derecho o a la investigación criminal no deja de presentar riesgos gravísimos para la libertad ciudadana y el Estado de derecho… Vigilancia sin Estado En Francia, tras el último atentado islamista en París contra agentes de la policía, el presidente de la República reconoció la relativa impotencia de un Estado omnipresente, y urgió solemnemente a la sociedad un cambio, para que se una, movilice y actúe contra los enemigos del interior: Emmanuel Macron llegó a referirse a una “sociedad de vigilancia”, activa “en la escuela, en el trabajo, en los lugares de culto, cerca de la propia casa”, para advertir las amenazas. En Londres funcionan casi medio millón de cámaras en circuito cerrado: unas 48 por cada mil habitantes: cifras solo superadas por Pekín Aunque la sociedad francesa ha venido aceptando las sucesivas medidas de seguridad contra los riesgos del terrorismo, pese a que recortan libertades, las críticas a Macron no se han hecho esperar. Como ha señalado la jurista Mireille Delmas-Marty, el peligro no es que surja un nuevo Estado de vigilancia, sino que se universalice la vigilancia sin Estado, es decir, sin garantías jurídicas. En varias ciudades importantes de Francia los ayuntamientos han establecido acuerdos con empresas tecnológicas para identificar señales, incluso débiles, a través de la investigación de infinidad de datos dentro de una especie de supercentro de visión y mando. La clásica videovigilancia se completa con un “reconocimiento de emociones”, detectadas a través de expresiones faciales asociadas a la alegría, la tristeza, el miedo o el desprecio. Y se produce una amplia privatización de los procesos, difícilmente compatible con los principios constitucionales de los principales países democráticos. Como escribían Félix Tréguer y Martin Drago en una tribuna de Le Monde, “si nuestros abuelos hubieran vivido a principios de la década de 1940 en un mundo saturado de tales dispositivos, no habrían podido construir redes clandestinas capaces de resistir al régimen nazi”. Con el aval de los jueces A mediados de septiembre, unas horas antes de un partido de rugby entre Gales e Irlanda en Cardiff, agentes de policía arrestaron a un aficionado: una cámara había capturado su imagen, y la tecnología de reconocimiento facial utilizada por la ciudad lo identificó como alguien buscado bajo sospecha de agresión. Ese sistema, que permite comprobar la identidad en segundos, viene desarrollándose desde los conflictos de Irlanda del Norte y se acentuó tras los atentados del 11 de septiembre de 2001. En Londres funcionan casi medio millón de cámaras en circuito cerrado: unas 48 por cada mil habitantes: cifras solo superadas por Pekín. En Cardiff, las furgonetas policiales con cámaras de reconocimiento forman parte del paisaje habitual de esta ciudad. La policía dijo que, desde 2017, 58 personas han sido arrestadas después de haber sido identificadas por la tecnología. Hasta ahora, el Tribunal Supremo británico ha fallado en contra de los ciudadanos que han presentado demandas por haber sido vigilados sin previo consentimiento. El sesgo de los algoritmos En cambio, crece en Estados Unidos el movimiento contra la aplicación de esos procedimientos. La opinión pública se inquieta cada vez más, porque se van conociendo acuerdos de ciudades importantes, como Nueva York o Detroit, para hacer uso de cientos de cámaras en la ciudad sin conocimiento de los ciudadanos. Así, en Detroit, está en marcha desde 2016 el proyecto “luz verde”: las veinticuatro horas del día, funcionan miles de cámaras, en estaciones de servicio, restaurantes, mini supermercados, edificios de apartamentos, iglesias y escuelas, que envían las señales a la sede central del Departamento de Policía. Si la gente se fue acostumbrado a las infraestructuras de vigilancia como algo inseparable de la vida urbana, preocupa cada vez más la posibilidad de que el reconocimiento facial permita conocer la identidad de cualquiera en pocos segundos: otorga nuevos poderes a la autoridad pública –quizá no democráticos–, y potencialmente negativos para las personas de piel oscura, por el “sesgo” racial de los algoritmos. San Francisco fue la primera ciudad en prohibir el uso de esa tecnología a los servicios de policía municipales, y otras ciudades la han seguido. Algunos congresistas quieren limitar federalmente su uso en todo el país. Para otros, bastarían normas estatales. Desde luego, esta tendencia nada tiene que ver con la praxis aplicada en China, donde las autoridades usan con profusión técnicas de reconocimiento, incluso para rastrear a los musulmanes en la región occidental del país. La responsabilidad ética de las empresas Esas regulaciones solo serían innecesarias si se extendiese la praxis de contar de veras con los consejos éticos empresariales. Así, a finales de junio pasado, Axon, compañía que suministra cámaras y software a 47 de los 69 servicios de policía más grandes de Estados Unidos, decidió no autorizar el uso de sistemas de reconocimiento facial en sus dispositivos. A juicio del comité independiente de ética de la empresa, “la tecnología de reconocimiento facial no es lo suficientemente fiable como para justificar éticamente su uso”. En concreto, su informe destaca el riesgo del sesgo del algoritmo, que “no funciona tan bien en las personas de color en comparación con los blancos, en las mujeres en comparación con los hombres, o en los jóvenes en comparación con las personas mayores”. Además, las cámaras policiales trabajan frecuentemente con luz insuficiente y las imágenes salen movidas. Como ha señalado la jurista Mireille Delmas-Marty, el peligro no es que surja un nuevo Estado de vigilancia, sino que se universalice la vigilancia sin Estado No es frecuente este tipo de reacción empresarial, en un sector competitivo en el que, además, suelen prevalecer criterios de neutralidad por parte de los fabricantes, que trasladan los problemas éticos a los usuarios. Quizá por eso se ha destacado tanto la decisión de Axon, aunque es una solución transitoria, pues no entra en el fondo del problema, sino solo en sus deficiencias actuales. Parece claro que los gigantes digitales de Occidente y de China disponen de enormes bases de datos que afectan a la privacidad de sus ciudadanos. El evidente desarrollo técnico, con amplísimas posibilidades positivas, exige regulaciones que, sin limitar la innovación, protejan la intimidad y la cordura. Está por ver la eficacia del reconocimiento facial en la lucha contra la violencia o el delito. Pero la expansión de los controles ofrece ya una consecuencia inquietante: la deshumanización de las relaciones sociales.

Reconocimiento facial: vigilados por nuestro bien

Contenido para suscriptores

Apúntate a la newsletter

síguenos

Reconocimiento facial: vigilados por nuestro bien

Contenido para suscriptores

Contenidos relacionados

Apúntate a la newsletter

síguenos

Contenido exclusivo para suscriptores de Aceprensa

Funcionalidad exclusiva para suscriptores de Aceprensa