La policía del Reino Unido ha estado utilizando tecnología de reconocimiento facial en vivo (LFR) durante la mayor parte de una década, y el Met fue la primera fuerza en implementarla en el Carnaval de Notting Hill en 2016.
Desde entonces, el uso de la herramienta de identificación y vigilancia biométrica por parte del Met ha aumentado considerablemente. Si bien los despliegues iniciales fueron escasos y ocurrieron solo cada pocos meses, ahora son comunes y corrientes, con cámaras vinculadas al reconocimiento facial desplegadas regularmente en eventos y áreas concurridas de Londres.
De manera similar, si bien la Policía de Gales del Sur (SWP), la única otra fuerza en Inglaterra y Gales que ha implementado oficialmente la versión «en vivo» de reconocimiento facial, utilizó la tecnología mucho más ampliamente que el Met durante sus implementaciones iniciales hasta 2017, ahora lo está implementando con mucha más frecuencia.
Desde la perspectiva de la policía, los principales beneficios operativos del reconocimiento facial incluyen la capacidad de encontrar personas que de otro modo no podrían (ya sea para salvaguardar o detener a los delincuentes) y como medida preventiva para disuadir la conducta delictiva.
Sin embargo, casi de inmediato la tecnología resultó controvertida. Desde el principio, el reconocimiento facial policial fue ridiculizado por no tener una base legal firme, poca transparencia y precisión cuestionable (especialmente para mujeres y personas con tonos de piel más oscuros), todo ello mientras se implementaba sin debate público o parlamentario.
La decisión del Met de implementar primero la tecnología en el Carnaval –el evento cultural afrocaribeño más grande de Europa y el segundo carnaval callejero más grande del mundo fuera de Brasil– también atrajo críticas de racismo institucional.
En el caso del SWP, su uso del reconocimiento facial en vivo contra activistas que protestaban en una feria de armas en Cardiff finalmente llevó a un desafío legal.
En agosto de 2020, el Tribunal de Apelaciones concluyó que el uso de la tecnología por parte de SWP hasta ese momento había sido ilegal, porque la fuerza no había realizado una Evaluación de Impacto de Protección de Datos (DPIA) adecuada y no había cumplido con su Deber de Igualdad en el Sector Público (PSED). considerar cómo sus políticas y prácticas podrían ser discriminatorias.
Aunque el tribunal también concluyó que SWP había violado los derechos de privacidad del demandante, la sentencia finalmente encontró que el problema estaba en cómo la policía había abordado e implementado la tecnología, más que un problema particular con la tecnología en sí.
En esta guía esencial, aprenda cómo la policía ha estado abordando la tecnología, las preocupaciones actuales en torno a su proporcionalidad, necesidad y eficacia, y la dirección del viaje fijada para 2024 y más allá.
¿Qué es el reconocimiento facial?
Si bien LFR ha recibido la mayor atención y escrutinio público, otras técnicas de reconocimiento facial también han comenzado a ganar popularidad entre las autoridades del Reino Unido.
Con LFR, la tecnología actúa esencialmente como un punto de control policial biométrico, con una cámara vinculada al reconocimiento facial que escanea espacios públicos y multitudes para identificar a las personas en tiempo real comparando sus rostros con una base de datos de imágenes compiladas por la policía.
También conocidas como “lista de vigilancia”, estas bases de datos se componen principalmente de fotografías de custodia y pueden contener miles de imágenes para cualquier despliegue de LFR determinado, pero se eliminan después de cada operación junto con las imágenes faciales capturadas durante.
La segunda técnica es el reconocimiento facial retrospectivo (RFR). Si bien funciona de manera similar a LFR al escanear rostros y compararlos con una lista de seguimiento, RFR se puede aplicar a cualquier imagen ya capturada de forma retroactiva.
A diferencia del LFR, que se utiliza abiertamente con cámaras especialmente equipadas encima de una camioneta policial visiblemente marcada, el uso del RFR es mucho más encubierto y puede aplicarse a filmaciones o imágenes a puerta cerrada sin ningún conocimiento público de que se ha llevado a cabo la vigilancia.
Los críticos están particularmente preocupados por el uso cada vez mayor de esta tecnología, porque la gran cantidad de dispositivos de captura de imágenes y videos en el mundo moderno (desde teléfonos y redes sociales hasta cámaras con timbres inteligentes y CCTV) está creando una abundancia de material que puede ser alimentado. en el software.
También existe preocupación sobre lo que significa su operación a escala para los derechos humanos y la privacidad, ya que suaviza los diversos puntos de fricción que tradicionalmente se han asociado con la realización de vigilancia masiva.
En cuanto al reconocimiento facial iniciado por el operador (OIFR), la versión más reciente de reconocimiento facial que se está implementando para la policía del Reino Unido, la tecnología funciona a través de una aplicación en los teléfonos de los oficiales que les permite comparar automáticamente las fotos que han tomado en el campo. con una lista de vigilancia predeterminada.
Si bien los jefes de policía del Reino Unido recién anunciaron los planes nacionales para equipar a los agentes con herramientas OIFR en noviembre de 2023, la policía de Gales del Sur, Gwent y Cheshire ya están realizando pruebas conjuntas de la tecnología.
¿Por qué el reconocimiento facial es tan controvertido?
Una cuestión importante que se cierne sobre el uso del reconocimiento facial por parte de la policía es si es realmente necesario y proporcionado en una sociedad democrática, especialmente dada la falta de debate público sobre su implementación.
Antes de poder implementar cualquier tecnología de reconocimiento facial, las fuerzas policiales del Reino Unido deben asegurarse de que sus despliegues estén “autorizados por la ley”, de que la consiguiente interferencia con los derechos (como el derecho a la privacidad) se lleve a cabo con un objetivo legalmente “reconocido” o “legítimo”. , y que esta interferencia es necesaria y proporcionada. Esto debe evaluarse para cada implementación individual de la tecnología.
Por ejemplo, el documento de mandato legal del Met, que establece el complejo mosaico de legislación que cubre el uso de la tecnología, dice que «los funcionarios autorizados deben decidir que el uso de LFR es necesario y no sólo deseable para permitir que el MPS logre sus objetivos legítimos». apuntar».
Respondiendo a preguntas sobre cómo la fuerza decidió que cada despliegue individual era necesario y proporcionado, el Met ha dado la misma respuesta a Computer Weekly en múltiples ocasiones.
«El despliegue fue autorizado sobre la base de un caso de inteligencia y la necesidad operativa del despliegue, de acuerdo con los documentos LFR del Met», dijo, y agregó en cada caso que «la proporcionalidad de este despliegue se evaluó teniendo debidamente en cuenta el caso de inteligencia». y la necesidad operativa de desplegarse, al tiempo que se sopesa el impacto en aquellos agregados a la lista de vigilancia y aquellos que se podría esperar que pasen el sistema LFR”.
Sin embargo, los críticos han cuestionado si escanear decenas de miles de rostros cada vez que se utiliza LFR es una medida necesaria y proporcionada, particularmente cuando la policía ya dispone de otros métodos menos intrusivos.
Si bien hay una serie de propósitos legalmente reconocidos (como la seguridad nacional, la prevención del desorden o la seguridad pública) que las autoridades estatales pueden utilizar para invadir los derechos de las personas, las pruebas de proporcionalidad y necesidad ya están bien establecidas en la jurisprudencia y existen para garantizar estos las autoridades no interfieran indebidamente.
“En el caso de la policía, van a decir ‘es prevención del desorden o del crimen, o seguridad pública’, por lo que pasan de la primera base, pero luego una de las preguntas es: ‘¿es esto necesario en una sociedad democrática? ‘”, dijo Karen Yeung, profesora interdisciplinaria de derecho, ética e informática en la Facultad de Derecho de Birmingham.
“Existe una jurisprudencia muy rica sobre lo que eso significa, pero la prueba fundamental es que no se puede utilizar un martillo para romper una nuez. Aunque un machete puede ser perfectamente bueno para lograr tu tarea, si una navaja sirve, entonces sólo puedes usar la navaja, y el uso de un machete es ilegal porque es desproporcionado… la forma básica de explicarlo es que no tiene que ir más allá de lo necesario para lograr el objetivo especificado”.
En el caso de RFR, si bien tiene su propio documento de mandato legal separado, existen similitudes en la necesidad de establecer el propósito y fundamento de cada búsqueda realizada con el software, así como la proporcionalidad y necesidad de hacerlo en cada caso.
Actualmente no existe un mandato legal publicado para las herramientas OIFR, pero los jefes de policía han dicho que esta versión de la tecnología no se implementará en las fuerzas hasta 2024.
¿El reconocimiento facial es sesgado o discriminatorio?
Estrechamente ligada a la necesidad y la proporcionalidad, está también la cuestión de a quién van dirigidas en última instancia las cámaras y por qué. Esto, a su vez, plantea cuestiones sobre prejuicios y discriminación, que desde la perspectiva de la policía y el gobierno pueden resolverse mediante una precisión algorítmica mejorada.
Cuando la policía del Reino Unido comenzó a desplegar LFR, una de las principales preocupaciones era su incapacidad para identificar con precisión a mujeres y personas con tonos de piel más oscuros, lo que llevó a que varias personas fueran identificadas erróneamente durante los primeros años de despliegue.
Sin embargo, a medida que ha mejorado la precisión de los algoritmos utilizados por la policía del Reino Unido, las preocupaciones han pasado de las cuestiones de sesgo algorítmico a cuestiones más profundas de sesgo estructural en la actuación policial y cómo ese sesgo se refleja en sus prácticas tecnológicas.
Los grupos de la sociedad civil sostienen, por ejemplo, que la tecnología es “discriminatoria y opresiva” dados los repetidos hallazgos de racismo institucional y sexismo en la policía, y que sólo afianzará aún más los patrones de discriminación preexistentes.
Otros han argumentado el punto más allá, diciendo que la precisión es una pista falsa. Yeung, por ejemplo, ha argumentado que incluso si la tecnología LFR llega al punto en el que es capaz de identificar rostros con un 100% de precisión el 100% de las veces, “seguiría siendo una herramienta seriamente peligrosa en manos del Estado”. porque “es casi inevitable” que continúe afianzando las discrepancias de poder existentes y los resultados de la justicia penal dentro de la sociedad.
¿Cómo funcionan las listas de seguimiento de reconocimiento facial?
Las listas de vigilancia son esencialmente imágenes de los rostros de las personas que el software de reconocimiento facial utiliza para determinar si alguien que pasa por la cámara es compatible. Si bien las imágenes pueden provenir de una variedad de fuentes, la mayoría provienen de imágenes de custodia almacenadas en la Base de Datos Nacional de la Policía (PND).
Dada la desproporcionalidad bien documentada en los resultados policiales entre diferentes grupos sociales en el Reino Unido, la preocupación es que –al utilizar datos históricos de arrestos e imágenes de custodia para indicar dónde se debe implementar el reconocimiento facial y a quién buscar respectivamente– las personas de ciertos grupos demográficos o Los fondos terminan poblando las listas de vigilancia.
“Si piensas en la desproporcionalidad en las detenciones y registros, en el número de personas jóvenes, de raza negra y de color, que están siendo detenidas, registradas y arrestadas, entonces eso empieza a ser realmente preocupante porque empiezas a incorporar la desproporcionalidad en tus listas de vigilancia. ”, dijo anteriormente a Computer Weekly la miembro de la Asamblea de Londres y presidenta del comité de policía, Caroline Russell.
Además, en sus comparecencias ante un comité de los Lores en diciembre de 2023, altos oficiales del Met y del SWP confirmaron a los Lores que ambas fuerzas utilizan “categorías de delitos” genéricas para determinar los objetivos de sus despliegues de LFR.
Esto significa que las listas de vigilancia se seleccionan en función de las categorías de tipos de delitos vinculadas a imágenes de rostros de personas (que en su mayoría son imágenes de custodia), en lugar de basarse en información de inteligencia sobre individuos específicos que se consideran una amenaza.
Otro problema con las listas de vigilancia es el hecho de que millones de estas imágenes de custodia se mantienen allí de manera completamente ilegal, lo que significa que personas que nunca fueron condenadas por un delito podrían incluirse.
En 2012, un fallo del Tribunal Superior determinó que la retención de imágenes bajo custodia era ilegal porque la información de las personas no condenadas se conservaba de la misma manera que la de aquellos que finalmente fueron condenados. También consideró desproporcionado el período mínimo de retención de seis años.
Si bien la Evaluación de Impacto de la Protección de Datos (DPIA) LFR del Met dice que “todas las imágenes enviadas para su inclusión en una lista de vigilancia deben estar legalmente en poder del…