Inicio Tecnología Las firmas tecnológicas están bajo escrutinio por vínculos con la policía

Las firmas tecnológicas están bajo escrutinio por vínculos con la policía

Los gigantes tecnológicos Amazon, Microsoft e IBM acordaron recientemente detener las ventas de sus respectivas tecnologías de reconocimiento facial a las agencias policiales de EE. UU. Durante la segunda semana de junio de 2020, a pesar de que los activistas de la privacidad expresaron su preocupación por su uso durante varios años. ¿Pero por qué ahora?

En un carta abierta al Congreso de los Estados Unidos fechada el 8 de junio de 2020, el CEO de IBM, Arvind Krishna, citó las preocupaciones sobre su versión de la tecnología que se está utilizando «para la vigilancia masiva, el perfil racial y las violaciones de los derechos humanos y libertades básicos» como razones para frenar las ventas de su software de reconocimiento facial «de propósito general» .

La compañía también confirmó a El borde que IBM dejaría de seguir investigando o desarrollando la tecnología.

Amazon y Microsoft, mientras tanto, siguió el ejemplo de IBM al comprometerse a detener la venta de sus respectivas tecnologías de reconocimiento facial hasta que existan leyes que regulen explícitamente su uso.

En un short, publicación de blog de dos párrafos Al anunciar la decisión el 10 de junio de 2020, Amazon afirmó que había defendido una regulación gubernamental más fuerte sobre el uso ético del reconocimiento facial y que «en los últimos días, [US] El Congreso parece listo para asumir este desafío ”.

Agregó: «Esperamos que esta moratoria de un año le dé al Congreso suficiente tiempo para implementar las reglas apropiadas, y estamos listos para ayudar, si se solicita».

Hablando en un evento de Washington Post Live el 11 de junio de 2020, El presidente de Microsoft, Brad Smith, expuso sus razones para hacerlo, y dijo: «No venderemos tecnología de reconocimiento facial a los departamentos de policía en los Estados Unidos hasta que tengamos una ley nacional vigente, basada en los derechos humanos, que regirá esta tecnología».

A diferencia de sus contemporáneos, Google ha abogado por el uso «cauteloso» de la tecnología desde finales de 2018.

«El reconocimiento facial es una tecnología muy sensible, y es por eso que hemos tomado un enfoque cauteloso y no lo ofrecemos en una API de propósito general [application programming interfaces] mientras trabajamos a través de la política y los problemas técnicos en juego «, dijo un portavoz de Google.

«Entonces, aunque no respaldamos la prohibición de esta tecnología, sí fomentamos fuertes barandas, particularmente para el reconocimiento facial público, a través de regulaciones y otros medios».

Mayor escrutinio

Los anuncios se produjeron después de varias semanas de protestas masivas contra el asesinato policial de George Floyd, un afroamericano de 46 años que fue asesinado en Minneapolis durante un arresto por supuestamente usar una nota falsificada el 25 de mayo de 2020.

Las protestas, que ahora han trascendido las fronteras nacionales, han llevado a un mayor escrutinio de las empresas de tecnología y sus contratos con las fuerzas del orden público, lo que plantea dudas sobre su complicidad en la brutalidad policial y el racismo institucional más amplio.

Sin embargo, desde el comienzo de la pandemia, una gran cantidad de compañías biométricas de todo el mundo han actualizado sus algoritmos de reconocimiento facial para identificar personas con rostros ocultos, mientras que cantidad de proveedores notables dijo que continuarán sirviendo a las fuerzas del orden público de EE. UU. a pesar del mayor escrutinio del mercado.

Esto incluye Corporación NEC, que proporciona al Servicio de Policía Metropolitana del Reino Unido y a la Policía de Gales del Sur tecnología de reconocimiento facial y la controvertida startup Clearview AI.

Esto sugiere que el mercado no está cerca de desacelerarse, a pesar de las enormes, si no nuevas, preguntas éticas planteadas en las últimas semanas sobre la venta de la tecnología a las fuerzas policiales.

¿»Lavado ético» o actos genuinos de solidaridad?

Hablando en un panel de reconocimiento facial en CogX, una cumbre anual de liderazgo mundial centrada en la inteligencia artificial (IA) y otras tecnologías emergentes, la investigadora independiente y locutora Stephanie Hare dijo que las compañías de tecnología siempre están eliminando tecnologías no rentables de sus planes de desarrollo de productos, «pero no escriba al Congreso de los Estados Unidos y haga un comentario político al respecto, así que ese es el cambio sustancial que IBM ha hecho ”.

Hablando en el mismo panel en CogX, Peter Fusey, profesor de sociología en la Universidad de Essex que realizó el primer estudio independiente de los ensayos de reconocimiento facial de la Policía Metropolitana, agregó que aunque la motivación de IBM no está clara, al menos fue interesante por cómo cambia el debate en el futuro.

«Quién sabe cuál es la motivación, podría ser un lavado de ética, sea lo que sea, pero algo que es bastante interesante al respecto [IBM] anuncio hoy, es más difícil argumentar que regular el reconocimiento facial es de alguna manera anti-innovación «, dijo.

Declarar la regulación como «antiinnovación» es un estribillo común escuchado por los activistas y otros cuando buscan regular la industria tecnológica. De acuerdo con la Tiempos financieros, un borrador de los planes de inteligencia artificial de Bruselas de diciembre Advirtió que la prohibición del uso del reconocimiento facial podría sofocar la innovación en el sector.

«Por su naturaleza, dicha prohibición sería una medida de gran alcance que podría obstaculizar el desarrollo y la adopción de esta tecnología», dijo.

Sin embargo, resulta que IBM ya había «eliminado sus capacidades de reconocimiento facial de su API distribuida públicamente» en septiembre de 2019, según un documento preparado para el Conferencia de Inteligencia Artificial, Ética y Sociedad (AIES) en febrero de 2020, haciendo preguntas sobre la sinceridad de IBM eligiendo este momento para pivotar públicamente.

Mientras tanto, los activistas de la privacidad han planteado preguntas sobre si las acciones de Amazon y Microsoft van lo suficientemente lejos.

El 10 de junio, la Electronic Frontier Foundation (EFF) publicó un entrada en el blog diciendo: «Si bien damos la bienvenida al medio paso de Amazon, instamos a la compañía a terminar el trabajo. Al igual que IBM, Amazon debe finalizar permanentemente su venta de esta peligrosa tecnología a los departamentos de policía.

«En 2019, Microsoft declaró que había negado a una agencia de aplicación de la ley de California el uso de su tecnología de reconocimiento facial en cámaras usadas en el cuerpo y cámaras de automóviles, debido a preocupaciones de derechos humanos. El siguiente paso lógico es claro: Microsoft debería finalizar el programa de una vez por todas ”.

Sin embargo, muchos activistas no están satisfechos con la tecnología que se está utilizando y desean una prohibición permanente de su uso.

“Debería haber una prohibición a nivel nacional del uso gubernamental de la vigilancia facial. Incluso si la tecnología estuviera altamente regulada, su uso por parte del gobierno continuaría exacerbando una crisis policial en esta nación que perjudica desproporcionadamente a los estadounidenses negros, los inmigrantes, los desalojados y otras poblaciones vulnerables ”, dijo EFF.

Amazon sabe que el software de reconocimiento facial es peligroso. Saben que es la herramienta perfecta para la tiranía.

Evan Greer, lucha por el futuro

«Estamos de acuerdo en que el gobierno debería actuar, y estamos contentos de que Amazon les esté dando un año para hacerlo, pero el resultado debe ser el fin del uso gubernamental de esta tecnología».

Otros, como el grupo de derechos digitales Fight for the Future, fueron más críticos y calificaron el movimiento de Amazon como «nada más que un truco de relaciones públicas».

“Amazon sabe que el software de reconocimiento facial es peligroso. Saben que es la herramienta perfecta para la tiranía. Saben que es racista y que, en manos de la policía, simplemente exacerbará la discriminación sistémica en nuestro sistema de justicia penal «, dijo el subdirector de Fight for the Future, Evan Greer.

«La última frase de la declaración de Amazon es reveladora. Están listos para ayudar si se les solicita. Han estado pidiendo al gobierno federal que «regule» el reconocimiento facial, porque quieren que sus abogados corporativos ayuden a redactar la legislación, para asegurarse de que sea amigable con su modelo comercial capitalista de vigilancia.

«Pero también es una señal de que el reconocimiento facial es cada vez más tóxico políticamente, como resultado de la increíble organización que está ocurriendo en el terreno en este momento», agregó.

¿Qué pasa con otras tecnologías policiales?

Muchas de las críticas y preocupaciones compartidas con respecto a los lazos del sector tecnológico con la policía en las últimas semanas se han centrado exclusivamente en el reconocimiento facial, ofuscando los resultados negativos que otras tecnologías pueden tener cuando la policía las implementa.

Krishna de IBM, en su carta abierta, incluso llegó a decir que la política nacional debería hacerse para «alentar y avanzar en el uso de tecnología que brinde mayor transparencia y responsabilidad a la vigilancia, como cámaras corporales y técnicas modernas de análisis de datos».

Si bien Amazon y Microsoft no llegan tan lejos, no se mencionó cómo otras tecnologías pueden tener efectos discriminatorios similares.

En su libro Policía: una guía de campo, que analiza la historia y los métodos de la policía moderna, los autores David Correia y Tyler Wall argumentan que estas tecnologías están sesgadas inherentemente hacia la perspectiva policial.

“Recuerde que las cámaras usadas en el cuerpo son herramientas organizadas, controladas y desplegadas por la policía. ¿Cómo deberían ser utilizados? ¿Cuándo deberían ser utilizados? ¿Dónde se deben usar? Todas estas preguntas son respondidas exclusivamente por la policía ”, dijeron.

«Cualquier demanda de reforma policial que incluya un llamado a la policía a usar cámaras corporales es un llamado a invertir la autoridad de supervisión total de la policía con la policía».

En noviembre de 2015, un ensayo de cámaras llevadas por el cuerpo realizadas por la Policía Metropolitana, junto con la Oficina del Alcalde para la Policía y el Delito, el Colegio de Policía y el Ministerio del Interior, descubrió que la tecnología tenía poco o ningún impacto en varias áreas de la policía. .

La prueba reveló que las cámaras «no tuvieron un impacto general» sobre el «número o tipo de paradas y registros», «sin efecto» en la proporción de arrestos por delitos violentos y «sin evidencia» de que las cámaras cambiaron la forma en que los agentes trataban a las víctimas o sospechosos.

Agregó que si bien los videos usados ​​en el cuerpo también pueden reducir el número de acusaciones contra oficiales, esto «no alcanzó significación estadística».

Tampoco está claro cómo las «técnicas modernas de análisis de datos» podrían aumentar la transparencia y la rendición de cuentas de la policía, ya que, por lo general, cuando la policía utiliza el análisis de datos es para «vigilancia predictiva», una técnica utilizada para identificar posibles actividades y patrones delictivos, ya sea en individuos o áreas geográficas , dependiendo del modelo.

Cabe señalar que IBM ha estado desarrollando programas y herramientas de predicción del delito desde la década de 1990.

“En el corazón de los desafíos legales a la práctica policial de parar y registrar, por ejemplo, está el escepticismo de las afirmaciones policiales de predicción. En otras palabras, es la creencia de que es el perfil racial, y no el conocimiento de futuros crímenes, lo que determina a quién la policía elige detener y registrar ”, dijeron Correia y Wall.

«La vigilancia predictiva, sin embargo, proporciona datos aparentemente objetivos para que la policía participe en esas mismas prácticas, pero de una manera que parece libre de perfil racial … por lo que no debería sorprender que la vigilancia predictiva localice la violencia del futuro en los pobres del presente «.

Agregan que las tasas de criminalidad y otros datos de actividades criminales reflejan los patrones de policía ya racializados, lo que crea un círculo vicioso de sospecha y aplicación contra las minorías negras y marrones.

“La policía enfoca sus actividades en vecindarios predominantemente negros y marrones, lo que resulta en tasas de arresto más altas en comparación con vecindarios predominantemente blancos. [This] refuerza la idea de que los barrios negros y marrones albergan elementos criminales, lo que combina la negrura y la criminalidad, [and] bajo CompStat [a data-driven police management technique] conduce a una vigilancia policial aún más intensa que resulta en arresto y encarcelamiento ”, dijeron.

Según la evidencia presentada ante las Naciones Unidas (ONU) por la Comisión de Igualdad y Derechos Humanos (EHRC), el uso de la vigilancia policial predictiva puede replicar y magnificar «patrones de discriminación en la vigilancia, al tiempo que otorga legitimidad a procesos sesgados».

Agregó: «La dependencia de» big data «que abarca grandes cantidades de información personal también puede infringir los derechos de privacidad y dar lugar a la autocensura, con el consiguiente efecto negativo sobre la libertad de expresión y asociación».

La función de vigilancia

Autor de Fin de la vigilancia, Alex Vitale, quien también es profesor de sociología y coordinador del Proyecto de Policía y Justicia Social en el Brooklyn College, advirtió contra la simple promulgación de una «reforma procesal» a las instituciones policiales, discutiendo en el guardián que no ha funcionado en Minneapolis, donde fue asesinado George Floyd.

“Nada de eso funcionó. Eso se debe a que la «justicia procesal» no tiene nada que decir sobre la misión o la función de la policía. Asume que la policía está aplicando neutralmente un conjunto de leyes que son automáticamente beneficiosas para todos ”, dijo.

«En lugar de cuestionar la validez del uso de la policía para librar una guerra inherentemente racista contra las drogas, los defensores de la ‘justicia procesal’ sugieren cortésmente que la policía reciba capacitación contra el prejuicio, que felizmente entregarán por una tarifa no pequeña».

La «justicia procesal» no tiene nada que decir sobre la misión o función de la policía. Asume que la policía está aplicando neutralmente un conjunto de leyes que son automáticamente beneficiosas para todos

Alex Vitale, Brookyln College

Argumenta que la respuesta para resolver los problemas de la policía moderna no es gastar más dinero en cosas como programas de capacitación, tecnología o supervisión, sino «reducir drásticamente» las funciones de la propia policía.

“Debemos exigir que los políticos locales desarrollen soluciones no policiales a los problemas que enfrentan las personas pobres. Debemos invertir en vivienda, empleo y atención médica de manera que aborden directamente los problemas de seguridad pública ”, dijo.

“En lugar de criminalizar la falta de vivienda, necesitamos viviendas de apoyo financiadas con fondos públicos; en lugar de unidades de pandillas, necesitamos programas contra la violencia basados ​​en la comunidad, servicios de trauma y trabajos para jóvenes; en lugar de la policía escolar, necesitamos más consejeros, programas extracurriculares y programas de justicia restaurativa «.

Esta idea de que el gasto público debe ser desviado de la policía a «estrategias de salud y seguridad dirigidas por la comunidad«En cambio, ha estado ganando terreno en línea con llamadas a #DefundThePolice, una posición de la que Vitale ha sido un defensor durante mucho tiempo.

Escribiendo en Fin de la vigilancia, Vitale dijo: «Lo que realmente necesitamos es repensar el papel de la policía en la sociedad. El origen y las funciones de la policía están íntimamente ligados a la gestión de las desigualdades de raza y clase. La supresión de los trabajadores y la estricta vigilancia y microgestión de vidas negras y marrones siempre han estado en el centro de la vigilancia. Cualquier estrategia de reforma policial que no aborde esta realidad está condenada al fracaso «.

Deberías leer:   La página de soporte oficial del Samsung Galaxy M01s revela una variante de 3 GB de RAM, pronto se lanzará en India
Pilar Benegas
Pilar Benegas es una reconocida periodista con amplia experiencia en importantes medios de USA, como LaOpinion, Miami News, The Washington Post, entre otros. Es editora en jefe de Es de Latino desde 2019.

Most Popular

El minorista Shein dice que cometió ‘Un error gigantesco’ vendiendo collar de esvástica

El minorista en línea Shein se encontró en problemas esta semana cuando la gente descubrió que estaba vendiendo un collar con un colgante...

Melody Ayeli de Toyota sobre el importante papel de ITAM

Dado que pocos departamentos de TI están en condiciones de comenzar de nuevo con tecnología completamente nueva, invariablemente tienen que lidiar con una larga...

Naya Rivera: se reanuda la búsqueda de recuperación en el lago Piru

Las autoridades descendieron a las aguas del lago Piru justo después del amanecer del viernes cuando la búsqueda del cuerpo de la actriz Naya...
Deberías leer:   Pandilla de Sodinokibi comienza subastas de datos de celebridades en la web oscura