Adolescente negro expulsado de la pista de patinaje después de un error de reconocimiento facial

imágenes falsas

Clamor público contra software de reconocimiento facial está en aumento esta semana, ya que los padres de un adolescente negro consideran la posibilidad de emprender acciones legales contra una pista de patinaje sobre ruedas en el área de Detroit, acusando a la pista de perfilar racialmente a su hija con La tecnología. La pista prohibió a la adolescente Lamya Robinson el sábado, según un informe de Fox 2 Detroit, acusándola de participar en una pelea pública, luego de que el software de reconocimiento facial de la pista la identificara erróneamente como una mecenas anterior.

“Para mí, es básicamente perfil racial“, dijo la madre de la niña, Juliea Robinson, al medio de comunicación el jueves.” Solo estás diciendo que todas las jóvenes negras y morenas con lentes encajan en el perfil, y eso no es correcto “.

Los miembros de la familia le dijeron a la estación de televisión local WJBK que estaban agradecidos de que la pista de patinaje no llamara a la policía, pero el padre de Lamya dijo que la pista aún ponía en riesgo la seguridad de su pequeña hija al arrojarla sola.

“Todos sacaron a mi hija del establecimiento por sí misma, sin saber qué podría haber pasado”, dijo Derrick Robinson.

“Estaba tan confundido porque nunca había estado allí”, dijo Lamya al medio de comunicación local. “Yo estaba como, Ese no soy yo. ¿Quién es ese?”

Lee mas: El reconocimiento facial siempre ha preocupado a las personas de color. Todo el mundo debería escuchar

En una declaración de respuesta a Fox 2 Detroit, un portavoz de Riverside Arena dijo que el software proporcionó una “coincidencia del 97%” entre las fotos de un cliente anterior y el escaneo facial de Lamya.

“Esto es lo que miramos, no las fotos en miniatura de las que la Sra. Robinson tomó una foto. Si hubo un error, nos disculpamos por eso”, dijo el portavoz al medio de comunicación.

Los estudios han demostrado que la tecnología de reconocimiento facial identifica erróneamente, a un ritmo desproporcionado, sujetos femeninos y sujetos que tienen tonos de piel más oscuros, marcándolos incorrectamente como coincidencias con fotografías. En Mayo, Amazon detuvo su venta de software de reconocimiento facial a las agencias de aplicación de la ley, extendiendo indefinidamente una moratoria de un año anterior en medio de la protesta pública.

Lee mas: Por que el problema de los prejuicios raciales del reconocimiento facial es tan difícil de resolver

La identificación errónea de Riverside Arena es el último caso en el que alguien ha sido identificado por error por la tecnología de reconocimiento facial utilizada por las empresas. Las recientes llamadas a la acción de grupos de derechos digitales instan a los minoristas a alejarse de la tecnología.

En una entrevista con la publicación hermana de CNET, ZDNet, la directora de la campaña Fight for the Future, Caitlin Seeley George, dijo que la situación de Lamya era “exactamente la razón por la que pensamos que el reconocimiento facial debería prohibirse en lugares públicos”.

La legislación que prohíbe el uso del reconocimiento facial se ha establecido en un puñado de ciudades de los EE. UU. Y varias demandas que podrían afectar la tecnología de vigilancia. se espera que se resuelva este año.

Los intentos de EDLde llegar a la pista de patinaje de Riverside Arena para hacer comentarios no tuvieron éxito.

Deberías leer:   iPhone 13 vs.IPhone 12: los últimos rumores sobre la nueva línea de iPhone de Apple