¿Políticos o delincuentes? El reconocimiento facial de Amazon parece no entender la diferencia

Una herramienta de reconocimiento de la tienda online Amazon identificó erróneamente a 28 miembros del Congreso de Estados Unidos como sospechosos, informó este jueves la Unión Estadounidense de Libertades Civiles (ACLU).

Este trabajo de ACLU es parte de su campaña en contra de que Amazon comercialice este tipo de tecnología a fuerzas de seguridad.

"En una prueba, ACLU recientemente usó la herramienta de reconocimiento facial llamada 'Rekognition', el software incorrectamente ha emparejado 28 miembros del Congreso identificándolos como otras personas que han sido arrestadas por un crimen", indicó la organización en su web.

La organización informa que comparó en Amazon Rekognition imágenes de miembros del Congreso con una base de datos de fotos policiales que incluye unas 25,000 fotos policiales disponibles y los resultados dieron 28 coincidencias incorrectas.

ACLU dice que los falsos emparejamientos fueron "desproporcionadamente de personas de color incluidos seis miembros del Caucus Congresional Negro", incluido el histórico activista de Derechos Civiles, el congresista demócrata de Georgia John Lewis.

Además de afroestadounidenses, varios hispanos fueron identificados erróneamente como delincuentes. Los demócratas Adriano Espaillat (Nueva York), Jimmy Gomez (California), Raúl Grijalva (Arizona) y Luis Gutiérrez (Illinois) también fueron más emparejados.

Rekognition, informa ACLU, "tiene el poder de identificar a las personas en tiempo real en fotos de grandes grupos de personas y en eventos y lugares públicos".

"El reconocimiento facial no es una tecnología neutral )...) automatiza la vigilancia masiva, amenaza la libertad de las personas de vivir sus vidas privadas fuera de la mirada del gobierno, y está preparada para amplificar los prejuicios y la desigualdad en el sistema de justicia penal", dice la organización.

"Amazon no solo vendió Rekognition a las fuerzas del orden público, sino que también se asoció activamente con ellos para garantizar que puedan utilizarlo plenamente".

Denuncian que Rekognition "ya está en uso en Florida y Oregon" mientras que "California y Arizona también han buscado información al respecto". ACLU denuncia que Amazon está impulsando una vigilancia peligrosa contra "comunidades que ya son injustamente atacados en el clima político actual".

Tras la prueba de las fotos de congresistas, Jacob Snow, abogado de ACLU, dijo a medios que "esta prueba confirma que el reconocimiento facial es imperfecto, sesgado y peligroso".

Una portavoz de la Amazon, Nina Lindsey, dijo en un comunicado citado por The New York Times que ACLU había utilizado la tecnología de coincidencia de rostros de manera diferente a la recomendada por la compañía para los clientes que la usan en el cumplimiento de la ley.

Agregó que los departamentos de policía no suelen utilizar el software para tomar decisiones autónomas sobre la identidades de la gente.

En una carta reciente al CEO de Amazon, Jeff Bezos, el Caucus Negro del Congreso expresó su preocupación por las "profundas consecuencias negativas imprevistas" que este tipo de vigilancia podría tener para los negros, los indocumentados y los manifestantes.

Los políticos que fueron falsamente emparejados incluyen republicanos, demócratas, hombres y mujeres de todo el país.

Para ACLU estos errores de Rekognition "validan la preocupación" expresada por el Caucus debido a que casi "el 40% de las coincidencias falsas en nuestra prueba fueron de personas de color, a pesar de que solo representan el 20% del Congreso".