El reconocimiento facial de Amazon muestra sesgos racistas al confundir a congresistas con delincuentes

"Casi el 40% de las coincidencias entre congresistas e individuos arrestados eran de color a pesar de representar tan solo el 20% del congreso".

TL;DR  /   /  By Angie

Amazon Rekognition, la polémica herramienta de reconocimiento facial de Amazon ha reconocido falsamente a 28 miembros del congreso norteamericano con fotos de individuos arrestados de una base de datos pública.

 

ACLU

 

La noticia ha salido en Buzzfeed gracias a un informe de ACLU, (Unión Americana por la Libertades Civiles por sus siglas en inglés) y según ellos “los resultados muestran por qué el Congreso debería unirse a la ACLU y solicitar una moratoria al uso del reconocimiento facial en la aplicación de la ley”, dijo Jacob Snow, abogado de la ACLU.

 

Un/a portavoz de Amazon ha respondido a Buzzfeed alegando que el reconocimiento facial se ha utilizado con éxito en muchas ocasiones  previniendo el tráfico de personas, para impedir la explotación infantil y reunir a niños perdidos con sus familias. El/la portavoz también dijo que siguen “ilusionados por la manera en la que el análisis de foto y vídeo puede ayudar a mejorar el mundo, incluso en el sector público y la aplicación de la ley”.

 

ACLU

 

Sesgos racistas

Sin embargo el informe de la ACLU opina que la tecnología está lejos de ser perfecta. Rekognition identificó incorrectamente a más de una docena de miembros del congreso con personas arrestadas, y la ACLU dice que tendía a confundir de manera desproporcionada a personas negras y de otras minorías.

 

Dos de los miembros del congreso confundidos por Rekognition han enviado una carta al propio Jeff Bezos, CEO de Amazon, para reunirse a discutir el posible impacto de estos fallos de su tecnología en las “comunidades de color”.

 

ACLU

 

Para realizar la prueba ACLU utilizó el sistema de reconocimiento facial estándar que es el que ofrece para la policía y el uso público. La ACLU lo utilizó con una base de datos de 25.000 fotos de arrestos a disposición pública y las comparó con fotos de todos los miembros actuales del Congreso.

 

Responsabilidad tecnológica

Un informático independiente, Joshua Kroll, fue el encargado de llevar a cabo la prueba. Según este “los sistemas de reconocimiento facial ha demostrado funcionar mucho peor con mujeres, gente de color, y especialmente con mujeres de color”.

 

“Es importante actuar con responsabilidad a la hora de poner en práctica tecnologías informáticas. Estos resultados demuestran que Rekognition no debería usarse, como se está haciendo, para algunas aplicaciones de aplicación de la ley”.

 

En respuesta a eso, desde AWS, dijeron que los resultados de ACLU podían haberse mejorado “siguiendo mejores prácticas” a la hora de determinar los niveles de confianza (el porcentaje de probabilidad de que Rekognition encuentre una similitud) al realizar al prueba.

 

“Aunque un 80% de confianza es un nivel aceptable para fotos de perritos calientes, sillas, animales y otros usos en redes sociales, no sería apropiado para identificar a individuos con un nivel razonable de certeza” dijo el/la portavoz.

 

“Cuando usamos reconocimiento facial para cuerpos policiales , guiamos a nuestros clientes para que indiquen un nivel de confianza de al menos un 95% o mayor”.

 

La ACLU por su parte ha declarado que Amazon no hace ningún esfuerzo por preguntar a sus clientes para qué utilizan el software. “Al contrario, la propia herramienta marca un nivel por defecto: el 80% que usamos nosotros en nuestro test”, dijo Snow.

 

Snow también señaló que en la web de Amazon, en el momento en el que Buzzfeed publicaba la noticia, se recomendaba un 80% de confianza para reconocer caras humanas.

 

Esta noticia fue publicada originalmente en Buzzfeed.

Comments

comments

Sobre el autor

Posts relacionados

No es nuevo que la luz azul daña nuestra vista, lo que sí es nuevo es que ahora sabemos por...

El Viernes de la semana pasada se publicaba un artículo en la prestigiosa revista Science cuyo...

En la caja de Skinner el entorno está controlado, el sujeto es predecible y se le manipula mientras...

Deja tu comentario