Amazon extiende su prohibición de usar su reconocimiento facial para fines policiales

Amazon anunció que seguirá impidiendo el uso de las tecnologías de reconocimiento facial de la compañía para aplicaciones policiales, ampliando a un plazo indefinido la moratoria anterior de un año, que expira en junio.

Esta decisión se produce un año después de que Amazon pusiera en pausa de forma temporal hasta el 10 de junio de 2021 el uso de su reconocimiento facial para las fuerzas policiales, coincidiendo con las protestas del movimiento Black Lives Matter en Estados Unidos tras la muerte del afroamericano George Floyd.

A mediados de 2018, la compañía fundada por Jeff Bezos comenzó a venderle servicios de reconocimiento facial a las fuerzas policiales.

Amazon decidió extender de nuevo esta moratoria, aunque en esta ocasión lo hizo hasta nuevo aviso, según explicó en un comunicado de respuesta la Unión de Libertades Civiles Americana (ACLU, por sus siglas en inglés).

Amazon lanzó en 2016 Rekognition, un software que, como detalla la compañía en su página web, “proporciona análisis faciales de alta precisión y capacidades de búsqueda facial que puede usar para detectar, analizar y comparar rostros”, y entre sus clientes se encuentran agencias policiales.

Se trata de una tecnología que genera controversia, no solo por las cuestiones de privacidad, sino también por el sesgo racial que presenta, por el que tiene dificultad para distinguir a personas con piel más oscura.

“Las amenazas planteadas el año pasado por el uso policial de la tecnología de reconocimiento facial son hoy idénticas“, afirmó Nathan Freed Wessler, subdirector del proyecto de Habla, Privacidad y Tecnología de la ACLU, que celebró la decisión de Amazon.

Amazon instó hace un año a que el Congreso de Estados Unidos implementase normas sobre el uso ético del reconocimiento facial, e instituciones como ACLU pidieron a la Administración Biden que prohíban completamente el uso de tecnologías de reconocimiento facial para labores policiales, independientemente de la empresa.

“La tecnología de reconocimiento facial alimenta la vigilancia excesiva de las comunidades negras y marrones, y ya llevó a arrestos y encarcelamientos injustos de varios hombres negros“, denuncian desde la asociación civil estadounidense.

Amazon Rekognition: cómo funciona

 Amazon Rekognition es un sistema que permite detectar, analizar y realizar un reconocimiento facial de una persona que aparezca en una imagen o un video. Los datos que pueden obtenerse mediante el análisis facial son el género, la franja de edad, las emociones, los atributos del rostro, como la sonrisa, su expresión facial, la calidad de imagen facial y los puntos de referencia del mismo.

El programa tiene la capacidad no solo de detectar e identificar rostros con mayor precisión, ahora también hasta podrá hacerlo con el miedo. Cuenta con siete emociones que su sistema de análisis facial puede identificar, que son la felicidad, la tristeza, el enfado, la sorpresa, el disgusto, la calma y la confusión.

A partir de 2019, la compañía había introducido un sistema que también reconocía emociones como el miedo.

Entre esas mejoras del sofwtare también se encontraban el aumento del nivel de precisión de la identificación de género, y la mejora también de la precisión del cálculo de franja de edad de la persona, sobre lo que afirmaban que ya reconocía rangos etarios más específicos en la mayoría de los grupos etarios.

Los peligros del reconocimiento facial

El reconocimiento facial es una de las revoluciones tecnológicas más fuertes de los últimos, por lo menos, 10 años. Su agregado a las cámaras de seguridad y vigilancia metropolitanas las convierte en una suerte de Gran Hermano orwelliano que plantea una fórmula: más seguridad, menos privacidad. Y esto plantea serios problemas, al punto de que en Argentina, este año se lanzó una campaña en contra de su uso.

La distancia entre los ojos, la nariz y la boca. La forma de la oreja. El tono de piel. Cada una de esas características únicas de los seres humanos es información personal sensible que el reconocimiento facial utiliza para identificar y autenticar de manera automática a uno o múltiples individuos.

“Uno de los problemas de este sistema es que no es infalible, ya que puede arrojar falsos positivos y discriminar por el tono de piel y género de una persona. La decisión sobre el entrenamiento del algoritmo y las tasas de error con las que contará el software biométrico es tanto una cuestión técnica como política”, había explicado Eduardo Ferreyra, oficial de proyecto de la Asociación por los Derechos Civiles (ADC).

La tecnología biométrica toma los rasgos de las personas, realiza un mapeo de las características físicas de la cara y genera una plantilla con la representación matemática para ese rostro único.

Su propósito es comparar e indicar en tiempo real en qué porcentaje la plantilla de una cara captada por una cámara de videovigilancia se corresponde con las imágenes almacenadas en una base de datos predeterminada.

SL

Fuente Clarin