Vetado | IA

Rite Aid prohíbe uso de reconocimiento facial tras investigación de FTC

Rite Aid prohíbe el uso de software de reconocimiento facial después de una investigación de la FTC

La cadena de farmacias Rite Aid ha sido prohibida de utilizar software de reconocimiento facial durante cinco años, después de que la Comisión Federal de Comercio (FTC) encontrara que el "uso imprudente de sistemas de vigilancia facial" dejaba a los clientes humillados y ponía en riesgo su "información sensible".

Eliminación de imágenes y protección de datos personales

La Orden de la FTC, que está sujeta a la aprobación del Tribunal de Quiebras de Estados Unidos después de que Rite Aid presentara una solicitud de protección por bancarrota en octubre, también instruye a Rite Aid a eliminar cualquier imagen que haya recopilado como parte de su implementación del sistema de reconocimiento facial, así como cualquier producto que se haya creado a partir de esas imágenes. La empresa también debe implementar un programa sólido de seguridad de datos para proteger cualquier dato personal que recopile.

Implementación secreta del reconocimiento facial

Un informe de Reuters de 2020 detalló cómo la cadena de farmacias había introducido secretamente sistemas de reconocimiento facial en alrededor de 200 tiendas de Estados Unidos durante un período de ocho años, a partir de 2012, con "vecindarios mayoritariamente de bajos ingresos y no blancos" como campo de prueba de la tecnología.

Acusaciones de la FTC

Con el enfoque cada vez mayor de la FTC sobre el mal uso de la vigilancia biométrica, Rite Aid se convirtió en el objetivo principal de la agencia gubernamental. Entre las acusaciones se encuentra que Rite Aid, en colaboración con dos empresas contratadas, creó una "base de datos de lista de vigilancia" que contenía imágenes de clientes a los que la empresa consideraba que habían participado en actividades delictivas en una de sus tiendas. Estas imágenes, que a menudo eran de mala calidad, se capturaban desde CCTV o las cámaras de los teléfonos móviles de los empleados.

Cuando un cliente ingresaba a una tienda y supuestamente coincidía con una imagen existente en la base de datos, los empleados recibían una alerta automática que les indicaba que tomaran medidas, y la mayoría de las veces esta instrucción era "acercarse e identificar", es decir, verificar la identidad del cliente y pedirle que se fuera. A menudo, estas "coincidencias" eran falsos positivos que llevaban a los empleados a acusar incorrectamente a los clientes de conductas indebidas, lo que generaba "vergüenza, acoso y otros daños", según la FTC.

Además, la FTC dijo que Rite Aid no informó a los clientes que se utilizaba tecnología de reconocimiento facial, y también instruyó a los empleados a no revelar esta información a los clientes.

Controversias y prejuicios en el reconocimiento facial

El software de reconocimiento facial se ha convertido en una de las facetas más controvertidas de la era de la vigilancia impulsada por la inteligencia artificial. En los últimos años, hemos visto cómo las ciudades emiten prohibiciones amplias sobre esta tecnología, mientras que los políticos luchan por regular cómo la policía la utiliza. Además, empresas como Clearview AI han sido demandadas y multadas en todo el mundo por importantes violaciones de privacidad de datos relacionadas con la tecnología de reconocimiento facial.

Conclusiones de la FTC y respuesta de Rite Aid

Los hallazgos más recientes de la FTC sobre Rite Aid también ponen de manifiesto los sesgos inherentes en los sistemas de inteligencia artificial. Por ejemplo, la FTC afirma que Rite Aid no logró mitigar los riesgos para ciertos consumidores debido a su raza: su tecnología era "más propensa a generar falsos positivos en tiendas ubicadas en comunidades mayoritariamente negras y asiáticas que en comunidades mayoritariamente blancas", según el informe.

En un comunicado de prensa, Rite Aid dijo que estaba "complacido de llegar a un acuerdo con la FTC", pero que no estaba de acuerdo con el meollo de las acusaciones. La empresa afirmó que las acusaciones se referían a un programa piloto de tecnología de reconocimiento facial que la compañía implementó en un número limitado de tiendas y que dejó de usar hace más de tres años, antes de que comenzara la investigación de la FTC sobre el uso de esta tecnología por parte de la empresa.


Podcast El Desván de las Paradojas
Publicidad


Otras noticias • IA

Control

Expertos piden regulación estricta de deepfakes para proteger sociedad

Expertos en inteligencia artificial piden regulación estricta de deepfakes para proteger a la sociedad de su uso malicioso, incluyendo la criminalización de los deepfakes de...

Inteligencia

Google presenta familia Gemma: modelos ligeros de IA inspirados en Gemini

Google ha lanzado Gemma, una nueva familia de modelos ligeros de IA inspirados en Gemini. Estos modelos, como Gemma 2B y Gemma 7B, están disponibles...

Legislativo

Congreso de EE. UU. crea Grupo de Trabajo sobre inteligencia artificial

El Congreso de los EE. UU. ha creado un Grupo de Trabajo sobre inteligencia artificial para abordar regulaciones y acciones legislativas necesarias en el campo,...

Innovación

Bioptimus recauda $35 millones para revolucionar medicina con inteligencia artificial

Bioptimus, una nueva startup de inteligencia artificial generativa centrada en biología con sede en París, recauda $35 millones en una ronda de financiación liderada por...

Alianza

Empresas tecnológicas se unen para combatir deepfakes electorales

Varias empresas tecnológicas, incluyendo Microsoft, Meta, Google, Amazon, Adobe e IBM, han firmado un acuerdo para combatir los deepfakes relacionados con las elecciones. Las empresas...

Innovación

Startup de IA crea tecnología para combatir desinformación electoral

La startup de IA Anthropic está probando Prompt Shield, una tecnología que detecta cuando los usuarios preguntan sobre temas políticos y los redirige a fuentes...

Innovación

Clubhouse lanza función de mensajes de voz personalizados en EE.UU

Clubhouse ha anunciado una nueva función que permite a los usuarios enviar mensajes de texto a sus amigos y escucharlos en la voz personalizada del...

Innovador

OpenAI presenta Sora, el revolucionario generador de vídeos realistas

OpenAI ha presentado su nuevo modelo de generación de vídeos llamado Sora, capaz de crear simulaciones digitales realistas. Sora puede generar vídeos de cualquier resolución...