Rite Aid prohíbe el uso de software de reconocimiento facial después de una investigación de la FTC
La cadena de farmacias Rite Aid ha sido prohibida de utilizar software de reconocimiento facial durante cinco años, después de que la Comisión Federal de Comercio (FTC) encontrara que el "uso imprudente de sistemas de vigilancia facial" dejaba a los clientes humillados y ponía en riesgo su "información sensible".
Eliminación de imágenes y protección de datos personales
La Orden de la FTC, que está sujeta a la aprobación del Tribunal de Quiebras de Estados Unidos después de que Rite Aid presentara una solicitud de protección por bancarrota en octubre, también instruye a Rite Aid a eliminar cualquier imagen que haya recopilado como parte de su implementación del sistema de reconocimiento facial, así como cualquier producto que se haya creado a partir de esas imágenes. La empresa también debe implementar un programa sólido de seguridad de datos para proteger cualquier dato personal que recopile.
Implementación secreta del reconocimiento facial
Un informe de Reuters de 2020 detalló cómo la cadena de farmacias había introducido secretamente sistemas de reconocimiento facial en alrededor de 200 tiendas de Estados Unidos durante un período de ocho años, a partir de 2012, con "vecindarios mayoritariamente de bajos ingresos y no blancos" como campo de prueba de la tecnología.
Acusaciones de la FTC
Con el enfoque cada vez mayor de la FTC sobre el mal uso de la vigilancia biométrica, Rite Aid se convirtió en el objetivo principal de la agencia gubernamental. Entre las acusaciones se encuentra que Rite Aid, en colaboración con dos empresas contratadas, creó una "base de datos de lista de vigilancia" que contenía imágenes de clientes a los que la empresa consideraba que habían participado en actividades delictivas en una de sus tiendas. Estas imágenes, que a menudo eran de mala calidad, se capturaban desde CCTV o las cámaras de los teléfonos móviles de los empleados.
Cuando un cliente ingresaba a una tienda y supuestamente coincidía con una imagen existente en la base de datos, los empleados recibían una alerta automática que les indicaba que tomaran medidas, y la mayoría de las veces esta instrucción era "acercarse e identificar", es decir, verificar la identidad del cliente y pedirle que se fuera. A menudo, estas "coincidencias" eran falsos positivos que llevaban a los empleados a acusar incorrectamente a los clientes de conductas indebidas, lo que generaba "vergüenza, acoso y otros daños", según la FTC.
Además, la FTC dijo que Rite Aid no informó a los clientes que se utilizaba tecnología de reconocimiento facial, y también instruyó a los empleados a no revelar esta información a los clientes.
Controversias y prejuicios en el reconocimiento facial
El software de reconocimiento facial se ha convertido en una de las facetas más controvertidas de la era de la vigilancia impulsada por la inteligencia artificial. En los últimos años, hemos visto cómo las ciudades emiten prohibiciones amplias sobre esta tecnología, mientras que los políticos luchan por regular cómo la policía la utiliza. Además, empresas como Clearview AI han sido demandadas y multadas en todo el mundo por importantes violaciones de privacidad de datos relacionadas con la tecnología de reconocimiento facial.
Conclusiones de la FTC y respuesta de Rite Aid
Los hallazgos más recientes de la FTC sobre Rite Aid también ponen de manifiesto los sesgos inherentes en los sistemas de inteligencia artificial. Por ejemplo, la FTC afirma que Rite Aid no logró mitigar los riesgos para ciertos consumidores debido a su raza: su tecnología era "más propensa a generar falsos positivos en tiendas ubicadas en comunidades mayoritariamente negras y asiáticas que en comunidades mayoritariamente blancas", según el informe.
En un comunicado de prensa, Rite Aid dijo que estaba "complacido de llegar a un acuerdo con la FTC", pero que no estaba de acuerdo con el meollo de las acusaciones. La empresa afirmó que las acusaciones se referían a un programa piloto de tecnología de reconocimiento facial que la compañía implementó en un número limitado de tiendas y que dejó de usar hace más de tres años, antes de que comenzara la investigación de la FTC sobre el uso de esta tecnología por parte de la empresa.
Otras noticias • IA
UE regula inteligencia artificial para evitar riesgos inaceptables
La implementación del AI Act en la UE establece regulaciones sobre inteligencia artificial, prohibiendo usos de riesgo inaceptable. Las empresas deben adaptarse a nuevas directrices...
La IA transforma el trabajo: ética y empleo en juego
La inteligencia artificial está transformando el mundo laboral, generando preocupaciones sobre el desempleo y la ética. Empresas como OpenAI lideran la innovación, pero es vital...
Avance de deepfakes genera preocupaciones éticas y riesgos de fraude
La tecnología de deepfakes avanza con OmniHuman-1 de ByteDance, que genera vídeos realistas a partir de una imagen y un audio. Esto plantea preocupaciones éticas...
Snap presenta IA innovadora para crear imágenes en móviles
Snap ha lanzado un innovador modelo de IA para generar imágenes a partir de texto en dispositivos móviles, mejorando la experiencia del usuario en Snapchat....
StackAdapt recauda 235 millones para innovar en publicidad programática
StackAdapt, una startup canadiense de publicidad programática, ha recaudado 235 millones de dólares para expandir su negocio. Con un enfoque en inteligencia artificial, busca innovar...
OpenAI se expande en Asia con Kakao y SoftBank
OpenAI está expandiéndose en Asia mediante alianzas con Kakao y SoftBank, desarrollando un asistente en coreano y recibiendo una inversión de 3.000 millones de dólares....
Bhavish Aggarwal invierte 230 millones en IA para India
Bhavish Aggarwal, fundador de Ola, invierte 230 millones de dólares en su startup Krutrim, que busca crear un ecosistema de inteligencia artificial en India. Con...
Presentations.ai revoluciona presentaciones digitales con inteligencia artificial
Presentations.ai, fundada en 2019 en India, utiliza inteligencia artificial para simplificar la creación de presentaciones. Con más de cinco millones de usuarios, ofrece herramientas personalizables...
Lo más reciente
- 1
Google revoluciona su búsqueda con inteligencia artificial innovadora
- 2
Giraffe: el robot que revoluciona la gestión de inventarios
- 3
Inhalador de Miist Therapeutics elimina antojos de nicotina rápidamente
- 4
Open Deep Research democratiza la investigación con código abierto
- 5
Figure AI se separa de OpenAI para innovar en robótica
- 6
SailPoint planea IPO de $1,000 millones tras adquisición
- 7
Paragon Solutions bajo fuego por vínculos con espionaje gubernamental