IA | Restricción

Policía de Detroit limita uso de reconocimiento facial tras demanda

Nuevas políticas restringen el uso de tecnología de reconocimiento facial por parte de la Policía de Detroit

Como parte de un acuerdo legal, el Departamento de Policía de Detroit ha acordado nuevas medidas que limitan cómo puede utilizar la tecnología de reconocimiento facial.

Estas nuevas políticas prohíben a la policía arrestar a personas basándose únicamente en los resultados de una búsqueda de reconocimiento facial, o en los resultados de alineaciones de fotos realizadas inmediatamente después de una búsqueda de reconocimiento facial. También establece que las alineaciones de fotos no pueden realizarse únicamente en base al reconocimiento facial, sino que debe haber pruebas adicionales que vinculen a un sospechoso con el delito.

Las políticas, que pueden ser aplicadas por un tribunal durante los próximos cuatro años, también requieren formación policial sobre los riesgos y peligros de la tecnología de reconocimiento facial, así como una auditoría de todos los casos desde 2017 en los que se utilizó el reconocimiento facial para obtener una orden de arresto.

Roger Williams, un hombre negro que fue arrestado después de ser identificado por la tecnología de reconocimiento facial, demandó al departamento de policía y fue representado por abogados de la Unión Americana de Libertades Civiles y la Iniciativa de Litigio de Derechos Civiles en la Facultad de Derecho de la Universidad de Michigan.

Al anunciar el acuerdo, la ACLU lo describió como la consecución de "las políticas y prácticas más estrictas del país que limitan el uso de esta peligrosa tecnología por parte del departamento de policía". También señaló que las mujeres y las personas de color tienen "una probabilidad sustancialmente mayor de ser identificadas erróneamente por la tecnología de reconocimiento facial".

"Con este doloroso capítulo de nuestras vidas cerrándose, mi esposa y yo seguiremos concienciando sobre los peligros de esta tecnología", dijo Williams en un comunicado.

Según informes, pasó 30 horas en la cárcel después de ser identificado erróneamente como un hombre capturado en imágenes de vigilancia robando cinco relojes de una tienda en el centro de Detroit. Su foto de carnet salió en una búsqueda de reconocimiento facial en una base de datos de fotos de fichas policiales y carnet de conducir, y el contratista de seguridad que proporcionó las imágenes estuvo de acuerdo en que era la mejor coincidencia, lo que llevó a su arresto.

Posteriormente, los fiscales retiraron los cargos. El departamento de policía también está pagando a Williams $300,000 como parte del acuerdo.

En un comunicado propio, el departamento de policía dijo estar "satisfecho con su trabajo con la ACLU y la Universidad de Michigan durante el último año y medio", añadiendo que "firmemente" cree que la nueva política "servirá como una mejor práctica nacional y un modelo para otras agencias que utilicen esta tecnología".

Ciudades como San Francisco han prohibido el uso de reconocimiento facial por parte de las fuerzas del orden. Microsoft también ha prohibido recientemente a los departamentos de policía el uso de su tecnología de inteligencia artificial para reconocimiento facial.


Podcast El Desván de las Paradojas
Publicidad


Otras noticias • IA

Energía nuclear

Meta apuesta por energía nuclear para sus centros de datos

Meta está impulsando la energía nuclear para sus centros de datos, buscando añadir entre 1 y 4 gigavatios de capacidad en EE.UU. La empresa muestra...

Eficiencia optimizada

Inteligencia artificial generativa optimiza costos y mejora eficiencia empresarial

La inteligencia artificial generativa se ha convertido en una herramienta clave para las empresas, optimizando costos y mejorando la eficiencia. Estrategias como el caching y...

Mundos 3D

DeepMind lanza Genie 2, IA que crea mundos 3D jugables

DeepMind ha presentado Genie 2, un modelo de IA capaz de crear mundos 3D jugables a partir de imágenes y descripciones textuales. Aunque promete revolucionar...

Censura ética

Inteligencia artificial en China: rendimiento y críticas por censura

La inteligencia artificial en China destaca por su rendimiento, pero enfrenta críticas por la censura y el control de la información. Modelos como QwQ-32B evitan...

Protección privacidad

ChatGPT evita responder sobre nombres para proteger la privacidad

Un fenómeno en ChatGPT ha llevado a la IA a no responder sobre el nombre "David Mayer", creando especulaciones. Otros nombres también causan fallos, sugiriendo...

Verificación automática

AWS lanza herramientas para combatir alucinaciones en IA

AWS ha lanzado Automated Reasoning checks para combatir las alucinaciones en IA, permitiendo validar respuestas mediante una "verdad base". Aunque se presenta como pionero, otras...

Modelos generativos

AWS lanza Nova, revolucionando la inteligencia artificial generativa

Amazon Web Services ha lanzado Nova, una familia de modelos de inteligencia artificial generativa que incluye herramientas para texto, imágenes y vídeos. Con un enfoque...

Innovación ética

Clarifai lanza plataforma de IA para optimizar costos y eficiencia

Clarifai ha evolucionado de su enfoque inicial en visión por ordenador y proyectos militares a desarrollar herramientas de IA para empresas y gobiernos. Su nueva...