La technologie policière peut contourner les interdictions de reconnaissance faciale maintenant

Des entreprises comme Flock et Axon vendent des suites de capteurs – cameras, lecteurs de plaques d’immatriculation, détecteurs de coups de feu, drones– puis offrir des outils d’IA pour donner un sens à cet océan de données (lors de la conférence de l’année dernière, j’ai vu du scénario entre d’innombrables startups AI-for-Police et les chefs auxquels ils vendent à l’exposition). Les départements disent que ces technologies font gagner du temps, faciliter les pénuries des officiers et aider à réduire les temps de réponse.

Celles-ci sonnent comme de beaux objectifs, mais ce rythme d’adoption soulève une question évidente: qui fait les règles ici? Quand l’utilisation de l’IA traverse-t-elle l’efficacité à la surveillance et quel type de transparence est-il dû au public?

Dans certains cas, la technologie policière alimentée par l’IA entraîne déjà un fossé entre les services et les communautés qu’ils servent. Lorsque la police de Chula Vista, en Californie, était le premier Dans le pays pour obtenir des dérogations spéciales de la Federal Aviation Administration pour piloter leurs drones plus loin que la normale, ils ont déclaré que les drones seraient déployés pour résoudre des crimes et amener les gens à aider plus tôt dans les urgences. Ils ont eu un peu succès.

Mais le département a également été poursuivi par un média local alléguant qu’il avait renié sa promesse de rendre public des images de drones, et les résidents dit Les drones bourdonnants au-dessus de la tête ressemblent à une invasion de la vie privée. Une enquête a révélé que ces drones étaient déployés plus souvent dans des quartiers pauvres et pour des problèmes mineurs comme la musique forte.

Jay Stanley, analyste des politiques principales à l’ACLU, dit qu’il n’y a pas de loi fédérale globale qui régit comment les services de police locaux adoptent des technologies comme le logiciel de suivi sur lequel j’ai parlé. Les services ont généralement la marge de manœuvre pour l’essayer en premier et voir comment leurs communautés réagissent après coup. (Veritone, qui fait l’outil que j’ai écrit, a dit qu’ils ne pouvaient pas nommer ou me connecter avec les services en l’utilisant afin que les détails de la façon dont il est déployé par la police ne soit pas encore clair).