Comment un nouveau type d’IA aide la police à contourner les interdictions de reconnaissance faciale

« Toute la vision derrière la piste en premier lieu », explique le PDG de Veritone, Ryan Steelberg, était « si nous ne sommes pas autorisés à suivre les visages des gens, comment pouvons-nous essayer d’identifier potentiellement des criminels ou un comportement ou une activité malveillante? » En plus de suivre les individus où la reconnaissance faciale n’est pas légalement autorisée, dit Steelberg, il permet de suivre le suivi lorsque les visages sont obscurcis ou non visibles.

Le produit a suscité des critiques de l’American Civil Liberties Union, qui – après l’apprentissage de l’outil à travers Revue de la technologie du MIT—De avait été le premier cas qu’ils avaient vu d’un système de suivi non biométrique utilisé à grande échelle aux États-Unis. Ils ont averti qu’il soulève bon nombre des mêmes problèmes de confidentialité que la reconnaissance faciale, mais en introduit également de nouveaux à un moment où l’administration Trump pousse les agences fédérales à accélérer le suivi des manifestants, des immigrants et des étudiants.

Veritone nous a donné une démonstration de la piste dans laquelle il a analysé les personnes dans des images de différents environnements, allant des émeutes du 6 janvier aux stations de métro. Vous pouvez l’utiliser pour trouver des gens en spécifiant la taille du corps, le sexe, la couleur des cheveux et le style, les chaussures, les vêtements et divers accessoires. L’outil peut ensuite assembler des délais, suivant une personne sur différents emplacements et flux vidéo. Il est accessible via Amazon et Microsoft Cloud Plateformes.

Dans une interview, Steelberg a déclaré que le nombre d’attributs utilisés par la piste pour identifier les gens continuera de croître. Lorsqu’on lui a demandé si la piste se différencie sur la base du teint, un porte-parole de l’entreprise a déclaré que c’était l’un des attributs que l’utilisation de l’algorithme pour distinguer les gens, mais que le logiciel ne permet pas actuellement aux utilisateurs de rechercher des personnes de couleur cutanée. Track fonctionne actuellement uniquement sur une vidéo enregistrée, mais Steelberg affirme que la société est à moins d’un an de pouvoir l’exécuter sur des flux vidéo en direct.

Les agences utilisant une piste peuvent ajouter des images de caméras de police, de drones, de vidéos publiques sur YouTube ou de soi-disant citoyens télécharger des images (à partir de caméras de ring ou de téléphones portables, par exemple) en réponse aux demandes de police.

«Nous aimons appeler cela notre application Jason Bourne», explique Steelberg. Il s’attend à ce que la technologie soit examinée dans les affaires judiciaires, mais dit: « J’espère que nous exonerons les gens autant que nous aidons la police à trouver les méchants. » Le secteur public ne représente actuellement que 6% des activités de Veritone (la plupart de ses clients sont des sociétés de médias et de divertissement), mais la société affirme que c’est son marché la plus rapide, avec des clients dans des endroits tels que la Californie, Washington, le Colorado, le New Jersey et l’Illinois.

Cette expansion rapide a commencé à provoquer une alarme dans certains trimestres. Jay Stanley, analyste des politiques principales à l’ACLU, a écrit En 2019, cette intelligence artificielle accélérerait un jour la tâche fastidieuse de peigner par des images de surveillance, permettant une analyse automatisée, peu importe si un crime s’est produit. Depuis lors, de nombreuses sociétés policières ont construit des systèmes d’analyse vidéo qui peuvent, par exemple, détecter quand une personne entre dans une certaine zone. Cependant, dit Stanley, la piste est le premier produit qu’il a vu faire du suivi large de personnes particulières technologiquement possibles à grande échelle.