Comment l’audit externe modifie le paysage de reconnaissance faciale avec Deb Raji

Aujourd’hui, nous prenons une pause dans notre couverture CVPR pour vous apporter cette interview avec Deb Raji, un boursier en technologie à l’Institut AI Now à l’Université de New York.

Au cours de la semaine ou des deux dernières dernières nouvelles, il y a eu pas mal de nouvelles importantes dans la communauté de l’IA, notamment le moratoire auto-imposé sur la technologie de reconnaissance faciale d’Amazon, IBM et Microsoft. Il y a également eu la sortie de Pulse, un modèle de vision informatique controversé qui a finalement déclenché une tempête Twitter impliquant des chercheurs de Yann LeCun et de l’IA, y compris un ami de la série, Timnit Gebru. La controverse a fait écho dans la communauté plus large de l’IA, ce qui a finalement conduit au départ de l’ancien de Twitter.

Dans notre conversation avec Deb, nous fouillons dans ces deux histoires en profondeur, en discutant des origines du travail de Deb sur le projet Gender Shades, comment les travaux ultérieurs mettent en lumière les préjudices potentiels de la technologie de reconnaissance faciale et qui relève de la responsabilité de traiter les problèmes de biais sous-jacents dans les ensembles de données.