Comprendre l’impact de l’IA sur les disparités sociales avec Vinodkumar Prabhakaran

Aujourd’hui, nous sommes rejoints par Vinodkumar Prabhakaran, un chercheur principal chez Google Research. Dans notre conversation avec Vinod, nous discutons de ses deux principaux domaines de recherche, en utilisant la ML, en particulier la PNL, pour explorer ces disparités sociales, et comment ces mêmes disparités sociales sont capturées et propagées dans les outils d’apprentissage automatique. Nous explorons quelques projets spécifiques, le premier utilisant la PNL pour analyser les interactions entre les policiers et les membres de la communauté, déterminant des facteurs tels que le niveau de respect ou de politesse et comment ils se déroulent dans un éventail de membres de la communauté. Nous discutons également de son travail sur la compréhension de la façon dont le biais se glisse dans le pipeline des modèles ML de construction, que ce soit à partir des données ou de la personne qui construit le modèle. Enfin, pour ceux qui travaillent avec des annotateurs humains, Vinod partage ses réflexions sur la façon d’incorporer les principes d’équité pour aider à construire des modèles plus robustes.