La mesure et la mauvaise équité de l’équité avec Sharad Goel

Aujourd’hui, nous sommes rejoints par Sharad Goel, professeur adjoint au département des sciences et de l’ingénierie de la gestion de Stanford. Sharad, qui a également des rendez-vous dans les services d’informatique, de sociologie et de droit, a passé les dernières années à appliquer l’apprentissage automatique pour mieux comprendre et améliorer les politiques publiques. Dans notre conversation, nous plongeons sur le chemin non traditionnel de Sharad vers le monde universitaire, qui comprend des travaux approfondis sur la police discriminatoire, y compris des pratiques comme l’arrêt et le frisson, menant à son travail sur Le projet de police de Stanford Openqui utilise des données de plus de 200 millions de arrêts de trafic à l’échelle nationale pour « aider les chercheurs, les journalistes et les décideurs enquêtez enquête et améliore les interactions entre la police et le public ». Enfin, nous discutons du papier de Sharad « La mesure et la mauvaise mesure de l’équité: une revue critique de l’apprentissage de la machine équitable«qui identifie trois définitions formelles de l’équité dans les algorithmes, les limites statistiques de chacun et détaille comment les formalisations mathématiques de l’équité peuvent être introduites dans les algorithmes.