Une loi universelle de la robustesse via l’isopérimétrie avec Sebastian Bubeck

Aujourd’hui, nous sommes rejoints par Sebastian Bubeck A SR Principal Research Manager chez Microsoft et auteur de l’article Une loi universelle de la robustesse via l’isopérimétrieun récipiendaire de prix de papier exceptionnel des Neirips 2021. Nous commençons notre conversation avec Sebastian avec un peu d’apprêt sur l’optimisation convexe, un sujet qui n’a pas beaucoup abordé dans les interviews précédentes. Nous explorons le problème que l’optimisation convexe essaie de résoudre, l’application de l’optimisation convexe aux problèmes de bandits multiples, les systèmes de tâches métriques et la résolution du problème du serveur K. Nous fouillons ensuite dans l’article de Sebastian, qui cherche à prouver que pour une large classe de distributions de données et de classes de modèles, une surparamétérisation est nécessaire si l’on souhaite interpoler les données. Enfin, nous avons discuté de la relation entre le document et le travail effectué dans la communauté de robustesse adversaire.