Évaluation des risques des modèles d’IA ouverts avec Sayash Kapoor

Aujourd’hui, nous sommes rejoints par Sayash Kapoor, un doctorat. Étudiant au Département d’informatique de l’Université de Princeton. Sayash nous guide à travers son article: « Sur l’impact sociétal des modèles de fondation ouverts. » Nous creusons dans la controverse autour de la sécurité de l’IA, les risques et les avantages de la libération de poids des modèles ouverts, et comment nous pouvons établir un terrain d’entente pour évaluer les menaces posées par l’IA. Nous discutons de l’application du cadre présenté dans l’article à des risques spécifiques, tels que le risque de biosécurité de LLMS ouverts, ainsi que le problème croissant de « l’imagerie intime non consensuelle » à l’aide de modèles de diffusion ouverts.