Agents AI: substance ou huile de serpent avec Arvind Narayanan

Aujourd’hui, nous sommes rejoints par Arvind Narayanan, professeur d’informatique à l’Université de Princeton pour discuter de ses œuvres récentes, Agents d’IA qui comptent et Huile de serpent AI. Dans les «agents de l’IA qui comptent», nous explorons l’éventail des comportements agentiques, les défis des agents comparatifs et le «fossé de capacité et de fiabilité», qui crée des risques lors du déploiement d’agents d’IA dans des applications réelles. Nous discutons également de l’importance des vérificateurs en tant que technique pour sauvegarder le comportement des agents. Nous fouillons ensuite dans le livre d’huile de serpent AI, qui découvre des exemples de revendications problématiques et sur-typées dans l’IA. Arvind partage divers cas d’utilisation des applications défaillantes de l’IA, décrit une taxonomie des risques de l’IA et partage ses idées sur les risques catastrophiques de l’IA. De plus, nous avons également abordé différentes approches du raisonnement basé sur LLM, ses opinions sur la politique et la réglementation technologiques et son travail sur Noyauune référence conçue pour mesurer la précision des agents de l’IA dans les tâches de reproductibilité informatique.