Senidité de l’IA, des risques d’agence et catastrophique avec Yoshua Bengio

Aujourd’hui, nous sommes rejoints par Yoshua Bengio, professeur à l’Université de Montréal. Dans notre conversation avec Yoshua, nous discutons de la sécurité de l’IA et des risques potentiellement catastrophiques de son utilisation abusive. Yoshua met en évidence divers risques et les dangers de l’IA utilisé pour manipuler les gens, répartir la désinformation, causer des dommages et concentrer davantage le pouvoir dans la société. Nous plongeons profondément dans les risques associés à la réalisation de la compétence au niveau de l’homme dans suffisamment de domaines avec l’IA, et relève les défis de définir et de comprendre les concepts comme l’agence et la sensibilité. De plus, notre conversation aborde les solutions à la sécurité de l’IA, telles que la nécessité de garde-corps robustes, les investissements dans les protections et les contre-mesures de la sécurité nationale, interdisent les systèmes avec une sécurité incertaine et le développement de systèmes d’IA axés sur la gouvernance.