Comment Microsoft évolue les tests et la sécurité pour une AI générative avec Sarah Bird

Aujourd’hui, nous sommes rejoints par Sarah Bird, chef de produit de l’IA responsable chez Microsoft. Nous discutons des techniques de test et d’évaluation que Microsoft s’applique pour assurer un déploiement et une utilisation sécuritaires de l’IA générative, des modèles de grands langues et la génération d’images. Dans notre conversation, nous explorons les risques et défis uniques présentés par l’IA générative, l’équilibre entre l’équité et les problèmes de sécurité, l’application des stratégies de défense adaptative et en couches pour une réponse rapide aux comportements imprévus de l’IA, l’importance des tests de sécurité et de la gouvernance automatisés de l’IA parallèlement au jugement humain et à la mise en œuvre de l’équipe rouge et de la gouvernance. Sarah partage également les enseignements des incidents «Tay» et «Bing Chat» de Microsoft ainsi que ses réflexions sur le paysage du Genai en évolution rapide.