Mise à l’échelle de l’IA génératrice multimodale avec Luke Zettlemoyer

Aujourd’hui, nous sommes rejoints par Luke Zettlemoyer, professeur à l’Université de Washington et directeur de recherche chez Meta. Dans notre conversation avec Luke, nous couvrons l’IA génératrice multimodale, l’effet des données sur les modèles et l’importance de l’open source et de la science ouverte. Nous explorons le problème de mise à la terre, la nécessité d’une mise à la terre visuelle et d’un mode de réalisation dans les modèles basés sur le texte, les avantages de la tokenisation de discrétisation dans la génération d’images, et ses lois sur la mise à l’échelle de papier pour les modèles génératifs de langage modal mixte, qui se concentre sur la formation simultanée LLMS sur diverses modalités. De plus, nous couvrons ses papiers sur l’auto-alignement avec une remise en commun des instructions, et Lima: moins c’est plus pour l’alignement.