AI générative au bord avec Vinesh Sukumar

Aujourd’hui, nous sommes rejoints par Vinesh Sukumar, directeur principal, et chef de la gestion de produits AI / ML chez Qualcomm Technologies. Dans notre conversation avec Vinesh, nous explorons comment les appareils mobiles et automobiles ont des exigences différentes pour les modèles d’IA et comment leur pile d’IA aide les développeurs à créer des modèles complexes sur les deux plates-formes. Nous discutons également de l’intérêt croissant pour les entrées textuelles et du passage vers les transformateurs, le contenu génératif et les moteurs de recommandation. De plus, nous explorons les défis et les opportunités pour les investissements ML OPS sur le bord, y compris l’utilisation de données synthétiques et les modèles en évolution basés sur les données des utilisateurs. Enfin, nous nous plongeons dans les dernières avancées des modèles de grande langue, y compris les modèles de style Prométhée et le GPT-4.