Clôture de la boucle entre la formation AI et l’inférence avec Lin Qiao

Dans cet épisode, nous sommes rejoints par Lin Qiao, PDG et co-fondateur de Fireworks AI. S’appuyant sur des leçons clés de son temps à construire Pytorch, Lin partage son point de vue sur le cycle de vie moderne du développement de l’IA. Elle explique pourquoi l’alignement des systèmes de formation et d’inférence est essentiel pour créer un pipeline de production transparente et à évolution rapide, empêchant la frottement qui cale le déploiement. Nous explorons le passage stratégique du traitement des modèles comme des produits de base pour les considérer comme des actifs principaux de produits. Lin détaille comment les méthodes de post-formation, comme le réinstallation, le réglage fin (RFT), permettent aux équipes de tirer parti de leurs propres données propriétaires pour améliorer en permanence ces actifs. Lin décompose également le défi complexe de ce qu’elle appelle «optimisation 3D» – le coût, la latence et la qualité des équilibrage – et met l’accent sur le rôle des critères d’évaluation clairs pour guider ce processus, allant au-delà des méthodes peu fiables comme la «vérification des ambiances». Enfin, nous discutons de la voie vers l’avenir du développement de l’IA: conception d’un système en boucle fermée pour l’amélioration automatisée du modèle, une vision rendue plus réalisable par la convergence passionnante des capacités de modèle de source ouverte et fermée.