Le nouveau modèle Genai de Microsoft aux agents d’alimentation de Windows 11 – Computerworld

« En séparant les jetons d’entrée des jetons de sortie, le codage unique de MU réduit considérablement le calcul et les frais généraux de mémoire », a déclaré Pradeep.

L’approche Encodeur-Décodeur était significativement plus rapide que les LLM telles que PHI-3.5 de Microsoft, qui est un modèle uniquement du décodeur. « Lorsque vous comparez MU à un PHI-3,5-MINI similaire, nous avons constaté que MU était presque comparable en performance malgré un dixième de la taille », a déclaré Pradeep.

Ces gains sont cruciaux pour les applications sur les appareils et en temps réel. « La gestion de la vaste gamme de paramètres Windows a posé ses propres défis, en particulier avec les fonctionnalités qui se chevauchent », a déclaré Pradeep.