Nvidia dit que les microservices NEMO sont désormais généralement disponibles

Il a également détaillé comment les partenaires NVIDIA tirent parti des microservices NEMO dans leurs plateformes d’agent d’IA. AT&T, par exemple, utilise l’IA agentique pour soutenir ses centres d’appels. En travaillant avec Arize et Quantiphi, AT&T a construit un agent d’IA qui exploite les microservices NEMO pour traiter sa base de connaissances de près de 10 000 documents, qui sont actualisés chaque semaine. Conway a noté que les microservices NEMO ont contribué à améliorer la précision de l’agent de 40%, ce qui a également réduit les frais généraux de calcul. Ensuite, il y a BlackRock, qui tire parti des microservices NEMO pour les capacités d’IA agentiques dans sa plate-forme technique Aladdin, unifiant le processus de gestion des investissements de l’entreprise via un langage de données commun. L’équipe de décalage de Cisco, en collaboration avec le partenaire Galileo, utilise également les microservices NEMO pour un assistant de codage, ce qui entraîne 40% d’erreurs de sélection d’outils en moins et jusqu’à 10 fois des temps de réponse plus rapides.

Conway a en outre ajouté que les microservices NEMO prennent en charge les modèles ouverts, notamment LLAMA, la famille Microsoft Phi de modèles de petits langues, Google Gemma, Mistral et Llama Nemotron Ultra. Meta propose de nouveaux connecteurs pour Meta Llamastack et des fournisseurs de logiciels AI, notamment Cloudera, Datadog, DataiKu, Datarobot, DataStax, Superannotate et poids et biais – ont intégré les microserches NEMO dans leurs plateformes.