Déployer l’agence AI plus rapidement avec Datarobot et Nvidia
- Intelligence Artificielle
Noesis News- 0
- 18 minutes de lecture
Les organisations sont impatientes de pénétrer dans l’ère de l’IA agentique, mais le déplacement des projets d’IA du développement à la production reste un défi. Le déploiement des applications AI agents nécessite souvent des configurations et des intégrations complexes, retardant le temps de valeur.
Obstacles au déploiement de l’IA agentique:
- Savoir par où commencer: Sans cadre structuré, la connexion des outils et la configuration des systèmes prennent du temps.
- Mise à l’échelle efficace: Les performances, la fiabilité et la gestion des coûts deviennent des drains de ressources sans infrastructure évolutive.
- Assurer la sécurité et la conformité: De nombreuses solutions reposent sur des données et des modèles incontrôlés au lieu de ceux qui sont testés et testés
- Gouvernance et observabilité: L’infrastructure et les déploiements d’IA nécessitent une documentation et une traçabilité claires.
- Surveillance et maintenance: Assurer les performances, les mises à jour et la compatibilité du système est complexe et difficile sans surveillance robuste.
Maintenant, Datarobot est livré avec NVIDIA AI Enterprise Embedded – offrant le moyen le plus rapide de développer et de livrer une IA agentique.
Avec une pile d’IA entièrement validée, les organisations peuvent réduire les risques d’outils open source et de l’IA de bricolage lors du déploiement où cela a du sens, sans complexité supplémentaire.
Cela permet aux solutions d’IA d’être personnalisées pour les problèmes commerciaux et optimisées d’une manière qui serait autrement impossible.
Dans cet article de blog, nous explorerons comment les praticiens de l’IA peuvent développer rapidement des applications d’IA agentiques à l’aide de Datarobot et NVIDIA AI Enterprise, par rapport à l’assemblage de solutions à partir de zéro. Nous allons également parcourir la façon de construire un tableau de bord alimenté par AI qui permet une prise de décision en temps réel pour les gestionnaires d’entrepôt.
Cas d’utilisation: optimisation de l’entrepôt en temps réel
Imaginez que vous êtes un gestionnaire d’entrepôt qui essaie de décider de tenir des expéditions en amont. Si l’entrepôt est plein, vous devez réorganiser efficacement votre inventaire. S’il est vide, vous ne voulez pas gaspiller des ressources; Votre équipe a d’autres priorités
Mais le suivi manuellement de la capacité de l’entrepôt prend du temps, et une simple API ne le coupera pas. Vous avez besoin d’une solution intuitive qui s’inscrit dans votre flux de travail sans codage requis.
Plutôt que de rassembler une application AI manuellement, les équipes AI peuvent rapidement développer une solution à l’aide de Datarobot et NVIDIA AI Enterprise. Voici comment:
- Analyse vidéo propulsée par l’IA: Utilise le Blueprint NVIDIA AI pour la recherche vidéo et le résumé en tant qu’agent intégré pour identifier les espaces ouverts ou les étagères d’entrepôt vides en temps réel.
- Prévision des stocks prédictifs: Exploite Datarobot prédictif AI pour prévoir le volume des stocks de revenus.
- Informations en temps réel et IA conversationnelle: Affiche des informations en direct sur un tableau de bord avec une interface AI conversationnelle.
- Gestion de l’IA simplifiée: Fournit une gestion de modèle simplifiée avec la surveillance NVIDIA NIM et DATAROBOT.
Ce n’est qu’un exemple de la façon dont les équipes AI peuvent créer des applications AI agents plus rapidement avec Datarobot et Nvidia.
Résoudre les barrages routiers les plus difficiles dans la construction et le déploiement d’agents AI
Les applications d’IA agentiques de construction sont un processus itératif qui nécessite l’équilibre entre l’intégration, les performances et l’adaptabilité. Le succès dépend de la connexion de manière transparente – LLMS, des systèmes de récupération, des outils et du matériel – tout en s’assurant qu’ils fonctionnent ensemble efficacement.
Cependant, la complexité de l’IA agentique peut entraîner un débogage prolongé, des cycles d’optimisation et des retards de déploiement.
Le défi consiste à fournir des projets d’IA à grande échelle sans rester coincé dans une itération sans fin.
Comment NVIDIA AI Enterprise et Datarobot simplifient le développement de l’IA agentique
Points de départ flexibles avec Nvidia AI Blueprints et Datarobot AI Apps
Choisissez entre Nvidia AI Blueprints ou DatarObot AI Apps pour sauter le développement d’applications AI. Ces architectures de référence prédéfinies réduisent la barrière d’entrée en fournissant un cadre structuré à construire, réduisant considérablement le temps de configuration.
Pour intégrer Nvidia AI Blueprint pour la recherche vidéo et la résumé, importez simplement le plan de la galerie NVIDIA NGC dans votre environnement Datarobot, éliminant le besoin d’une configuration manuelle.
Accélérer l’IA prédictive avec les rapides et le datarobot
Pour construire les prévisions, les équipes peuvent tirer parti des bibliothèques de science des données RAPIDS ainsi que la suite complète de Capacités prédictives de l’IA de Datarobot pour automatiser les étapes clés de la formation, des tests et de la comparaison des modèles.
Cela permet aux équipes d’identifier efficacement le modèle le plus performant pour leur cas d’utilisation spécifique.
Optimiser les flux de travail de chiffon avec Nvidia NIM et le terrain de jeu LLM de Datarobot
En utilisant le LLM Playground dans Datarobot, les équipes peuvent améliorer les flux de travail des chiffons en testant différents modèles comme le texte Nvidia Nemo Retriever Rerranking NIM ou le NVIDIA NEMO Retriever Text incorpore NIM, puis comparer différentes configurations côte à côte. Cette évaluation peut être effectuée en utilisant un NVIDIA LLM NIM en tant que juge et, si vous le souhaitez, augmentez les évaluations avec la contribution humaine.
Cette approche aide les équipes à identifier la combinaison optimale d’incitation, d’intégration et d’autres stratégies pour trouver la configuration la plus performante pour le cas d’utilisation spécifique, le contexte commercial et les préférences de l’utilisateur final.
Assurer la préparation opérationnelle
Le déploiement de l’IA n’est pas la ligne d’arrivée – ce n’est que le début. Une fois en direct, l’agent AI doit s’adapter aux entrées du monde réel tout en restant cohérent. La surveillance continue aide à attraper la dérive, les insectes et les ralentissements, ce qui rend les outils d’observabilité solides essentiels. La mise à l’échelle ajoute de la complexité, nécessitant une infrastructure efficace et une inférence optimisée.
Les équipes d’IA peuvent rapidement être submergées par l’équilibre entre le développement de nouvelles solutions et simplement garder celles existantes.
Pour notre application AI d’origine, Datarobot et Nvidia simplifient la gestion tout en garantissant des performances et une sécurité élevées:
- La surveillance de Datarobot et Nvia NIM optimisent les performances et minimisent les risques, même si le nombre d’utilisateurs passe de 100 à 10k à 10m.
- Les garde-corps de Datarobot, y compris les garde-corps NEMO, fournissent des vérifications automatisées pour la qualité des données, la détection des biais, l’explication du modèle et les cadres de déploiement, garantissant une IA fiable.
- Des outils de conformité automatisés et une observabilité complète de bout en bout aident les équipes à rester en avance sur l’évolution des réglementations.
Déploier où il est nécessaire
La gestion des applications d’IA agentiques au fil du temps nécessite le maintien de la conformité, de la performance et de l’efficacité sans intervention constante.
La surveillance continue aide à détecter la dérive, les risques réglementaires et les baisses de performances, tandis que les évaluations automatisées garantissent la fiabilité. L’infrastructure évolutive et les pipelines optimisés réduisent les temps d’arrêt, permettant des mises à jour transparentes et du réglage fin sans perturber les opérations.
L’objectif est d’équilibrer l’adaptabilité avec la stabilité, garantissant que l’IA reste efficace tout en minimisant la surveillance manuelle.
Datarobot, accéléré par NVIDIA AI Enterprise, offre une facilité d’utilisation de qualité hyperscaleuse sans le verrouillage des fournisseurs dans divers environnements, y compris les employés autogérés sur site, le cloud géré par Datarobot et même les déploiements hybrides.
Avec cette intégration transparente, tous les modèles déployés obtiennent le même support et services cohérents, quel que soit votre choix de déploiement – éliminant la nécessité de configurer, régler ou gérer l’infrastructure d’IA manuelle.
La nouvelle ère de l’IA agentique
Datarobot avec NVIDIA Embedded accélère le développement et le déploiement d’applications et d’agents AI en simplifiant le processus au niveau du modèle, de l’application et de l’entreprise. Cela permet aux équipes d’IA de développer et de fournir rapidement des applications d’IA agentiques qui résolvent les cas d’utilisation complexes et multiples et transforment la façon dont les utilisateurs finaux travaillent avec l’IA.
Pour en savoir plus, demander une démo personnalisée de datarobot avec nvidia.
À propos de l’auteur
Kumar Venkateswar est vice-président du produit, de la plate-forme et de l’écosystème chez Datarobot. Il dirige la gestion des produits pour les services fondamentaux de Datarobot et les partenariats écosystémiques, combler les lacunes entre l’infrastructure efficace et les intégrations qui maximisent les résultats de l’IA. Avant Datarobot, Kumar a travaillé sur Amazon et Microsoft, y compris les principales équipes de gestion de produits pour Amazon Sagemaker et Amazon Q Business.
Le Dr Ramyanshu (Romi) Datta est le vice-président du produit de la plate-forme d’IA chez Datarobot, responsable des capacités qui permettent l’orchestration et la gestion du cycle de vie des agents et applications d’IA. Auparavant, il était chez AWS, dirigeant la gestion des produits pour les plates-formes AWS de AWS – Amazon Bedrock Core Systems et Generative IA sur Amazon Sagemaker. Il a également été directeur général des services d’IA humaine en boucle d’AWS. Avant AWS, le Dr Datta a également occupé des rôles d’ingénierie et de produits chez IBM et NVIDIA. Il a reçu sa MS et son doctorat. diplômes en génie informatique de l’Université du Texas à Austin, et son MBA de la Booth School of Business de l’Université de Chicago. Il est co-inventeur de plus de 25 brevets sur des sujets allant de l’intelligence artificielle, du cloud computing et du stockage à la conception et aux tests de semi-conducteurs haute performance.
Source link
