Agents AI: la prochaine étape de l’évolution de l’entreprise AI

La première vague de solutions génératrices de l’intelligence artificielle (Genai) a déjà obtenu succès considérable dans les entreprises, en particulier dans le domaine des assistants de codage et pour augmenter l’efficacité des produits SaaS existants. Cependant, ces applications ne montrent qu’un petit aperçu de ce qui est possible avec les modèles de grande langue (LLM). La véritable force de cette technologie se déroule maintenant dans la deuxième génération d’applications alimentées par l’IA: systèmes basés sur des agents Cela s’appuie sur la base solide des LLM et portez leurs capacités à un nouveau niveau.

Contrairement aux chatbots d’IA traditionnels ou simples Copilots pour les produits SaaSLes agents de l’IA exploitent la gamme complète des capacités LLM. Ils peuvent non seulement générer du texte, mais également résoudre des problèmes complexes (presque) indépendamment. Un agent d’IA est un système alimenté par LLM qui poursuit des objectifs spécifiques dans les limites d’autonomie définies et utilise divers outils.

Un exemple illustre les possibilités: imaginez qu’un LLM reçoit la documentation d’une API qui peut récupérer les cours actuels. Avec ces informations, le LLM peut créer indépendamment un script qui appelle cette API pour un cours d’action spécifique. Si le système est autorisé à exécuter ce script, il devient un outil pour les utilisateurs finaux pour récupérer les cours des actions.

Un agent agit rarement seul

Alors, serait-il possible de développer une seule application complète qui pourrait résoudre tous les problèmes d’une entreprise? La réponse courte est non. Bien que les LLMS soient capables de généralisation, les contraintes de l’environnement d’entreprise nécessitent une portée relativement étroite pour chaque application individuelle. C’est le seul moyen pour l’entreprise d’assurer des performances cohérentes et de contrôler l’accès aux données et aux outils.

Cette «super application» imaginaire Cela semble pratiquemais cela nécessiterait un accès complet à toutes les données et outils de l’entreprise, du plus banal au plus sensible. Tout comme un employé ne doit avoir accès qu’aux données et outils nécessaires à son travail, l’accès d’une application basée sur un agent doit être limité à ce dont il a besoin pour remplir sa fonction.

De combien d’agents de l’IA de ce type pourraient-ils avoir besoin d’une grande entreprise? Une estimation approximative: une grande entreprise avec dix départements, chacune avec cinq fonctions de base, pourrait bénéficier de cinq applications spécialisées par fonction. Par exemple, le service des ventes des opérations de vente pourrait utiliser un agent pour:

• Recherchez les clients cibles
• Vérifiez la conformité au processus de vente
• Analyser le pipeline de vente
• Résumer les réunions des clients
• Soutenir les activités de suivi

Cela entraînerait un total de 250 applications – une prévision réaliste pour les grandes organisations.

Construire ou acheter: l’art de prendre la bonne décision

Avec des centaines de nouvelles applications disponibles, les entreprises sont confrontées à une décision de «construction ou d’achat». Les fournisseurs de logiciels créent déjà des applications correspondantes sur le marché. Dans le même temps, les organisations avancées développent leurs premières applications basées sur des agents prêts à la production en interne.

Les agents d’IA prêts à l’emploi offrent des avantages décisifs: une fois mis en œuvre, ils fournissent des performances clé en main, sont soutenues par des développeurs de logiciels professionnels et permettent un déploiement rapide. L’inconvénient de ces agents d’IA standard est des défis tels que l’intégration souvent complexe dans les systèmes d’entreprise existants, les problèmes de gouvernance dans le suivi des modèles utilisés et, enfin, le fait que les concurrents ayant des solutions identiques peuvent atteindre les mêmes performances.

D’un autre côté, les agents d’IA auto-développés et personnalisés peuvent être adaptés avec précision au contexte commercial spécifique et offrir ainsi le potentiel de différenciation réelle sur le marché. Les entreprises conservent le contrôle total et la transparence sur leurs applications et obtiennent l’indépendance des logiciels externes, des fournisseurs de logiciels externes, d’IA et de cloud. Cependant, ces avantages viennent avec leurs propres défis: les compétences de développement nécessaires ne sont pas suffisamment disponibles dans de nombreuses organisations, et à mesure que le nombre d’applications auto-développées augmente, la complexité du suivi et de la maintenance augmente considérablement.

La plupart des entreprises achèteront donc certaines applications et en développeront elles-mêmes d’autres. Il convient de noter que si les agents de l’IA peuvent améliorer l’efficacité des processus opérationnels, si ces gains d’efficacité suivent le rythme des concurrents, la position concurrentielle ne s’améliore pas.

Le développement d’applications personnalisées basées sur des agents, en revanche, permet à une entreprise de créer des capacités que ses concurrents n’ont pas. Compte tenu des coûts et de la complexité impliqués, les entreprises concentreront leurs efforts de développement internes sur les parties de leur entreprise qui bénéficieront le plus d’une forte différenciation concurrentielle, généralement leur cœur de métier.

Surmonter le seuil de complexité

Chaque organisation a un nombre maximum d’applications qu’elle peut développer, surveiller et maintenir en utilisant ses pratiques actuelles. Il s’agit du «seuil de complexité» de l’organisation.

Alors que l’entreprise développe de plus en plus d’applications basées sur des agents, la complexité de la surveillance et de la maintenance augmente jusqu’à ce que, à un moment donné, une complexité maximale soit atteinte et qu’aucune autre application ne peut être développée – même si cela profiterait à l’entreprise.

L’entreprise doit trouver un moyen d’augmenter son seuil de complexité afin de développer plus d’applications. Cela nécessite de normaliser et de structurer le développement de ces applications.

Un nouveau paradigme d’architecture pour les applications basées sur des agents

Au fil des ans, les organisations ont utilisé divers paradigmes architecturaux, des applications monolithiques aux architectures axées sur le service aux microservices. Les infrastructures d’aujourd’hui pour les applications basées sur des agents de construction sont principalement monolithiques et utilisent des cadres tels que Langchain. Bien que cette approche convient au développement de prototypes initiaux, il reflète l’immaturité relative de la conception d’applications basée sur des agents dans l’environnement d’entreprise.

Un nouveau paradigme architectural est donc nécessaire pour créer et maintenir de nombreuses applications basées sur des agents. Une implémentation est un Architecture de maillage pour LLMS et les composants associés nécessaires pour créer des agents dans l’entreprise. Il fournit des couches d’abstraction qui regroupent différents composants en types d’objets uniformes.

Une telle architecture multicouche pourrait inclure les composants suivants:

• Modèles de base: Les modèles d’IA formés avec leurs poids mathématiques de base.
• Couche de données: Divisé en données non structurées et structurées.
• Couche de service: Comprend les services requis pour le fonctionnement du modèle ainsi que pour les services d’accès aux données.
• Couche d’orchestration: C’est là que les invites, les agents et les outils sont réunis.
• Couche d’application: Les applications utilisables avec leurs interfaces utilisateur.

L’avantage clé d’une telle architecture réside dans l’abstraction: il crée des interfaces standardisées entre les différentes couches, permettant à un seul service d’être remplacé sans avoir à adapter d’autres composants. Ce découplage permet aux entreprises d’augmenter leur seuil de complexité.

Kurt Muehmel est le chef de la stratégie de l’IA chez DataIKU. Il est un cadre créatif et analytique avec plus de 15 ans d’expérience et d’expertise fondamentale dans l’espace de l’IA de l’entreprise et, plus largement, la stratégie et les tactiques de mise sur le marché B2B SaaS.

Cet article est publié dans le cadre du réseau de contributeurs d’experts Foundry.
Vous voulez rejoindre?