Évaluer les agents d’IA? Les adoptants précoces décrivent les défis pratiques

Entreprises non techniques Essayer les agents d’IA sur le terrain a déclaré que la technologie a encore beaucoup de défis à surmonter avant de pouvoir être utilisés pratiquement.

Certaines des premières utilisations de AI agentique se trouvent dans le domaine du service client, qui faisait partie d’une table ronde à Conférence de GTC de Nvidiatenue la semaine dernière à San Jose.

Le principal problème est que les humains préfèrent toujours parler aux humains parce qu’ils ne font pas confiance aux machines, a déclaré Cameron Davies, directeur des données chez Yum Brands, qui comprend des marques telles que Pizza Hut, Taco Bell et KFC.

La société espère passer à 100% de commande numérique dans cinq ans, avec une IA agentique jouant un rôle, a déclaré Davies.

Plus précisément, Yum Brands veut automatiser les commandes lors de la promenade, a déclaré Davies. L’un des travaux de service les plus difficiles consiste à exécuter des fenêtres au volant – pour prendre, remplir et retirer les commandes – et les agents de l’IA pourraient éclairer cette charge.

Mais le principal problème n’est pas technologique, a déclaré Davies. « Quel est le plus grand défi pour mettre cela en place, c’est que personne ne veut parler à une machine en ce moment. Et vous devez vous demander pourquoi est-ce le cas? »

Yum Brands envisage également des agents d’IA pour réduire la charge «cognitive» sur les serveurs et les employés humains. Les agents scénarisés peuvent faire le rôle de «la vente résistant et de poser des questions sur les dons de charité», a déclaré Davies.

« Vous faites ces choses, alors cette personne peut désormais se concentrer sur le fait d’être plus heureux, en vous assurant que la commande est correcte, obtenant le changement, etc. », a déclaré Davies, ajoutant que Yum Brands a testé des agents pour les fonctions de back-office et de RH, avec des résultats mitigés.

Au-delà de la confiance des systèmes d’IA, la conformité et la précision sont des préoccupations pour Craig Daniels, chef de l’hôpital intelligent et non lié de la clinique Mayo.

Les soins de santé, de par sa nature, ont tendance à être à la traîne d’autres industries dans l’adoption de la technologie; Daniels examine les progrès des agents de l’IA dans des entreprises comme Yum Brands pour voir ce qui fonctionne.

Pour Mayo, le défi est que les médecins et les patients obtiennent un niveau élevé de confiance dans l’IA pour aider au diagnostic et au traitement. Ensuite, ils peuvent considérer le rôle des agents dans l’aide aux médecins et aux patients.

Les patients doivent faire confiance aux modèles d’IA tout comme ils font confiance aux machines IRM sans avoir à se soucier de la technologie sous-jacente, a déclaré Daniels.

Mayo Clinic crée sa propre plate-forme de données avec des informations anonymes de patients recueillies auprès de 61 organisations de soins de santé différentes dans quatre continents. Par exemple, un système Mayo AI formé sur 7 millions d’électrocardiogrammes peut détecter et diagnostiquer l’insuffisance cardiaque.

« Il y a un moment où nous devons faire confiance aux travaux du modèle », a déclaré Daniels. «Cela génère de nouvelles informations et nous avons fait des recherches et nous avons confiance en cela et nous l’utilisons avec l’humain pour prendre la décision finale. C’est un merveilleux progrès.»

La Food and Drug Administration des États-Unis (FDA) réglementera finalement l’IA dans les soins de santé par le biais d’un «appareil médical en tant que logiciel», qui nécessitera des recherches éprouvées, a déclaré Daniels.

Plus que dans d’autres industries, Mayo aura besoin d’une variété de garde-corps en place pour fournir des résultats dignes de confiance, car il n’y a pas d’allocation pour que l’IA ou les agents hallucinent. De nombreux panélistes ont également mentionné qu’ils étaient toujours en train de déterminer ces garde-corps. « Nous voulons être en sécurité », a déclaré Daniels.

Les panélistes ont déclaré que bien que le service client et les chatbots ne soient pas nouveaux, ils sont revisités à la lumière de l’arrivée des agents de l’IA.

Les agents devraient devenir plus humains en réaction et en voix, et ils sont plus flexibles. Les agents ne suivent pas les scripts comme les chatbots, et selon le client, ils peuvent se connecter à d’autres agents pour mieux servir les clients.

« Je peux le faire parler comme une personne. Je peux changer de dialecte. Je peux faire ces choses, et je veux le contrôler », a déclaré Davies de Yum Brands.

Les agents ne remplaceront pas complètement les gens de sitôt, car l’ingéniosité humaine est toujours nécessaire dans de nombreux domaines – pour superviser les agents d’IA, les modifier pour être plus efficaces et être en mesure de vérifier la sortie et les résultats de l’IA.

Les premiers agents de l’IA de la Banque américaine augmentent les connaissances humaines aux clients des services.

Les agents humains pour la banque, l’hypothèque ou les investissements sont des experts en la matière qui ont besoin d’informations à portée de main; C’est là que la banque teste les agents de l’IA, a déclaré Sumitri Kolavennu, chef de la recherche sur l’IA et vice-présidente principale de l’US Bank.

« Garder l’homme en boucle dans de nombreuses industries (réglementées) est … vraiment primordial », a déclaré Kolavennu. «Nous aimons les avantages et les aspects d’autonomie des agents de l’IA, mais nous voulons garder l’humain dans la boucle.»

US Bank teste l’efficacité des agents en voyant à quelle vitesse les problèmes sont résolus.

« La plus grande chose que nous voyons est la résolution lors du premier appel.