Conception pour les humains: pourquoi la plupart des adoptions d’entreprise de l’IA échouent

La technologie de construction a toujours été une entreprise en désordre. Nous sommes constamment régistés par des histoires d’échecs de projet, de gaspillage de l’argent et même de la disparition des industries entières. Il est sûr de dire que nous avons du travail à faire en tant qu’industrie. L’ajout d’IA à ce mélange, c’est comme verser de l’essence sur une flamme qui coule – il y a un réel danger que nous puissions brûler nos entreprises au sol.

À la base, les gens créent une technologie pour les personnes. Malheureusement, nous permettons aux modes et à la mode technologiques de nous égarer. Je suis expédié des produits AI depuis plus d’une décennie – chez WorkHuman et plus tôt dans les services financiers. Dans cette pièce, je vous guiderai à travers des leçons durement gagnées que j’ai apprises tout au long de mon voyage. J’ai présenté cinq principes pour aider les décideurs – certains sont techniques, la plupart concernent les humains, leurs peurs et comment ils fonctionnent.

5 principes pour aider les décideurs

Le chemin de l’excellence réside dans le chemin de maturité suivant: Trust → Innovation fédérée → Tâches concrètes → Métriques de mise en œuvre → Build for Change.

1. Faites confiance aux performances

Les entreprises ont une série de différentes façons de mesurer le succès lors de la mise en œuvre de nouvelles solutions. Les performances, le coût et la sécurité sont tous des facteurs qui doivent être mesurés. Nous mesurons rarement la confiance. Malheureux, alors, que La confiance d’un utilisateur dans les systèmes est un facteur majeur pour le succès des programmes d’IA. Une superbe solution noire décède à l’arrivée si personne ne croit aux résultats.

Une fois, j’ai dirigé un système de prédiction en IA pour les finances des consommateurs américains dans une banque de pointe. Nos coûts de stockage étaient énormes. Cela n’a pas été aidé par notre modèle de carte de crédit, qui crache 5 To de données chaque jour. Pour atténuer cela, nous avons trouvé une solution alternative, qui a prétraité les résultats à l’aide d’un modèle de boîte noire. Cette solution a utilisé 95% de stockage en moins (avec une réduction des coûts pour correspondre). Lorsque j’ai présenté cette idée aux parties prenantes de l’entreprise, ils l’ont tué instantanément. Les régulateurs ne feraient pas confiance à un système où ils ne pouvaient pas expliquer pleinement les sorties. S’ils ne pouvaient pas voir comment chaque calcul était effectué à chaque étape du processus, ils ne pouvaient pas faire confiance au résultat.

Une recommandation ici est de rédiger une politique d’éthique claire. Il doit y avoir un mécanisme ouvert et transparent pour le personnel et les utilisateurs pour soumettre des commentaires sur les résultats de l’IA. Sans cela, les utilisateurs peuvent penser qu’ils ne peuvent pas comprendre comment les résultats sont générés. S’ils n’ont pas de voix dans la modification des «mauvaises» sorties, il est peu probable que toute transformation gagne les cœurs et les esprits nécessaires dans toute l’organisation.

2. Innovation fédérée sur le contrôle central

L’IA a le potentiel de fournir de l’innovation à des vitesses auparavant inimaginables. Il réduit le coût des expériences et agit comme un générateur d’idées – une caisse de résonance pour de nouvelles approches. Il permet aux gens de générer plusieurs solutions en quelques minutes. Un excellent moyen de ralentir toute l’innovation consiste à l’achever à travers un organisme central / comité / mécanisme d’approbation. La bureaucratie est l’endroit où les idées vont mourir.

Le philosophe lauréat du prix Nobel Fa Hayek a dit un jour« Il existe des structures ordonnées qui sont le produit de l’action de nombreux hommes mais qui ne sont pas le résultat de la conception humaine. » Il s’est opposé à la planification centrale, où un individu est responsable des résultats. Au lieu de cela, il a favorisé «l’ordre spontané», où les systèmes émergent des actions individuelles sans contrôle central. C’est, soutient-il, où des innovations telles que la langue, la loi et les marchés économiques émergent.

Le chemin entre le contrôle et l’anarchie est difficile à naviguer. Les entreprises doivent trouver un moyen de «tenir l’oiseau de l’innovation dans leur main». Tenez-vous trop serré – tuez l’oiseau; Tenez-vous trop lâche – l’oiseau s’envole. Malheureusement, de nombreuses entreprises sont trop serrées. Ils le font en s’appuyant trop sur une structure de commandement et de contrôle – en particulier des groupes comme le juridique, la sécurité et l’approvisionnement. Je les ai regardés écraser des pilotes d’IA prometteurs avec une seule déclaration à risque. Pour les personnes créatives innovantes sur les bords, même la perspective de devoir présenter leur idée à un comité peut avoir un effet effrayant. Il est plus facile de ne rien faire et de rester à l’écart de la «grande main de la bureaucratie». Cela tue l’oiseau – et tue l’esprit délicat de l’innovation.

L’IA peut suralimenter les capacités d’innovation pour chaque individu. Pour cette raison, nous devons fédérer l’innovation dans toute l’entreprise. Nous devons encourager le plus de cadres supérieurs à déclarer dans un langage clair quel est l’appétit pour le risque dans le monde de l’IA et à expliquer ce que sont les garde-corps. Ensuite, laissez les équipes expérimenter sans encombre par la bureaucratie. Les fonctions centrales passent des gardiens aux commissaires, n’appliquant que les non-négociables. Cela nous permet de planter des graines dans toute l’organisation et de récolter les meilleurs rendements au profit de tous.

3. Tâches en béton sur le travail abstrait

Le premier pionnier de l’IA, Herbert Simon, est le père des sciences du comportement, un lauréat du prix Nobel et Turing. Il a également inventé l’idée d’une rationalité limitée. Cette idée explique que les humains se contentent de «assez bien» lorsque les options se développent au-delà d’un certain nombre. L’IA générative suit cette approche (peut-être parce qu’elle est formée sur les données humaines, elle imite le comportement humain). L’IA générative est stochastique – chaque fois que nous donnons la même entrée, nous obtenons une sortie différente – une réponse «assez bonne». Ceci est très différent du modèle classique auquel nous sommes habitués – étant donné la même entrée, nous obtenons la même sortie à chaque fois.

Ce modèle stochastique, où le résultat est imprévisible, rend la modélisation des cas d’utilisation descendante encore plus difficile. D’après mon expérience, les projets n’ont cliqué qu’une fois que nous nous sommes assis avec les utilisateurs et que nous avons vraiment compris comment ils fonctionnaient. Au début de notre développement de l’assistant de l’IA de WorkHuman, les exigences génériques de haut niveau nous ont donné des comportements très étranges et étaient imprévisibles. Nous devions réécrire les cas d’utilisation comme des exigences plus détaillées et de bas niveau, avec une compréhension approfondie du comportement et des tolérances intégrées. Nous avons également enregistré chaque interaction et utilisé cela pour affiner le comportement du modèle. Dans ce monde, la conception générale de solutions de haut niveau est une conjecture.

Les dirigeants à tous les niveaux devraient se rapprocher des détails de la façon dont le travail est effectué. Les déclarations générales descendantes sont hors de la table. Au lieu de cela, les équipes doivent définir des cas d’utilisation ultra spécifiques et des intervalles de confiance de conception (par exemple, «90% du code produit AI doit passer des tests unitaires lors de la première exécution»). Dans le monde de l’IA générative, la clarté bat l’abstraction à chaque fois.

4. Adoption sur la mise en œuvre

L’achat d’un outil est facile; Le changement de comportement est brutal. Un édit de haut en bas peut aider les gens à faire le premier pas. Mais la mesure de l’adoption est la mauvaise façon de conduire le changement – il donne plutôt une «adoption» cachée mais une utilisation superficielle et à moitié mise en œuvre.

Les dirigeants sont tout aussi les victimes de modes et de modes que n’importe quel toxicomane en ligne (une fois que vous remplacez les méthodes de gestion, les nouvelles technologies et le FOMO pour les derniers styles de Paris). Et il ne faut pas l’intelligence générale artificielle pour remarquer que la tendance pour l’IA est chaude, chaude, chaude! Les dirigeants doivent raconter une histoire d’IA et montrer des avantages, car ils sont sous pression des actionnaires, des investisseurs et du marché en général. Grâce à mon réseau en IASA, j’ai largement vu ce résultat dans les édits pour mesurer «l’adoption de l’IA». Malheureusement, cela a eu des résultats très mitigés jusqu’à présent.

La nature humaine déteste le changement. Un bon manager a une myriade de préoccupations concurrentes, notamment gérer un groupe, relever des défis commerciaux, embaucher et conserver des talents, etc. Lorsqu’un nouveau programme pour adopter une stratégie d’IA se rend des dirigeants, le gestionnaire – qui essaie de protéger son équipe, de répondre aux besoins de l’entreprise et de garder la tête hors de l’eau – sera souvent compromis en adoptant l’outillage, mais en ne le mise en œuvre pas.
Chez WorkHuman, nous avons constaté que la mesure de l’adoption (et pas seulement pour l’IA) n’est pas la bonne façon de commencer une transformation. Il mesure le début de la course, mais ignore complètement le podium. Au lieu de mesures de vanité, lorsque nous mesurons le succès, nous mesurons les mesures de résultat (par exemple, le processus de travail modifié, les étapes manuelles à la retraite et les conducteurs d’entreprise affectés). En mesurant la mise en œuvre et l’impact, nous évitons le piège à «caisse» dans lequel tant d’entreprises tombent.

D’après notre décennie plus d’expérience dans l’IA, nous avons également compris que la transformation de l’IA fait partie d’un système de soutien plus important, y compris l’éducation, l’outillage et une communauté interne de soutien. Nous nous sommes associés à une université irlandaise pour gérer des programmes de diplôme en IA en interne, et fournissant des outils en IA à tout le personnel, quel que soit leur rôle. Nous avons également favorisé les communautés internes à tous les niveaux pour aider à stimuler la compréhension. Cela nous a aidés car nous livrons des solutions d’IA, à la fois en interne et en externe, comme le montre la publication de notre assistant d’IA, une solution d’IA transformationnelle pour la communauté RH.

5. Changer de choix

Le paysage de l’IA se déplace mensuellement, avec un flux continu de nouveaux modèles et vendeurs enfermés dans une course constante. Un choix qui vous enferme dans une pile technologique unique pourrait faire en sorte que votre entreprise ressemble à un cheval et à un coup de buggy à travers le centre d’une ville moderne dans un avenir proche.

Lorsque nous avons commencé à regarder des modèles pour notre nouvel assistant d’IA, nous avons fait face à plusieurs défis. Tout d’abord, que peut faire chaque modèle? Il y avait peu de repères utiles, et ceux qui existaient offraient peu de choses sur les informations sur les capacités commerciales. Nous avons également eu du mal à mesurer comment les différentes forces ont pesé contre les faiblesses des autres modèles et vice versa.

Finalement, nous nous sommes mis d’accord sur un principe architectural de base – tout ce que nous concevons doit être swappable. En particulier, nous devons être en mesure de modifier les modèles de base de base qui sous-tendent la solution. Cela nous a permis de nous adapter continuellement au cours de la dernière année. Nous testons chaque nouveau modèle après la sortie et déterminons comment chacun peut être mieux utilisé pour offrir une grande expérience à nos clients.

Parce que les modèles changent si rapidement, les dirigeants doivent avoir la capacité d’échanger les modèles d’IA comme principe de base. Les entreprises devraient abstraction des appels du modèle derrière une couche mince, tandis que le versioning invite et les harnais d’évaluation afin que les nouveaux modèles puissent tomber pendant la nuit. La capacité d’échanger des chevaux en milieu de course peut être l’avantage concurrentiel nécessaire pour gagner sur un marché aujourd’hui.

IA pour les dirigeants

Les choix technologiques sont des choix de leadership. Qui décide quoi automatiser? Quelles lignes rouges éthiques sont inamovibles? Comment protégeons-nous chaque humain qui travaille avec nous? L’adoption de l’IA est un défi de leadership qui ne peut pas être délégué à des consultants ou à des contributeurs individuels. La façon dont nous mettons en œuvre l’IA maintenant définira les succès et les échecs futurs du monde des affaires. C’est un défi qui doit être motivé par un leadership réfléchi. Chaque leader doit plonger et comprendre profondément le paysage de l’IA et déterminer la meilleure façon de permettre à leurs équipes de construire les entreprises de demain.

Cet article est publié dans le cadre du réseau de contributeurs d’experts Foundry.
Vous voulez rejoindre?