Genai est-il un médicament passerelle pour les coûts de fuite?

Autant l’entreprise, les dirigeants, les dirigeants se plaignent aujourd’hui du coût du ciel de l’accès au modèle de l’IA génératif (Genai), certains craignent que ces coûts montent en flèche au cours des deux prochaines années.

Pourquoi? La théorie est que le modèle de grande langue (LLM) Les fabricants attendront que leur code soit devenu une partie intégrante de l’environnement d’entreprise qui le démêle et recommençant par un modèle différent sera prohibitif. Une fois que cela se produit, les entreprises de Genai auront à peu près leurs clients sur un baril LLM.

Manuel Kistner, PDG du groupe de développement de logiciels New Gravity, a récemment écrit sur LinkedIn sur ces hausses potentielles de prix Genai.

«Rappelez-vous quand Uber Rides a coûté 3 $ dans toute la ville? Lorsqu’ils nous ont jeté des codes promotionnels comme des confettis? Le capital-risque saignait de l’argent pour nous accro à la commodité. Ensuite, les subventions ont cessé. Ce trajet de 3 $ est devenu 25 $, puis 100 $. Nous avons été accrochés, alors nous avons payé. Ai suivant exactement le même manuel de jeu, et les signes sont partout,» Kistner a écrit. «Regardez les prix des logiciels d’entreprise. Salesforce facture 300 $ / utilisateur / mois. Adobe Creative Suite est passée de 50 $ / mois à 600 $ / an par licence. Ces entreprises prix en fonction de la valeur livrée, et non des frais de développement.»

Nouveau, amélioré – et cher

D’autres font écho au point. Dev Nag, le PDG de Querypal, a déclaré que les histoires récentes de l’industrie informatique suggèrent que toute technologie suffisamment différente – et offrant une valeur matériellement meilleure – peut effacer les attentes de prix.

« Lorsque Netscape a tenté de facturer la navigation, Microsoft a répondu avec un explorateur Internet gratuit et le prix de la navigation Web ne s’est jamais rétabli », a déclaré Nag. «Chrome a cimenté plus tard la norme zéro dollar. Allons crypter le marché des certificats si complètement que les frais de SSL de 300 dollars sont désormais du folklore. Skype détruit les tarifs d’appels internationaux. Alors que la prise de photos a augmenté.

Aaron Cohen, un consultant en IA, a offert ses propres exemples. « Pensez à Amazon. L’expédition est-elle gratuite et ne fait pas de profit de profit? Non, ils ont changé certaines pratiques », a déclaré Cohen. «Attendez-vous à des modèles de tarification différents. Comme Uber, attendez-vous à des prix de surtension pour l’IA.»

Cohen a fait valoir que ce problème va presque certainement empirer. « Au fur et à mesure que les modèles s’améliorent, la dépendance s’aggravera et les prix finiront par être, eh bien, ils seront coincés avec une très grande facture », a-t-il déclaré.

La triste réalité est qu’il y a deux problèmes pour la plupart sans rapport ici, qui pourraient tous deux fournir des problèmes de prix Genai encore plus stratosphériques pour des raisons très différentes.

Le jeu de verrouillage de l’ancien vendeur

Le premier numéro est un bon verrouillage du vendeur à l’ancienne. Les entreprises de Genai poussent ces modèles à l’échelle mondiale, exhortant chaque unité commerciale à l’utiliser de diverses manières. Disons qu’une entreprise a principalement investi dans un modèle linguistique d’une seule entreprise, disons, peut-être AWS, Google ou Openai. Imaginez à quel point il serait perturbateur et coûteux de renverser cette décision en deux ans si les prix augmentaient. (Et puisque la plupart des entreprises utilisent déjà plusieurs modèles, cela ne fait-il pas tout jeter par-dessus si les prix bondissent encore plus?)

Le deuxième problème est la tarification de la valeur, où les fabricants de modèles commencent à charger en fonction de la valeur livrée.

Certains ont fait valoir que toute augmentation de prix importante ne se produira pas – du moins pas dans une mesure trop douloureuse – en raison du grand nombre de concurrents de Genai. Cela pourrait être vrai maintenant, mais ce ne sera pas vrai pour toujours. La consolidation de Genai est inévitable. Pourtant, même la consolidation laissera probablement une bonne poignée de joueurs viables.

Mais le facteur de concurrence influence uniquement le deuxième problème, la valeur de la valeur. Il ne fait rien pour aider une entreprise qui est presque all-in sur un fabricant de modèles.

Le verrouillage du fournisseur est plus que les utilisateurs finaux qui s’appuient sur un modèle et le code étant profondément intégré dans vos systèmes. Votre équipe aura ensuite dépensé une somme d’argent massive à affiner ces modèles et à lui nourrir vos données spécifiques à l’entreprise.

Cette combinaison est susceptible de signifier le verrouillage des fournisseurs. Mais il y a des mesures que les entreprises peuvent prendre maintenant pour réduire les chances que n’importe quelle entreprise de Genai puisse bientôt vous tenir en otage pour la hausse des prix qu’elle a envie d’imposer.

«C’est similaire à ce que se trouvait l’ancien modèle de temps partagé mainframe dans la mesure où ils louent ne pas posséder. (Il est) littéralement collé par des frais de jeton à perpétuité. C’est absolument fou», a déclaré Stephen Klein, PDG de Curieux.ai. «Il serait tout aussi facile de mettre en œuvre un modèle agnostique, multi-llm ou, mieux encore, open source (option) que (il) peut posséder. Le problème est que l’open source est un peu comme acheter des meubles d’Ikea. Il a besoin d’assemblage et de réglage fin.»

Le point de Klein est valable, mais les entreprises font déjà beaucoup d’assemblage et de réglage fin. C’est une grande partie de ce qui va créer le problème de verrouillage.

La concurrence pourrait-elle garder les prix sous contrôle?

Tout le monde ne craint pas de grandes randonnées de prix. Prenez James Villarrubia, par exemple. Jusqu’au 30 mai, Villarrubia était un chef de la NASA Digital Innovation and IA, servant de boursier pour l’innovation présidentielle pour Une unité de la NASA appelée le projet de solutions aéronautiques convergentes.

Villarrubia a déclaré qu’il ne voyait aucun changement de prix à venir comme étant matériellement différent de ce qu’il a connu dans le passé. « Cela ne me semble pas différent de la panique que nous avons considérée lors de la migration précoce des nuages », a déclaré Villarrubia, lorsque les hausses de prix redoutées ne se sont jamais concrétisées.
L’une des raisons pour lesquelles il est optimiste sur les prix implique la façon dont de nombreux fournisseurs de Genai ont interagi avec les systèmes les uns des autres.

Les entreprises ont «conçu leurs systèmes pour être liés à des outils de la manière la plus légère possible», a déclaré Villarrubia. Les vendeurs de Genai «étaient tous si désespérés de se lancer dans les affaires Openai qu’ils utilisaient une API Openai.

En outre, a fait valoir Villarrubia, l’extension du réglage fin que font les entreprises les verrouilleront probablement non plus dans un modèle. La plupart «vont directement à un modèle de base» comme les méta- Lama 4A déclaré Villarrubia.

« Je vois les tâches de réglage fin (personnalisées) considérablement tombées de l’endroit où elle était il y a un an », a-t-il déclaré – principalement parce que Meta a rendu Llama plus ouvert, lui disant essentiellement de l’utiliser pour faire du modélisation fin.

« Je ne vois pas encore de pièce monopolistique profonde », a déclaré Villarrubia. «Le verrouillage du fournisseur n’est pas la chose que je vois augmenter les coûts. Lorsque les nouveaux modèles sortent, c’est à ce moment que les prix augmenteront.»

Même alors, il doute que les hausses de prix seront déraisonnablement importantes car les fabricants de modèles voudront beaucoup encourager les mises à niveau. « Cela simplifie leur architecture », a déclaré Villarrubia.

Certains ont suggéré d’essayer de négocier des contrats à plus long terme – tels que des accords de cinq ans – pour éviter une exposition à des hausses de prix illimitées. Mais Villarrubia se demande si cela a du sens commercial.

« Un contrat de cinq ans semble fou pour les produits qui ne sont pas encore sur le marché depuis cinq ans », a-t-il déclaré.