Sélection du modèle. Écrit par Chase Huntzinger, fondateur de… | par Piton Ventures | Mai 2025

 Sélection du modèle. Écrit par Chase Huntzinger, fondateur de… | par Piton Ventures | Mai 2025


Anthropic est une entreprise d’IA de premier plan. Semblable à Openai et Google, Anthropic propose divers types de modèles, chacun avec ses propres utilisations et avantages prévus.

Comparons quelques modèles d’Anthropic ci-dessous en fonction du coût, du cas d’utilisation et d’autres aspects techniques. Ici, nous comparons seulement Haiku contre Sonnet. Ce n’est pas une liste exhaustive. Ces informations peuvent toutes être trouvées sur la page de comparaison du modèle d’Anthropic.

Claude Haiku est conçu pour être un modèle rapide et rentable. Il a des scores d’évaluation inférieurs par rapport à Claude Sonnet, à peu près dans tous les domaines. Cela étant dit, il est rapide et marque toujours bien sur les tâches de connaissance générale.

  • Cas d’utilisation: Chatbots de vente et de service, catégorisation de données, éducation
  • Coût par jetons de 1 m (mtok): Sortie à 0,80 $ / 4,00 $
  • Fenêtre de contexte: 200K
  • Latence: Très rapide

Sonnet est disponible en variante de 3,5 et 3,7. Les deux ont le même prix par mtok, mais 3,7 est plus un modèle de raisonnement capable de réfléchir. Sonnet surpasse haïku dans pratiquement toutes les catégories, sauf la vitesse et le prix.

  • Cas d’utilisation: Excellent aux applications de codage et de raisonnement
  • Coût par mtok: 3,00 $ Contrôle / 15,00 $ Sortie
  • Fenêtre de contexte: 200K
  • Latence: Rapide. Plus lent que Haiku

Claude Haiku et Claude Sonnet sont des modèles sophistiqués capables de stimuler l’efficacité et la valeur client. Les deux offrent les mêmes tailles de fenêtre de contexte. L’un est beaucoup plus rapide que l’autre, mais est mieux adapté à des cas d’utilisation simples et plus généraux. L’autre – Sonnet – est plus cher mais un modèle beaucoup plus intelligent pour des cas d’utilisation plus complexes.

Voyons maintenant comment la sélection du modèle a un impact sur la rentabilité des produits ci-dessous.

Imaginez que vous avez construit un nouveau produit sympa pour les avocats. Votre produit a accès à une grande base de données de cas et de réglementations antérieurs. Les clients payants (laïcs) peuvent taper des questions et obtenir des réponses détaillées pour les aider dans leur préparation à des essais importants.

Prétendons que vous facturez 10 $ par utilisateur par mois. Chaque fois qu’un client utilise votre produit, il consomme 50 000 jetons d’entrée – votre produit fouille pas mal de données pour générer une réponse (mais dans les fenêtres du contexte du modèle). Il génère ensuite 300 jetons en moyenne en réponse pour votre client. Vos clients utilisent cette fonctionnalité 75 fois par mois en moyenne.

Haiku et Sonnet fonctionneraient ici! Mais les prix des jetons de Sonnet sont de 3,75x contre Haiku.

Prétendions que vos seuls frais sont des dépenses de jeton (ne vous inclinez pas à ce sujet). En utilisant Haiku, la marge brute de votre produit serait de 69%; Si vous utilisez Sonnet, ce serait -16%. Dans ce cas, vous perdriez de l’argent sur chaque client!

Cela ne signifie pas que Haiku a raison pour votre produit, cependant! Votre produit peut nécessiter un raisonnement plus sophistiqué qui nécessiterait un sonnet. Dans ce cas, vous devez trouver un moyen de facturer plus ou d’optimiser votre utilisation de jeton pour maintenir des marges saines tout en donnant aux clients la valeur dont ils ont besoin.



Source link

Related post