Méfiez-vous du chatbot de Musk, Grok

Elon Musk a acheté Twitter et l’a utilisé pour aider à élire Trump. Il contrôle également un chatbot populaire, qu’il pourrait utiliser pour exercer une influence politique quand il en a besoin.

Ceci est un projet. Revenez plus tard pour la version finale.

L’achat par Musk de Twitter et la chute suivante de la valeur marchande de la plate-forme sont devenus un sujet de ridicule – jusqu’à l’élection présidentielle américaine de 2024. X était une pièce importante du puzzle dans les efforts de Musk pour aider à élire Trump. En bref, il est devenu un outil de propagande privé pour promouvoir les vues alignées sur la vue du propriétaire.

Source: Drew Harwell, Washington Post

Et qui se soucie de la valeur marchande lorsque vous obtenez un bureau à la Maison Blanche et que vous avez tellement d’influence que certains vous appellent «président Musk».

Source: L’initié

Maintenant, X a son propre chatbot, Grok. C’était surtout un modèle de mème jusqu’à ce que Grok 3 3 de façon inattendue Arena LM LEADBOWN, le principal benchmark de chatbot, vers février 2025. Contrairement aux autres chatbots commerciaux, le modèle ne semble être disponible que via X, il n’y a pas d’API.

Grok a gagné en popularité parmi les utilisateurs de X opposés à Musk en raison de la «borne» apparente du chatbot. Il n’a aucun scrupule à critiquer Musk ou Trump. Par exemple, voici un paragraphe de Grok sur le rôle de Musk dans les élections:

Il a formé et financé massivement l’America PAC, donnant près de 300 millions de dollars de son propre argent pour renforcer l’offre de réélection de Trump. L’acquisition par Musk de X (anciennement Twitter) en 2022 a en outre amplifié son influence, lui permettant de façonner le discours public et d’exposer ce que lui et Trump ont qualifié d’inefficacité du gouvernement et de distorsions des médias.

Cependant, cette honnêteté apparente est une épée à deux tranchants. Il est relativement facile d’aligner un modèle de langue comme les développeurs le souhaitent. Vous pouvez l’inviter, vous pouvez le FineTune, vous pouvez ajuster la probabilité de jetons de sortie, ou même modifier les connaissances qu’il stocke. Ce que Grok dit aujourd’hui n’est peut-être pas ce qu’il dit demain.

Voici un scénario dangereux avec une forte probabilité de devenir réalité. Les gens sur x apprennent à faire confiance à Grok. Lorsque Musk doit diriger à nouveau l’opinion publique, par exemple avant les prochaines élections, il demande aux développeurs de modifier le modèle afin qu’il dit ce que Musk veut qu’il dise, plus ou moins subtilement. Les gens conditionnés à faire confiance à l’objectivité de Grok le dégage comme des jeunes pélicans.

En 2016, c’était Cambridge Analytica et Facebook. En 2024, c’était X. La prochaine fois, ce pourrait être encore x, cette fois avec Grok faisant l’influence aussi.