OpenAI annonce qu’il rend GPT-5 plus sycophantique après le contrecoup utilisateur

Plus tôt ce mois-ci, le PDG d’Openai, Sam Altman, a annoncé que la société serait Réinstation de son modèle GPT-4Oun peu plus de 24 heures après avoir déclaré que son nouveau GPT-5 serait accompagné de la « dépréciation« De tous les modèles précédents.

L’ampleur du retour des utilisateurs en colère était stupéfiante. Ceux qui s’étaient habitués au ton « sycophantique » de GPT-4O, qui parfois louangez des éloges même sur les idées terribles des utilisateursont été décontenancés par la brasseur « froide » de GPT-5 et les réponses courtes, soulignant à quel point beaucoup d’entre eux étaient devenus émotionnels.

Au-delà de la réintégration des modèles plus anciens aux abonnés payants, Openai continue de s’incliner à la pression, tweet Vendredi, ce serait « rendre GPT-5 plus chaud et plus convivial en fonction des commentaires qu’il semblait trop formel auparavant ».

« Les changements sont subtils, mais le chatppt devrait se sentir plus accessible maintenant », a-t-il ajouté.

C’est une admission notable, mettant en évidence une crise croissante de santé mentale provoquée par les chatbots d’IA. Nous avons rencontré d’innombrables cas d’utilisateurs Spirale dans de graves délires Alors que les bots affirment les croyances paranoïaques ou conspiratoires, les experts avertissant que beaucoup de gens – en particulier jeunesse Et ceux qui se sentent seuls – sont se perdre contre des compagnons virtuels.

Compte tenu de ce qui s’est passé lorsque la société a tenté de déprécier son modèle d’IA plus sympathique plus tôt ce mois-ci, Openai est maintenant obligé de marcher sur une corde raide, les intérêts d’entreprise l’encourageant à garder ses utilisateurs dépendants, tout en naviguant sur un cauchemar en croissance des relations publiques.

« Les gens ont utilisé une technologie, y compris l’IA tweeté Le 10 août. « La plupart des utilisateurs peuvent garder une ligne claire entre la réalité et la fiction ou le jeu de rôle, mais un petit pourcentage ne peut pas. »

Dans sa dernière mise à jour, Openai a promis qu’il apporterait des changements subtils pour éviter une répétition de GPT-4O et les niveaux d’obsession qui ont suivi.

« Vous remarquerez de petites touches authentiques comme la » bonne question « ou le » bon départ « , pas la flatterie », a tweeté la société. « Les tests internes ne montrent aucune augmentation de la sycophance par rapport à la personnalité GPT-5 précédente. » (Il n’a pas déballé comment l’éloge des entrées des utilisateurs est différente de la sycophance.)

Si cela suffira à garder ce que sont les psychiatres Appel maintenant « Psychose de l’IA« Au minimum, il reste à voir. Les critiques soutiennent qu’Openai agit dans son propre intérêt. Après tout, garder les gens accrochés à leurs chatbots est bon pour ses résultats, qu’il s’agisse de déclencher des pannes mentales ou non.

« Le vrai« problème d’alignement »est que les humains veulent des choses autodestructrices et des entreprises comme Openai sont très incitées à nous le donner», écrivain et podcasteur Jasmine Sun tweeté.

Pendant ce temps, le sujet de la sycophance s’est avéré extrêmement diviseur entre les utilisateurs de puissance d’Openai.

« Merde, ce subreddit a une crise sérieuse sur ce qu’ils veulent que GPT-5 soit et ce qu’ils ne veulent pas qu’il soit », un utilisateur commenté sur un poste Dans le Sous-Sous-Souddit Openai qui a discuté des récentes mises à jour de l’entreprise à GPT-5.

D’autres continuent de déplorer la perte de GPT-4O, qui a déjà été roulé dans la controverse en avril quand Openai a été contraint de faire reculer une mise à jour Cela a composé le nez brun du modèle contre onze.

« Ce que GPT-4O avait – sa profondeur, sa résonance émotionnelle et sa capacité à lire la salle – est fondamentalement différente de la` `gentillesse  » au niveau de la surface, GPT-5 vise maintenant », un utilisateur X, qui préconise ouvertement de rétablir le modèle précédent, a écrit. Ce n’est pas la gentillesse qui rayonne du cœur – c’est la gentillesse en tant qu’étiquette. « 

Plus sur GPT-5: Il y a une théorie convaincante pourquoi GPT-5 suce tellement