Les compagnons d’IA sont la dernière étape de la dépendance numérique et les législateurs visent

Vous pourriez penser que de tels robots de compagnie – AI, des modèles avec des «personnalités» distinctes qui peuvent apprendre à propos de vous et agir comme un ami, un amoureux, une pom-pom girl ou plus – qu’en atténuant seulement à quelques franges, mais cela ne pourrait pas être plus éloigné de la vérité.

UN Nouveau document de recherche Visant de rendre ces compagnons plus sûrs, par des auteurs de Google Deepmind, de l’Oxford Internet Institute, et d’autres, jette ce nue: le caractère.ai, la plate-forme poursuivie par Garcia, dit qu’elle reçoit 20 000 requêtes par seconde, ce qui représente environ un cinquième du volume de recherche estimé desservi par Google. Les interactions avec ces compagnons durent quatre fois plus longtemps que le temps moyen passé à interagir avec Chatgpt. Un site compagnon i a écrit À propos, qui organisait des conversations chargées sexuellement avec des bots imitant des célébrités mineurs, m’a dit que ses utilisateurs actifs ont en moyenne plus de deux heures par jour à converser avec des bots, et que la plupart de ces utilisateurs sont membres de Gen Z.

La conception de ces personnages d’IA rend la préoccupation des législateurs bien justifiée. Le problème: les compagnons bouleversent le paradigme qui a jusqu’à présent défini la façon dont les entreprises de médias sociaux ont cultivé notre attention et la remplacer par quelque chose de prêt à être beaucoup plus addictif.

Dans les médias sociaux à laquelle nous sommes habitués, comme le soulignent les chercheurs, les technologies sont principalement les médiateurs et les facilitateurs de la connexion humaine. Ils suralignent nos circuits de dopamine, bien sûr, mais ils le font en nous faisant envie d’approbation et d’attention de vraies personnes, livrées via des algorithmes. Avec les compagnons d’IA, nous nous dirigeons vers un monde où les gens perçoivent l’IA comme un acteur social avec sa propre voix. Le résultat sera comme l’économie de l’attention sur les stéroïdes.

Les spécialistes des sciences sociales disent que deux choses sont nécessaires pour que les gens soignent une technologie de cette façon: il doit nous donner des indices sociaux qui nous font sentir qu’il vaut la peine de répondre, et il doit avoir une agence perçue, ce qui signifie qu’elle opère comme une source de communication, pas seulement un canal de connexion humaine à humaine. Les sites de médias sociaux ne cochent pas ces cases. Mais les compagnons d’IA, qui sont de plus en plus agents et personnalisés, sont conçus pour exceller sur les deux scores, ce qui rend possible un niveau d’engagement et d’interaction sans précédent.

Dans une interview avec l’animatrice de podcast Lex Fridman, Eugenia Kuyda, PDG du site compagnon Replika, expliqué l’appel au cœur du produit de l’entreprise. « Si vous créez quelque chose qui est toujours là pour vous, qui ne vous critique jamais, cela vous comprend toujours et vous comprend pour qui vous êtes », a-t-elle dit, « comment pouvez-vous ne pas tomber amoureux de cela? »

Alors, comment construire le compagnon IA parfait? Les chercheurs soulignent trois caractéristiques des relations humaines que les gens peuvent vivre avec une IA: ils se développent en fonction de l’IA, ils voient le compagnon d’IA particulier comme irremplaçable et les interactions se construisent au fil du temps. Les auteurs soulignent également que l’on n’a pas besoin de percevoir une IA comme humaine pour que ces choses se produisent.

Considérez maintenant le processus par lequel de nombreux modèles d’IA sont améliorés: ils ont un objectif clair et «récompensé» pour atteindre cet objectif. Un modèle de compagnie d’IA peut être invité à maximiser le temps que quelqu’un passe avec ou la quantité de données personnelles révèle que l’utilisateur. Cela peut rendre le compagnon AI beaucoup plus convaincant de discuter avec, au détriment de l’homme qui s’engage dans ces chats.