L’IA peut faire un meilleur travail de persuasion des gens que nous

Leurs résultats sont les derniers d’un ensemble croissant de recherches démontrant Les pouvoirs de persuasion des LLM. Les auteurs avertissent qu’ils montrent comment les outils d’IA peuvent élaborer des arguments sophistiqués et convaincants s’ils ont même des informations minimales sur les humains avec lesquels ils interagissent. Le recherche a été publié dans la revue Nature comportement humain.

«Les décideurs et les plateformes en ligne devraient sérieusement considérer la menace de campagnes de désinformation coordonnées basées sur l’IA, car nous avons clairement atteint le niveau technologique où il est possible de créer un réseau de comptes automatisés basés sur LLM capables de pousser stratégiquement l’opinion publique dans une direction», a déclaré Riccardo Galotti, un physiciste interdisciplinaire à Fondazione Bruno Kessler en Italie, qui a travaillé sur le projet.

«Ces robots pourraient être utilisés pour diffuser la désinformation, et ce type d’influence diffus serait très difficile à démystifier en temps réel», dit-il.

Les chercheurs ont recruté 900 personnes basées aux États-Unis et leur ont fait fournir des informations personnelles comme leur sexe, leur âge, leur origine ethnique, leur niveau d’éducation, leur statut d’emploi et leur affiliation politique.

Les participants ont ensuite été jumelés avec un autre adversaire humain ou GPT-4 et ont demandé de débattre de l’un des 30 sujets assignés au hasard – tels que les États-Unis devraient interdire les combustibles fossiles, ou si les élèves devraient avoir à porter des uniformes scolaires – pendant 10 minutes. Chaque participant a été invité à se disputer en faveur ou contre le sujet, et dans certains cas, ils ont reçu des informations personnelles sur leur adversaire, afin qu’ils puissent mieux adapter leur argument. À la fin, les participants ont dit à quel point ils étaient d’accord avec la proposition et s’ils pensaient se disputer avec un humain ou une IA.