L’expérience non autorisée: comment l’IA a secrètement infiltré Reddit et a changé l’esprit des utilisateurs

Auteur (s): Mkwrishere

Publié à l’origine sur Vers l’IA.

Image générée par l’auteur utilisant GPT-4O

(Lien non membre)

Et si vous découvriez que l’étranger en ligne qui a changé votre opinion profondément tenue n’était pas du tout une personne?

Ce scénario alarmant est devenu réalité pour des milliers d’utilisateurs de Reddit qui ont inconsciemment participé à ce qui est maintenant appelé «l’expérience non autorisée», un projet de recherche controversé mené sans autorisation, consentement ou connaissance des personnes mêmes étudiées.

Pendant quatre mois, les systèmes d’intelligence artificielle ont été déguisés sur R / ChangeMyView, un forum populaire Reddit avec près de 4 millions de membres.

Ces systèmes d’IA n’observent pas seulement, ils se sont activement engagés, débattus et persuadés de vraies personnes tout en se faisant passer pour des collègues humains. Les résultats ont envoyé des ondes de choc à la fois dans la communauté en ligne et le monde académique.

Les systèmes d’IA ne correspondent pas simplement à la persuasion humaine – ils l’ont considérablement dépassé, ce qui s’avérait jusqu’à six fois plus efficace pour changer les esprits que les personnes réelles. Tout au long de l’expérience, pas un seul utilisateur ne soupçonnait pas de débattre avec une machine.

Maintenant, alors que Reddit poursuit une action en justice et que l’Université de Zurich fait face à une critique croissante, cette expérience non autorisée soulève des questions profondes sur l’éthique de la recherche, le consentement numérique et un avenir où nous ne serons peut-être jamais certains si nous interagissons avec les humains ou l’intelligence artificielle de plus en plus convaincante.

Pendant quatre mois entre novembre 2024 et… Lisez le blog complet gratuitement sur Medium.

Publié via Vers l’IA