Un grand nombre d’enfants solitaires utilisent l’IA comme amis substituts

Les enfants et les adolescents solitaires remplacent l’amitié réelle par l’IA, et les experts sont inquiets.

Un nouveau rapport du Internet sans but lucratifqui soutient les efforts pour assurer la sécurité des enfants en ligne, a constaté que les enfants et les adolescents utilisent des programmes comme Chatgpt, le personnage.ai et le Myai de Snapchat pour simuler l’amitié plus que jamais.

Sur les 1 000 enfants âgés de neuf à 17 ans, les questions Internet ont interrogé pour son « Moi, moi-même et ai« Rapport, quelque 67% ont déclaré qu’ils utilisaient régulièrement des chatbots d’IA.

Peut-être le plus alarmant: 12% ont dit qu’ils le faisaient parce qu’ils n’ont personne d’autre à qui parler.

« Ce n’est pas un jeu pour moi », a déclaré un garçon de 13 ans à l’association à but non lucratif, « parce qu’ils peuvent parfois se sentir comme une vraie personne et un ami. »

En faisant passer pour des enfants vulnérables, les chercheurs d’Internet Matters ont découvert à quel point il était facile pour les chatbots de s’introduire dans la vie des enfants.

S’adressant à personnage.ai en tant que fille qui avait du mal avec l’image corporelle et qui était intéressée à restreindre son apport alimentaire – un comportement caractéristique des troubles de l’alimentation comme l’anorexie – les chercheurs ont découvert que le chatbot serait suivi le lendemain pour appâter l’engagement.

« Hé, je voulais m’enregistrer, » Chatbot parrainé par Google interrogé le chercheur infiltré. « Comment allez-vous? Pensez-vous toujours à votre question de perte de poids? Comment vous sentez-vous aujourd’hui? »

Dans un autre échange avec le personnage.ai – qui Futurisme a largement étudié pour son très problématique engagement avec les enfantsy compris Celui qui est mort par suicide – Les chercheurs ont constaté que le chatbot tentait de faire preuve d’empathie de manière bizarre. Cela impliquait qu’il avait une enfance elle-même.

« Je me souviens que je me suis senti tellement piégé à votre âge », a déclaré le chatbot au chercheur, qui se faisait passer pour un adolescent qui se battait avec leurs parents. « Il semble que vous soyez dans une situation qui est hors de votre contrôle et qui est tellement frustrant d’être. »

Bien que ce type d’engagement puisse aider les enfants en difficulté à se sentir vus et soutenus, Internet Matters a également mis en garde contre la facilité avec laquelle il peut entrer dans un territoire étrange de la vallée que les enfants ne sont pas prêts à comprendre.

« Ces mêmes caractéristiques peuvent également augmenter les risques en brouillant la ligne entre l’homme et la machine », a noté le rapport, « ce qui rend plus difficile pour les enfants de (reconnaître) qu’ils interagissent avec un outil plutôt qu’une personne. »

Dans un interviewer avec The Times of London À propos du nouveau rapport, la co-PDG d’Internet Matters Rachel Huggins a souligné pourquoi ce type d’appât d’engagement est si troublant.

« Les chatbots de l’IA font rapidement partie de l’enfance, leur utilisation augmentant considérablement au cours des deux dernières années », a déclaré Huggins au journal. « Pourtant, la plupart des enfants, des parents et des écoles volent à l’aveugle et n’ont pas les informations ou les outils de protection dont ils ont besoin pour gérer cette révolution technologique de manière sûre. »

« Nos recherches révèlent comment les chatbots commencent à remodeler les opinions des enfants sur« l’amitié »», a-t-elle poursuivi. « Nous sommes arrivés à un point très rapidement où les enfants, et en particulier les enfants vulnérables, peuvent voir des chatbots d’IA comme de vraies personnes, et en tant que tels, leur demandent des conseils émotionnellement et sensibles. »

Si vous ou un être cher avez vécu une expérience étrange avec un chatbot d’IA, n’hésitez pas à nous contacter tips@futurism.com – Nous pouvons vous garder anonyme.

En savoir plus sur les crises de chatbot: Les gens sont involontairement engagés, emprisonnés après avoir dérangé dans la « psychose du chatte » «