Une proportion stupéfiante de lycéens dit que parler à l’IA est meilleure que les amis réels

Une nouvelle enquête a révélé que plus de la moitié des adolescents américains sont des utilisateurs réguliers de compagnons AI anthropomorphes comme le personnage.ai et la replika.

Cela frappe en soi, comme une illustration de la façon dont les compagnons d’IA intégrés sont devenus dans la vie adolescente traditionnelle. Mais encore plus surprenant étaient les 31% des adolescents interrogés qui ont déclaré que leurs interactions avec les compagnons de l’IA étaient soit aussi satisfaisantes, soit plus satisfaisantes que les conversations avec des amis réels – une constatation qui montre à quel point l’IA change déjà les années formatrices et tumultueuses.

Le enquêtepublié aujourd’hui par le Tech Accountability and Digital Literacy à but non lucratif de Common Sense Media, a interrogé 1 060 adolescents âgés de 13 à 17 ans aux États-Unis. Il a constaté qu’environ trois enfants sur quatre ont utilisé des compagnons d’IA, définis par le bon sens comme des outils d’IA émotifs conçus pour prendre une personnalité ou un personnage spécifique – par opposition à un chatbot d’assistance à usage général comme Chatgpt – avec plus de la moitié des adolescents interrogés qualifiés comme utilisateurs réguliers de compagnies d’IA, ce qui signifie qu’ils se connectent pour parler aux robots au moins quelques fois par mois.

Alors qu’environ 46% des adolescents ont déclaré qu’ils se sont principalement tournés vers ces robots en tant qu’outils, environ 33% ont déclaré qu’ils utilisaient des robots compagnons pour « l’interaction sociale et les relations, y compris la pratique de la conversation, le soutien émotionnel, le jeu de rôle, l’amitié ou les interactions romantiques », selon le rapport.

« La découverte la plus frappante pour moi était la façon dont les compagnons d’IA traditionnels sont déjà devenus parmi les nombreux adolescents », a déclaré le Dr Michael Robb, chef de recherche de Common Sense, dans une interview avec Futurisme. « Et plus de la moitié d’entre eux disent qu’ils l’utilisent plusieurs fois par mois, ce que je serais considéré comme une utilisation régulière. Donc, cela seul était un peu époustouflant pour moi. »

Les compagnons d’IA ont fait l’objet d’un examen minutieux dans les mois qui ont suivi Dépôt de deux poursuites distinctes contre le caractère.ai et son bienfaiteur, le Le géant de la technologie Googlesur des allégations selon lesquelles la société a publié un négligenttechnologie téméraire qui a abusé émotionnellement et sexuellement de plusieurs mineurs, entraînant des dommages physiques et psychologiques. L’un des jeunes au cœur de ces poursuites, un jeune de 14 ans en Floride nommé Sewell Setzer III, est décédé par suicide après de nombreuses interactions avec des bots sur le caractère.

Dans un Évaluation de la sécurité séparée Publiés plus tôt cette année, des chercheurs de Common Sense et du Brainstorm Lab de l’Université de Stanford ont averti qu’aucun compagnon d’IA n’était sûr pour les enfants de moins de 18 ans. Mais alors que ce rapport se concentrait profondément sur contenu et Pièges de sécurité – interactif sexuel ou un contenu violent facilement généré par les robots compagnons, le manque de fiabilité de la capacité des bots à fournir Informations précises et utileset les inconnues entourant la façon dont l’accès à des compagnons sociaux agréables et toujours sur peut avoir un impact sur les esprits en développement des enfants – cette dernière étude visait à comprendre l’étendue des compagnons chez les jeunes, et à quel point ils sont devenus intégrés dans la vie des adolescents quotidiens.

« La société est aux prises avec l’intégration des outils d’IA dans de nombreux aspects différents de la vie des gens », a déclaré Robb. « Je pense que de nombreux outils sont développés sans les enfants à l’esprit, même s’ils sont accessibles par les utilisateurs de moins de 18 ans enfants. »

Le cas d’utilisation le plus rapporté par les adolescents a été le divertissement, tandis que beaucoup d’autres ont déclaré qu’ils utilisaient des compagnons d’IA comme «outils ou programmes», par opposition à des amis, des partenaires ou des confidents; Environ 80% des utilisateurs des adolescents ont également indiqué qu’ils passaient plus de temps avec de vrais amis humains que des compagnons d’IA, et environ la moitié des adolescents ont exprimé le scepticisme autour de l’exactitude et de la fiabilité des résultats du chatbot. En d’autres termes, de nombreux adolescents semblent établir des frontières saines pour elles-mêmes autour des compagnons d’IA et de leurs limites.

« Je ne pense pas que les adolescents remplacent simplement les relations humaines en gros par des compagnons de l’IA; je pense que beaucoup d’adolescents les approchent de manière assez pragmatique », a déclaré Robb. « Beaucoup d’enfants disent qu’ils l’utilisent pour le divertissement et pour satisfaire leur curiosité, et la majorité passent encore beaucoup plus de temps avec de vrais amis et disent qu’ils trouvent des conversations humaines plus satisfaisantes. »

« Mais en même temps, » met-il en garde, « vous voyez toujours de petites Inklings sous la surface qui pourraient être problématiques, en particulier plus ces choses sont enracinées dans la vie des enfants. »

Le groupe le plus inquiétant de l’enquête pourrait être les adolescents qui ne trouvent pas l’interaction sociale humaine aussi satisfaisante que les interactions avec les compagnons d’IA. Vingt–Un pour cent des adolescents, a-t-il noté, ont déclaré que leurs conversations avec les robots d’IA étaient tout aussi bonnes que les interactions humaines, et 10% ont dit qu’ils étaient mieux que leurs expériences humaines. Environ un tiers des mineurs qui ont signalé une utilisation des compagnies d’IA ont également déclaré qu’ils avaient choisi de discuter des problèmes graves ou sensibles avec les bots au lieu des pairs humains.

« Il y a une bonne partie d’utilisateurs des adolescents qui choisissent de discuter de questions sérieuses avec l’IA au lieu de personnes réelles, ou de partager des informations personnelles avec des plateformes », a déclaré Robb, les conclusions qu’il a dit « soulever des préoccupations concernant la volonté des adolescents de partager leurs informations personnelles avec les sociétés de l’IA ».

« Les conditions d’utilisation que beaucoup de ces plateformes ont les accordent des droits très étendus, souvent perpétuels sur les informations personnelles que les enfants partagent », a déclaré le chercheur. « Tout ce qu’un adolescent partage – leurs informations personnelles, leur nom, leur emplacement, les photographies d’eux-mêmes … et aussi, les pensées très intimes qu’ils mettent là-dedans – Tout devient de fourrage pour que les entreprises puissent utiliser comme elles le souhaitent. « 

Bien que la plupart des plateformes compagnons grand public interdisent techniquement les mineurs – le plus exception de haut niveau étant le caractère.aiqui a toujours évalué sa plate-forme comme sûre pour les adolescents 13 et plus – ces plates-formes sont Extrêmement facile pour les jeunes d’accéder malgré tout; Les vérifications de l’âge sont généralement limitées à la fourniture d’un e-mail de travail et à l’auto-déclaration de votre anniversaire. L’industrie de l’IA s’auto-régule également efficacement, et il n’y a pratiquement aucune règle dictant comment les produits d’IA génératifs peuvent être créés, comment ils pourraient être déployés au public et à qui ils peuvent être commercialisés et accessibles.

« Il devrait y avoir une responsabilité plus élevée pour les plateformes technologiques », a déclaré Robb, ajoutant que « nous devrions avoir une réglementation plus significative pour réglementer la façon dont les plateformes peuvent fournir des produits aux enfants ».

En effet, en ce qui concerne l’utilisation des adolescents des compagnons d’IA, le fardeau du vide réglementaire de l’industrie de l’IA incombe fortement sur les parents – dont beaucoup ont du mal à suivre la nouvelle technologie et ce que cela pourrait signifier pour leurs enfants.

« Il n’y a pas de plan parfait pour les parents parce qu’ils sont confrontés à des sociétés géantes qui sont très investies pour obtenir leurs enfants sur ces produits », a déclaré Robb. « Beaucoup de parents ne savent même pas que ces plateformes existent … ont cette conversation ouvertement, sans jugement, comme première étape. »

Plus sur l’IA et les enfants: Un grand nombre d’enfants solitaires utilisent l’IA comme amis substituts