Instagram montrant les utilisateurs des vidéos grotesques d’hybrides animaux humains

Vous pouvez être assez content du flux Instagram que vous avez organisé par vous-même. Mais un épisode récent sur l’application a servi de rappel grossier aux utilisateurs qu’ils ne contrôlent pas les algorithmes mystérieux sur lesquels ils dépendent pour une correction rapide du temps.

Kelly Takasu, une maman de 36 ans à Los Angeles, est l’un de ces utilisateurs. Après avoir recherché des vidéos sur l’allaitement maternel, Instagram a pris cette question innocente comme licence pour lui montrer la plus étrange SLAL IMMIGINABLE.

« J’ai remarqué qu’un jour j’avais une suggestion de bobines: une femme plus âgée qui avait un tas de bébés autour d’elle. Je dois l’avoir regardé trop longtemps », elle dit au Washington Post.

Puis a suivi plus d’abominations: une vidéo générée par l’AI d’une femme plus âgée allaitement des hybrides humains-panda, et la pièce de résistance, une vidéo de femmes donnant naissance à d’autres chimères animales humaines.

Ce fut un écart assez extrême par rapport au flux typique de Takasu rempli de conseils parentaux et de vidéos de cuisine. À tout le moins, elle peut peut-être prendre du réconfort dans le fait qu’elle était loin d’être seule.

Fin février, Meta s’est excusée pour une « erreur » qui a conduit à de nombreux flux Instagram inondé de contenu extrême et de sangy compris les tirs, les accidents mortels et les vidéos de meurtres réels. Utilisateurs indignés pris sur les réseaux sociauxdisant qu’ils feutre limite traumatisé en étant obligé de voir le contenu graphique.

Courtney, la mère d’un garçon de 17 ans en Virginie, a rappelé comment cela avait affecté son fils.

« Il a vu des assassinats – presque comme du terrorisme. Il a vu une femme accoucher, il a vu des cadavres, ce genre de choses », a déclaré Courtney Wapo. « J’ai l’impression que c’était une attaque quelconque dans leur esprit. Ils sont toujours très impressionnables. »

L’intrusion souligne la nature Blackbox des algorithmes contrôlant les flux des utilisateurs et la bataille sans fin de la police de contenu extrême sur Internet. Dans le cas de Meta, certaines vidéos graphiques sont signalées avec un écran « Contenu sensible », qui brouille les images et fournit un avertissement avant de vous donner une option pour le contourner.

Pourtant, cela signifie que beaucoup de contenu choquant est autorisé à s’exécuter sur Instagram, sous cette assez mince forme de modération. Il convient de mentionner que Meta récemment desserré ses politiques de modération de contenudans une décision qui a été largement critiquée comme permettant essentiellement à la discours de haine et à la désinformation d’être impuni sur ses applications. L’entreprise a cependant insisté sur le fait que la vague de contenu dérangeant n’était pas liée à ces changements, 404 médias signalé.

Néanmoins, la Fest de choc est également un symptôme clair Déluge de Sol inonder les plateformes de médias sociaux avec des images étranges, bizarres ou extrait d’une réalité alternative.

En raison de leur nature provocante, les images de l’IA suscitent des tonnes d’engagement avec relativement peu d’efforts et peuvent être projetées à un rythme qu’aucun effort de modération humaine ne pourrait jamais avoir un espoir de suivre.

Plus sur les réseaux sociaux: Pinterest modifie les termes de l’utilisateur afin qu’il puisse former l’IA sur les données et les photos des utilisateurs, quelle que soit le moment où ils ont été publiés