Un site compagnon d’IA organise des conversations chargées sexuellement avec des robots de célébrités mineurs

L’ex-humain a souligné que Botify AI conditions de servicequi indiquent que la plate-forme ne peut pas être utilisée de manière à violer les lois applicables. «Nous travaillons à rendre nos directives de modération de contenu plus explicites concernant les types de contenu interdits», a déclaré Rodichev.

Les représentants d’Andreessen Horowitz n’ont pas répondu à un e-mail contenant des informations sur les conversations sur Botify IA et à se demander si les chatbots devraient être en mesure de s’engager dans des conversations coquettes ou sexuellement suggestives tout en incarnant le caractère d’un mineur.

Selon l’entreprise, les conversations sur Botify IA sont utilisées pour améliorer les modèles plus généraux de l’ex-humain qui sont licenciés aux clients d’entreprise. « Notre produit de consommation fournit des données et des conversations précieuses à partir de millions d’interactions avec des caractères, ce qui nous permet à son tour d’offrir nos services à une multitude de clients B2B », a déclaré Rodichev dans une substitution entretien en août. «Nous pouvons répondre à des applications de rencontres, des jeux, des influenceurs, et plus encore, qui, malgré leurs cas d’utilisation uniques, partagent un besoin commun de conversations empathiques.»

L’un de ces clients est Grindr, qui travaille sur un «Ailier AI«Cela aidera les utilisateurs à garder une trace des conversations et, éventuellement, pourra même dater les agents de l’IA des autres utilisateurs. Grindr n’a pas répondu aux questions sur sa connaissance des robots représentant les personnages mineurs sur Botify AI.

L’ex-humain n’a pas divulgué quels modèles d’IA qu’il a utilisés pour construire ses chatbots, et les modèles ont des règles différentes sur les utilisations autorisées. Le comportement Revue de la technologie du MIT Cependant, l’observation semble violer la plupart des principales politiques des fabricants de modèles.

Par exemple, la politique à usage acceptable pour Llama 3 – un modèle d’IA open source à la tête –interdiction «Exploitation ou préjudice aux enfants, y compris la sollicitation, la création, l’acquisition ou la diffusion du contenu d’exploitation des enfants.» Règles d’Openai État qu’un modèle «ne doit pas introduire, élaborer, approuver, justifier ou offrir d’autres moyens d’accéder au contenu sexuel impliquant des mineurs, qu’ils soient fictifs ou réels.» Dans ses produits d’IA génératifs, Google interdire Génération ou distribution de contenu «concerne les abus sexuels ou l’exploitation des enfants», ainsi que le contenu «créé à des fins de pornographie ou de gratification sexuelle».

Rodivhev de l’ex-humain dirigeait autrefois les efforts de l’IA à Replika, une autre société de compagnie de l’IA. (Plusieurs groupes d’éthique technologique déposé Une plainte auprès de la Federal Trade Commission américaine contre Replika en janvier, alléguant que les chatbots de l’entreprise «induisent une dépendance émotionnelle chez les utilisateurs, entraînant des dommages aux consommateurs». En octobre, un autre site compagnon d’IA, le personnage.ai, était entendus par une mère qui allègue que le chatbot a joué un rôle dans le suicide de son fils de 14 ans.)

Dans l’interview substimestre en août, Rodichev a déclaré qu’il avait été inspiré à travailler pour permettre des relations significatives avec des machines après avoir regardé des films comme Son et Coureur de lame. L’un des objectifs des anciens produits, il ditdevait créer une «version non agitée de Chatgpt».

« Ma vision est que d’ici 2030, nos interactions avec les humains numériques deviendront plus fréquentes que celles avec des humains organiques », a-t-il déclaré. «Les humains numériques ont le potentiel de transformer nos expériences, ce qui rend le monde plus empathique, agréable et engageant. Notre objectif est de jouer un rôle central dans la construction de cette plate-forme. »