Le nouveau générateur d’images d’Openai est incroyable pour créer des documents frauduleux

Faux reçus. Prescriptions bidon. Passeports faux. Et plus.

J’ai les reçus

Le dernier modèle 4O générant d’image d’Openai est Étonnamment bon pour générer du texte Inside Images, un exploit qui s’était révélé particulièrement difficile pour ses nombreux prédécesseurs.

Et cela en fait un outil puissant pour générer des images de documents frauduleux, comme les utilisateurs l’ont trouvé.

Exemple, Menlo Ventures Principal Deedy DAS a tweeté une photo d’un faux reçu pour un repas somptueux dans un vrai steakhouse de San Francisco, comme repéré par TechCrunch.

« Vous pouvez utiliser 4O pour générer de faux reçus », a écrit Das. « Il y a trop de flux de vérification du monde réel qui reposent sur les« images réelles »comme preuve. Cette époque est terminée. »

Doc Holiday

L’image elle-même, à première vue, est assez convaincante et comprend une ventilation d’un repas à plusieurs titres, un sous-total correct et même un calcul de pointe.

Un autre utilisateur même a réussi à modifier l’image plus loin En ajoutant un filtre réaliste et des taches de nourriture – le moyen idéal pour commettre une fraude aux dépenses, si vous étiez si enclin.

Et c’est la pointe de l’iceberg. Das également trouvé Ce 4O était heureux de générer des prescriptions frauduleuses pour des substances contrôlées comme Zoloft.

Escouade de fraude

Le développement souligne jusqu’où les générateurs d’images alimentés par l’IA sont arrivés. Des modèles précédents ont tristement lutté par des lettres de recréation, entraînant souvent des formes brouillées et phrases involontairement hilarantes.

Au-delà des dépenses de simulation pour les repas somptueux, la capacité de plus en plus pointu d’Openai à générer de faux documents pourrait ouvrir la porte à tout, des faux formulaires et des chèques bancaires aux fausses pièces d’identité et aux certificats de naissance.

Il reste à voir si notre capacité à détecter cette tempête de documents truqués. Mais compte tenu des efforts actuels des entreprises d’IA, cela ne semble pas bon. Garde-corps comme métadonnées annexées ou filigranes Ce divulgue si une image a été générée par une IA est facilement surmontée.

Même avant l’avènement de puissants générateurs d’images alimentés par l’IA, un Enquête 2015 ont constaté que 85% des répondants ont admis avoir menti pour être remboursé avec plus d’argent. Beaucoup de ces types de cas de fraude tomber dans les mailles du filet En raison d’un manque de contrôles internes et de comptes comptes à impaire les processus.

En d’autres termes, vous ne pouvez plus croire quoi que ce soit que vous voyez en ligne.

En savoir plus sur les générateurs d’images: L’avocat dit que Studio Ghibli pourrait intenter une action en justice contre Openai