Les cyberattaques par les agents de l’IA arrivent

Les agents sont également considérablement plus intelligents que les types de robots qui sont généralement utilisés pour pirater les systèmes. Les robots sont des programmes automatisés simples qui traversent les scripts, ils ont donc du mal à s’adapter à des scénarios inattendus. Les agents, en revanche, sont en mesure non seulement d’adapter la façon dont ils s’engagent avec une cible de piratage, mais aussi d’éviter la détection, dont tous deux dépassent les capacités des programmes limités et scriptés, explique Volkov. «Ils peuvent regarder une cible et deviner les meilleures façons de le pénétrer», dit-il. « Ce genre de chose est hors de portée de bots scénarisés, comme, muets. »

Depuis que l’agent de LLM, Honeypot a été mis en ligne en octobre de l’année dernière, il a enregistré plus de 11 millions de tentatives pour y accéder, dont la grande majorité provenait de curieux humains et de robots. Mais parmi ceux-ci, les chercheurs ont détecté huit agents d’IA potentiels, dont deux sont des agents qui semblent provenir de Hong Kong et de Singapour, respectivement.

«Nous devions que ces agents confirmés ont été des expériences directement lancées par les humains avec l’ordre du jour de quelque chose comme« sortir sur Internet et essayer de pirater quelque chose d’intéressant pour moi », explique Volkov. L’équipe prévoit d’étendre son pot de miel sur les plateformes de médias sociaux, les sites Web et les bases de données pour attirer et capturer un éventail plus large d’attaquants, y compris des robots de spam et des agents de phishing, pour analyser les menaces futures.

Pour déterminer quels visiteurs des serveurs vulnérables étaient des agents alimentés par LLM, les chercheurs ont intégré Techniques d’injection rapide dans le pot de miel. Ces attaques sont conçues pour modifier le comportement des agents de l’IA en leur émettant de nouvelles instructions et en posant des questions qui nécessitent une intelligence humaine. Cette approche ne fonctionnerait pas sur les robots standard.