Agents d’IA autonomes = risque de sécurité autonome

Augmenter la pression? Les risques des agents de l’IA deviendront super rapidement parce que l’IA elle-même change si rapidement. Plutôt qu’un humain volant des titres d’identification des employés – ou 50 machines orchestrées par un pirate – il y aura 50 000 agents d’IA. Ils se déplaceront vite, apprendront et pivoteront – beaucoup plus vite que les humains. Tout semblant de contrôle que nous pensons avoir sur les données et les systèmes sera de la fiction.

Retour aux bases

En tant que tel, la prochaine frontière de sécurité de l’entreprise ne se défend pas seulement contre les menaces humaines – il s’agit également d’obtenir l’univers explosif d’agents autonomes de l’IA. Les PDG et les DSI doivent doubler les bases – idéalement avant le déploiement des agents de l’IA. Les étapes nécessaires incluent l’évaluation des risques autour:

• Employés. Au moins 15% des employés «accèdent régulièrement» Verizon Selon sondage. Cela améliore considérablement le risque de fuites de données et de portes ouvertes. Déterminez ce qui se passe dans votre entreprise, qui utilise quoi et ce que les garde-corps sont nécessaires.
• Autorisation d’agent. Si vous avez déjà déployé des agents d’IA, que ont-ils la permission de faire et à quelles données peuvent-elles accéder? Les agents de l’IA s’appuient souvent sur des titres de compétences ou des jetons API initialement provisionnés avec des autorisations trop larges pour la simplicité ou la vitesse opérationnelle. Au fil du temps, ces larges autorisations créent des risques de sécurité importants, car les agents effectuent des tâches et accédent aux ressources critiques bien au-delà de leurs exigences commerciales réelles.
• Données. Quelles données sont téléchargées et où? Quelle est la force de votre gouvernance des données, ce qui signifie que vous savez d’où viennent les données, quand, comment et si elles ont été modifiées et par qui? L’IA agentique exploitera une faible gouvernance des données comme jamais auparavant, car la capacité de l’IA à explorer les données est sans précédent.
• Vendeurs. Comment les vendeurs utilisent-ils et sécurisent-ils les agents d’IA? Où sont-ils dans votre chaîne d’approvisionnement? Recherchez les agents d’IA pour avoir des fonctions de travail, comme la commande de pièces lorsque les fournitures sont basses. Vous voulez que les fournisseurs profilent des agents afin qu’ils soient plus susceptibles de repérer des comportements anormaux. Par exemple, si l’agent de pièces demande des informations de paiement du fournisseur, alerte du drapeau rouge. Appuyez sur les fournisseurs pour des audits et des mesures qui montrent des résultats.

En bref, les agents d’IA sécurisés sont comme n’importe quel employé. Exiger une visibilité totale dans les identités humaines et non humaines, la capacité de suivre l’interaction par les agents de l’IA à leur origine, les comportements de pit En vérifiant continuellement les autorisations, les privilèges et les interactions des agents, les entreprises appliqueront mieux les politiques qui minimisent l’exposition aux risques.