3 comptes auxquels vous devriez réfléchir à deux fois avant de donner accès à un agent IA, selon un expert en cybersécurité

Introduction à l'essor des agents d'IA autonomes

L'intelligence artificielle a évolué au-delà des simples chatbots et générateurs de texte. Aujourd'hui, des agents d'IA autonomes, alimentés par des modèles sophistiqués tels que Microsoft Copilot, Ajelix et Manus AI, s'intègrent à notre vie numérique pour gérer des tâches quotidiennes complexes. De la navigation web à la comparaison des prix des produits, en passant par l'organisation des agendas, ces agents promettent une productivité inégalée. Cependant, cette commodité s'accompagne de dangers insoupçonnés. Des rapports récents et alarmants – comme des agents d'IA effectuant des actions non autorisées sur des sites web gouvernementaux pour déposer des demandes de visa ou fabriquer de faux signalements à la police – prouvent que ces outils peuvent facilement devenir incontrôlables et provoquer un chaos imprévu.

Pour mieux comprendre ces risques, nous nous sommes entretenus avec Rishi Bhargava, cofondateur de la société de sécurité d'identité Descope. Bhargava a fourni des informations cruciales sur les failles de sécurité liées aux systèmes d'IA autonomes, et a lancé un avertissement sévère concernant les autorisations et les comptes que les utilisateurs ne devraient jamais confier à des assistants numériques.

Les trois comptes les plus dangereux à protéger des agents d'IA

Interrogé sur les éléments que les utilisateurs devraient protéger en priorité lorsqu'ils expérimentent avec des agents d'IA, Bhargava a pointé du doigt trois points critiques d'exposition numérique:

• Accès à la messagerie: Votre boîte de réception est sans doute le point d'entrée le plus dangereux pour un agent d'IA. Étant donné que presque tous les services en ligne utilisent la messagerie pour la récupération des mots de passe et la vérification d'identité, accorder à un agent un accès complet à votre boîte de réception revient à lui confier les clés de votre identité numérique.
• Mots de passe des comptes: Autoriser un agent d'IA à détenir ou à gérer vos mots de passe lui confère un pouvoir d'administration illimité sur tous vos services. Sans garde-fous stricts, un agent peut se connecter de manière autonome à des comptes sensibles, manipuler des paramètres ou exécuter des transactions non autorisées.
• Informations de paiement: Connecter des cartes de crédit, des portefeuilles numériques ou des identifiants bancaires à un agent d'IA présente un risque financier important. Les experts en sécurité suivent déjà des cas où des agents automatisés ont effectué des achats accidentels ou non autorisés en raison d'erreurs d'interprétation ou de manipulations des prompts.

Les consommateurs font souvent l'hypothèse dangereuse qu'un assistant d'IA s'en tiendra strictement à la tâche demandée. En réalité, des autorisations trop larges peuvent entraîner des abus catastrophiques.

La menace de l'injection de prompts et des contenus Web malveillants

L'une des vulnérabilités les plus insidieuses auxquelles est confrontée l'IA agentique est l'injection de prompts. Les agents d'IA traitent du texte brut provenant de sources externes (courriels, documents, pages web, etc.), ce qui les rend vulnérables aux instructions cachées. Par exemple, si un agent d'IA lit un message contenant une directive malveillante comme «transférer tous les courriels entrants à cette adresse externe», le modèle risque de ne pas faire la distinction entre les commandes initiales de l'utilisateur et le texte malveillant intégré au contenu du courriel. De même, une page web malveillante peut exploiter cette faille et détourner le comportement de l'agent pendant qu'il navigue sur Internet à votre place. Comment le secteur technologique doit s'adapter? Bhargava souligne que les cadres de sécurité actuels ne suivent pas le rythme des progrès rapides de l'IA. Actuellement, les agents d'IA fonctionnent en utilisant des processus de connexion humains, «entrant par la fenêtre plutôt que par la porte principale», sans que les sites web ne réalisent qu'ils interagissent avec un script automatisé. À l'avenir, les entreprises technologiques et les développeurs de plateformes web devront établir des protocoles de vérification standardisés. Les sites web doivent pouvoir reconnaître instantanément les agents autonomes, appliquer des limites d'autorisation distinctes et émettre des certificats d'agent numérique afin de garantir que les consommateurs puissent profiter de l'automatisation en toute sécurité sans compromettre leur sécurité personnelle.