Aller au contenu
Nouveau sur le site : consultez des exemples d'agents IA que nous développons sur mesureDes exemples d'agents IA sur mesure

Quels sont les risques d'un agent IA en entreprise, et comment garder le contrôle ?

Écrit par AUTOMATES. Publié le . Mis à jour le . Lecture : 12 minutes.

En bref. Un agent IA peut se tromper avec assurance, agir au-delà de ce qu'on attendait, ou lire des données qu'il n'avait pas à voir. Trois garde-fous limitent ces risques, sans les supprimer : des accès réduits au strict nécessaire, une validation humaine avant toute action sensible, et un journal de chaque action que vous pouvez relire.

Quels sont les risques d'un agent IA dans une petite entreprise ?

Nous en retenons quatre : l'erreur, l'action non voulue, les données lues ou envoyées à tort, et la dépendance à un prestataire. Ils ont la même origine : un agent IA ne fait pas que répondre, il agit dans vos outils.

  • L'erreur. L'agent rédige une note fausse ou classe mal une demande, avec la même assurance que lorsqu'il a raison.
  • L'action non voulue. Il envoie, modifie ou supprime quelque chose que personne ne lui a demandé.
  • Les données. Il lit des documents sans rapport avec sa mission, ou vos données partent chez un fournisseur dont vous ne connaissez pas les règles.
  • La dépendance. L'agent fonctionne, mais une seule société sait le régler, le corriger ou l'arrêter.

La CNIL et le Conseil de l'IA et du Numérique l'écrivent dans une note commune : le passage aux agents marque un changement d'échelle, qui amplifie les risques de cybersécurité et les risques pour les données personnelles des utilisateurs source [2].

Aucun garde-fou ne ramène ces risques à zéro. La CNIL le rappelle à propos de l'IA générative et de ses filtres : ces systèmes ne sont jamais infaillibles source [1]. Les garde-fous décrits ici servent à rendre un incident plus rare, plus visible et moins grave. Ils ne le rendent pas impossible.

Risques d'un agent IA et garde-fous : le tableau

Le tableau donne, pour chaque risque, le garde-fou à poser et ce que vous pouvez vérifier vous-même.

RisqueCe qui peut arriverGarde-fouCe que vous vérifiez
ErreurCe qui peut arriverune note, un calcul ou une réponse faux, présentés avec assuranceGarde-fouune personne valide avant toute action sensibleCe que vous vérifiezque la validation est une vraie lecture, pas un simple clic
Action non voulueCe qui peut arriverun envoi, une modification ou une suppression que personne n'a demandésGarde-fouun cahier des charges qui écrit ce que l'agent ne fait jamais, et des droits qui l'en empêchentCe que vous vérifiezla ligne « Ne fait jamais », et le bouton de pause
DonnéesCe qui peut arriverdes documents lus sans nécessité, ou des données envoyées à un fournisseur mal connuGarde-foudes accès réduits au strict nécessaire, et un contrat qui précise qui accède aux donnéesCe que vous vérifiezla liste des accès, écrite dans le cahier des charges
DépendanceCe qui peut arriverun agent que seule la société qui l'a construit peut régler ou arrêterGarde-fouun agent, un tableau de bord et un mode d'emploi qui vous sont remisCe que vous vérifiezque vous savez le mettre en pause et relire son journal sans aide

Quels garde-fous poser sur un agent IA ?

Cinq garde-fous reviennent dans cet article. Aucun ne ramène le risque à zéro : chacun le réduit, et vous pouvez vérifier qu'il est en place.

  • Une validation humaine. Avant toute action sensible, l'agent prépare et une personne relit, puis décide. Cette validation doit être une vraie lecture, pas un simple clic.
  • Des droits limités. Le cahier des charges écrit ce que l'agent ne fait jamais et à quoi il accède, au strict nécessaire, et ses droits l'empêchent d'aller plus loin.
  • Un journal des actions. Vous relisez ce que l'agent a fait, tâche par tâche, pour comprendre une erreur et pas seulement la constater.
  • Un arrêt possible. Vous mettez l'agent en pause vous-même, à tout moment, sans appeler personne.
  • La réversibilité. L'agent, ses réglages et son mode d'emploi vous sont remis, et le contrat dit comment vous les récupérez avec vos données si la relation s'arrête.

Le tableau ci-dessus relie chacun de ces garde-fous à un risque. Les sections suivantes les détaillent, une par risque, puis les gestes à garder à tout moment.

Un agent IA peut-il se tromper ?

Oui. Un agent IA repose sur un modèle de langage, c'est-à-dire un programme d'IA qui produit du texte. La CNIL écrit des modèles d'IA générative, dont les modèles de langage font partie, qu'ils ne sont pas des bases de connaissance et qu'ils peuvent produire des résultats inexacts qui paraissent pourtant plausibles source [1].

Le danger n'est pas l'erreur grossière, que vous voyez. C'est l'erreur bien présentée, glissée dans un travail par ailleurs correct.

Le garde-fou est une validation humaine avant chaque action sensible : l'agent prépare, une personne relit et décide. La DGSI le dit dans ses préconisations aux entreprises : elle déconseille fortement de fonder une décision sur les seuls résultats d'une IA, sans vérification par des personnes qualifiées de l'entreprise source [3].

La DGSI rapporte le cas d'une société qui avait confié l'évaluation de ses partenaires commerciaux à un outil d'IA : elle ne faisait aucune vérification complémentaire et suivait systématiquement le retour de l'outil source [3].

Encore faut-il que la validation soit réelle. La note de la CNIL et du Conseil de l'IA et du Numérique le rappelle à propos des décisions automatisées que le RGPD encadre : une validation purement formelle ou automatique ne suffit pas source [2]. Si la personne qui valide n'a pas le temps de lire, réduisez ce que l'agent lui soumet.

Un agent IA peut-il agir au-delà de ce que vous attendiez ?

Oui, parce qu'il a la main sur vos outils. La note de la CNIL et du Conseil de l'IA et du Numérique le formule ainsi : parce qu'un agent peut agir de manière autonome, une erreur, une tromperie ou une compromission peut le conduire à exécuter une action non souhaitée source [2].

La tromperie demande une explication. Un agent lit des e-mails et des documents écrits par d'autres, et un texte piégé peut chercher à lui donner des ordres.

Le premier garde-fou s'écrit avant la mise en service : ce que l'agent ne fait jamais. Nos cahiers des charges d'exemple portent cette ligne. Ils servent d'exemples : aucun ne décrit un client.

  • Agent Analyste : valider ou envoyer sans votre accord.
  • Agent Pré-révision : passer une écriture sans votre validation.
  • Agent Financements : déposer un dossier sans votre accord.

Une ligne écrite ne suffit pas : elle se traduit en droits. Un agent qui ne doit pas envoyer n'a pas le droit d'envoyer, il prépare un brouillon. Ces exemples se lisent en entier sur notre page d'accueil : les cahiers des charges d'exemple.

Le second garde-fou est de classer les actions. La même note suggère de les ranger par niveau de risque, selon qu'il s'agit d'accéder à des données, de les modifier, de les supprimer ou de les envoyer hors du système, et de laisser l'utilisateur choisir celles qui attendent sa validation source [2].

Un agent IA peut-il lire des données qu'il n'a pas à voir ?

Oui, si ses accès sont plus larges que sa mission. La note de la CNIL et du Conseil de l'IA et du Numérique prend l'exemple d'un agent qui reçoit l'accès à l'environnement de travail de son utilisateur (messagerie, agenda, documents) : il peut consulter l'ensemble des informations disponibles, alors que certaines peuvent ne pas être nécessaires à la tâche demandée source [2].

Le garde-fou est de réduire les accès au strict nécessaire, et de les écrire. La même note recommande que l'utilisateur garde la main sur les données auxquelles l'agent accède, et rappelle le principe : seules les données strictement nécessaires à une tâche sont traitées source [2].

Les accès sont une ligne du cahier des charges que nous rédigeons avec vous, au même titre que la mission de l'agent, ses horaires et ce qu'il ne fait jamais. Dans l'exemple de tableau de bord de notre page d'accueil, la ligne « Accès » de l'Agent Analyste indique : boîte Documents entrants, dossiers partagés en lecture. C'est un exemple d'interface, pas un cas client.

Reste à savoir où partent les données. Un agent envoie les textes qu'il lit au modèle de langage qui les traite. Quand ce modèle est fourni par une autre société, vos données passent chez elle.

La CNIL écrit que, lorsqu'un système est utilisé par une interface de programmation (API), sa maîtrise est presque entièrement entre les mains du fournisseur, et qu'il convient donc d'être particulièrement vigilant sur les données qui lui sont soumises source [1]. La DGSI ajoute que les versions grand public, standards et sans frais, des principaux outils d'IA générative utilisent souvent les données entrées par l'utilisateur pour entraîner leurs modèles source [3].

Avant de signer, posez ces questions par écrit.

  • Où les données sont-elles hébergées, et peuvent-elles sortir de l'Union européenne ?
  • Le fournisseur peut-il les réutiliser, par exemple pour entraîner ses modèles ?
  • Qui y a accès, chez le fournisseur et chez le prestataire ?
  • Que prévoit le contrat sur ces points ?

La CNIL place cette démarche chez celui qui utilise ou intègre le système : il lui revient d'interroger le fournisseur sur la conformité de son système au RGPD source [1].

Que devient l'agent si vous changez de prestataire ?

Cela dépend de ce qui vous a été remis. Si l'agent tourne sur les comptes du prestataire, sans mode d'emploi, vous ne pouvez ni le reprendre ni le confier à quelqu'un d'autre.

Ce quatrième risque est le nôtre : les textes publics cités ici ne le traitent pas sous cet angle. Nous l'ajoutons parce qu'il se règle au moment du contrat, pas après.

Voici les points à faire écrire dans le contrat.

  • À qui appartiennent l'agent, ses réglages et son tableau de bord.
  • Sur quels comptes il tourne, et au nom de qui ils sont ouverts.
  • Quel mode d'emploi vous est remis, et qui est formé chez vous.
  • Comment vous récupérez l'agent et ses données si la relation s'arrête.

Voici ce que notre site en dit : une fois l'agent en service, il vous est remis avec son tableau de bord, les accès de votre équipe, un mode d'emploi et une formation. Il est alors à vous. Lire notre méthode, étape par étape. Lire qui nous sommes.

Que devez-vous pouvoir faire à tout moment ?

Deux gestes au moins, sans appeler personne : mettre l'agent en pause, et relire ce qu'il a fait.

La pause d'abord. La note de la CNIL et du Conseil de l'IA et du Numérique envisage une fonction qui interrompt à tout moment un agent en cas de comportement inattendu ou de risque identifié source [2]. Elle cite le cas, rapporté dans un article récent, d'une salariée dont l'agent a supprimé de nombreux e-mails professionnels, et qui a eu des difficultés à l'interrompre à distance source [2].

Le journal ensuite. La même note souhaite que, pour chaque tâche exécutée, l'utilisateur puisse retrouver les données personnelles utilisées, les services tiers sollicités, les échanges réalisés et leur chronologie source [2]. Sans journal, une erreur se constate, elle ne s'explique pas.

Sur le tableau de bord que nous remettons avec l'agent, ces gestes sont à votre main : valider son travail, le mettre en pause, consulter son journal. Ses évolutions, vous nous les demandez. Regarder un exemple de tableau de bord.

Quelles questions poser avant de mettre un agent IA en service ?

Posez-les dans l'ordre, au prestataire comme à vous-même. Une réponse floue à l'une d'elles est une raison d'attendre.

  1. Que fait l'agent, et que ne fait-il jamais ? La réponse tient en quelques lignes écrites, pas dans une démonstration.
  2. À quoi a-t-il accès ? Demandez la liste, outil par outil, en lecture ou en écriture. Un accès sans lien avec la mission se retire.
  3. Quelles actions attendent une validation, et qui valide ? Désignez la personne. Si elle n'a pas le temps de relire, l'action ne part pas.
  4. Où vont les données, et qui peut les réutiliser ? La réponse se lit dans le contrat, pas dans une plaquette.
  5. Comment le mettez-vous en pause, et où lisez-vous son journal ? Faites le geste vous-même avant la mise en service.
  6. Que vous reste-t-il si le prestataire s'arrête ? L'agent, ses réglages et son mode d'emploi doivent vous avoir été remis.

Si l'une de ces réponses manque, la tâche peut attendre, ou rester chez vous. C'est une réponse valable. Pour la définition d'un agent et ses limites, lisez notre page Qu'est-ce qu'un agent IA ?

Faut-il une charte IA ?

Elle est recommandée dès que vos salariés utilisent des outils d'IA. La CNIL recommande à tout organisme d'encadrer l'utilisation d'un système d'IA générative par des politiques ou des chartes internes, qui définissent clairement les usages autorisés et les usages interdits source [1].

La DGSI préconise d'expliciter le cadre d'emploi de l'IA dans la charte informatique, avec le niveau de sensibilité des informations qui peuvent être confiées à l'IA source [3].

Une charte règle l'usage des outils par les personnes. Elle ne règle pas ce que fait un agent : c'est le rôle de son cahier des charges. Les deux écrits se complètent.

Pour commencer, une charte courte peut tenir en quelques points : les outils autorisés, les données qu'on n'y saisit pas, la personne qui relit ce que l'IA produit, et celle à qui signaler un problème.

Cet article n'est pas un avis juridique. Pour savoir ce que la loi vous impose, interrogez votre conseil ou votre délégué à la protection des données.

Que disent la CNIL et la DGSI ?

Trois textes publics servent de base à cet article. Voici ce que chacun dit, en bref.

  • La CNIL, sur l'IA générative. Dans ses questions-réponses, elle écrit que la mise en œuvre d'un tel système doit être précédée d'une analyse des risques et d'une stratégie de gouvernance claire, et que l'organisme qui décide de le déployer doit veiller à sa conformité au RGPD source [1].
  • La CNIL et le Conseil de l'IA et du Numérique, sur les agents. Leur note rappelle que les IA agentiques demeurent pleinement soumises au RGPD. Elle avance des pistes : une validation humaine pour les décisions les plus critiques, un environnement isolé qui réduit les accès au strict nécessaire, un bouton d'arrêt à la main de l'utilisateur. Elle précise que ces propositions restent à mettre à l'épreuve source [2].
  • La DGSI, sur l'IA au travail. Son document évoque le cas de trois entreprises françaises, sans les nommer. Il préconise d'encadrer l'usage de l'IA dans l'entreprise, de former régulièrement les salariés et de faire vérifier les résultats par des personnes qualifiées source [3].

Aucun de ces textes n'est écrit pour les seules petites entreprises. Nous en avons retenu ce qui nous paraît s'appliquer à un agent IA dans une structure de cette taille : ce tri est le nôtre.

Questions fréquentes

Quels sont les risques liés à l'intelligence artificielle pour les entreprises ?

La DGSI en décrit plusieurs : des informations internes versées dans un outil grand public, des décisions fondées sur le seul résultat d'une IA, une tentative d'escroquerie par hypertrucage du visage et de la voix d'un dirigeant. Pour un agent IA, nous y ajoutons l'action non voulue et la dépendance à un prestataire.

Quelles données doivent être évitées de partager avec une IA ?

Dans un service grand public, la CNIL recommande de ne jamais partager d'informations confidentielles : données personnelles, données de l'entreprise, en particulier celles que couvre un secret. La DGSI préconise de ne pas soumettre de données personnelles à un outil d'IA. Avec un agent conçu pour vous, la question se déplace vers ses accès et vers le contrat passé avec le fournisseur.

Est-il obligatoire d'avoir une charte IA ?

Nous n'avons pas lu d'obligation légale générale dans les textes cités ici : la CNIL recommande une charte, la DGSI préconise d'expliciter le cadre d'emploi de l'IA dans la charte informatique. Cet article n'est pas un avis juridique : pour ce que la loi impose dans votre cas, interrogez votre conseil.

Comment encadrer l'utilisation de l'IA dans la société ?

Par des écrits. Une charte dit quels outils vos salariés utilisent et quelles données ils n'y saisissent pas. Un cahier des charges dit, pour chaque agent, sa mission, ses accès et ce qu'il ne fait jamais. Un contrat précise qui accède aux données. La CNIL et la DGSI recommandent aussi de former les utilisateurs.

L'IA est-elle compatible avec le RGPD ?

Le RGPD n'interdit pas l'IA : il encadre le traitement des données personnelles. Selon la CNIL, l'organisme qui déploie une IA générative doit veiller à sa conformité. Elle rappelle, avec le Conseil de l'IA et du Numérique, que les IA agentiques demeurent soumises au RGPD. Pour commencer : des accès réduits au nécessaire, un contrat avec le fournisseur, l'avis de votre délégué à la protection des données si vous en avez un.

Quels sont les risques du déploiement d'agents IA autonomes dans une entreprise ?

Un agent autonome agit dans vos outils : cet article retient l'erreur, l'action non voulue, les données lues ou envoyées à tort, et la dépendance à un prestataire. Le tableau du début de l'article donne le garde-fou de chacun, et la section sur les garde-fous les résume : validation humaine, droits limités, journal des actions, arrêt possible, réversibilité. Aucun ne ramène le risque à zéro.

Comment cet article a été écrit

Cet article s'appuie sur les textes publics cités ci-dessous, lus à la source : une phrase qui porte un renvoi reprend ce que le texte écrit. Le découpage en quatre risques, le tableau, les questions et le passage sur la dépendance à un prestataire sont les nôtres. Les lignes « Ne fait jamais » viennent de nos cahiers des charges d'exemple, qui ne sont pas des cas clients. L'article n'est pas un avis juridique. Il ne contient aucune statistique ni aucun résultat chiffré. Dernière mise à jour : 10 novembre 2026.

Sources

  1. 1.CNIL, « Les questions-réponses de la CNIL sur l'utilisation d'un système d'IA générative », 18 juillet 2024 : https://www.cnil.fr/fr/les-questions-reponses-de-la-cnil-sur-lutilisation-dun-systeme-dia-generative
  2. 2.CNIL et Conseil de l'IA et du Numérique, « IA agentique et protection des données personnelles : équation à inconnues multiples pour les utilisateurs », note publiée le 20 juillet 2026 (PDF) : https://www.cnil.fr/sites/default/files/2026-07/ia-cianum-cnil.pdf
  3. 3.DGSI, flash ingérence économique sur les risques de l'usage de l'intelligence artificielle dans le monde professionnel (PDF) : https://www.dgsi.interieur.gouv.fr/sites/dgsi/files/medias/documents/2025-12/Flash_117_0.pdf

Une tâche sensible à confier à un agent ?

Décrivez-la-nous pendant un échange de 30 minutes. Nous regardons avec vous ce qu'un agent peut prendre en charge, et ce qui doit rester entre vos mains.

À lire aussi