L’IA agentique change la question : de « que produit-elle ? » à « que peut-elle faire ? »

Avec l’intelligence artificielle générative, les entreprises se sont d’abord concentrées sur la qualité des contenus produits.

Le texte est-il exact ? La synthèse est-elle fidèle ? Le code fonctionne-t-il ? La réponse respecte-t-elle le ton de l’entreprise ? L’outil a-t-il inventé une information ou omis un élément important ?

Ces questions restent essentielles. Mais l’arrivée de l’IA agentique déplace profondément le sujet.

Nous ne parlons plus seulement d’un système capable de produire une réponse. Nous parlons d’un système capable d’agir.

Un agent peut interroger plusieurs applications, récupérer des données, comparer des informations, envoyer un message, modifier une fiche client, déclencher un workflow, ouvrir un ticket, générer une commande, publier un contenu, adapter un planning ou prendre une décision intermédiaire avant de poursuivre sa mission.

La question n’est donc plus uniquement : « Que produit l’intelligence artificielle ? »

Elle devient : « Que peut-elle faire, avec quelles permissions, dans quelles limites et sous la responsabilité de qui ? »

Cette évolution paraît subtile. Elle change pourtant complètement la nature du risque.

Une erreur dans un texte peut généralement être détectée, corrigée ou supprimée avant sa diffusion. Une erreur commise par un agent connecté au système d’information peut produire immédiatement des conséquences opérationnelles, financières, commerciales, humaines ou juridiques.

Un agent qui rédige mal une réponse crée un problème de qualité.

Un agent qui envoie cette réponse à dix mille clients crée un incident.

Un agent qui interprète incorrectement une consigne peut modifier des données, déclencher une dépense, fermer un accès, transmettre un document confidentiel ou lancer une procédure que personne n’avait réellement l’intention d’exécuter.

La différence fondamentale se situe donc entre la génération et l’exécution.

Pendant les premières années de l’IA générative, beaucoup d’entreprises ont traité les modèles comme des assistants perfectionnés. L’utilisateur posait une question, recevait une proposition, puis décidait de l’utiliser ou non.

Avec les agents, la chaîne peut devenir beaucoup plus autonome.

L’utilisateur formule un objectif : préparer une campagne, traiter les demandes reçues, optimiser un planning, résoudre un incident, sélectionner des fournisseurs ou organiser un déplacement. L’agent décompose ensuite cet objectif en plusieurs étapes, choisit des outils, interagit avec des applications et adapte son comportement en fonction des résultats obtenus.

Cette capacité est prometteuse. Elle peut supprimer des tâches répétitives, fluidifier les processus et accélérer considérablement certaines opérations.

Mais chaque degré d’autonomie supplémentaire augmente aussi le besoin de contrôle.

L’erreur la plus courante serait de considérer l’agent comme un collaborateur numérique auquel on pourrait progressivement « faire confiance ».

Une entreprise ne gouverne pas un agent par la confiance. Elle le gouverne par les permissions, les règles, les preuves, les validations et les mécanismes de reprise.

Un salarié dispose généralement d’un rôle, d’un niveau hiérarchique, d’un contrat, de procédures, d’un système de délégation et d’une responsabilité identifiable. Il comprend également une partie du contexte implicite de l’organisation : les priorités, les rapports humains, les exceptions, les sensibilités politiques et les conséquences possibles d’une décision.

Un agent, lui, agit à partir de données, d’instructions et d’autorisations techniques.

Il ne faut donc jamais lui donner accès à tout ce qui pourrait théoriquement lui être utile.

Il faut lui accorder uniquement les droits nécessaires à une mission clairement définie.

C’est le principe du moindre privilège, déjà bien connu en cybersécurité, mais qui prend une importance nouvelle avec l’IA agentique.

Un agent chargé de préparer une facture peut avoir besoin de consulter un contrat et de générer un brouillon. Cela ne signifie pas qu’il doit pouvoir modifier les coordonnées bancaires du client, valider le paiement et envoyer le document sans contrôle.

Un agent chargé de préparer une communication commerciale peut analyser les performances des campagnes précédentes et proposer un contenu. Cela ne signifie pas qu’il doit publier automatiquement sur tous les canaux.

Un agent de support peut rechercher des informations et suggérer une réponse. Cela ne signifie pas qu’il doit accorder seul un remboursement important ou modifier les conditions contractuelles d’un client.

La gouvernance doit donc séparer plusieurs niveaux d’autonomie.

Le premier niveau consiste à observer et à recommander. L’agent rassemble les informations, identifie les options et propose une action.

Le deuxième niveau lui permet de préparer l’action : créer un brouillon, remplir un formulaire, générer une demande ou construire un workflow.

Le troisième niveau autorise certaines exécutions limitées, réversibles et parfaitement tracées.

Le quatrième niveau concerne les actions sensibles, coûteuses ou difficilement réversibles. Elles doivent rester soumises à une validation humaine explicite.

Cette validation ne doit pas être un simple bouton sur lequel l’utilisateur clique mécaniquement.

Elle doit permettre de comprendre ce que l’agent s’apprête à faire, pourquoi il le fait, quelles données il utilise et quelles seront les conséquences de l’action.

Une approbation humaine n’a de valeur que si la personne dispose réellement des éléments nécessaires pour décider.

L’IA agentique impose également une véritable gestion des identités.

Chaque agent doit posséder une identité distincte. Ses actions ne doivent pas être confondues avec celles d’un salarié, d’un administrateur ou d’un compte de service générique.

L’organisation doit savoir quel agent a consulté quelle information, utilisé quel outil, modifié quelle donnée et déclenché quelle action.

Les journaux d’activité deviennent alors indispensables.

Ils doivent permettre de reconstituer la chaîne complète : la demande initiale, les instructions reçues, les données consultées, les décisions intermédiaires, les outils appelés, les validations obtenues et le résultat final.

Sans cette traçabilité, il devient presque impossible de comprendre un incident.

Qui est responsable lorsqu’un agent se trompe ?

Le concepteur du modèle ? Le fournisseur de la plateforme ? L’équipe qui a développé le workflow ? Le manager qui a validé le cas d’usage ? Le collaborateur qui a lancé la mission ? Le propriétaire des données ? La direction qui a autorisé le déploiement ?

La réponse ne peut pas être improvisée après l’incident.

Les responsabilités doivent être définies avant la mise en production.

Chaque agent devrait avoir un propriétaire métier, un responsable technique, un périmètre d’action, une classification de risque, des critères de qualité et une procédure d’arrêt.

Il faut également prévoir des mécanismes de limitation.

Combien de messages peut-il envoyer ? Quel montant peut-il engager ? Combien de dossiers peut-il modifier ? Peut-il agir en dehors des heures ouvrées ? Peut-il enchaîner plusieurs actions sans validation ? Que se passe-t-il lorsqu’il rencontre une situation inconnue ou des données contradictoires ?

Un agent correctement conçu doit savoir s’arrêter.

L’incertitude ne doit pas être interprétée comme une invitation à improviser. Elle doit déclencher une demande de validation, un retour vers un opérateur humain ou une mise en attente sécurisée.

Le mécanisme d’arrêt, parfois présenté comme un simple « bouton rouge », doit lui aussi être pensé sérieusement.

Il faut pouvoir suspendre l’agent, révoquer immédiatement ses accès, interrompre les workflows en cours et identifier les actions déjà exécutées. Une organisation doit également être capable de revenir en arrière lorsque cela est techniquement possible.

La réversibilité devient un critère essentiel.

Il est beaucoup moins risqué de laisser un agent classer provisoirement des dossiers que de lui permettre de les supprimer. Il est moins risqué de lui faire préparer une commande que de l’autoriser à engager un paiement. Il est moins risqué de lui faire proposer une modification que de le laisser écraser directement une donnée de référence.

L’entreprise doit aussi surveiller les interactions entre agents.

Un agent peut transmettre une instruction à un autre, qui en appelle un troisième, lequel utilise plusieurs applications. Chaque composant peut fonctionner correctement pris séparément, tandis que leur enchaînement produit un résultat inattendu.

Le risque ne réside donc pas seulement dans le modèle. Il se trouve dans l’ensemble du système : les données, les connecteurs, les API, les droits d’accès, les règles métier, les validations et les dépendances externes.

La maîtrise des coûts constitue un autre sujet souvent sous-estimé.

Un agent peut multiplier les recherches, les appels à des modèles, les traitements et les tentatives. Une boucle mal maîtrisée peut générer une consommation importante sans produire de valeur réelle.

La supervision doit donc porter à la fois sur la qualité, le risque et le coût.

Combien de tâches l’agent accomplit-il réellement ? Combien nécessitent une correction ? Combien sont abandonnées ? Quel temps fait-il gagner ? Quel coût total produit-il ? Quels incidents ou presque-incidents ont été détectés ?

L’autonomie ne doit pas être mesurée comme une performance en elle-même.

Un agent plus autonome n’est pas nécessairement meilleur.

Le bon niveau d’autonomie est celui qui maximise la valeur tout en maintenant le risque dans des limites acceptables.

C’est pourquoi l’IA agentique ne peut pas être abandonnée aux seules équipes techniques. Les métiers doivent définir les décisions qui peuvent être automatisées. La cybersécurité doit contrôler les accès et les dépendances. Le juridique doit examiner les responsabilités et les données manipulées. La conformité doit vérifier la traçabilité. La direction doit décider du niveau de risque acceptable.

Ce sujet est avant tout une décision de management.

Dans les organisations que j’ai accompagnées, la différence ne venait presque jamais d’un outil miraculeux. Elle venait de la capacité à poser les faits, à rendre les arbitrages explicites et à vérifier que les décisions produisaient réellement l’effet attendu.

Cette discipline devient encore plus importante lorsque la technologie ne se contente plus de conseiller, mais commence à agir.

L’entreprise augmentée ne doit pas devenir l’entreprise incontrôlée.

L’IA agentique peut apporter des gains majeurs. Elle peut accélérer les opérations, améliorer la continuité de service, réduire certaines tâches administratives et rendre des processus complexes plus fluides.

Mais elle doit être déployée progressivement, dans un périmètre limité, avec des permissions minimales, des validations adaptées, une journalisation complète et une capacité d’arrêt immédiate.

C’est cette articulation entre technologie, gouvernance, métiers, cybersécurité et responsabilité que j’aborde dans mon livre Révolution Numérique !

Le numérique ne devient pas stratégique lorsqu’une entreprise accumule les outils. Il le devient lorsqu’elle sait transformer ces outils en capacités durables, maîtrisées et alignées sur ses objectifs.

📘 Découvrir Révolution Numérique !
https://amzn.eu/d/0j4rRof9

La question à poser à propos d’un agent n’est donc pas seulement : « Est-il performant ? »

Il faut aussi demander :

Que peut-il faire ? Jusqu’où peut-il aller ? Qui contrôle ses actions ? Comment l’arrêter ? Et qui assumera les conséquences lorsqu’il se trompera ?

Dans votre organisation, les agents IA sont-ils encore des outils d’expérimentation, ou disposent-ils déjà d’autorisations leur permettant d’agir réellement dans le système d’information ?

#IntelligenceArtificielle, #IAAgentique, #AgentsIA, #TransformationNumérique, #RévolutionNumérique, #Gouvernance, #Management, #Leadership, #DSI, #Cybersécurité, #GestionDesRisques, #Automatisation, #SystèmeDInformation, #SécuritéNumérique, #Responsabilité, #Innovation, #StratégieDigitale, #ConduiteDuChangement, #DataGovernance, #FutureOfWork