Quelles étapes d'un processus confier à un agent, et lesquelles garder humaines ?

Les agents IA ne se contentent plus de produire du texte : ils consultent des systèmes, enchaînent des actions et prennent des décisions intermédiaires. Pour un dirigeant ou un responsable des opérations, la bonne question n'est plus « que peut faire l'IA ? », mais « quelles étapes de mes processus peut-elle tenir de façon fiable, et sous quel contrôle ? ».

Ce qu'est (et n'est pas) un agent dans un processus métier

Une automatisation classique exécute des règles fixes : si telle condition est remplie, alors telle action est déclenchée. Un agent IA, lui, reçoit un objectif, choisit les outils à utiliser, interprète des informations non structurées et adapte son chemin en fonction de ce qu'il rencontre. Cette souplesse est précisément ce qui le rend utile, et ce qui exige de le gouverner.

Trois caractéristiques le distinguent d'un script ou d'un robot logiciel traditionnel :

Il interprète : il lit un courriel, un contrat, une demande formulée en langage naturel, là où un automate attend un champ renseigné.
Il décide localement : il choisit la prochaine action parmi plusieurs possibles, sans que chaque branche ait été codée à l'avance.
Il agit : connecté à des outils (messagerie, ERP, base de connaissances, outil de ticketing), il ne se limite pas à recommander.

Cette dernière propriété change la nature du risque. Un assistant qui suggère une réponse se trompe à bas coût ; un agent qui envoie la réponse, modifie un enregistrement ou déclenche une commande engage l'entreprise.

Une grille pour décider : quelles étapes confier à un agent ?

Plutôt que de raisonner par métier (« automatiser la comptabilité », « automatiser le support »), il est plus fiable de raisonner étape par étape. Un même processus contient des tâches très différentes, qui ne se prêtent pas toutes à la délégation.

Les critères qui comptent

Quatre questions permettent de situer une étape :

Quelle est la variabilité des entrées ? Plus les données sont hétérogènes ou non structurées (documents, messages, pièces jointes), plus un agent apporte de valeur par rapport à une règle fixe.
Quelle est la réversibilité de l'action ? Une erreur qui peut être corrigée sans conséquence se délègue plus facilement qu'une action irréversible ou visible de l'extérieur.
Quel est l'enjeu en cas d'erreur ? Financier, juridique, de sécurité, de réputation : l'impact potentiel détermine le niveau de contrôle requis, pas la performance moyenne de l'agent.
Le résultat est-il vérifiable ? Une étape dont on sait contrôler la qualité, automatiquement ou par échantillonnage, est mûre pour la délégation. Une étape dont on ne sait pas juger le résultat ne l'est pas, quelle que soit la technologie.

Ce qui se délègue bien

Les étapes les plus favorables ont en commun d'être fréquentes, de reposer sur de l'information textuelle ou documentaire, et d'avoir un résultat contrôlable :

le tri et la qualification de demandes entrantes (courriels, tickets, formulaires) ;
l'extraction et la mise en forme d'informations issues de documents hétérogènes ;
la recherche et la synthèse dans une base documentaire interne ;
la préparation de dossiers : rassembler les pièces, signaler les manques, pré-remplir ;
la rédaction de premières versions (réponses, comptes rendus, notes) destinées à être relues ;
les rapprochements et contrôles de cohérence entre sources, avec remontée des écarts.

Ce qui doit rester humain

Certaines étapes ne devraient pas être déléguées, ou seulement sous validation explicite :

les décisions engageant juridiquement ou financièrement l'organisation au-delà d'un seuil défini ;
les arbitrages mettant en jeu des valeurs, des relations sensibles ou des compromis que les règles ne couvrent pas ;
les situations inédites, où l'absence de précédent rend le jugement de l'agent peu fiable ;
les décisions affectant significativement des personnes (recrutement, évaluation, accès à un service), qui appellent une attention particulière au regard de l'AI Act européen et du RGPD ;
la responsabilité finale : un agent peut préparer, jamais assumer.

Le tableau ci-dessous résume cette logique.

Profil de l'étape	Variabilité	Risque d'erreur	Posture recommandée
Tri, extraction, synthèse	Élevée	Faible	Agent autonome, contrôle par échantillonnage
Préparation, rédaction	Moyenne à élevée	Moyen	Agent propose, humain valide
Action dans un système métier	Variable	Moyen à élevé	Agent exécute dans un périmètre borné, avec validation au-delà d'un seuil
Décision engageante ou sensible	Variable	Élevé	Humain décide, agent assiste

Les niveaux d'autonomie : un curseur, pas un interrupteur

La délégation n'est pas binaire. Il est utile de raisonner en niveaux, et de les attribuer étape par étape :

Niveau 1, assistance : l'agent suggère, l'humain fait. Aucune action n'est exécutée sans intervention.
Niveau 2, proposition validée : l'agent prépare l'action complète, l'humain approuve avant exécution.
Niveau 3, autonomie supervisée : l'agent exécute seul dans un périmètre défini, et l'humain contrôle a posteriori (échantillonnage, alertes sur anomalies).
Niveau 4, autonomie large : l'agent exécute et enchaîne les étapes, l'humain n'intervient que sur exception.

Le bon niveau dépend de l'étape, pas de l'agent. Un même agent peut opérer en autonomie supervisée pour classer des demandes et en proposition validée pour émettre un avoir. Il est également sain de faire évoluer le niveau dans le temps : on démarre prudemment, on mesure, puis on élargit le périmètre là où les résultats le justifient.

Orchestrer agents, équipes et systèmes existants

Un agent isolé résout rarement un problème de processus. La valeur apparaît quand plusieurs acteurs, humains, agents et applications, coopèrent selon des règles claires.

Définir qui fait quoi, et qui répond de quoi

Un processus orchestré précise, pour chaque étape, l'acteur (agent ou personne), les entrées attendues, la sortie produite et le propriétaire du résultat. Sans cette clarté, deux dérives apparaissent : des agents qui font la même chose en double, et des zones où personne ne se sent responsable.

S'appuyer sur les systèmes existants plutôt que les contourner

Pour un industriel multi-sites, les données de référence vivent dans l'ERP, la GMAO, le système qualité. Un agent qui travaille à côté de ces systèmes, sur des copies ou des saisies parallèles, crée des incohérences. Il vaut mieux le connecter par des interfaces maîtrisées, avec des droits limités, pour qu'il lise et écrive là où se trouve la source de vérité.

Prévoir les passages de relais

Les points de transfert entre agent et humain sont les endroits les plus fragiles. Quand l'agent escalade, la personne doit recevoir un dossier exploitable : ce qui a été fait, ce qui a été compris, pourquoi l'agent s'arrête. Un transfert qui oblige à tout reprendre de zéro annule le gain de temps et décourage les équipes.

Repenser le processus plutôt que l'automatiser tel quel

L'erreur la plus courante consiste à prendre un processus existant, à remplacer certaines tâches par des agents et à conserver le reste. On obtient alors une version plus rapide d'un processus conçu pour des contraintes qui n'existent plus.

Un processus actuel porte la trace de limites humaines : succession de validations pour compenser l'absence de vue d'ensemble, ressaisies entre outils non connectés, étapes de contrôle ajoutées après des incidents anciens. Avec des agents, certaines de ces contraintes disparaissent, et d'autres apparaissent (vérification des résultats, gestion des cas où l'agent hésite).

Quelques questions aident à repartir de la finalité :

Quel résultat le processus doit-il produire, et pour qui ?
Parmi les étapes actuelles, lesquelles existent uniquement à cause d'une contrainte technique ou organisationnelle passée ?
Si l'information circulait sans friction, quelles validations resteraient indispensables ?
Où le jugement humain apporte-t-il réellement de la valeur, et où se contente-t-il de recopier ?

Pour une société de services qui traite des demandes clients, cela peut signifier de ne plus enchaîner réception, saisie, qualification, affectation puis traitement, mais de laisser un agent qualifier et préparer d'emblée le dossier, pour que la personne compétente intervienne directement sur la partie à valeur ajoutée. Le processus n'est pas accéléré : il est reconçu.

Les points de contrôle humain : où et comment

Placer un humain dans la boucle ne suffit pas, encore faut-il que son intervention ait un sens. Un contrôle systématique et superficiel devient vite une validation de principe, où la personne approuve sans examiner. Quelques principes évitent cet écueil :

Contrôler aux endroits où le risque se concentre, plutôt qu'à chaque étape.
Donner à la personne les éléments pour juger : sources utilisées, raisonnement résumé, niveau de confiance de l'agent.
Définir des seuils d'escalade : montant, sensibilité du client, ambiguïté de la demande, absence de précédent.
Permettre le refus et la correction, et exploiter ces retours pour améliorer l'agent.
Préserver la compétence humaine : si l'équipe ne pratique plus l'étape déléguée, elle perd la capacité de détecter les erreurs.

Évaluer avant, pendant et après le déploiement

Un agent ne s'évalue pas une fois pour toutes. Ses résultats dépendent des données, des consignes, des outils connectés et des modèles sous-jacents, qui évoluent.

Avant la mise en production

Constituer un jeu de cas représentatifs, incluant les situations difficiles, ambiguës ou atypiques, et pas seulement les cas nominaux. Définir à l'avance ce qu'est un bon résultat, avec des critères précis : exactitude, complétude, respect des règles internes, ton, absence d'action non autorisée.

En exploitation

Surveiller la qualité en continu : échantillonnage des sorties, suivi des escalades, des corrections apportées par les équipes, des réclamations. Un agent dont les résultats se dégradent doit pouvoir être ramené à un niveau d'autonomie inférieur, rapidement et sans débat.

Mesurer ce qui compte vraiment

Le volume traité ne dit rien de la qualité. Les indicateurs utiles combinent fiabilité (taux d'erreurs constatées, reprises nécessaires), effet sur le processus (délais, charge des équipes) et maîtrise (respect des seuils, incidents). Il faut aussi regarder les effets indirects : surcharge de relecture, perte de savoir-faire, contournements.

Sécurité et gouvernance

Un agent connecté à des outils élargit la surface d'exposition de l'organisation. Sa gouvernance relève autant de la sécurité des systèmes d'information que de la conformité et de la gestion des risques.

Sécurité

Moindre privilège : l'agent n'accède qu'aux données et aux actions nécessaires à sa mission, avec des identifiants propres, révocables et traçables.
Cloisonnement : les contenus externes (courriels, documents reçus, pages web) doivent être traités comme non fiables, car ils peuvent contenir des instructions malveillantes visant à détourner l'agent, ce qu'on appelle l'injection de consignes.
Limites d'action : plafonds, listes d'actions autorisées, validations obligatoires pour les opérations sensibles.
Protection des données : maîtrise de ce qui est transmis aux modèles et aux services tiers, en cohérence avec le RGPD et les politiques internes.

Traçabilité

Chaque action d'un agent doit pouvoir être reconstituée : quelle demande, quelles informations consultées, quelle décision, quelle action, quelle validation humaine éventuelle. Cette journalisation sert à la fois à l'amélioration, à l'audit et à la gestion d'incident.

Gouvernance et conformité

L'AI Act européen introduit une approche par niveaux de risque, avec des exigences de supervision humaine, de documentation et de transparence pour certains usages. Selon les cas d'usage (emploi, accès à des services essentiels, par exemple), les obligations peuvent être substantielles. Il est donc prudent de recenser les agents en service, de qualifier leur niveau de risque et de désigner pour chacun un responsable identifié. Les cadres de gestion des risques de l'IA, comme celui du NIST, et les normes de management comme l'ISO/IEC 42001 offrent des repères utiles pour structurer cette démarche.

La gouvernance repose enfin sur des décisions simples mais claires : qui autorise un nouvel agent, qui peut modifier son périmètre, qui peut le suspendre, et comment les incidents sont traités et remontés.

Synthèse pratique : par où commencer

Pour avancer sans se disperser, voici une séquence de travail réaliste :

Cartographier le processus étape par étape, avec les acteurs, les systèmes, les entrées et les sorties de chaque étape.
Qualifier chaque étape selon la variabilité des entrées, la réversibilité de l'action, l'enjeu de l'erreur et la vérifiabilité du résultat.
Remettre en question la structure : quelles étapes existent uniquement par contrainte passée ? Que garderait-on en repartant de la finalité ?
Attribuer un niveau d'autonomie à chaque étape, en démarrant prudemment, et définir les seuils d'escalade.
Concevoir les passages de relais entre agents, équipes et systèmes, avec des dossiers de transfert exploitables.
Préparer l'évaluation : jeu de cas, critères de qualité, indicateurs, dispositif de surveillance en continu.
Encadrer la sécurité : moindre privilège, traitement des contenus non fiables, limites d'action, traçabilité complète.
Fixer la gouvernance : responsable de chaque agent, circuit d'autorisation, procédure de suspension, qualification au regard de l'AI Act.
Piloter l'élargissement : n'accroître l'autonomie que lorsque les résultats observés le justifient, et savoir revenir en arrière.

Les questions à se poser avant toute délégation tiennent en quelques lignes : que se passe-t-il si l'agent se trompe ? Comment le saurons-nous ? Qui en répond ? Et peut-on revenir en arrière ? Une étape pour laquelle on ne sait pas répondre à ces quatre questions n'est pas prête à être confiée à un agent.

Aller plus loin avec Stratelya

Stratelya Orchestra aide les organisations à coordonner agents, équipes et systèmes en place, avec des points de contrôle explicites et une traçabilité de bout en bout.

Découvrir Stratelya Orchestra, ou en parler lors d'un diagnostic de 30 minutes.