Lab
Pourquoi un agent fiable a besoin de traces, d'évaluations et d'un recours humain
Réponse courte
Un agent fiable ne se définit pas par son autonomie maximale. Il se définit par une délégation contrôlée : le système agit dans un périmètre, son parcours peut être compris, sa qualité est évaluée et une personne peut arrêter, corriger ou contester le résultat. Les traces, les évaluations et le recours répondent à trois questions différentes : que s'est-il passé, était-ce acceptable et que pouvons-nous faire maintenant ?

Un agent fiable ne se définit pas par son autonomie maximale. Il se définit par une délégation contrôlée : le système agit dans un périmètre, son parcours peut être compris, sa qualité est évaluée et une personne peut arrêter, corriger ou contester le résultat.
Les traces, les évaluations et le recours répondent à trois questions différentes : que s’est-il passé, était-ce acceptable et que pouvons-nous faire maintenant ?
Les traces : reconstruire le parcours
Une trace relie demande, contexte, modèle, outil, permission, action et réponse. Elle doit permettre de retrouver la version et l’état sans enregistrer automatiquement tout le contenu sensible.
À conserver selon le risque :
- identifiants de corrélation ;
- versions du workflow, modèle et prompt ;
- outils appelés et permissions utilisées ;
- latence, coût et erreurs ;
- validations et fallback ;
- décision finale et résultat lié.
Une trace prouve qu’une étape a eu lieu. Elle ne prouve pas que la décision était bonne.
Les évaluations : juger selon des critères
Une évaluation compare le comportement à des attentes écrites. Elle couvre cas fréquents, difficiles, dangereux et régressions.
Les critères peuvent inclure exactitude, complétude, refus approprié, respect des droits, citation, coût et résultat. Les erreurs graves doivent être séparées d’une moyenne globale.
Combinez règles déterministes, modèles évaluateurs calibrés et revue humaine. Aucun évaluateur unique ne couvre tout.
Le recours : rendre l’erreur corrigeable
Le recours commence dans l’interface : signaler, suspendre, annuler, corriger la donnée et demander une personne. Il possède un responsable, un délai et une conséquence sur la mémoire.
Si une erreur est corrigée mais que l’ancienne information continue à guider l’agent, le recours est incomplet.
Définir le périmètre de délégation
Pour chaque action, préciser :
- ce que l’agent peut lire ;
- ce qu’il peut proposer ;
- ce qu’il peut exécuter ;
- le montant ou l’impact maximal ;
- les conditions de confirmation ;
- le délai d’annulation ;
- le comportement en cas d’incertitude.
Les permissions suivent le moindre privilège et peuvent évoluer avec les preuves de fiabilité.
Exemple
Un agent prépare et classe des réponses clients.
Il peut lire le ticket et proposer une réponse. Il peut envoyer automatiquement uniquement les réponses de catégorie faible risque, après réussite d’évaluations définies. Les cas sensibles exigent validation. Toute correction alimente un cas de régression. Un incident permet de retrouver version, source et permission, puis d’annuler l’action si possible.
L’autonomie est segmentée par risque, pas accordée en bloc.
Mesures utiles
- taux de tâches accomplies avec résultat valide ;
- corrections par type ;
- actions bloquées correctement ;
- erreurs silencieuses ;
- délai de détection et de recours ;
- coût et tokens par résultat ;
- part de décisions réversibles ;
- évolution de la délégation après preuve.
FAQ
Un journal complet garantit-il l'auditabilité ?
Non. Les données doivent être compréhensibles, versionnées, protégées et reliées à une décision. Trop de logs peuvent masquer le signal et exposer des informations.
Faut-il une validation humaine pour chaque action ?
Non. La validation dépend de l'impact, de la réversibilité et des preuves. Elle reste forte pour les actions sensibles ou nouvelles.
Le recours réduit-il l'autonomie ?
Il rend l'autonomie acceptable. Un système impossible à arrêter ou corriger n'est pas réellement délégable.
Portée et limites
Ces pratiques de travail sont à tester dans votre contexte. Elles ne constituent ni une certification ni une garantie mesurée de fiabilité. Les exemples illustrent une situation possible, pas des résultats clients. Une source peut être obsolète ou erronée ; les droits doivent encore être vérifiés dans le système réel. Pour une décision importante, une personne habilitée doit revoir les preuves et conserver les incertitudes.
Responsable éditorial : Nawame. Publication et revue le 16 octobre 2026 ; prochaine revue : 15 janvier 2027. Cette première édition ajoute les liens de navigation et de référence au texte fourni. Les références ci-dessous éclairent la provenance ou la gestion du risque ; elles ne valident ni Nawame ni cette pratique proposée.
Références et parcours de lecture
Le lien avec Nawame
Nawame peut conserver le contexte gouverné autour de l’action : source, permission, décision, correction et résultat. La trace technique reste dans l’outil d’observabilité ; la mémoire conserve pourquoi l’agent avait cette autorité et ce que l’organisation a appris de son comportement.


