Lab

Réécrire une décision peut en changer le statut

Réponse courte

Une réécriture peut conserver tous les chiffres et modifier le sens d’une décision. Le risque apparaît quand une valeur refusée, envisagée ou abandonnée devient une règle applicable. Le Lab Nawame a étudié ce problème pour comprendre ce qu’une vérification de fidélité doit réellement protéger.

Deux textes conservent une valeur, mais l’étiquette proposition ou décision change; source reliée.

L’idée est née d’une erreur de statut

Résumer rend une mémoire plus courte et parfois plus facile à retrouver. Mais une décision ne se réduit pas à un sujet et une valeur. « Proposition à discuter » et « décision adoptée » peuvent porter le même montant. Leur différence détermine ce que l’on peut en faire.

Dans un exemple fictif, une équipe envisage une nouvelle remise, puis la refuse. Un résumé qui conserve le taux mais perd le refus crée une instruction commerciale qui n’a jamais été adoptée. Le problème ne vient pas d’un chiffre inventé ; il vient de la relation entre la valeur et son statut.

Tester les réécritures, pas seulement les erreurs fabriquées

Une campagne du Lab a utilisé des notes synthétiques portant des décisions, des idées, des exceptions et des remplacements. Elle distinguait des altérations construites pour le test et des réécritures réellement produites par deux modèles. Cette séparation a été décisive.

Sur 151 réécritures de notes comportant une valeur restrictive, l’audit a retenu 15 cas rendant une valeur applicable à tort, soit environ 10 %. Ce résultat brut doit être accompagné de sa sensibilité : neuf cas venaient d’une même tournure française ambiguë. Sans cette tournure, la proportion était d’environ 4 %. Le test montre un mécanisme d’erreur ; il ne mesure pas sa fréquence dans les documents de toutes les entreprises.

Pourquoi un détecteur convaincant ne suffisait pas

Les gardes étudiées combinaient des règles et des vérifications par modèle. Certaines fonctionnaient sur les formulations déjà connues mais échouaient sur d’autres. Une vérification appliquée à toutes les paires retrouvait 85 % des altérations synthétiques. Elle ne retrouvait que sept des quinze altérations issues des réécritures réelles, avec environ 12 % de fausses alertes sur ce jeu.

Ce contraste empêche de conclure à partir d’un seul taux de détection. Un détecteur peut reconnaître des erreurs construites selon la logique du banc tout en ratant celles que produit effectivement un rédacteur. Réduire les appels par des règles préalables peut aussi exclure les cas où le vérificateur aurait été nécessaire.

L’ambiguïté ne doit pas disparaître en silence : portée et limites

Une phrase ambiguë appelle une clarification ou une restitution prudente. La normaliser en affirmation nette supprime précisément le signal qui devait retenir le lecteur. Le même danger existe avec une exception éloignée de la valeur ou une décision qui n’a jamais pris effet.

La relecture manuelle portait sur 79 paires signalées par au moins un dispositif du banc ; les paires non relues étaient comptées comme négatives. Ce choix peut laisser des altérations non détectées. L’audit avait ses propres limites : corpus français court, deux rédacteurs, une seule répétition et relecture non aveugle. Une piste exploratoire utilisait un modèle plus fort, mais elle ne constituait pas une confirmation indépendante. Elle ouvre une question ; elle ne fournit pas une protection démontrée.

La conséquence : conserver la relation à l’original

Cette expérience renforce l’intérêt de préserver le texte source, son statut et son historique. Une reformulation doit rester identifiable comme transformation. Lorsqu’une décision est incertaine, l’original permet de contester l’interprétation au lieu d’hériter d’une certitude fabriquée.

Pour Nawame, cela oriente la recherche vers la fidélité des relations entre source, version et représentation. Cela ne justifie pas une lecture systématique des contenus privés par un modèle interne. Les raisons et exceptions d’une décision et la provenance sont des éléments de mémoire à part entière.

À lire aussi : Comment conserver une inférence sans la transformer en fait et Comment une IA peut retrouver vos propres arbitrages sans décider à votre place.

Votre prochain prompt ne devrait pas devoir contenir toute votre histoire.

Commencez à construire une mémoire que vos IA pourront retrouver lorsque cela comptera.

Commencer gratuitement