Mémoire & contexte

Pourquoi retrouvé ne veut pas dire vrai

Réponse courte

Un souvenir retrouvé est une piste, pas une preuve : il dit ce qui a été écrit, pas ce qui est vrai. Sa fiabilité dépend de sa source, de sa date, de son statut et de ce qui a changé depuis. Quatre questions posées avant de s’appuyer dessus évitent la plupart des erreurs.

Une lanterne ambre éclaire un seul galet parmi des galets gris presque identiques ; des fils de graphite relient la lanterne à chacun, un seul fil ambre est tendu.

Vous demandez à une IA où en est le budget d’un projet. Elle répond : « D’après vos notes, le client a validé 12 000 euros. » Vous vous apprêtez à écrire au fournisseur. Par acquit de conscience, vous cherchez d’où vient cette phrase : c’est une note écrite par un stagiaire après un coup de téléphone. Le client avait dit : « Ça devrait passer. »

L’IA n’a pas menti, et la mémoire n’a pas inventé. Le souvenir existait bel et bien. Il n’était simplement pas ce qu’il avait l’air d’être. Voici comment traiter un souvenir retrouvé, qu’il vienne d’une IA, d’un outil ou de vos propres archives.

Un souvenir retrouvé est une piste, pas une preuve

Retrouver, c’est répondre à la question « qu’est-ce qui a été écrit à ce sujet ? ». Ce n’est pas répondre à « qu’est-ce qui est vrai ? ». Entre les deux, il y a tout ce qui s’est passé entre l’événement et la note : un malentendu, un résumé rapide, un changement depuis.

Une bibliothèque offre une bonne image. Trouver le bon rayon ne dit pas si le livre est exact, récent ou écrit par quelqu’un de fiable. Il faut encore l’ouvrir, regarder l’auteur, la date de l’édition, et parfois un second livre.

Nous avons déjà traité le cas de la recherche par le sens, qui peut rapprocher deux situations qui se ressemblent sans être comparables : c’est l’article sur le faux précédent. Ici, on regarde ce qui se passe après, une fois le souvenir trouvé et bien au bon endroit. Même dans ce cas favorable, il reste à décider combien on lui fait confiance.

Ce qui change la confiance

Un même texte mérite plus ou moins de crédit selon ce qui l’entoure. Six choses comptent, et il vaut mieux les voir avant de juger.

  • La source. Le compte rendu officiel, un message échangé à chaud, une note personnelle, un résumé fait par un modèle : ces quatre-là ne pèsent pas pareil.
  • La date. Une information de janvier n’a pas le même poids en novembre.
  • Le statut. Est-ce une décision, une hypothèse, une idée lancée en passant ?
  • Le contexte. Dans quelle situation a-t-on écrit cela, et est-ce la même qu’aujourd’hui ?
  • L’auteur. Quelqu’un qui était dans la pièce, ou quelqu’un qui a entendu parler de la réunion ?
  • Le chemin parcouru. La note a-t-elle été importée d’un autre outil, corrigée, remplacée depuis ?

Selon les informations disponibles, Nawame peut conserver plusieurs de ces éléments avec un souvenir : quand il a été enregistré, d’où il vient, qui ou quoi l’a créé, s’il a été importé, modifié ou remplacé. Une information importée n’y est pas considérée comme vérifiée par défaut. Nous détaillons ce risque dans l’article sur l’import d’une mémoire sans importer une hallucination.

Le même principe vaut sans aucun outil : une note sans date ni auteur est une note dont on ne peut pas mesurer la valeur.

Dit, supposé, décidé, vérifié

Une échelle grossière aide à se repérer. Elle tient en quatre marches, de la plus fragile à la plus solide.

Niveau Exemple Ce qu’on peut en faire
Dit « Le client a dit que ça devrait passer » Une piste à confirmer
Supposé « On pense que le budget sera validé en mars » Une hypothèse de travail, à étiqueter
Décidé « Budget fixé à 12 000 euros, décision du 14 mars » Un point d’appui, tant que les conditions tiennent
Vérifié « Le bon de commande signé est joint » Un fait, avec sa pièce justificative

Ces niveaux ne sont pas sacrés, et la frontière entre deux d’entre eux est souvent floue. Mais rien qu’en les nommant, on évite l’erreur classique : traiter une phrase dite comme une décision, ou une hypothèse comme un fait. L’article sur la différence entre souvenir, fait, décision, hypothèse et instruction creuse chacune de ces catégories.

Quatre questions avant de s’appuyer sur un souvenir

Quand un souvenir retrouvé va servir à faire quelque chose (envoyer un mail, engager une dépense, changer un plan), prenez trente secondes pour ces quatre questions.

  1. D’où vient-il ? Qui l’a écrit, dans quel cadre, et est-ce que cette personne savait de quoi elle parlait ?
  2. De quand date-t-il, et qu’est-ce qui a changé depuis ? Une décision a pu être remplacée (voir ce qui arrive quand une décision change), une contrainte a pu disparaître.
  3. Quel est son statut ? Dit, supposé, décidé ou vérifié ? Si l’information ne le précise pas, c’est déjà une réponse : on ne sait pas.
  4. Que se passe-t-il si c’est faux ? Plus l’enjeu est grand, plus la vérification doit être poussée. Pour choisir le restaurant de midi, une note vague suffit. Pour un virement, on ouvre le bon de commande.

La quatrième question est souvent oubliée et pourtant c’est elle qui règle le niveau d’effort. On ne vérifie pas tout, on vérifie ce qui coûte cher si c’est faux.

Comment une IA devrait présenter ce qu’elle retrouve

Une restitution honnête ne se contente pas de donner le contenu. Elle dit aussi avec quelle assurance on peut s’y fier. Comparons deux réponses à la question du budget :

  • « Le client a validé 12 000 euros. »
  • « Une note du 14 mars mentionne 12 000 euros, écrite après un appel téléphonique. Le client aurait dit que ça devrait passer. Je n’ai pas trouvé de confirmation écrite de sa part. »

La seconde est moins satisfaisante sur le moment, et bien plus utile. Elle donne la date, l’origine, le niveau de certitude, et indique ce qui manque.

Nawame formule ses restitutions avec trois expressions : « précédent retrouvé », « rapprochement possible » et « aucun précédent probant ». L’idée est de graduer la certitude plutôt que de tout présenter avec le même aplomb. Nous ne détaillons pas comment la différence est faite, mais le principe est simple : une IA qui dit « je ne sais pas » ou « c’est un rapprochement, pas une certitude » rend plus service qu’une IA qui répond toujours avec assurance.

Le biais d’autorité : un texte bien écrit paraît vrai

Il y a un piège plus discret, et il ne vient pas de la mémoire. Il vient de nous. Une phrase propre, bien tournée, avec des chiffres et une date, inspire confiance. Une note griffonnée, avec des fautes, en inspire peu. Pourtant la note griffonnée est parfois plus fiable, parce qu’elle a été prise sur le vif par quelqu’un qui y était.

Trois situations amplifient ce biais :

  • un résumé fluide, produit par un modèle, qui lisse les hésitations de la réunion dont il est tiré ;
  • une information répétée dans plusieurs notes, alors qu’elles recopient toutes la même source ;
  • un format officiel (tableau, titre, numéro de version) qui donne un air de décision à ce qui n’est qu’une idée.

La parade est modeste : regarder le fond avant la forme, et se demander si deux notes qui s’accordent sont deux sources ou une seule. C’est aussi une des raisons pour lesquelles une mémoire gagne à ne pas tout écrire : voir pourquoi une bonne mémoire sait ne rien écrire. Une note bâclée, conservée avec aplomb, fait parfois plus de mal que pas de note du tout.

Les limites de ces repères

Ces repères aident, ils ne garantissent rien. Le statut d’un souvenir reste un jugement humain : deux personnes peuvent classer la même phrase différemment, et l’IA qui propose un statut peut se tromper. Il arrive aussi qu’on ne sache tout simplement pas si une information est encore valable. Dans ce cas, le plus honnête est de le dire.

La vérification a par ailleurs un coût. Si l’on recontrôle chaque souvenir, on perd le bénéfice de la mémoire. Tout l’art est d’attacher l’effort à l’enjeu, pas à la quantité.

Enfin, aucune mémoire ne peut transformer une source faible en source forte. Elle peut seulement rendre la faiblesse visible. Nous étudions ces questions dans le Lab, sans prétendre les avoir résolues.

Un réflexe à installer dès demain

La prochaine fois qu’une IA vous répond « d’après vos notes », posez-lui simplement : « De quand date cette note, qui l’a écrite, et est-ce une décision ou une hypothèse ? » Si elle sait répondre, vous avez gagné un repère. Si elle ne sait pas, vous avez appris quelque chose sur la qualité de ce qui est stocké.

Vous pouvez aussi adopter un réflexe côté écriture : quand vous notez quelque chose, ajoutez un mot (« dit », « supposé », « décidé » ou « vérifié ») et la date. Dix secondes de plus par note, et votre futur vous, ou l’IA qui relira, saura sur quoi s’appuyer.

Votre prochain prompt ne devrait pas devoir contenir toute votre histoire.

Commencez à construire une mémoire que vos IA pourront retrouver lorsque cela comptera.

Commencer gratuitement