Lab
Un souvenir est une donnée, pas une instruction
Réponse courte
Une mémoire peut contenir une décision, une citation ou un texte qui demande à l'assistant de changer de comportement. Ces formes se ressemblent parfois. Pour une mémoire destinée à plusieurs IA, le problème consiste à restituer une information utile sans lui attribuer une autorité qu'elle ne possède pas.

Quand le texte lu cherche à diriger le lecteur
Une injection de prompt tente de faire traiter un contenu comme une instruction prioritaire. Le risque ne vient pas seulement d’une page web : un document conservé en mémoire peut aussi contenir un texte qui cherche à influencer une réponse ultérieure.
Mais une mémoire peut légitimement conserver des consignes. Une équipe peut documenter la manière de s’adresser à ses clients, enregistrer un prompt de produit ou citer un exemple de support. Bloquer tout texte destiné à une IA empêcherait de nombreux usages normaux.
Le problème de recherche n’est donc pas simplement « repérer une phrase impérative ». Il faut distinguer un texte qui rapporte une consigne, une consigne expressément voulue et une tentative de prise de contrôle. Cette distinction dépend de l’origine, de l’intention et du contexte d’utilisation.
Une phrase ne peut pas fournir ce contexte de façon fiable par sa seule formulation. L’assistant doit comprendre le rôle dans lequel le contenu lui est restitué.
L’hypothèse testée au Lab
Nous avons évalué plusieurs classifieurs sur des données synthétiques, avec des seuils fixés à l’avance. Le corpus de développement comprend 180 documents : textes malveillants, cas légitimes difficiles, citations et consignes voulues.
L’objectif associe deux exigences. Il faut détecter suffisamment de cas dangereux, tout en évitant de rendre inutilisable une mémoire normale. Un classifieur qui juge tous les textes suspects peut afficher un rappel parfait ; ce résultat n’en fait pas une protection acceptable.
Les candidats n’ont pas tous couvert exactement les mêmes documents, et certains travaillent sur des fenêtres de texte différentes. Les comparer exige de conserver ces différences plutôt que de présenter un classement de rapidité simplifié.
L’expérience sépare aussi le développement de la confirmation indépendante. Un résultat utilisé pour comprendre un échec ne suffit pas automatiquement à qualifier une protection.
Pourquoi aucun candidat n’a suffi : portée et limites
Sur les cas d’injection retenus pour le critère principal, Qwen3-4B atteint un rappel de 0,27 et Granite Guardian de 0,24. Le témoin BERT multilingue classe tous les documents comme suspects au seuil examiné. Les premiers manquent trop de cas ; le dernier ne distingue plus l’usage légitime du risque.
Le modèle de référence, Qwen3.8-Flash, détecte les injections de ce corpus de développement. Il classe cependant 12 des 42 textes légitimes difficiles comme suspects et confond aussi des consignes voulues avec des attaques.
Le résultat utile dépasse donc le choix du modèle. Une classe définie trop largement peut récompenser un comportement qui bloque précisément ce que les utilisateurs veulent conserver. Un modèle plus puissant ne corrige pas automatiquement la question qu’on lui pose.
Ces observations concernent un corpus de développement, sans confirmation sur un test indépendant pour qualifier une protection. Elles ne permettent pas de généraliser un taux de détection à tous les documents.
La provenance compte autant que la formulation
D’autres expériences du Lab ont montré qu’une réécriture peut effacer la forme d’un ordre malveillant et le présenter comme un fait établi. Chercher uniquement la formulation suspecte dans le texte final laisse alors de côté son histoire.
La provenance aide à distinguer ce qui a été déclaré par une personne, importé, cité ou reformulé par une IA. Elle ne prouve pas qu’une affirmation est vraie. Elle permet de comprendre d’où elle vient et quelle autorité lui donner.
La séparation entre données et instructions doit aussi être lisible pour l’assistant destinataire. Aucun détecteur isolé ne remplace les droits, le contrôle des sources, la conservation des versions ou la possibilité de demander une confirmation humaine.
Ces mécanismes répondent à des questions différentes. Savoir qu’un utilisateur peut lire un document ne signifie pas que chaque phrase qu’il contient est habilitée à diriger l’assistant.
La frontière que cela éclaire pour Nawame
Nawame est une mémoire portable et souveraine. Sa mission est de conserver le contexte, ses raisons et sa provenance, puis de les restituer aux assistants et logiciels autorisés. Elle n’implique pas de faire interpréter systématiquement le contenu privé des clients par ses propres modèles de langage.
Un modèle exécuté localement ne supprime pas cette question. Il faut encore savoir quel traitement est autorisé, qui contrôle les données, quelles représentations sont produites et comment une correction se répercute.
Nos essais enseignent à définir les garanties avant de chercher un classifieur. La souveraineté dépend de frontières de confiance et de contrôles vérifiables. Cette réflexion complète le travail sur les passages ciblés : rendre un texte visible n’autorise jamais à le suivre comme un ordre.
À lire aussi : Comment une mémoire IA peut devenir un canal de prompt injection et La différence entre souvenir, fait, décision, hypothèse et instruction.


