Lab
Embeddings : ne recalculer que ce qui change
Réponse courte
Un document corrigé n'est pas nécessairement un nouveau document du début à la fin. Pourtant, un système de recherche peut traiter chaque modification comme s'il fallait tout recalculer. Notre travail sur les embeddings part d'une question simple : comment reconnaître ce qui peut être conservé sans altérer la recherche ?

Pourquoi une petite correction peut coûter cher
Un embedding est une représentation numérique utilisée pour rapprocher une question de textes dont le sens est voisin. Pour les mémoires longues, le calcul porte sur plusieurs fragments. Une nouvelle version peut modifier une conclusion tout en laissant de nombreux paragraphes identiques.
Recalculer tous les fragments est une stratégie simple. Elle évite de suivre finement les changements, mais répète du travail. Cette répétition mobilise du calcul, occupe les files de traitement et augmente les écritures nécessaires à l’entretien de l’index. Le problème devient visible lorsque les mêmes mémoires évoluent souvent.
La première piste consiste donc à conserver les représentations des fragments inchangés. Le texte versionné reste la référence : la représentation numérique est un moyen de recherche qui doit suivre son évolution.
Reconnaître l’identique avant de le réutiliser
La réutilisation ne signifie pas demander à un modèle si deux textes « disent à peu près la même chose ». Une nuance peut modifier une décision, une exception ou une date. Pour ce travail, le critère est l’identité du fragment selon les éléments qui servent effectivement à son calcul.
Une empreinte permet d’établir cette correspondance. Un fragment peut changer de position dans une mémoire et rester réutilisable. À l’inverse, un passage qui semble presque identique peut devoir être recalculé. Le mécanisme ne doit pas confondre proximité sémantique et identité.
Cette distinction répond aussi à une exigence de traçabilité. Réutiliser un calcul ne donne pas à un ancien résultat le droit de représenter une nouvelle version différente. La bonne correspondance entre texte, version et représentation reste nécessaire.
Cette distinction rend l’optimisation plus facile à évaluer. Elle réduit les calculs en double sans demander à un modèle supplémentaire d’interpréter l’importance d’un changement. La question est de savoir si le résultat initial du calcul reste valable pour la même entrée.
Ce que notre mesure montre
Dans la fenêtre observée après l’introduction du recalcul incrémental, 746 fragments ont été réutilisés et 166 recalculés. Le rapport est donc :
746 / (746 + 166) = 81,8 % de recalcul évité sur les fragments concernés.
Ce résultat indique une réduction du travail demandé au moteur d’embeddings dans cet échantillon. Il ne signifie pas que toutes les opérations de Nawame sont 81,8 % plus rapides, ni que la facture totale baisse dans cette proportion.
La fenêtre est courte : elle comprend 23 versions écrites, avec un mélange de mémoires différent de celui d’une autre période. Pour apprécier un gain durable, il faut suivre la proportion de fragments réutilisés sur davantage de modifications et connaître les charges qui subsistent.
Faut-il aussi changer le découpage ?
Nous avons examiné une autre hypothèse : stabiliser davantage les frontières des fragments en les ancrant sur les paragraphes. L’idée paraît logique. Si une insertion au début déplace toutes les frontières suivantes, un découpage plus stable pourrait préserver davantage de calculs.
Mais cette description du problème était trop forte. Le découpage existant peut retrouver une frontière commune plus loin dans le texte. Une modification en tête ne provoque donc pas automatiquement un recalcul intégral.
Dans la simulation, la variante ancrée améliore certains cas, tout en produisant davantage de fragments. Ce surplus augmente le travail initial et le stockage, et change ce que voit la recherche. Les résultats ne justifient pas un changement général du découpage. Mesurer le mécanisme réel a permis d’éviter une optimisation fondée sur une hypothèse exagérée.
Le premier passage reste un coût : portée et limites
Une mémoire ancienne dépourvue des empreintes nécessaires ne bénéficie pas immédiatement de la réutilisation. Son premier traitement établit les correspondances qui serviront ensuite. Anticiper ce travail déplace la charge ; cela ne crée pas, en soi, une économie supplémentaire.
L’intérêt du recalcul incrémental dépend donc du rythme des modifications, de la part stable des textes et du coût de maintien de l’index. C’est une optimisation du travail répété, pas une promesse de calcul gratuit.
Pour Nawame, l’enseignement est concret : préserver ce qui reste valide peut être plus utile que rendre chaque recalcul plus rapide. Cette économie complète la réflexion sur le coût des expériences et des systèmes et sur les index vectoriels. Le travail du Lab reste centré sur une mémoire durable dont les représentations techniques suivent la source.
À lire aussi : Pourquoi votre mémoire d’entreprise doit connaître la fraîcheur d’une information.


