Context rot
Dégradation progressive de la qualité des réponses d'un LLM au fil d'une longue session, causée par la dilution des instructions initiales dans le contexte.
Définition
Le context rot (ou "pourrissement du contexte") désigne le phénomène par lequel un LLM commence à produire des réponses de moins bonne qualité, incohérentes avec les instructions initiales, ou répétitives au fur et à mesure qu'une conversation s'allonge. La cause principale est que le context window a une capacité finie : plus la conversation est longue, plus les premières instructions (qui définissent le ton, les contraintes, les conventions) perdent de leur poids relatif dans l'attention du modèle.
Point de vue postcursors
Le context rot est la raison principale pour laquelle "une grande session = meilleur résultat" est faux. Les sessions longues ne sont pas l'objectif — les sessions focalisées avec des checkpoints vérifiables sont beaucoup plus efficaces. Traiter le contexte comme une ressource active (le gérer, le couper au bon moment) est l'une des compétences les plus importantes d'un workflow agentique mature.
En pratique
Signal typique de context rot : l'agent commence à ignorer des contraintes qu'on lui avait données au début ("utilise les helpers existants"), à produire du code dans un style différent de ce qu'il faisait en début de session, ou à répéter des explications qu'il a déjà données. La solution est de couper la session et d'en démarrer une nouvelle avec un contexte rafraîchi.
Confusions fréquentes
- ✗ Confondre context rot avec un bug de l'outil — c'est un comportement inhérent aux LLMs, pas un défaut d'implémentation
- ✗ Croire qu'augmenter le context window résout le problème — ça le retarde, il ne disparaît pas