L’intelligence artificielle générative est en train de changer notre manière d’interagir avec la technologie. Derrière les interfaces de chat se cachent des architectures complexes capables de comprendre et agir. Cet article propose une plongée dans les concepts clés qui permettent d’utiliser ou de construire des systèmes IA avancés.
Et pour le sport, cet article a été écrit avec l’aide d’une IA pour la reformulation et l’image.
Le Context Engineering : l’art de structurer l’information pour les modèles de langage
Le context engineering est une discipline émergente qui consiste à concevoir et structurer les informations envoyées à un modèle de langage (LLM) pour maximiser la pertinence et la qualité des réponses. Contrairement au simple prompting, qui se limite à formuler une requête, le context engineering vise à créer un environnement informationnel riche, cohérent et adapté à la tâche.
Pourquoi le contexte est-il si important ?
Les modèles de langage ne disposent pas d’une mémoire permanente (sauf si on la leur implémente). Ils ne connaissent que ce qu’on leur donne dans la fenêtre de contexte, qui est limitée en taille (par exemple 8 000 ou 32 000 tokens). Le contexte est donc la seule source d’information dont dispose le modèle pour répondre.
Un bon context engineering permet de :
- Réduire les hallucinations
- Améliorer la précision des réponses
- Adapter le comportement du modèle à un domaine métier
- Simuler une forme de mémoire ou de personnalité
Les composants du contexte
Un contexte bien conçu peut inclure plusieurs éléments :
- Instructions : directives explicites sur le rôle du modèle, le ton, le format de réponse attendu.
- Exemple : « Tu es un assistant juridique spécialisé en droit du travail français. Réponds de manière concise et structurée. »
- Historique de conversation : les échanges précédents, résumés ou compressés.
- Utile pour maintenir la cohérence dans un dialogue.
- Données métier : documents, bases de connaissances, FAQ, extraits de code, etc.
- Injectés dynamiquement via RAG ou préchargés dans le prompt.
- Exemples (few-shot learning) : démonstrations de la tâche attendue.
- Exemple : « Voici comment répondre à une question sur un contrat : [exemple]. »
- Variables dynamiques : informations sur l’utilisateur, le contexte d’usage, les paramètres de la tâche.
- Exemple : nom de l’utilisateur, projet en cours, date, etc.
Techniques de structuration
Pour que le modèle comprenne bien le contexte, il faut le structurer de manière claire et logique. Quelques bonnes pratiques :
- Utiliser des séparateurs explicites (
###,---,Section:) pour délimiter les blocs. - Adopter des formats structurés comme JSON, YAML ou Markdown.
- Limiter la redondance pour ne pas saturer la fenêtre de contexte.
- Prioriser l’information : mettre les éléments les plus importants en haut du prompt.
### Instructions
Tu es un assistant technique spécialisé en DevOps. Réponds de manière claire et précise.
### Contexte utilisateur
Nom : Gafish
Projet : Migration CI/CD vers GitLab
Objectif : Automatiser les déploiements avec Harbor
### Historique
Utilisateur : Comment configurer Harbor pour stocker mes artefacts ?
Assistant : [réponse précédente]
### Données métier
- Harbor version : 2.12.4
- GitLab CI template : [.gitlab-ci.yml]
### Question
Comment sécuriser l’accès aux artefacts dans Harbor ?
Context engineering + RAG
Le context engineering devient encore plus puissant lorsqu’il est combiné avec le RAG (voir un peu plus loin). On peut alors injecter dynamiquement des documents pertinents dans le contexte, en fonction de la requête de l’utilisateur. Cela permet de créer des assistants capables de répondre à des questions sur des corpus métier sans les avoir vus à l’entraînement.
Exemple :
- L’utilisateur pose une question sur un contrat.
- Le système interroge une base vectorielle pour retrouver les clauses pertinentes.
- Les extraits sont injectés dans le prompt, avant la question.
Outils pour le context engineering
- LangChain : permet de construire des chaînes de prompts, d’ajouter de la mémoire, de structurer le contexte.
- LlamaIndex : facilite l’indexation et la récupération de documents pour enrichir le contexte.
- PromptLayer, Guidance, DSPy : frameworks pour tester et optimiser les prompts.
RAG et gestion de la mémoire : court terme vs long terme
Les modèles de langage ont une mémoire limitée, définie par leur fenêtre de contexte (par exemple 8 000 ou 32 000 tokens). Pour dépasser cette limite, deux approches complémentaires sont utilisées : le RAG et la gestion de la mémoire.
Mémoire à court terme
Elle correspond à ce que le modèle peut « voir » dans sa fenêtre de contexte. Elle est volatile et limitée. Pour la gérer efficacement, on peut :
- Résumer les échanges précédents
- Compresser les informations
- Utiliser des techniques de sliding window ou de chunking
Mémoire à long terme
Elle permet de conserver des informations au-delà d’une session. Elle peut être :
- Épisodique : stocker des événements ou des interactions
- Sémantique : stocker des connaissances ou des concepts
- Persistante : via des bases vectorielles, des bases SQL, ou des fichiers
Cette mémoire est essentielle pour construire des assistants personnalisés ou des agents capables d’apprendre au fil du temps. Il est possible de jouer sur cette mémoire en demandant expressément de retenir ou d’oublier des informations. Et vous pouvez même demander à votre chat IA ce qu’il a dans sa mémoire pour vérifier.
RAG : Retrieval-Augmented Generation
Le RAG consiste à interroger une base de données externe (souvent vectorielle) pour enrichir le prompt avec des informations pertinentes. Cela permet au modèle de répondre à des questions sur des documents qu’il n’a jamais vus, en temps réel.
Exemples d’usages :
- Chatbot documentaire
- Recherche intelligente dans des bases internes
- Génération de rapports à partir de données métier
Construire ses propres outils avec LangChain et LlamaIndex
Pour les développeurs, plusieurs frameworks permettent de créer des applications IA avancées, en particulier LangChain et LlamaIndex.
LangChain
LangChain est un framework open source qui facilite l’orchestration de modèles de langage avec des outils, des chaînes de traitement, de la mémoire et des agents.
Fonctionnalités clés :
- Chains : séquences de prompts et d’actions
- Agents : entités autonomes capables d’utiliser des outils
- Memory : gestion de la mémoire à court et long terme
- Tools : intégration d’APIs, de bases de données, de navigateurs…
LangChain permet de créer des assistants métier, des agents de recherche, des interfaces conversationnelles enrichies.
LlamaIndex
LlamaIndex (anciennement GPT Index) est spécialisé dans la gestion de documents et l’indexation pour le RAG. Il permet de :
- Indexer des documents (PDF, Word, Notion, SQL…)
- Interroger ces documents en langage naturel
- Créer des interfaces de recherche intelligente
Il est souvent utilisé en complément de LangChain pour enrichir le contexte des modèles.
Cas d’usage concrets
- Assistant documentaire interne pour les RH ou la DSI
- Générateur de rapports automatisés à partir de données Jira ou GitLab
- Chatbot métier avec mémoire persistante et accès à des outils internes
Agent IA vs Chat IA : quelle différence ?
Un chatbot IA est généralement réactif : il répond à une question, sans initiative ni autonomie. Un agent IA, en revanche, est capable de planifier, d’agir et d’utiliser des outils pour accomplir une tâche.
Caractéristiques d’un agent IA
- Planification : il peut décomposer une tâche en étapes.
- Outils : il peut appeler des APIs, interroger des bases de données, naviguer sur le web.
- Mémoire : il peut se souvenir d’actions passées et adapter son comportement.
- Autonomie : il peut décider de la meilleure stratégie pour atteindre un objectif.
Exemples : AutoGPT, LangChain Agents, CrewAI, OpenAgents…
Les agents IA représentent une nouvelle génération d’interfaces intelligentes, capables de collaborer avec les humains ou entre eux pour accomplir des tâches complexes.


