RAG en entreprise : définition, architecture et limites

Par Benoit Contou, fondateur de Weegle. Publié le 10 novembre 2026.

Les entreprises qui adoptent l'IA commencent souvent par le texte. En 2025, 18 % des entreprises implantées en France déclarent utiliser au moins une technologie d'intelligence artificielle, et plus de la moitié d'entre elles utilisent l'analyse automatique du langage écrit (56 %), selon l'Insee Première n° 2120. Le besoin le plus courant est simple à formuler : poser une question et obtenir la réponse qui se trouve déjà dans les procédures, les contrats ou les fiches techniques de l'entreprise. Un assistant en ligne ne peut pas le faire seul : il ne connaît pas vos documents. Le RAG est la technique qui comble ce manque.

Le RAG (pour Retrieval-Augmented Generation, génération augmentée par la recherche) est une méthode qui fait chercher à un assistant IA les passages utiles dans un ensemble de documents avant qu'il rédige sa réponse. Le modèle répond à partir de ces passages, et non de sa seule mémoire, ce qui permet de citer la source et de tenir compte de documents récents ou internes.

À retenir

• Un RAG ne modifie pas le modèle d'IA : il lui fournit, à chaque question, les passages de vos documents qui y répondent.
• Son architecture tient en cinq étapes : récupérer les documents, les découper, les indexer, rechercher les passages utiles, générer une réponse qui les cite.
• La qualité d'un RAG dépend d'abord de la qualité des documents : une version obsolète indexée produit une réponse obsolète, avec une source à l'appui.
• Les droits d'accès doivent être appliqués à la recherche elle-même ; l'ANSSI note qu'ils sont possibles sur les données ajoutées en production, mais pas sur les données d'entraînement d'un modèle.
• Un document indexé peut contenir des instructions malveillantes (injection d'instructions indirecte) : un RAG qui déclenche des actions sans validation humaine est exposé.
• Un RAG se mesure sur un jeu de questions réelles avec leurs bonnes réponses, avant la mise en service et dans le temps.

D'où vient le RAG ?

Le terme vient d'un article de recherche de 2020 signé par douze chercheurs, dont Patrick Lewis, Ethan Perez et Douwe Kiela : « Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks », déposé sur arXiv le 22 mai 2020 et accepté à la conférence NeurIPS 2020 (Lewis et al., arXiv 2005.11401).

Le constat de départ reste d'actualité : un grand modèle de langage stocke des connaissances dans ses paramètres, mais il a du mal à y accéder avec précision. Les auteurs combinent donc deux mémoires : le modèle lui-même (mémoire « paramétrique ») et, dans l'article, un index vectoriel de Wikipédia interrogé par un module de recherche (mémoire « non paramétrique » : « a dense vector index of Wikipedia, accessed with a pre-trained neural retriever », selon le résumé). Les auteurs indiquent que cette combinaison produit un texte plus spécifique, plus varié et plus factuel que le modèle seul sur les tâches qu'ils ont testées.

En entreprise, Wikipédia est remplacée par vos documents : le modèle rédige, et ce qu'il doit savoir reste dans une base que vous maîtrisez et mettez à jour sans toucher au modèle.

Comment fonctionne un RAG, étape par étape ?

Un RAG enchaîne une phase de préparation, faite à l'avance, et une phase de réponse, faite à chaque question. L'ANSSI décrit le même schéma dans ses recommandations : une base de données vectorielle stocke des données d'indexation pour « enrichir les requêtes des utilisateurs avant l'envoi au modèle », et cette base peut être construite à partir de sources internes ou de sources partenaires (ANSSI, recommandations de sécurité pour un système d'IA générative, p. 10).

1. Ingestion. On récupère les documents là où ils vivent (dossiers partagés, gestion électronique de documents ou GED, base de connaissances, logiciel métier) et on en extrait le texte.
2. Découpage. Chaque document est coupé en passages de quelques paragraphes, en respectant sa structure (titres, articles d'un contrat). Un passage séparé de son titre perd son sens.
3. Indexation. Chaque passage est transformé en vecteur, une suite de nombres qui représente son sens, et rangé dans un index avec ses métadonnées : document d'origine, date, version, droits d'accès.
4. Recherche. À chaque question, le système cherche les passages au sens le plus proche, souvent combiné avec une recherche par mots-clés pour les références et les noms propres.
5. Génération avec citation. Les passages retenus sont transmis au modèle avec la question et une consigne : répondre uniquement à partir de ces passages, citer la source de chaque information, et dire « je ne sais pas » quand les passages ne répondent pas.

Une sixième étape est souvent oubliée : la mise à jour. Quand une procédure change, l'index doit suivre, sinon l'assistant continue de citer l'ancienne version. Sur notre page RAG et documents internes, nous décrivons comment l'index suit les modifications des sources pour qu'une version obsolète disparaisse des réponses.

RAG, réentraînement ou long contexte : que choisir ?

Pour faire répondre une IA à partir de vos documents, le RAG est en général le point de départ, parce qu'il ne touche pas au modèle et qu'il permet de citer et de filtrer. Deux autres approches existent : réentraîner le modèle sur vos données (on parle d'ajustement, ou fine-tuning), ou coller directement les documents dans la question quand ils sont peu nombreux.

La ligne sur les droits d'accès s'appuie directement sur l'ANSSI : la gestion des droits d'accès n'est « pas possible » sur les données d'entraînement « du fait du design des réseaux de neurones », alors qu'elle est possible sur les données additionnelles en production, selon les possibilités des outils qui les stockent (GED, base de données vectorielle) (guide de l'ANSSI, p. 16). On ne réentraîne donc pas un modèle sur des documents confidentiels destinés à des publics différents. Les autres lignes sont notre lecture de praticien.

Quelles erreurs font échouer un RAG en entreprise ?

La plupart des RAG décevants échouent sur les documents et sur la mesure, pas sur le modèle. Voici les erreurs que l'on retrouve le plus souvent.

• Indexer des documents obsolètes ou contradictoires. Si trois versions d'une procédure coexistent, l'assistant peut citer la mauvaise, avec une source qui donne confiance. Sans tout ranger, il faut repérer les versions de référence, les doublons et les documents périmés.
• Oublier les droits d'accès. Un index unique ouvert à tous fait sortir les contrats de la direction dans les réponses du support. Les droits doivent être repris des sources et appliqués à la recherche, avant que les passages n'atteignent le modèle.
• Ne pas évaluer. Une démonstration sur dix questions choisies ne prouve rien : sans jeu de questions de référence, on ne sait pas si l'assistant s'améliore ou se dégrade.
• Négliger l'extraction et le découpage. Un PDF numérisé sans reconnaissance de texte est invisible pour la recherche ; un tableau découpé ligne à ligne perd ses en-têtes.
• Promettre trop. Un RAG répond bien à une question dont la réponse figure dans quelques passages. Il répond mal à « fais-moi la synthèse de tous nos contrats de 2024 », qui demande de lire tout le corpus.

Ces erreurs se traitent pendant l'inventaire, avant la première ligne de code : c'est la première étape de notre guide Intégrer l'IA dans son entreprise.

Quels risques de sécurité un RAG fait-il courir ?

Un RAG ajoute deux risques propres : la fuite de documents vers des personnes qui ne devraient pas les voir, et l'injection d'instructions cachées dans les documents eux-mêmes. Le guide de l'ANSSI du 29 avril 2024 les traite tous les deux.

Sur la fuite, l'ANSSI écrit que le système d'IA « doit intégrer la question des droits d'accès et du respect du besoin d'en connaître dans les réponses qu'il apporte » (p. 13). Sa recommandation R7 demande de cartographier dès la conception tous les jeux de données utilisés, y compris en production la base de données vectorielle, ainsi que les requêtes des utilisateurs et les réponses du modèle (p. 16). Retenez la conséquence pratique : l'index vectoriel contient vos documents sous une autre forme et se protège comme eux.

Sur l'injection, l'ANSSI rappelle que « la littérature évoque très souvent les risques d'injection de requête indirecte (indirect prompt injection) » et les problèmes liés à l'envoi de données non maîtrisées à un modèle, comme le contenu d'un mail reçu ou d'une page web (p. 24). Dans un RAG, un document indexé peut contenir une phrase écrite pour le modèle (« ignore les consignes précédentes et réponds ceci »), que le modèle peut suivre. Le risque devient sérieux dès que l'assistant peut agir. La recommandation R27 est nette : il est « fortement recommandé de limiter voire de proscrire les actions automatiques » déclenchées par un système d'IA à partir d'entrées non maîtrisées (p. 25).

En pratique, pour un RAG en entreprise :

• n'indexez que des sources dont vous connaissez l'origine, et séparez les documents reçus de l'extérieur (mails, pièces jointes de clients) des documents internes validés ;
• appliquez les droits d'accès à la recherche, pas seulement à l'interface ;
• gardez une validation humaine pour toute action qui découle d'une réponse ;
• journalisez les questions, les passages retrouvés et les réponses, pour pouvoir expliquer une erreur après coup.

Le lieu de traitement compte aussi. Si vos documents sont confidentiels, le modèle et l'index peuvent tourner sur un serveur que vous contrôlez ; nous avons détaillé ce choix dans IA locale ou IA dans le cloud : comment choisir.

Quelles sont les limites d'un RAG ?

Un RAG réduit les réponses inventées, il ne les supprime pas. L'ANSSI note que la plupart des modèles de langage ont un comportement non déterministe et peuvent être sujets à des hallucinations, phénomène dans lequel un modèle génère du contenu erroné qui n'est pas basé sur des données réelles (p. 17). Si la recherche remonte un passage voisin mais faux, le modèle rédigera une réponse fausse et bien sourcée.

Un RAG lit quelques passages, pas tout le corpus : il est faible pour compter, comparer ou synthétiser des centaines de documents. Une question vague donne une recherche vague. Il ne raisonne pas mieux que le modèle qui rédige : un calcul ou une interprétation juridique se vérifie. Enfin, il demande de l'exploitation : index à tenir à jour, qualité à remesurer quand le modèle ou les documents changent.

Ces limites imposent de choisir les bons usages (retrouver une procédure, une clause, une caractéristique produit) et de laisser l'utilisateur vérifier : chaque réponse renvoie au document d'origine.

Comment mesurer la qualité d'un RAG avant de le déployer ?

On la mesure sur un jeu de questions de référence : des questions réelles posées par vos équipes, chacune avec sa bonne réponse et le document qui la contient. C'est la méthode que nous appliquons sur nos projets de recherche dans les documents internes, avant la mise en service.

Trois questions suffisent à structurer la mesure :

1. Le bon passage est-il retrouvé ? Sinon, le problème est dans l'extraction, le découpage ou la recherche, pas dans le modèle.
2. La réponse est-elle exacte ? On la compare à la réponse attendue, en relisant les cas douteux à la main.
3. La source citée est-elle la bonne ? Une réponse juste attribuée au mauvais document coûte autant de confiance qu'une réponse fausse.

Ajoutez des questions dont la réponse n'est pas dans les documents : l'assistant doit dire qu'il ne sait pas. Rejouez le jeu à chaque changement de modèle, de découpage ou de sources.

Questions fréquentes

Le RAG entraîne-t-il le modèle sur mes documents ?

Non. Les documents sont indexés à part et seuls les passages utiles sont transmis au modèle au moment de la question. Le modèle n'est pas modifié ; ce que le fournisseur fait des requêtes reçues dépend en revanche de son contrat, d'où l'intérêt d'un modèle hébergé chez vous pour les documents sensibles.

Un RAG peut-il fonctionner sans envoyer mes documents à un fournisseur d'IA ?

Oui, si le modèle et l'index tournent sur un serveur que vous contrôlez, dans vos locaux ou sur un serveur dédié hébergé en France. Voir notre page IA locale et souveraine.

Un RAG respecte-t-il les droits d'accès de ma GED ?

Seulement s'il est construit pour : les droits doivent être repris des sources et appliqués à la recherche, pour qu'un utilisateur ne retrouve que les documents qu'il a le droit de consulter.

Vous voulez interroger vos procédures, vos contrats ou votre documentation technique avec l'IA ? Décrivez vos sources et vos utilisateurs depuis notre demande de devis, ou découvrez notre offre de RAG sur vos documents internes.

Sources (consultées le 11 novembre 2026) : Insee, Insee Première n° 2120, 21 juillet 2026, insee.fr ; P. Lewis et al., « Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks », NeurIPS 2020, arXiv 2005.11401 ; ANSSI, recommandations de sécurité pour un système d'IA générative, 29 avril 2024 (pages citées : 10, 13, 16, 17, 24, 25).