Fine-tuning ou RAG : entraîner un modèle d'IA sur les données de votre entreprise ou le laisser chercher dans vos documents

Si vous voulez qu'un modèle d'IA réponde à des questions à partir des documents de votre entreprise, vous n'avez généralement pas besoin de l'entraîner dessus. La génération augmentée par récupération (retrieval-augmented generation), ou RAG, cherche dans vos documents chaque fois qu'une question arrive et transmet les passages correspondants au modèle en même temps que la question. Le fine-tuning consiste à poursuivre l'entraînement d'un modèle existant sur des exemples que vous préparez. Selon des articles de recherche et des guides de fournisseurs, il enseigne mieux un format ou un ton que des faits nouveaux. Un test avec de vraies questions issues de votre activité montre lequel des deux il vous faut, ou s'il vous faut les deux.

Quelle est la différence entre le fine-tuning et le RAG ?

Un grand modèle de langage (LLM), le type d'IA sur lequel repose ChatGPT, tire ce qu'il sait des textes sur lesquels il a été entraîné. Les documents qui n'ont jamais quitté votre entreprise ne faisaient pas partie de ces textes : le modèle doit donc les obtenir autrement.

Avec le RAG, vos documents restent hors du modèle, dans un index de recherche, un catalogue de passages construit à partir de vos fichiers. Quand quelqu'un pose une question, le système trouve les passages correspondants et les ajoute au prompt, le texte que reçoit le modèle. Comme le système sait quels passages il a utilisés, il peut afficher le document source à côté de chaque réponse.

Le fine-tuning poursuit l'entraînement du modèle sur des exemples qui associent chacun une question ou une tâche à la réponse attendue. Le résultat est une nouvelle version du modèle. Ce qu'il a appris est réparti dans les nombres internes du modèle, et aucun fichier ne montre d'où vient un fait donné.

Le guide d'OpenAI « Optimizing LLM Accuracy », consulté le 23 octobre 2026, explique la différence avec l'image d'un examen. Le RAG revient à avoir « le manuel avec soi » pour y chercher des réponses. Le fine-tuning revient à suivre des cours pendant des mois et à apprendre à partir de « nombreux exemples répétés ».

Le guide ajoute que les deux méthodes « sont complémentaires, et non exclusives ». Il indique aussi que « bon nombre de nos plus grands déploiements clients chez OpenAI ont été réalisés uniquement avec l'ingénierie de prompt et le RAG ». L'ingénierie de prompt (prompt engineering) consiste à rédiger de meilleures instructions et de meilleurs exemples pour le modèle.

Peut-on affiner un modèle sur nos documents pour qu'il connaisse notre activité ?

Selon les recherches publiées, entraîner un modèle sur vos documents ne lui apprend pas de manière fiable les faits propres à votre activité. Dans une étude mise en ligne pour la première fois en décembre 2023, Oded Ovadia et trois coauteurs ont comparé le RAG au fine-tuning d'un modèle sur le texte brut de documents. Leur résumé indique que « le RAG le surpasse systématiquement » et que les modèles « ont du mal à apprendre de nouvelles informations factuelles » de cette façon. Il ajoute que montrer au modèle « de nombreuses variantes du même fait » pendant l'entraînement pourrait aider.

Un article de 2024 signé par Zorik Gekhman et six coauteurs a testé le fine-tuning sur des questions associées à leurs réponses. Les exemples qui contiennent des faits nouveaux « sont appris nettement plus lentement » que ceux qui correspondent à ce que le modèle sait déjà. Une fois qu'il les avait appris, le modèle devenait plus enclin à donner des réponses factuellement fausses. Les auteurs écrivent que leurs résultats confortent l'idée selon laquelle les modèles « acquièrent l'essentiel de leurs connaissances factuelles lors du pré-entraînement », c'est-à-dire l'entraînement initial réalisé par le créateur du modèle, et que le fine-tuning « leur apprend à les utiliser plus efficacement ».

Pour une entreprise, les faits qui changent, comme les prix ou la formulation des politiques internes, ont leur place dans les documents où cherche le système. Un modèle affiné conserve ce qu'il a appris le jour de son entraînement, et pour changer cela, il faut un nouvel entraînement.

Quand le fine-tuning vaut-il la peine ?

Le guide d'OpenAI conseille de travailler sur le comportement du modèle, plutôt que sur les informations qu'il reçoit, lorsqu'il « produit des résultats incohérents avec un formatage incorrect » ou lorsque son ton ou son style d'expression « n'est pas le bon ». De meilleures instructions et de meilleurs exemples dans le prompt viennent d'abord ; le fine-tuning est l'étape suivante. Le guide cite aussi l'efficacité comme raison de recourir au fine-tuning, c'est-à-dire la même précision avec un modèle plus petit ou avec moins de tokens. Un token est un morceau de mot, et les fournisseurs de modèles facturent au token.

Par exemple, un modèle qui lit des factures doit restituer leurs données exactement dans la structure qu'accepte votre système comptable. Les réponses préparées pour les clients peuvent devoir ressembler à celles de votre équipe support. Un modèle affiné plus petit peut aussi coûter moins cher à faire tourner qu'un grand modèle généraliste, s'il atteint la précision dont vous avez besoin.

Les exemples d'entraînement doivent ressembler exactement au travail réel. Le guide conseille de commencer avec « 50+ exemples », puis de tester, et de n'en ajouter que si les erreurs restantes portent sur le comportement du modèle. Quelqu'un qui fait ce travail tous les jours doit rédiger ou vérifier ces exemples : prévoyez donc ses heures dans le budget, en plus du temps d'ingénierie.

Notre ensemble de documents est petit. Avons-nous vraiment besoin du RAG ?

Avec un petit ensemble de documents, vous n'aurez peut-être pas besoin du RAG du tout. Anthropic, l'entreprise derrière les modèles Claude, écrivait dans un billet daté du 19 septembre 2024 : « Si votre base de connaissances fait moins de 200 000 tokens (environ 500 pages de contenu), vous pouvez simplement inclure toute la base de connaissances dans le prompt que vous donnez au modèle, sans avoir besoin du RAG ni de méthodes similaires. »

Chaque modèle a une limite au nombre de tokens qu'il peut lire en une fois. La mise en cache des prompts (prompt caching) permet à une application de réutiliser du texte envoyé dans des requêtes précédentes, comme le même ensemble de documents. Le billet, consulté le même jour que le guide, indique que la mise en cache des prompts réduit les coûts « jusqu'à 90 % » avec Claude. Le guide d'OpenAI prévient que les modèles « peuvent avoir du mal à maintenir leur attention sur de très longs prompts » : testez donc à la taille que vous prévoyez d'utiliser.

Envoyer tous les documents avec chaque question coûte malgré tout plus cher que d'envoyer quelques passages, et le coût augmente avec chaque page ajoutée. Un pilote peut commencer avec un petit ensemble, comme les manuels d'une gamme de produits, et passer au RAG lorsque les documents ne tiennent plus dans le prompt.

Qu'est-ce qui peut mal tourner avec le RAG ?

Un système RAG peut échouer avant même que le modèle n'écrive un mot, quand la recherche renvoie les mauvais passages ou en renvoie trop. Le guide d'OpenAI décrit les deux cas. Le système peut fournir « le mauvais contexte, si bien que le modèle ne peut en aucun cas répondre ». Trop de texte non pertinent est l'autre risque, car il « noie l'information réelle et provoque des hallucinations », c'est-à-dire des réponses qui semblent justes mais sont fausses.

Beaucoup de systèmes RAG cherchent par le sens plutôt que par les mots exacts, et ils peuvent ainsi manquer des codes précis. Le billet d'Anthropic donne l'exemple d'une question au support sur le code d'erreur TS-999. Une telle recherche pourrait trouver des pages sur les codes d'erreur en général et manquer celle consacrée à TS-999. Le billet suggère de la combiner avec une recherche par mots-clés, qui cherche le texte exact.

Testez donc la recherche à part. Pour chaque question de test, vérifiez si le bon passage est revenu avant de juger la réponse. Si ce n'est pas le cas, le guide d'OpenAI désigne la recherche comme ce qu'il faut corriger.

Lequel garde nos données sous contrôle, le RAG ou le fine-tuning ?

Les deux peuvent tourner sur vos propres serveurs. Avec le RAG, vos documents se trouvent dans un index que vous contrôlez, et le modèle ne voit que les passages retenus pour chaque question. Le fine-tuning intègre les exemples d'entraînement dans les fichiers du modèle, et ce que le modèle en a appris peut réapparaître dans ses réponses.

Le RAG facilite le respect des droits d'accès, car la recherche peut écarter les documents que la personne qui pose la question n'a pas le droit de voir. Microsoft décrit une façon de le faire dans son service Azure AI Search. Sa page sur le modèle de filtre de sécurité (security filter pattern), consultée le même jour, décrit un filtre qui « restreint les résultats de recherche en fonction d'une chaîne contenant une identité de groupe ou d'utilisateur ». La page propose ce filtre pour les systèmes qui ne peuvent pas utiliser les listes de contrôle d'accès intégrées au service.

La même page précise qu'il n'y a « aucune authentification ni autorisation » dans ce filtre lui-même : votre application doit donc transmettre le bon utilisateur ou le bon groupe à chaque recherche. Un modèle affiné n'a pas d'équivalent. Ce qu'il a appris des exemples d'un département peut apparaître dans les réponses à n'importe quel utilisateur de ce modèle.

Le Comité européen de la protection des données (CEPD, EDPB en anglais), composé de représentants des autorités nationales de protection des données et du Contrôleur européen de la protection des données, a adopté l'avis 28/2024 le 17 décembre 2024. Il y indique que « les modèles d'IA entraînés sur des données à caractère personnel ne peuvent pas, dans tous les cas, être considérés comme anonymes », car des données à caractère personnel « peuvent encore rester “absorbées” dans les paramètres du modèle ». Les paramètres sont les nombres internes dans lesquels un modèle stocke ce qu'il a appris. Savoir si un modèle donné est anonyme doit, ajoute l'avis, être apprécié au cas par cas.

Si vous affinez un modèle sur des tickets de support ou des dossiers clients, partez du principe que le modèle lui-même peut contenir des données à caractère personnel. Déterminez comment vous traiteriez une demande de suppression des données d'une personne. Avec le RAG, une fois qu'un document est supprimé et que l'index est mis à jour, il n'est plus retrouvé pour les nouvelles questions. Les copies conservées dans les logs, les caches ou les historiques de chat enregistrés doivent être nettoyées séparément. Les règles varient selon les pays, et cet article ne constitue pas un conseil juridique : vérifiez donc votre cas auprès d'un avocat.

Combien de temps un modèle affiné continuera-t-il de fonctionner ?

Un modèle affiné repose sur un modèle de base, le modèle généraliste dont vous êtes parti. Si vous affinez un modèle via un service cloud, c'est le fournisseur qui décide combien de temps ce modèle de base, et votre version de celui-ci, restent disponibles. La page de tarifs de l'API d'OpenAI, consultée le même jour, indique : « OpenAI met progressivement fin à la plateforme de fine-tuning. » Elle ajoute que les modèles affinés restent disponibles jusqu'à ce que leurs modèles de base soient dépréciés (deprecated, le terme qu'emploie OpenAI pour les modèles qu'elle retire).

La page d'OpenAI sur l'abandon des modèles donne les dates. À partir du 7 mai 2026, les organisations qui n'avaient jamais lancé de fine-tuning ne pouvaient plus commencer. À partir du 2 juillet 2026, il en allait de même pour celles qui n'avaient pas utilisé de modèle affiné au cours des 60 jours précédents. Le 6 janvier 2027, « les clients existants actifs ne pourront plus créer de nouvelles tâches de fine-tuning ».

La même page fixe aussi des dates de fin pour les modèles eux-mêmes. Elle indique le 23 octobre 2026 comme date d'arrêt des versions affinées de gpt-4.1-nano et de cinq autres modèles. GPT-4o, GPT-4o mini, GPT-4.1 et GPT-4.1 mini suivent le 14 janvier 2027, et « les versions affinées de ces modèles suivent le même calendrier d'arrêt que leurs modèles de base sous-jacents ».

Les modèles à poids ouverts, dont les créateurs publient les fichiers pour que chacun puisse les faire tourner sous licence, peuvent toujours être affinés sur votre propre matériel. C'est le cas de gpt-oss-120b d'OpenAI, dont la page sur le site de modèles Hugging Face, consultée le même jour, indique la licence Apache 2.0. La page précise que le modèle « peut être affiné sur un seul nœud H100 », c'est-à-dire un serveur équipé de GPU Nvidia H100, un type de puce que la page cite pour faire tourner le modèle.

Que le modèle tourne dans le cloud d'un fournisseur ou sur votre propre matériel, un nouveau modèle de base implique une nouvelle série de fine-tuning et de tests. Un système RAG doit lui aussi être retesté quand le modèle qui rédige les réponses change, mais l'index et vos documents restent tels quels.

Combien coûtent le RAG et le fine-tuning, à construire et à exploiter ?

Cet article ne donne pas de chiffres, car ils dépendent de vos volumes et de votre configuration. Les postes de la facture diffèrent toutefois.

Pour le RAG, le travail de construction consiste à préparer les documents pour qu'ils se prêtent bien à la recherche, à construire l'index et à tester la recherche. Les coûts d'exploitation comprennent le service de recherche et des prompts plus longs, puisque chaque question transporte les passages trouvés pour elle. La réindexation peut se lancer automatiquement quand un fichier est ajouté ou modifié.

Avec le fine-tuning, une grande partie du coût peut être du temps de personnel, car ce sont des personnes qui connaissent la tâche qui rédigent et vérifient les exemples d'entraînement. Viennent ensuite les entraînements et les serveurs ou le service qui hébergent le nouveau modèle. Un nouveau modèle de base ou une nouvelle tâche oblige à payer ce travail une nouvelle fois.

Certains systèmes ont besoin des deux. Si les premiers tests montrent des problèmes de faits autant que de format, le guide d'OpenAI indique qu'« il est probable que vous finissiez avec fine-tuning + RAG ». Vous payez alors pour chacun.

Faut-il choisir le RAG ou le fine-tuning, et que demander à une société qui propose de le construire ?

Commencez par un jeu de test composé de vraies questions ou de vrais documents issus de votre activité, chacun avec une réponse vérifiée par une personne. Le guide d'OpenAI indique qu'un ensemble de « 20+ questions et réponses », une fois que vous avez examiné pourquoi les échecs se produisent, vous donne « la bonne base de référence » pour des méthodes plus avancées. L'article sur un pilote d'IA resté bloqué explique comment en constituer un.

Essayez ensuite un prompt bien rédigé avec le RAG et regroupez les échecs par cause. Un passage manquant signifie que la recherche doit être retravaillée. Parfois, le bon passage est revenu et le modèle l'a malgré tout mal lu ou a répondu dans le mauvais format. Dans ce cas, le guide suggère d'abord de meilleures instructions, puis le fine-tuning si quelques exemples résolus dans le prompt améliorent les réponses.

Posez les mêmes questions à chaque société qui propose une architecture :

• Quels résultats sur notre jeu de test vous ont conduits à proposer du fine-tuning ?
• Comment le système empêchera-t-il les collaborateurs de voir des documents qu'ils n'ont pas le droit d'ouvrir ?
• Si vous faites du fine-tuning, qui rédige les exemples d'entraînement, et que se passe-t-il quand le modèle de base est retiré ?
• Après le lancement, comment supprimer un document ou les données d'une personne ?

Où se situe amBrain ?

Le seul projet de modèle de langage qu'amBrain décrit publiquement est le suivant : « Nous avons mené une intégration de LLM jusqu'en production dans le périmètre FinTech d'un client : extraction et normalisation d'avis non structurés de courtiers et de places de marché — opérations sur titres, changements d'instruments et de marges — en enregistrements structurés consommés par le système de trading. »

Cet article n'est pas une étude de cas et ne décrit aucun travail pour un client. La phrase citée ne dit pas si ce système utilise le RAG, le fine-tuning ou ni l'un ni l'autre, quel modèle il utilise ni où tourne ce modèle. Les exemples de cet article sont généraux et ne sont tirés ni de ce projet ni d'aucun autre travail d'amBrain.

Les entreprises, organismes publics, modèles et articles de recherche cités ici le sont d'après leurs pages publiées, et l'article n'affirme aucune relation entre amBrain et l'un d'eux. Il ne donne ni prix, ni délais, ni conditions d'amBrain.

amBrain développe des logiciels depuis 2019. Elle travaille en trois formats : la prestation complète, une équipe dédiée ou des ingénieurs intégrés à votre équipe. Sur la propriété, sa formule est : « Le client conserve la pleine propriété du produit et du code, à l'exception de nos composants réutilisables. » Si amBrain figure sur votre liste restreinte, posez-lui les mêmes questions qu'à n'importe quelle autre société.