Pour une PME, le RAG (Retrieval-Augmented Generation) est le plus souvent le bon point de départ : mise en place plus courte, coût plus prévisible, données mises à jour sans ré-entraînement. Le fine-tuning se justifie pour un ton très spécifique ou une tâche très répétitive sur de gros volumes.
Pourquoi ce choix est structurant pour votre projet IA
Quand une PME décide de déployer un grand modèle de langage (LLM), elle se retrouve vite face à une question technique qui détermine le reste : comment adapter ce modèle généraliste à mes données et à mes besoins métier ?
Deux approches dominent :
- Le RAG (Retrieval-Augmented Generation) : le modèle reste intact, vous lui donnez du contexte à la volée via une base vectorielle
- Le fine-tuning : vous ré-entraînez partiellement ou totalement le modèle sur vos données
Ce choix pèse directement sur votre budget, vos délais, la maintenabilité du système et sa capacité à évoluer. Un mauvais choix peut coûter plusieurs mois de développement.
Les repères de coût et de délai donnés plus bas sont qualitatifs : ils dépendent de vos données, de votre volume d'usage et du fournisseur choisi. Un chiffrage se fait sur votre cas, pas sur une moyenne.
RAG : comprendre l'approche en trois minutes
Comment fonctionne le RAG ?
L'architecture RAG fonctionne en deux temps :
-
Indexation. Vos documents (contrats, manuels, bases de connaissances, CRM, ERP) sont découpés en morceaux, convertis en vecteurs numériques et stockés dans une base vectorielle (Pinecone, Weaviate, pgvector, Chroma, par exemple).
-
Requête. Quand un utilisateur pose une question, le système retrouve les passages les plus pertinents dans votre base documentaire, les injecte dans la consigne donnée au LLM, et le modèle génère une réponse ancrée dans vos données.
Le LLM lui-même n'est jamais modifié. Il reste le même modèle généraliste, vous lui fournissez simplement le contexte nécessaire à chaque interaction.
Les avantages du RAG pour une PME
Mises à jour rapides. Vous ajoutez un nouveau contrat, une nouvelle procédure ou un nouveau produit ? Il suffit d'indexer le document. Le système en tient compte sans ré-entraînement.
Traçabilité. Le RAG peut citer ses sources. Pour les cas d'usage sensibles (juridique, conformité RGPD, documentation technique), pouvoir dire « cette réponse provient du document X, page 12 » est une exigence.
Coût plus prévisible. Les coûts sont liés à l'usage de l'API (jetons consommés) et à l'hébergement de la base vectorielle. Ils varient avec le volume : faites l'estimation sur votre usage réel, avec la grille tarifaire du fournisseur choisi.
Mise en place plus courte. Un prototype RAG fonctionnel se construit plus vite qu'un modèle ré-entraîné, car il n'y a ni jeu de données à annoter ni entraînement à conduire.
Les limites du RAG
- Dépendance à la qualité des données : si vos documents sont mal structurés, dupliqués ou incohérents, la qualité des réponses s'en ressent directement
- Latence un peu plus élevée : le temps de recherche vectorielle s'ajoute au temps de génération ; à mesurer sur votre cas
- Questions hors corpus : le modèle ne sait pas ce qu'il ne connaît pas ; il faut configurer des garde-fous pour éviter les réponses inventées sur des sujets non couverts
Fine-tuning : quand ré-entraîner le modèle
Comment fonctionne le fine-tuning ?
Le fine-tuning consiste à poursuivre l'entraînement d'un modèle existant sur un jeu de données propriétaire, pour qu'il intègre un style, des connaissances spécifiques ou des comportements particuliers.
Deux niveaux existent :
- Fine-tuning supervisé (SFT) : vous fournissez des paires (entrée, sortie souhaitée), le modèle apprend à reproduire vos schémas
- LoRA / QLoRA : technique de fine-tuning partiel (Low-Rank Adaptation) qui limite le nombre de paramètres modifiés, plus économique, adaptée aux modèles open source
Quand le fine-tuning est vraiment nécessaire
Cas 1 : un ton de communication très spécifique. Une marque premium au style rédactionnel particulier (formulations propriétaires, terminologie exclusive, tonalité impossible à reproduire par la seule consigne) peut justifier un fine-tuning.
Cas 2 : une tâche répétitive à très haut volume. Pour une tâche d'extraction ou de classification précise, exécutée un très grand nombre de fois, un modèle plus petit ré-entraîné peut revenir moins cher qu'un grand modèle généraliste.
Cas 3 : un modèle hébergé chez vous, sous contrainte de souveraineté. Si vous déployez un modèle open source sur votre infrastructure pour des raisons de conformité (données de santé, données financières sensibles), le fine-tuning peut être la seule option.
Ce que coûte un fine-tuning
C'est ici que beaucoup de PME sous-estiment l'investissement. Voici les postes à budgéter, sans montant moyen : ils dépendent de votre volume de données et du modèle.
| Poste | Ce qu'il faut prévoir |
|---|---|
| Préparation du jeu de données | Nettoyage et annotation, souvent le poste le plus lourd |
| Infrastructure de calcul | Processeurs graphiques (GPU) pour l'entraînement |
| Expertise MLOps | Déploiement, supervision, reprise des erreurs |
| Maintenance | Ré-entraînement quand les données ou le modèle de base évoluent |
Un système RAG demande lui aussi une mise en place et une maintenance, mais il n'a ni annotation ni entraînement à financer.
Comparatif RAG et fine-tuning : tableau de décision
| Critère | RAG | Fine-tuning |
|---|---|---|
| Délai de déploiement | Plus court | Plus long |
| Coût initial | Plus faible | Plus élevé |
| Mise à jour des données | Immédiate (on indexe le nouveau document) | Nécessite un ré-entraînement |
| Traçabilité des sources | Native | Difficile |
| Qualité sur données propriétaires | Bonne si les données sont bien préparées | Très bonne si le jeu de données est complet |
| Maintenabilité | Simple | Complexe (MLOps requis) |
| Adapté à une PME sans équipe data | Oui | Difficile |
| Fonctionnement hors corpus | Limité | Meilleur |
| Souveraineté des données | Selon l'hébergement | Totale si le modèle est hébergé chez vous |
Exemples par secteur
Ces exemples sont des situations types, pas des projets réalisés.
Industrie : maintenance et documentation technique
Recommandation : RAG
Un industriel qui dispose d'années de documentation technique (fiches machine, procédures, historiques d'incidents) bénéficie directement du RAG : les techniciens interrogent la base documentaire en langage naturel. La mise à jour à chaque nouvelle procédure est simple. Aucune équipe data n'est requise en interne pour la maintenance courante.
Services professionnels : assistance juridique ou RH
Recommandation : RAG avec garde-fous
Un cabinet d'avocats ou un service RH peut déployer un assistant qui répond à partir de ses conventions collectives, de ses contrats types et de sa jurisprudence interne. La traçabilité des sources est ici critique, et le RAG la fournit nativement.
E-commerce : service client et recommandation produit
Recommandation : RAG, ou approche hybride (RAG et fine-tuning léger)
Pour le service client, le RAG suffit. Pour la recommandation personnalisée à très haut volume, un modèle plus petit ré-entraîné sur les données de comportement peut être plus efficace économiquement.
L'approche hybride : RAG d'abord, fine-tuning ensuite si besoin
Chez Spar-x, notre recommandation pour une PME qui démarre est la suivante :
Phase 1 : déployer un système RAG sur vos données existantes. Mesurer la satisfaction des utilisateurs, la part de réponses correctes, les cas d'échec.
Phase 2 (facultative) : si et seulement si le RAG atteint ses limites sur des tâches précises identifiées en phase 1, évaluer le fine-tuning sur ces cas uniquement.
Cette approche évite de sur-investir avant d'avoir validé la valeur du système pour l'entreprise.
FAQ : RAG et fine-tuning pour une PME
Peut-on combiner RAG et fine-tuning ? Oui, l'approche hybride est possible : un modèle ré-entraîné pour le style et le comportement, couplé à un RAG pour les données factuelles. Elle est plus coûteuse et n'est justifiée que pour les cas d'usage les plus exigeants.
Faut-il une équipe data interne pour déployer un RAG ? Pas nécessairement. Avec un cabinet de conseil, la conception et la mise en production d'un RAG peuvent se faire sans équipe data interne. La maintenance courante (indexation de nouveaux documents) peut être confiée à un profil non technique, une fois la chaîne en place et documentée.
Quelle est la qualité du RAG sur des documents en français ? Elle dépend du modèle choisi et, surtout, de la qualité de vos documents sources. Ne vous fiez pas à un classement général : testez le modèle envisagé sur un échantillon de vos propres documents et de vos propres questions avant de vous engager.
Le fine-tuning est-il risqué pour une PME ? Il comporte des risques. Le principal est l'« oubli catastrophique » : en ré-entraînant le modèle sur vos données, il peut perdre une partie de ses capacités générales. Les techniques LoRA et QLoRA réduisent ce risque, mais demandent une expertise MLOps solide.
En résumé : les cinq points à retenir
- Le RAG est le bon point de départ dans la plupart des cas d'usage de PME : plus rapide à mettre en place, moins cher au départ, plus facile à maintenir
- Le fine-tuning se justifie dans trois cas principaux : ton de marque unique, tâche répétitive à très haut volume, contrainte de souveraineté des données
- Le coût du fine-tuning est souvent sous-estimé : annotation, calcul, MLOps et maintenance sont à budgéter dès le départ
- Le RAG offre une traçabilité native, indispensable dans les secteurs réglementés
- Stratégie recommandée : démarrer par le RAG, mesurer ses limites sur quelques mois, décider du fine-tuning sur la base de données réelles
Besoin d'aide pour choisir l'architecture adaptée à votre PME ? Contactez Spar-x pour un diagnostic agentique : nous identifions avec vous les cas d'usage utiles et l'architecture technique adaptée.