RAG Retrieval Augmented Generation : 2026

RAG = combiner LLM + retrieval pour répondre sur données privées. Architecture mature 2026 : vector DB + embedding + chunking. Use cases massifs B2B.

TL;DR

- RAG = LLM + retrieval base privée.

- Stack : embedding + vector DB + LLM.

- Pgvector, Pinecone, Qdrant, Weaviate.

- Coût : 0.01-0.10$/query selon volume.

Architecture RAG

`

• Ingestion :
• Documents (PDF, docs, web)
• Chunking (500-1500 tokens chunks)
• Embedding (OpenAI ada-002, Cohere, BGE)
• Storage vector DB

• Query :
• User question → embedding
• Similarity search top-K
• Inject context dans prompt LLM
• Generate response

• Optionnel :
• Re-ranking (Cohere, BAAI)
• Hybrid search (BM25 + vector)
• Query expansion
• Conversational memory

`

Vector databases 2026

Pgvector :

• Postgres extension
• Free, mature
• Best for : <10M vectors

Pinecone :

• SaaS managed
• Scalable infinit
• 70$/mo+ pour 1M vectors

Qdrant :

• Open source + cloud
• Rust performance
• Free self-hosted

Weaviate :

• Open source
• Schema flexible
• Modules ML built-in

Milvus :

• Distributed
• Best for : 100M+ vectors
• Complex setup

ChromaDB :

• Local-first
• Best for : prototyping

Chunking strategies

`

Fixed-size : 500-1500 tokens

• Simple, fonctionnel
• Risk : couper sens

Semantic chunking :

• Split sur paragraphes/sections
• Preserve context

Recursive :

• LangChain RecursiveCharacterTextSplitter
• Multi-level fallback

Document-aware :

• Markdown : headers
• Code : functions
• HTML : sections

Overlap : 10-20 % tokens entre chunks

`

Coûts production

Embedding :

• OpenAI ada-002 : $0.0001/1K tokens
• Cohere embed-v3 : $0.0001/1K
• BGE local (free) : compute cost
• 1M docs × 1K tokens : 100-200$ embed

Vector DB :

• Pgvector self-hosted : ~50$/mois
• Pinecone : 70-700$/mois
• Qdrant Cloud : 50-500$

LLM :

• GPT-4o : $5/1M input
• Claude : variable
• Llama 3 self-hosted : compute

Total RAG production :

• Starter : 200-500$/mois
• Production : 1-10K$/mois

FAQ

Q : RAG vs fine-tuning ?

R : RAG pour data fraîche / privée. Fine-tune pour style / format. Souvent les deux.

Q : Hallucinations RAG ?

R : Grounding via citations. Re-ranking pour pertinence. Réponse "I don't know" si confiance faible.

Conclusion

RAG Retrieval Augmented Generation 2026 : architecture standard apps IA données privées. Pgvector starter, Pinecone scale. 200-10K$/mois selon volume. ROI massif chatbots, search, knowledge.