Vad är RAG (Retrieval Augmented Generation)?

RAG, Retrieval Augmented Generation, är en teknik där en AI-modell först hämtar relevant information från en egen källa, som dokument, en databas eller ett affärssystem, och sedan formulerar sitt svar utifrån den. Det gör att modellen kan svara utifrån aktuell och verksamhetsspecifik information, i stället för bara det den lärde sig under träningen.

Hur fungerar RAG?

RAG sker i tre steg:

1. Förberedelse: dokumenten delas upp i mindre delar och görs om till embeddings, sifferrepresentationer av innehållet, som lagras i en vektordatabas.
2. Hämtning: när någon ställer en fråga söks de delar fram som ligger närmast frågan i betydelse, inte bara i ordval.
3. Generering: delarna skickas med i prompten till språkmodellen, som formulerar ett svar utifrån dem, ofta med en hänvisning till källan.

RAG eller finjustering?

Det finns två vanliga sätt att få en AI-modell att använda verksamhetens kunskap. Finjustering tränar om modellen med egen data, så att kunskapen hamnar i själva modellen. RAG låter modellen vara och ger den rätt underlag vid varje fråga.

För de flesta verksamhetsbehov är RAG ett bättre första val. Information ändras ofta, och med RAG räcker det att uppdatera källan. Det blir också lättare att se varifrån ett svar kommer och att styra vem som får se vad. Finjustering passar bättre när målet är att ändra hur modellen formulerar sig, snarare än vad den vet.

Kunskap och verktyg: RAG och MCP

RAG ger AI:n tillgång till kunskap. MCP ger den tillgång till verktyg, så att den kan utföra saker i era system. En AI-agent behöver ofta båda: RAG för att förstå vad avtalet säger, MCP för att skapa ordern i affärssystemet.

Men RAG gör inte dåligt underlag bra. Det minskar risken för hallucinationer, men svaret blir aldrig bättre än källorna. Inaktuella dokument, dubbletter och motsägelser ger svar som låter säkra men inte stämmer. Därför handlar ett lyckat RAG-projekt minst lika mycket om att få ordning på underlaget som om själva tekniken.