Vad är en LLM?

En LLM, eller stor språkmodell (Large Language Model), är en AI-modell som har tränats på mycket stora mängder text för att kunna förstå och skriva språk. Den formulerar sina svar genom att beräkna vilket ord som sannolikt ska komma härnäst, utifrån sammanhanget den har fått. ChatGPT, Copilot och liknande AI-tjänster bygger på LLM:er.

Hur fungerar en LLM?

En LLM lär sig mönster i språk genom att träna på text från böcker, webbsidor, kod och andra källor. Under träningen justeras modellens miljarder parametrar tills den blir bra på att förutsäga hur en text fortsätter. Det låter enkelt, men resultatet är en modell som kan sammanfatta, översätta, resonera och skriva kod.

När du ställer en fråga delas texten upp i tokens, ungefär orddelar, och modellen bygger svaret token för token. Hur mycket text den kan hålla i minnet under ett samtal styrs av kontextfönstret. När modellen saknar kunskap om något gissar den ändå, eftersom den alltid försöker formulera ett sannolikt svar. Därför kan en LLM ibland hallucinera, alltså skriva något som låter rimligt men inte stämmer.

LLM vs AI-agent: modellen och lösningen

En LLM är i sig ingen AI-agent. Den är snarare den "hjärna" som en agent byggs kring.

Skillnaden blir tydlig om man skiljer på modellen och lösningen. Modellen förstår språk och kan föreslå vad som borde göras. Lösningen är allt som byggs runt den: kopplingar till era system, regler för vad den får och inte får göra, minne över tid och kontrollpunkter där en människa godkänner. Först där kan en LLM göra verkligt arbete i en verksamhet, som att läsa en faktura, hitta rätt order i affärssystemet och föreslå en kontering.

Valet av LLM påverkar kvalitet och kostnad. Men agentens beteende, och hur säker den är att använda, avgörs av allt som byggs runt modellen.

Så används LLM:er i verksamheten

För uppgifter som handlar om att läsa, söka, sammanfatta och föreslå går det ofta att få värde ur en LLM direkt, till exempel genom en AI-assistent som svarar på frågor utifrån interna dokument.

När LLM:en ska agera i era system ändras kraven. Då behöver den tillgång till rätt data, och den datan behöver hålla god kvalitet. Det är därför AI och systemintegration hänger så tätt ihop: en LLM blir aldrig bättre än informationen den får arbeta med.