Kontextfönster
Ett kontextfönster är den mängd text – frågor, instruktioner, tidigare svar och underlag – som en AI-modell kan hantera samtidigt i en och samma bearbetning. Allt utanför fönstret är osynligt för modellen i det ögonblicket, oavsett om det funnits med tidigare i en konversation.
För en AI-agent är storleken på kontextfönstret avgörande för hur komplexa uppgifter den kan hantera. En agent som ska resonera i flera steg, hålla koll på tidigare beslut och samtidigt bearbeta underlag från flera system behöver ett tillräckligt stort kontextfönster för att inte "tappa tråden". Ett för litet fönster gör att agenten riskerar att glömma viktig information mitt i en uppgift, vilket är en vanlig orsak till felaktiga eller ologiska beslut.