Human-in-the-loop

Vad betyder human-in-the-loop?

Human-in-the-loop innebär att en människa är inkopplad i en AI-agents process, exempelvis genom att granska eller godkänna ett beslut innan det verkställs. Istället för att agenten agerar helt autonomt, pausar den vid definierade steg och väntar på ett godkännande. Hur mycket human-in-the-loop som behövs beror på vad agenten faktiskt gör och vilka konsekvenser ett felaktigt beslut skulle få.

En agent som sammanställer ett internt underlag kan ofta agera helt självständigt, medan en agent som skickar fakturor eller kommunicerar direkt med kund oftare bör ha ett granskningssteg, i alla fall inledningsvis. Med tiden, när agenten visat sig tillförlitlig inom ett avgränsat område, kan graden av mänsklig inblandning ofta minskas.