Vad är human-in-the-loop?

Human-in-the-loop innebär att en människa är inkopplad i en AI-agents process, exempelvis genom att granska eller godkänna ett beslut innan det verkställs. I stället för att agenten agerar helt autonomt pausar den vid definierade steg och väntar på ett godkännande. Hur mycket human-in-the-loop som behövs beror på vad agenten faktiskt gör och vilka konsekvenser ett felaktigt beslut skulle få.

En agent som sammanställer ett internt underlag kan ofta agera helt självständigt, medan en agent som skickar fakturor eller kommunicerar direkt med kund oftare bör ha ett granskningssteg, i alla fall inledningsvis. Med tiden, när agenten visat sig tillförlitlig inom ett avgränsat område, kan graden av mänsklig inblandning ofta minskas.

Tre nivåer av mänsklig inblandning

• Human-in-the-loop: en människa godkänner varje beslut innan det verkställs.
• Human-on-the-loop: agenten agerar själv, men en människa övervakar och kan gripa in.
• Human-out-of-the-loop: agenten agerar helt självständigt inom givna ramar.

Var ska människan in?

Frågan att ställa är inte om AI:n kan fatta beslutet, utan vad det kostar om den fattar fel. Beslut som är svåra att ångra, som en utbetalning eller ett mejl till en kund, är bra kandidater för ett godkännandesteg. Beslut som är lätta att rätta i efterhand behöver det sällan.

Godkännandet behöver också vara enkelt att göra. Om granskningen tar lika lång tid som att göra jobbet själv försvinner vinsten med agenten.