Vad är autonomi hos en AI-agent?

Autonomi, eller agent-autonomi, beskriver i vilken utsträckning en AI-agent får fatta beslut och agera på egen hand, utan att en människa behöver godkänna varje steg. Autonomi är ingen absolut egenskap utan en skala – från en agent som endast föreslår en åtgärd, till en agent som fritt utför åtgärder inom ett avgränsat område. Hur hög autonomi som är lämplig beror på uppgiften.

Ju högre risk och ju svårare det är att ångra ett felaktigt beslut, desto mer finns det att vinna på lägre autonomi och ett tydligt human-in-the-loop-steg. För uppgifter med låg risk, eller där felaktiga beslut lätt kan upptäckas och rättas, kan högre autonomi i stället ge snabbare och mer kostnadseffektiva flöden.

En skala i fyra steg

• Föreslå: agenten tar fram ett förslag, och en människa genomför det.
• Förbereda: agenten gör jobbet klart, och en människa godkänner innan det verkställs.
• Utföra med uppsikt: agenten agerar själv, och en människa följer upp och kan gripa in.
• Utföra självständigt: agenten agerar helt på egen hand inom givna ramar.

Förmågan och graden

Agentisk AI beskriver förmågan att agera. Autonomi beskriver hur mycket av den förmågan man låter agenten använda.

Graden av autonomi är inget man väljer en gång för alla. Den sätts per uppgift, inte för agenten som helhet, och kan höjas stegvis när loggar och uppföljning visar att agenten fattar rätt beslut.