AI-styrning: vad behöver vara på plats inför ert första AI-projekt?
Att vilja ha ordning på säkerhet, ansvar och regler innan man startar med AI är ett klokt utgångsläge. Det minskar risken att känslig data hamnar fel och att beslut behöver göras om i efterhand.
Men styrningen behöver vara ett startblock, inte ett stopp. Den här guiden går igenom vad som behöver finnas på plats före det första AI-projektet, vad som kan växa fram längs vägen och hur man undviker att ramverket blir ett hinder i stället för en grund.
Innehåll
Varför behöver styrningen komma före AI-projekten?
Styrningen behöver komma först eftersom beslut om data, verktyg och ansvar är svåra att ändra när AI redan används i verksamheten. Utan gemensamma regler fattar varje medarbetare sina egna beslut, och de syns varken för IT eller ledning.
Det brukar kallas skugg-AI: AI-verktyg som används utan att organisationen känner till det. Tänk dig en säljare som klistrar in en offert med kunduppgifter i en gratisversion av en AI-tjänst för att få hjälp med formuleringen. Avsikten är god, men företaget har inte längre koll på var informationen tar vägen.
Samtidigt finns en fälla åt andra hållet. Ett ramverk som ska täcka alla tänkbara fall blir sällan klart, och under tiden står AI-arbetet still medan medarbetarna fortsätter på egen hand. Det är dessutom svårt att skriva bra regler för något man inte har provat.
Därför lönar det sig att skilja på två saker:
- Det som måste finnas före start: vem som äger frågan, vilken data som får användas och vilka verktyg som är godkända.
- Det som kan förfinas längs vägen: detaljerade rutiner, utbildning och regler för specifika användningsfall.
Vem ska äga AI-frågan i företaget?
AI-frågan behöver en tydlig ägare i ledningen, med stöd av IT, dataskydd och verksamheten. Det räcker sällan att lägga den på IT-avdelningen ensam.
Anledningen är att AI rör flera områden samtidigt. Tekniken är en IT-fråga, men vilken data som får användas är också en juridisk fråga, och vad AI ska användas till är en verksamhetsfråga. Sitter bara ett av perspektiven vid bordet blir besluten antingen för försiktiga eller för okritiska.
Ett fungerande upplägg brukar innehålla fyra roller:
- Ledning: äger frågan, sätter ambitionsnivån och fattar beslut när perspektiven krockar.
- IT: ansvarar för verktyg, behörigheter, integrationer och säkerhet.
- Dataskydd och juridik: bedömer personuppgifter, avtal och regelverk.
- Verksamheten: vet var AI kan göra nytta och om resultaten håller i praktiken.
I ett mellanstort bolag kan flera roller sitta hos samma person. Det som spelar roll är att någon har mandat att fatta beslut, så att frågor inte blir liggande mellan avdelningar.
Vilken data får användas i AI-verktyg?
Vilken data som får användas avgörs av en dataklassning, där informationen delas in efter hur känslig den är. Det är grunden för nästan alla andra beslut om AI, eftersom både verktyg och behörigheter sedan kan kopplas till nivåerna.
Klassningen behöver inte vara avancerad för att fungera. Fyra nivåer räcker långt:
|
Nivå |
Exempel |
Användning i AI-verktyg |
|
Öppen |
Publicerade produktblad, webbtexter |
Fritt i godkända verktyg |
|
Intern |
Interna rutiner, mötesanteckningar |
I godkända verktyg med företagslicens |
|
Känslig |
Avtal, offerter, ekonomisk information |
Bara i verktyg och flöden som godkänts särskilt |
|
Personuppgifter |
Kund- och personalregister |
Bara med stöd i GDPR och efter en bedömning |
Har ni redan en informationsklassning från arbetet med GDPR eller informationssäkerhet? Då handlar det om att komplettera den med vad som gäller för AI, inte om att börja om.
Hur väljer man AI-verktyg som är säkra att använda?
Ett AI-verktyg går att använda säkert när ni vet var datan lagras, om den används för att träna leverantörens modeller och vad avtalet säger om ansvar och åtkomst. Svaren skiljer sig ofta mellan konsumentversioner och företagslicenser av samma tjänst.
Gratisversioner och privata konton är byggda för enskilda användare. Företagslicenser innehåller oftare avtal om databehandling, administrativ kontroll över användarna och möjlighet att påverka var data lagras. Vad som faktiskt ingår varierar mellan leverantörer, så villkoren behöver läsas för varje verktyg.
Frågor att ställa innan ett verktyg godkänns:
- Används vår data för att träna modellen, och kan det stängas av?
- Var lagras och behandlas datan, och finns alternativ inom EU?
- Finns ett personuppgiftsbiträdesavtal?
- Hur länge sparas datan, och kan den raderas?
- Kan vi styra vilka som har tillgång och följa hur verktyget används?
Det kan kännas tryggast att förbjuda AI-verktyg tills allt är utrett. Men ett förbud riskerar att driva användningen till privata konton, där organisationen har ännu mindre insyn. Ett godkänt verktyg som räcker till för det medarbetarna faktiskt behöver gör mer för säkerheten än ett nej.
Vad ska en AI-policy innehålla?
En AI-policy ska svara på fyra frågor: vilka verktyg som får användas, vilken data som får användas i dem, vem som ansvarar och hur resultaten ska granskas. Resten är komplement.
En kort policy som medarbetarna faktiskt läser gör mer nytta än ett omfattande dokument som ingen hittar. Sikta på något som ryms på ett par sidor och hänvisa till mer detaljerade rutiner där det behövs.
Det här brukar en första AI-policy innehålla:
- Syfte: varför företaget använder AI och vad policyn ska skydda.
- Godkända verktyg: vilka tjänster som får användas och hur man begär att få ett nytt verktyg prövat.
- Data: vilka informationsnivåer som får användas i vilka verktyg.
- Ansvar: vem som äger policyn och vem medarbetarna vänder sig till med frågor.
- Granskning: att AI-genererat innehåll kontrolleras av en människa innan det används.
- Beslut som kräver en människa: att beslut som påverkar kunder, ekonomi eller anställda fattas eller godkänns av en person.
- Uppföljning: hur ofta policyn ses över.
Den sista punkten är lätt att hoppa över. Men verktygen och användningen förändras snabbt, och en policy som inte hänger med slutar till slut att följas.
Vad kräver EU:s AI-förordning, GDPR och NIS2 av företag som använder AI?
För de flesta bolag som använder AI, snarare än utvecklar egna AI-system, handlar kraven om att veta vilka AI-verktyg som används, vad de används till och hur personuppgifter hanteras. Tre regelverk är särskilt relevanta.
EU:s AI-förordning (AI Act) delar in AI-system efter risknivå. Vissa användningar är förbjudna, och företag som använder AI ska redan i dag se till att de som arbetar med verktygen har tillräcklig kunskap om AI. De mer omfattande kraven på högrisksystem, till exempel AI som används vid rekrytering eller kreditbedömning, har skjutits upp genom EU:s förenklingspaket Digital Omnibus. De gäller nu från den 2 december 2027 för fristående system och från den 2 augusti 2028 för AI i reglerade produkter.
GDPR gäller som vanligt när AI behandlar personuppgifter. Det behöver finnas en rättslig grund för behandlingen, ett biträdesavtal med leverantören och stöd för eventuella överföringar till länder utanför EU.
NIS2 ställer krav på cybersäkerhet och riskhantering hos verksamheter i vissa samhällsviktiga sektorer. Omfattas ert företag behöver AI-verktyg och AI-leverantörer ingå i riskhanteringen på samma sätt som andra system och leverantörer.
Regelverken säger alltså inte att man ska vänta med AI. De säger att man ska ha koll, och det är precis vad en genomtänkt AI-styrning ger.
Hur gör man AI-agenter säkra när de kopplas till affärssystemen?
En AI-agent är aldrig säkrare än de behörigheter och integrationer den får. När AI går från att föreslå till att utföra, till exempel skapa order, uppdatera kundregister eller skicka mejl, flyttas säkerhetsfrågan från själva verktyget till kopplingarna mot era system.
Det betyder att samma principer som gäller för integrationer också gäller för agenter:
- Minsta möjliga behörighet: agenten får bara läsa och ändra det den behöver för sin uppgift.
- Spårbarhet: allt agenten gör loggas, så att det går att se vad som hände och varför.
- Godkännande där det behövs: åtgärder som är svåra att ångra, som betalningar eller ändrade avtal, kräver att en människa godkänner.
- Tydligt ägarskap: någon i verksamheten ansvarar för vad agenten gör, inte bara för att den fungerar tekniskt.
En risk som är specifik för AI är prompt injection. Det innebär att någon gömmer instruktioner i innehåll som agenten läser, till exempel ett mejl eller ett dokument. Tänk dig en agent som hanterar inkommande leverantörsfakturor och får ett mejl med en dold instruktion om att ändra betalningsmottagare. Har agenten behörighet att göra ändringen och saknas kontroller, kan den följa instruktionen.
Skyddet ligger därför inte bara i AI-modellen, utan i hur den är kopplad. Med begränsade behörigheter och krav på godkännande kan en lurad agent inte göra särskilt stor skada.
Hur väljer man ett första AI-projekt som testar ramverket?
Ett bra första AI-projekt är avgränsat, har ett tydligt värde, bygger på data som är hanterbar ur säkerhetssynpunkt och har en ansvarig i verksamheten. Syftet är lika mycket att pröva ramverket som att skapa nytta.
Ett exempel är en intern kunskapsassistent som söker i godkända, icke-känsliga dokument som rutiner och manualer. Medarbetarna får snabbare svar, men projektet sätter också policyn på prov: vilka dokument ska ingå, vem får använda assistenten och hur märker man när svaren är fel?
När projektet är igång är det dags att se över ramverket. Vilka regler fungerade, vilka var otydliga och vad saknades helt? Det är först när reglerna möter verkligheten som det syns vilka som verkligen behövs.
Vanliga frågor
Är det säkert att använda ChatGPT i företaget?
Det beror på vilken version som används och vilken data som delas. En företagslicens med avtal om databehandling ger andra förutsättningar än ett privat gratiskonto. Kombinera ett godkänt verktyg med tydliga regler för vilken data som får användas.
Vad är skugg-AI?
Skugg-AI är AI-verktyg som medarbetare använder i arbetet utan att organisationen känner till eller har godkänt dem. Risken är att känslig information delas i tjänster där företaget saknar kontroll över hur den lagras och används.
Behöver vi en AI-policy om vi inte använder AI än?
Ja. Även om företaget inte har startat några AI-projekt använder medarbetare troligen redan AI-verktyg på egen hand. En grundläggande policy gör det tydligt vad som gäller innan vanorna hinner sätta sig.
Vad är skillnaden mellan AI-policy och AI-styrning?
En AI-policy är dokumentet som beskriver reglerna för medarbetarna. AI-styrning är helheten: ägarskap, beslutsvägar, dataklassning, godkända verktyg och uppföljning. Policyn är en del av styrningen, men fungerar inte utan resten.
Vill ni sätta en säker grund för AI?
Exsitec hjälper nordiska bolag att bygga en grund för AI som håller, utan att arbetet står still i väntan på ett perfekt ramverk. Vi stöttar både i styrningen och i de tekniska frågorna, som behörigheter och integrationer mot era affärssystem.
Boka ett möte, så går vi tillsammans igenom var ni står i dag och vilka steg som är rimliga att ta först.
AI-styrning: vad behöver vara på plats inför ert första AI-projekt?
Vad behöver vara på plats innan första AI-projektet? Guide till AI-styrning: ägarskap, dataklassning, godkända verktyg,...
Vad krävs för att använda AI i fastighetsbranschen?
AI i fastigheter börjar inte med verktyget utan med datan. Tre saker ert fastighetsbolag kan göra redan i dag för att...
AI inom inköpsoptimering
Hur mycket kommer vi sälja? Hur stort säkerhetslager behöver vi? När ska vi beställa igen? Hur mycket ska vi köpa in?...
Budget och prognos med AI – vad kan förändras?
Varje höst lägger ekonomiavdelningar veckor på en budget som ofta är inaktuell några månader senare. Läs mer om hur AI...