Menneskelig kontroll (human oversight): roller, godkjenning og overstyringer

KI-forordningen krever at høyrisiko-systemer er underlagt menneskelig tilsyn – det forordningen kaller «human oversight». For mange virksomheter er dette det mest praktisk krevende kravet: det holder ikke å utpeke en person på papiret. Tilsynet må være reelt, og det må dokumenteres. Denne artikkelen gir deg en konkret fremgangsmåte for å definere roller, godkjenningsrutiner og overstyringsregler.

Merk: Denne artikkelen er veiledende og beskriver en tilnærming som kan tilpasses virksomhetens størrelse og systemets risikonivå.

Hva krever forordningen?

Artikkel 14 i KI-forordningen stiller krav om at høyrisiko-systemer er designet og brukt slik at fysiske personer kan føre effektivt tilsyn. Kravene innebærer at tilsynspersonen skal:

Forstå systemets funksjon og begrensninger.
Kunne overvåke systemets drift.
Kunne tolke output korrekt.
Kunne beslutte å ikke følge systemets anbefaling.
Kunne gripe inn eller stoppe systemet.

Kravet gjelder ikke bare at muligheten finnes teknisk – det kreves at personen har kompetanse, myndighet og kapasitet til faktisk å utøve tilsynet.

Tre nivåer av menneskelig kontroll

Menneskelig kontroll kan organiseres på ulike nivåer, avhengig av systemets risiko og brukskontekst:

Human-in-the-loop

Et menneske tar den endelige beslutningen. KI-systemet gir en anbefaling, men beslutningen fattes av en person.

Eksempel: Rekrutteringssystemet rangerer kandidater, men rekruttereren velger hvem som innkalles til intervju.

Passer for: Systemer der individuelle beslutninger har stor konsekvens for berørte personer.

Human-on-the-loop

Et menneske overvåker systemets drift og kan gripe inn ved behov, men systemet opererer selvstendig innenfor definerte rammer.

Eksempel: En KI-basert chatbot svarer på HR-spørsmål automatisk, men en HR-medarbeider gjennomgår ukentlig logg og kan justere eller stoppe systemet.

Passer for: Systemer med høyt volum der individuell godkjenning ikke er praktisk, men der kontroll likevel er nødvendig.

Human-in-command

Et menneske har overordnet kontroll over systemet og kan styre eller stoppe det, men er ikke involvert i enkeltbeslutninger.

Eksempel: En leder har myndighet til å deaktivere et KI-basert analyseverktøy hvis det gir uventede resultater, men godkjenner ikke hvert enkelt resultat.

Passer for: Systemer med lav risiko per enkeltbeslutning, men der samlet effekt kan være betydelig.

Velg riktig nivå

System	Anbefalt nivå	Begrunnelse
Rekrutteringsscreening	Human-in-the-loop	Direkte konsekvens for jobbsøkere
Prestasjonsvurdering med KI	Human-in-the-loop	Påvirker arbeidsvilkår
Intern HR-chatbot	Human-on-the-loop	Lavere risiko per interaksjon
KI-basert fraværsanalyse	Human-on-the-loop eller -in-the-loop	Avhenger av bruk i beslutninger
Automatisk CV-parsing (kun datauttrekk)	Human-in-command	Lav risiko, ingen selvstendig beslutning

Roller i tilsynsmodellen

Tilsynsperson (operativt tilsyn)

Den som i det daglige fører tilsyn med systemets output og kan gripe inn.

Krav:

Forstår hva systemet gjør og hva output betyr.
Har kompetanse til å vurdere om output er rimelig.
Har myndighet til å overprøve systemets anbefaling.
Har kapasitet – tilsyn kan ikke komme på toppen av en full stilling uten at noe annet reduseres.

Typisk rolle: Rekrutterer, HR-rådgiver, linjeleder – den som bruker systemet.

Systemeier (strategisk tilsyn)

Den som eier forretningsprosessen og er ansvarlig for at tilsynsrutinen fungerer.

Krav:

Definerer tilsynsrutinen.
Evaluerer om tilsynet faktisk gjennomføres.
Følger opp avvik fra tilsynsrutinen.
Rapporterer til ledelsen.

Typisk rolle: HR-leder, avdelingsleder.

Stedfortreder

Tilsynsfunksjonen kan ikke stoppe opp ved fravær. Hver tilsynsperson bør ha en navngitt stedfortreder som er opplært.

Eskaleringsmottaker

Den som mottar saker når tilsynspersonen oppdager noe som krever beslutning utenfor eget mandat.

Typisk rolle: HR-leder, KI-ansvarlig eller daglig leder – avhengig av alvorlighetsgrad.

Godkjenningsrutine

Hva krever godkjenning?

Definer tydelig hva som krever menneskelig godkjenning:

Situasjon	Godkjenningskrav
Systemets anbefaling følges	Tilsynsperson vurderer og godkjenner
Systemets anbefaling overprøves	Tilsynsperson dokumenterer begrunnelse
Systemet gir uventet output	Tilsynsperson eskalerer
Nytt bruksområde for systemet	Systemeier godkjenner
Leverandøroppdatering som endrer funksjonalitet	Systemeier vurderer og godkjenner

Mal for godkjenningslogg

GODKJENNINGSLOGG
================

System: [Systemnavn]

Dato       | Sak                  | Anbefaling | Beslutning     | Begrunnelse          | Godkjent av
-----------|----------------------|------------|----------------|----------------------|------------
2026-02-10 | Kandidat A, stilling X| Rangert #3 | Innkalt        | Følger anbefaling    | [Navn]
2026-02-10 | Kandidat B, stilling X| Rangert #8 | Innkalt        | Overprøvd – relevant erfaring | [Navn]
2026-02-12 | Kandidat C, stilling Y| Rangert #1 | Ikke innkalt   | Overprøvd – mangler sertifisering | [Navn]

Loggen trenger ikke være lang – men den må vise at noen faktisk har vurdert og tatt en beslutning.

Overstyring: når og hvordan

Når bør du overprøve systemet?

Tilsynspersonen bør overprøve KI-systemets anbefaling når:

Output virker urimelig. Systemet rangerer en åpenbart kvalifisert kandidat lavt, eller omvendt.
Kontekst mangler. Systemet har ikke tilgang til informasjon som tilsynspersonen har.
Systematisk skjevhet. Et mønster der bestemte grupper konsekvent rangeres lavt.
Endrede forutsetninger. Stillingskravene har endret seg etter at systemet ble konfigurert.
Egen fagvurdering tilsier det. Tilsynspersonen har kompetanse som systemet ikke har.

Dokumentasjonskrav ved overstyring

Hver overstyring bør dokumenteres med:

OVERSTYRINGSRAPPORT
===================

Dato: [Dato]
System: [Systemnavn]
Tilsynsperson: [Navn, rolle]

HVA SYSTEMET ANBEFALTE
-----------------------
[Kort beskrivelse av systemets output/anbefaling]

HVA SOM BLE BESLUTTET
----------------------
[Kort beskrivelse av den faktiske beslutningen]

BEGRUNNELSE FOR OVERSTYRING
----------------------------
[Hvorfor tilsynspersonen valgte en annen beslutning enn systemets anbefaling]

Tilsynsperson (og stedfortreder).
Systemeier.
Eskaleringsmottaker.

Steg 3: Definer hva som kontrolleres

Beskriv konkret hva tilsynspersonen skal gjøre:

Hvilke output gjennomgås?
Hvor ofte?
Hva er kriteriene for å godkjenne eller overprøve?

Steg 4: Lag godkjennings- og overstyringsrutine

Beskriv prosessen for:

Normal godkjenning (anbefaling følges).
Overstyring (anbefaling overprøves).
Eskalering (noe er uventet eller utenfor mandat).

Steg 5: Sørg for kompetanse

Tilsynspersonen må ha tilstrekkelig opplæring til å:

Forstå hva systemet gjør.
Tolke output korrekt.
Vite når og hvordan de skal overprøve.

Steg 6: Sett opp dokumentasjon

Opprett godkjenningslogg og overstyringsrapport-mal. Sørg for at de er tilgjengelige og at tilsynspersonen vet hvordan de brukes.

Steg 7: Evaluer og juster

Gjennomgå tilsynsrutinen regelmessig:

Fungerer den i praksis?
Er det nok tid avsatt?
Er overstyringsfrekvensen rimelig?
Har det skjedd hendelser som tilsier justering?

Mal for tilsynsrutine

TILSYNSRUTINE
=============

System: [Systemnavn]
Versjon: 1.0
Dato: [Dato]

TILSYNSNIVÅ
-----------
[Human-in-the-loop / Human-on-the-loop / Human-in-command]

ROLLER
------
Tilsynsperson: [Navn, rolle]
Stedfortreder: [Navn, rolle]
Systemeier: [Navn, rolle]
Eskaleringsmottaker: [Navn, rolle]

HVA KONTROLLERES
-----------------
[Beskriv hvilke output som gjennomgås, hvor ofte, og hva som vurderes]

GODKJENNING
-----------
Normal prosess: [Beskriv hva som skjer når systemets anbefaling følges]

OVERSTYRING
-----------
Når: [Beskriv kriteriene for overstyring]
Prosess: [Beskriv hva tilsynspersonen gjør ved overstyring]
Dokumentasjon: [Beskriv hva som skal dokumenteres]

ESKALERING
----------
Til: [Hvem]
Når: [Hvilke situasjoner]
Prosess: [Hvordan]

KOMPETANSEKRAV
--------------
Tilsynspersonen skal ha gjennomført:
- [ ] Grunnleggende KI-opplæring
- [ ] Systemspesifikk opplæring for [systemnavn]
- [ ] Gjennomgang av denne tilsynsrutinen

EVALUERING
----------
Neste evaluering: [Dato]
Evalueres av: [Systemeier]

Vanlige feil å unngå

Tilsyn bare på papiret. En navngitt tilsynsperson som aldri faktisk gjennomgår output, er verre enn ingen rutine – det gir inntrykk av kontroll som ikke finnes.
Ingen myndighet til å overprøve. Hvis tilsynspersonen i praksis ikke kan gå mot systemets anbefaling uten å bli overprøvd av leder, er tilsynet ikke reelt.
Ingen tid avsatt. Tilsyn tar tid. Uten avsatt kapasitet blir det nedprioritert.
Manglende kompetanse. En tilsynsperson som ikke forstår hva systemet gjør, kan ikke føre meningsfullt tilsyn.
Ingen dokumentasjon av overstyring. Uten logg over overstyringer kan du ikke vise at tilsynet faktisk har ført til korrigeringer.
Aldri overprøve. Hvis systemet aldri overprøves over lang tid, bør du vurdere om tilsynet er grundig nok – eller om tilsynspersonen ukritisk aksepterer all output.