Forbudte KI-praksiser

EU KI-forordningen forbyr visse typer KI-bruk helt. Disse forbudene gjelder uavhengig av virksomhetens størrelse eller bransje.

For norske SMB er det viktig å forstå hva forbudene innebærer i praksis og hvordan de kan berøre hverdagslig bruk av programvare.

Tilbake til veilederen: KI-loven og KI-forordningen

Hvorfor noen praksiser er forbudt

Forbudene finnes fordi enkelte bruksområder anses å ha uakseptabel risiko for grunnleggende rettigheter og verdighet – uansett hvilke “tiltak” man prøver å legge på.

Risikoen kan ikke reduseres nok med transparens, menneskelig kontroll eller dokumentasjon
Bruken rammer typisk sårbare grupper eller påvirker mennesker på skjulte måter
Konsekvensene vurderes som så alvorlige at praksisen ikke skal brukes i det hele tatt

KI-systemer som bruker skjulte manipulerende teknikker for å påvirke menneskers atferd på måter som kan føre til skade, er forbudt. Dette omfatter systemer som utnytter underbevissthet eller sårbarheter uten at personen er klar over det.

Praktisk eksempel: Et markedsføringsverktøy som automatisk tilpasser innhold for å utnytte psykologiske svakheter hos spesifikke personer ville vært forbudt.

Utnyttelse av sårbare grupper

KI-systemer som utnytter sårbarheter knyttet til alder, funksjonsnedsettelse eller sosioøkonomisk situasjon for å påvirke atferd på en skadelig måte, er forbudt.

Praktisk eksempel: Et system som målretter aggressive salgsbudskap mot eldre eller personer med kognitive utfordringer basert på detektert sårbarhet.

Sosial scoring av offentlige myndigheter

Offentlige myndigheters bruk av KI til generell sosial scoring av befolkningen er forbudt. Dette omfatter systemer som vurderer og rangerer borgere basert på sosial atferd eller personlige egenskaper over tid.

Praktisk eksempel: Et system som gir borgere en samlet «tillitsscore» basert på ulike aktiviteter og som påvirker deres tilgang til offentlige tjenester.

Biometrisk fjernidentifikasjon i sanntid

Bruk av biometrisk fjernidentifikasjon i sanntid på offentlige steder for rettshåndhevelse er i utgangspunktet forbudt, med snevre unntak for spesifikke alvorlige situasjoner.

Praktisk betydning for SMB: Dette forbudet retter seg primært mot myndigheter, men virksomheter bør være oppmerksomme hvis de vurderer ansiktsgjenkjenningsteknologi.

Følelsesgjenkjenning på arbeidsplassen

KI-systemer som brukes til å utlede følelser hos ansatte på arbeidsplassen er forbudt, med unntak for sikkerhetskritiske eller medisinske formål.

Praktisk eksempel: Et system som analyserer ansattes ansiktsuttrykk eller stemme for å vurdere tilfredshet eller engasjement på jobben.

Biometrisk kategorisering basert på sensitive egenskaper

KI-systemer som kategoriserer personer basert på biometriske data for å utlede sensitive egenskaper som etnisitet, politisk overbevisning, seksuell orientering eller religiøs tro, er forbudt.

Praktisk eksempel: Et rekrutteringsverktøy som analyserer ansiktsbilder for å gjette kandidaters bakgrunn.

Prediktiv politi basert på profilering

Systemer som vurderer risikoen for at enkeltpersoner vil begå lovbrudd utelukkende basert på profilering eller personlighetstrekk, er forbudt.

Hvordan forbudene kan dukke opp i praksis

I rekrutteringsverktøy

Noen avanserte rekrutteringssystemer kan ha funksjoner som analyserer kandidaters video eller stemme for å vurdere personlighet eller følelsesmessig tilstand. Slike funksjoner kan være forbudt.

I kundeservicesystemer

Chatboter eller kundeservicesystemer som analyserer kunders følelsesmessige tilstand og tilpasser responsen for å utnytte dette, kan være problematiske.

I markedsføringsverktøy

Systemer som går lenger enn vanlig målretting og aktivt utnytter identifiserte sårbarheter, beveger seg mot forbudt område.

I HR-verktøy for ansattovervåkning

Verktøy som analyserer ansattes følelser, stress eller engasjement gjennom biometriske signaler, kan falle inn under forbudet.

Hvordan dokumentere interne forbud

Etabler en policy

Lag en intern policy som tydelig beskriver hvilke KI-praksiser virksomheten ikke tillater. Policyen bør referere til forordningens forbud og konkretisere hva dette betyr for deres situasjon.

Inkluder i innkjøpsrutiner

Sørg for at anskaffelsesprosessen inkluderer sjekk mot forbudte praksiser. Still spørsmål til leverandører om funksjonalitet som kan være problematisk.

Dokumenter vurderinger

Når dere vurderer nye systemer, dokumenter at dere har sjekket om systemet inneholder forbudt funksjonalitet. Behold denne dokumentasjonen.

Oppdater ved endringer

Når leverandører oppdaterer systemer med ny funksjonalitet, vurder om oppdateringene introduserer problematiske elementer.

Kontrollpunkter

For hvert KI-system bør dere kunne svare nei på følgende:

Bruker systemet skjulte teknikker for å manipulere atferd?
Utnytter systemet sårbarheter hos spesifikke grupper?
Analyserer systemet følelser hos ansatte?
Kategoriserer systemet personer basert på sensitive biometriske data?

Hvis svaret på noen av disse er ja eller usikkert, bør dere undersøke nærmere før systemet tas i bruk.

Videre lesning

Sist oppdatert

2026-02-05