Kiloven
Kontakt

Skjult KI i SaaS

Mange virksomheter bruker KI uten å vite det. Moderne SaaS-verktøy inneholder ofte KI-funksjonalitet som ikke er tydelig kommunisert, men som likevel kan utløse krav etter KI-forordningen. Denne artikkelen hjelper deg med å identifisere skjult KI og forstå konsekvensene.

Hva er skjult KI?

Med skjult KI menes KI-funksjonalitet som er innebygd i programvare uten at brukeren nødvendigvis er klar over det. Dette kan være:

  • Maskinlæringsmodeller som kjører i bakgrunnen
  • KI-basert analyse eller scoring som presenteres som «smart» funksjonalitet
  • Automatiske anbefalinger eller rangeringer basert på algoritmer
  • Prediktive funksjoner som ikke eksplisitt markedsføres som KI

Leverandører bruker gjerne begreper som «intelligent», «smart», «automatisk» eller «prediktiv» uten å nevne KI eller maskinlæring direkte.

Hvor skjult KI typisk dukker opp

HR- og rekrutteringssystemer

  • CV-parsing og automatisk kandidatsortering
  • Scoringalgoritmer for jobbmatch
  • Automatisk screening av søkere
  • Prediktiv analyse av kandidatpotensial
  • Analyse av videointervjuer

Kundeservice og CRM

  • Automatisk kategorisering av henvendelser
  • Chatboter og virtuelle assistenter
  • Sentimentanalyse av kundekommunikasjon
  • Lead-scoring og kundesegmentering
  • Anbefalt handling eller respons

Markedsføring og analyse

  • Automatisk målgruppesegmentering
  • Innholdsanbefalinger og personalisering
  • Prediktiv analyse av kundeadferd
  • Automatisk optimalisering av kampanjer

Produktivitetsverktøy

  • Smarte forslag i e-post og dokumenter
  • Automatisk prioritering av oppgaver
  • Møtetidspunkt-optimalisering
  • Sammendrag og transkripsjoner

Økonomisystemer

  • Automatisk kategorisering av transaksjoner
  • Svindeldeteksjon
  • Kredittvurdering
  • Automatisk avstemming

Hvorfor skjult KI er problematisk

Ufullstendig systemoversikt

Hvis du ikke vet at et system inneholder KI, mangler det i KI-oversikten. Dette gjør det vanskelig å dokumentere etterlevelse.

Feil klassifisering

Et system du tror er lavrisiko kan være høyrisiko hvis det inneholder KI-funksjonalitet som brukes til bestemte formål, for eksempel i rekruttering.

Manglende transparens

Hvis du ikke vet at KI brukes, kan du heller ikke informere berørte personer som forordningen krever.

Leverandørkontroll

Uten bevissthet om KI-innhold vet du ikke hva du skal spørre leverandøren om.

Kontrollspørsmål til leverandøren

Når du vurderer eller gjennomgår SaaS-verktøy, still følgende spørsmål:

Om KI-innhold

  • Inneholder produktet funksjonalitet basert på maskinlæring eller kunstig intelligens?
  • Hvilke funksjoner bruker KI-teknologi?
  • Hvordan er disse funksjonene implementert?
  • Hvilke data brukes for å trene eller drive KI-funksjonene?

Om klassifisering

  • Har dere vurdert risikoklassifiseringen av KI-funksjonaliteten etter EU AI Act?
  • Hvilken risikoklasse har systemet eller delfunksjonene?
  • Kan dere dokumentere klassifiseringsvurderingen?

Om transparens

  • Hvordan informeres brukere om at KI brukes?
  • Er det synlig i grensesnittet når KI gir anbefalinger eller tar beslutninger?
  • Hvordan kan vi informere våre ansatte eller kunder?

Om kontroll

  • Kan vi skru av KI-funksjonalitet hvis ønskelig?
  • Hvordan kan vi overstyre KI-anbefalinger?
  • Hvilke logger er tilgjengelige for KI-funksjonene?

Om endringer

  • Hvordan varsles vi om endringer i KI-funksjonaliteten?
  • Kan nye KI-funksjoner aktiveres uten vår godkjenning?
  • Hvordan håndteres modelloppdateringer?

Hvilken dokumentasjon du bør ha

Fra leverandøren

  • Skriftlig bekreftelse på om produktet inneholder KI
  • Beskrivelse av KI-funksjonalitet og bruksområder
  • Leverandørens risikoklassifisering med begrunnelse
  • Informasjon om databehandling knyttet til KI

Egen dokumentasjon

  • Oversikt over KI-funksjonalitet i hvert system
  • Egen klassifiseringsvurdering basert på faktisk bruk
  • Beslutning om hvilke KI-funksjoner som skal brukes
  • Dokumentasjon av informasjon til berørte

Praktisk tilnærming

Kartlegg eksisterende systemer

Gå gjennom alle SaaS-verktøy virksomheten bruker:

  • Les produktdokumentasjon og se etter KI-relaterte begreper
  • Sjekk utgivelsesnotater for nye funksjoner
  • Still spørsmål direkte til leverandøren
  • Test funksjonalitet for å identifisere automatiserte anbefalinger

Etabler rutine for nye anskaffelser

Inkluder KI-spørsmål i anskaffelsesprosessen:

  • Legg til KI-relaterte spørsmål i RFI/RFP
  • Sjekk produktdokumentasjon før kjøp
  • Dokumenter svar fra leverandøren

Følg med på endringer

SaaS-produkter oppdateres kontinuerlig:

  • Les utgivelsesnotater og varsler fra leverandører
  • Vær oppmerksom på nye funksjoner som aktiveres automatisk
  • Spør leverandøren regelmessig om KI-endringer

Dokumenter funn

Hold oversikten oppdatert:

  • Noter KI-funksjonalitet for hvert system
  • Oppdater klassifiseringen ved behov
  • Dokumenter beslutninger om bruk eller avstengning

Konsekvenser for klassifisering

Oppdagelse av skjult KI kan endre klassifiseringen av et system:

  • Et HR-system uten KI har lavere risiko enn ett med automatisk screening
  • Et CRM-system med KI-basert kundeanalyse kan utløse transparenskrav
  • Et økonomisystem med KI-basert svindeldeteksjon kan ha andre implikasjoner enn antatt

Gå gjennom klassifiseringen på nytt når du oppdager KI-funksjonalitet du ikke var klar over.

Videre lesning

Sist oppdatert

2026-02-02