I dette kapittelet presenterer vi bakgrunn, mål, mandat, innfallsvinkel, avgrensninger og metode for rapporten.
1.1 Bakgrunn
EU-kommisjonen fremmet i april 2021 forslag til en forordning om kunstig intelligens («Artificial intelligence act»). Rådet, Kommisjonen og Europaparlamentet ble i desember 2023 enige om en politisk avtale. KI-forordningen ble endelig vedtatt 21.mai i år og tredde i kraft 1. august 2024. Forordningen vil få betydning for bruken av kunstig intelligens innenfor EU og EØS-området, med konsekvenser både for offentlige og private aktører.
KI-forordningen er et tiltak for å regulere markeder for utvikling og bruk av kunstig intelligens (KI). Informasjon, veiledning, markedsovervåkning/tilsyn og sanksjoner er sentrale virkemidler for å sikre etterlevelse av forordningen.
En interdepartemental arbeidsgruppe har drøftet hvordan KI-forordningen kan gjennomføres i Norge. Gruppen anbefalte blant annet å utrede en nasjonal forvaltningsstruktur for håndheving av KI-forordningen. Utredningen skulle ta utgangspunkt i en to-nivåmodell der ett organ får ansvar for koordinering, håndheving og implementering av KI-forordningen og sektortilsyn får ansvar og avgrenset tilsynsmyndighet innenfor eget ansvarsområde, jf. arbeidsgruppens rapport pkt. 4.2.3.
DFØ fikk i tildelingsbrevet for 2024 et hovedansvar for å utrede og gi en anbefaling til etablering av ny nasjonal forvaltningsstruktur for håndheving av KI-forordningen. Digitaliseringsdirektoratet fikk i sitt tildelingsbrev ansvar for å samarbeide med DFØ om oppdraget.
1.2 Mål og mandat
Målet for prosjektet har vært å vurdere en hensiktsmessig organisering for håndheving av KI-forordningen i Norge. Vurderingene skulle være uavhengige og ta utgangspunkt i KI-forordningen og i forvaltningspolitiske hensyn for organisering av tilsyn.
På grunnlag av vurderingene skulle DFØ anbefale en nasjonal forvaltningsstruktur for håndheving av KI-forordningen. Dette omfatter organisering av tilsynsfunksjonen, roller og ansvar for tilsynsmyndigheten, utforming av tilhørende klageordning, samt utpeking av en nasjonal akkrediteringsmyndighet. I tillegg skulle økonomiske og administrative konsekvenser av anbefalt forslag til ny organisering beskrives.
1.3 Innfallsvinkel og avgrensninger
KI-forordningen er et tiltak for å regulere markeder for utvikling og bruk av kunstig intelligens (KI). Informasjon, veiledning, markedsovervåkning/tilsyn og sanksjoner er sentrale virkemidler for å sikre etterlevelse av forordningen.
I forbindelse med prosjektplanen ble følgende problemstillinger utarbeidet:
Organisering av tilsynsfunksjonen:
- Hvordan utforme og avgrense roller og ansvar for den nye tilsynsfunksjonen?
- Hvordan organisere samspillet med EU-organene?
- Hvilke andre markedsovervåkingsmyndigheter skal føre tilsyn etter forordningen?
- Hvilken organisering vil i størst mulig grad ivareta kompetansekravene i KI-forordningen?
- I hvilken grad bør den nye tilsynsfunksjonen organiseres sentralt som en samlet enhet?
- Bør det etableres et nytt forvaltningsorgan, eller bør tilsynsfunksjonen legges til en eksisterende virksomhet?
- Hvilke virksomheter (organer) er det i tilfellet mest relevante å legge den nye tilsynsfunksjonen til?
- Dersom oppgavene legges til en eksisterende virksomhet, hvilke endringer vil det kreve i den aktuelle virksomheten?
- Hvordan unngå (eller eventuelt håndtere) gråsoner til andre virksomheters (organers) ansvarsområder?
- Hvordan bør forholdet til ansvarlig departement organiseres for å sikre behovet for faglig autonomi?
- Hvilke økonomiske og administrative konsekvenser vil forslaget til organisering ha?
Organisering av akkrediteringsfunksjonen
- Hvor bør akkrediteringsfunksjonen legges?
- Hvilke virksomheter er aktuelle?
- Hvordan er rolle- og ansvarsfordelingen mellom tilsynsorganet og akkrediteringsorganet? Kan samme virksomhet ha begge funksjonene?
- Hvilke økonomiske og administrative konsekvenser vil forslaget til organisering av akkrediteringsfunksjonen ha?
Organisering av klageordningen:
- Bør klageinstansen organiseres som egen virksomhet (og med eget sekretariat) eller legges til andre klageinstanser?
- Hvilke økonomiske og administrative konsekvenser vil forslaget til organisering av klageordningen ha?
Finansieringsmodeller
- Hvilke finansieringsmodeller er mest hensiktsmessig for henholdsvis tilsynsfunksjonen, akkrediteringsfunksjonen og klagefunksjonen?
Problemstillingene ble presisert og utdypet etter hvert som vi satte oss mer inn i feltet. Vi har særlig drøftet forståelsen av rollen som kontaktpunkt og koordinerende markedsovervåkningsmyndighet. Vi har tatt utgangspunkt en to-nivå-modell og lagt KI-forordningens forslag til forvaltningsstruktur som følger av KI-forordningens Annex I til grunn. Vi har ikke tatt stilling til hvordan ansvaret for høyrisiko-områdene/-systemene som beskrives i Annex III bør fordeles.
Når det gjelder finansieringsmodeller, har dette vist seg vanskelig å drøfte ut over på et overordnet og generelt nivå.
1.4 Metode
Rapporten baserer seg på dokumentanalyse, kvalitative intervjuer med representanter for ulike interessentgrupper. Drøftingene og vurderingene bygger på analyse av regelverket og datagrunnlaget, DFØs tidligere rapporter (www.dfo.no) og DFØs generelle kunnskap om forvaltningens organisering og virkemåte.
Se vedlegg 1: Datainnsamling og metode for utdypende informasjon om datainnsamling og analyse.
1.5 Leseveiledning
Gitt kravene og rammene som følger av KI-forordningen, er rapporten strukturert ut fra de seks minimumskravene i utredningsinstruksen:
- Hva er problemet og hva vil vi oppnå? – kapittel 1
- Hvilke tiltak/organisasjonsløsninger er relevante? – kapittel 2, 3 og vedlegg 2
- Hvilke prinsipielle spørsmål reiser tiltakene/organisasjonsløsningene? – kapittel 4-6
- Hva er de positive og negative virkningene av tiltakene/organisasjonsløsningene, hvor varige er de, og hvem blir berørt? – kapittel 4-6
- Hvilke tiltak/organisasjonsløsninger anbefales, og hvorfor? – kapittel 4-6
- Hva er forutsetningene for en vellykket gjennomføring? – kapittel 4-6
Kapittel 2 gir en kort innføring i forordningen. En mer omfattende beskrivelse og drøfting følger i vedlegg 2.
Ordliste
Tabellen under oversetter de viktigste begrepene fra KI-forordningen. Med noen unntak, særlig i vedlegg 2, brukes begrepene i den høyre kolonnen.
| KI-forordningen | Denne rapporten | Forklaring |
| Artificial intelligence act | KI-forordningen | |
| National competent autorities | Nasjonale kompetente myndigheter | |
| European Artificial Intelligence Board | EUs KI-råd | |
| Market surveillance authorities | Markedsovervåkingmyndigheter | |
| Single point of contact (SPC) | Koordinerende markedsovervåkingsmyndighet | |
| Notifying Authority | Akkrediteringsorgan1 | Akkrediteringsorgan omtaler organ med ansvar for akkrediteringsvurderinger og overvåking av tildelte akkrediteringer. Formell utpeking og melding/registrering hos EU ligger ikke i rollen som akkrediteringsorgan. Som følge av at akkrediteringsmyndigheten som helhet splittes, oversettes ikke «Notifying Authority» til akkrediteringsmyndighet. Se pkt. 5.3 for nærmere omtale. |
| Notified Body | Teknisk kontrollorgan | |
| Regulatorisk sandkasse | Et kontrollert testmiljø for virksomheter som vil eksperimentere med nye produkter, teknologier og tjenester under oppfølging av myndighetene. jf. kap. 2.1 om sandkasser skal aktuelle sandkasser etter KI-forodningen har et spesielt fokus på å fremme innovasjon. | |
| Digital Service Act (DSA) | Digital Service Act (DSA) | EUs forordning for beskyttelse av forbrukeres grunnleggende rettigheter på digitale plattformer.2 |
Fotnoter
1Det er usikkert hva som er den riktige oversettelsen av «notifying authority», men i den danske versjonen av KI-forordningen brukes begrepet «bemyndigende myndigheter» og i den svenske brukes «anmälende myndigheter».