Innspill til kommunal- og forvaltningskomiteen: KI-Norge

Langsikt takker for muligheten til å gi innspill til kommunal- og forvaltningskomiteen. Våre kommentarer gjelder Kap. 1540 Digitaliseringsdirektoratet, post 28 KI Norge under Digitaliserings- og forvaltningsdepartementet:

• Kap. 1540 Digitaliseringsdirektoratet, post 28 KI Norge

‍

Langsikt støtter regjeringens forslag om å bevilge 30 millioner kroner til å teste hvor trygge KI-modeller er, og å gi KI Norge i oppgave å arbeide med KI-sikkerhet. KI Norge skal også være kontaktpunktet mot internasjonale sikkerhetsmiljøer innen KI, for eksempel de statlige KI-sikkerhetsinstituttene (AI Safety Institutes) som Storbritannia, Canada og flere andre land har opprettet. I fjorårets høring ba vi om et norsk KI-sikkerhetsinstitutt, og vi ser forslaget som et viktig første steg.

I år vil vi anbefale komiteen tre merknader som vi mener kan sikre at KI Norge kan utføre sine nye oppgaver og bidra til tryggere KI-utvikling og implementering.

1. Mandat og uavhengighet: «Komiteens medlemmer fra … legger til grunn at økningen på 30 millioner kroner på post 28 brukes til å teste KI-modeller og til annet sikkerhetsarbeid. Disse medlemmer anser det som avgjørende at sikkerhetsarbeidet får faglig uavhengighet og kompetanse til å bestille og kvalitetssikre tester av KI-modeller.»
2. Samarbeid med forskningsmiljøene: «Disse medlemmer viser til at KI Norges testarbeid skal skje i samarbeid med forskningsmiljøer, og vil peke på viktigheten av at slike samarbeidspartnere får flerårige avtaler, faglig uavhengighet og tilgang til regnekraft.»
3. Opptrapping: Vi foreslår følgende anmodningsforslag «Stortinget ber regjeringen i statsbudsjettet for 2028 legge fram en plan for å trappe opp KI Norges sikkerhetsarbeid, slik at Norge kan bidra faglig i det internasjonale nettverket av KI-sikkerhetsinstitutter.»

Begrunnelse

For å sørge for at KI Norge vil lykkes med dette arbeidet, mener vi følgende tre poenger er viktige:

Uavhengig og øremerket. Regjeringen begrunner satsingen med behovet for uavhengige vurderinger av KI-modeller. Samtidig skal KI Norge ifølge budsjettproposisjonen ha en pådriverrolle og fremme effektiv og forsvarlig bruk av KI. En enhet som også skal vurdere risiko, trenger et klart avgrenset mandat for å være troverdig. I tillegg skal post 28, som øker fra 10 til 45 millioner kroner (hvor 30 millioner er ferske midler, mens om lag 5 er fra en annen post), også dekke KI Norges øvrige arbeid og den regulatoriske KI-sandkassen, en ordning der virksomheter får hjelp til å sjekke at nye KI-løsninger følger regelverket. Stortinget vedtar bevilgningen for posten samlet. En merknad vil gjøre det tydelig at de 30 millionene skal gå til sikkerhetsarbeid.

Kompetanse og samarbeid med forskningsmiljøene. Regjeringen legger opp til at KI Norge skal samarbeide med forskningsmiljøer om testingen. Norge har sterke fagmiljøer på KI-sikkerhet, blant annet ved UiO, SINTEF/NTNU og Simula. Vi forventer derfor at KI Norge i stor grad vil bestille tester fra forskningsmiljøene i stedet for å gjennomføre alt selv. Det fungerer bare hvis KI Norge har egne tekniske fagfolk med erfaring fra testing. De må kunne avgjøre hvilke modeller som skal testes, hva testene skal måle, for eksempel hvordan modellene fungerer på norsk og i Nav, helsetjenesten og kommunal saksbehandling, og om resultatene holder mål. Uten slik kompetanse blir det i praksis forskningsmiljøene som bestemmer hva som testes. Erfaringen fra det britiske sikkerhetsinstituttet (UK AISI) er at slike fagfolk krever mer konkurransedyktig lønn og faglig frihet enn det som er vanlig i staten. Delte stillinger med akademia og hospitering kan gjøre det lettere å rekruttere dem. Forskningsmiljøene trenger på sin side flerårige avtaler og tilgang til regnekraft, det vil si datakraften som trengs for å kjøre testene, for å bygge opp kompetanse over tid. Singapore har en lignende modell: staten finansierer, har ansvaret for politikken og representerer landet internasjonalt, mens et universitet selv prioriterer og gjennomfører testene. Vi anbefaler en mellomløsning der KI Norge bestemmer oppdragene, mens forskningsmiljøene har faglig frihet i hvordan testene gjennomføres.

Nivå og opptrapping. Etter vår vurdering er de 30 millionene nok til koordinering og rådgivning, men lite til egne tester. Vi anslår at det kreves om lag 50–70 millioner kroner årlig, inkludert 5–10 millioner til regnekraft, for at sikkerhetsarbeidet skal kunne levere tester som holder faglig mål og bidra i det internasjonale nettverket av KI-sikkerhetsinstitutter. Til sammenligning har Canada i 2024 bevilget 50 millioner kanadiske dollar over fem år til sitt institutt, og Storbritannias institutt har et budsjett på om lag 66 millioner pund (rundt 900 millioner kroner) årlig. Derfor ber vi om en plan for opptrapping i budsjettet for 2028.

Om oss

‍Langsikt er en uavhengig, ideell tankesmie for mer langsiktig politikk. Vi forener forskning og politikkutvikling for å bidra til at samfunnets ressurser brukes der de gjør mest nytte. Vårt fokus er på store globale utfordringer som kunstig intelligens, pandemier og ekstrem fattigdom. Les mer i konseptnotatet vårt for et norsk KI-sikkerhetsorgan (7. september 2026): [https://www.langsikt.no/publikasjoner/konseptnotat-for-et-norsk-ki-sikkerhetsorgan]

‍

‍

Lotte Skolem | Daglig leder i Langsikt | lotte@langsikt.no

Anders Eidesvik | KI-rådgiver i Langsikt | anders@langsikt.no

‍