Konseptnotat for et norsk KI-sikkerhetsorgan

Sammendrag

Verdens ledende teknologer og forskere, støttet av skyhøye kapitalinvesteringer, utvikler i dag systemer som løser oppgaver bedre og raskere enn mennesker. De neste årene kan dette innebære den største teknologiske revolusjonen verden har sett. Utviklingen vil også medføre et endret trusselbilde som krever økt institusjonell kapasitet og kompetanse innen kunstig intelligens (KI). Derfor har flere av våre allierte etablert nasjonale KI-sikkerhetsinstitutter (AI Safety Institutes, forkortet AISI-er).

Norge har etablert, eller er i ferd med å etablere, flere organer for å håndtere KI-fremveksten. Det er likevel flere kritiske funksjoner Norge ikke har dekket. Dette notatet identifiserer tre kjernebehov som kan og bør dekkes av et nasjonalt KI-sikkerhetsorgan:

1. Koordinering av internasjonalt KI-sikkerhetsarbeid gjennom deltakelse i et viktig nettverk av likesinnede stater.
2. Teknisk og strategisk rådgivning av norske myndigheter.
3. Sikre at KI-modeller brukt i staten, kommuner og kritisk infrastruktur er trygge gjennom koordinering av test- og evalueringsarbeidet.

‍

I notatet gjennomgår vi hvordan andre land har organisert sine KI-sikkerhetsinstitutter og skisserer forslag til hvordan et norsk organ kan organiseres. Vi peker ikke på én konkret organisering, men anbefaler at Norge oppretter et nasjonalt KI-sikkerhetsorgan.

‍

Last ned for å lese hele notatet.