Konseptnotat for et norsk KI-sikkerhetsorgan
Hvorfor og hvordan Norge bør etablere et KI-sikkerhetsorgan.
KI-generert illustrasjon fra Gemini.
Main moments
Sammendrag
Verdens ledende teknologer og forskere, støttet av skyhøye kapitalinvesteringer, utvikler i dag systemer som løser oppgaver bedre og raskere enn mennesker. De neste årene kan dette innebære den største teknologiske revolusjonen verden har sett. Utviklingen vil også medføre et endret trusselbilde som krever økt institusjonell kapasitet og kompetanse innen kunstig intelligens (KI). Derfor har flere av våre allierte etablert nasjonale KI-sikkerhetsinstitutter (AI Safety Institutes, forkortet AISI-er).
Norge har etablert, eller er i ferd med å etablere, flere organer for å håndtere KI-fremveksten. Det er likevel flere kritiske funksjoner Norge ikke har dekket. Dette notatet identifiserer tre kjernebehov som kan og bør dekkes av et nasjonalt KI-sikkerhetsorgan:
- Koordinering av internasjonalt KI-sikkerhetsarbeid gjennom deltakelse i et viktig nettverk av likesinnede stater.
- Teknisk og strategisk rådgivning av norske myndigheter.
- Sikre at KI-modeller brukt i staten, kommuner og kritisk infrastruktur er trygge gjennom koordinering av test- og evalueringsarbeidet.
I notatet gjennomgår vi hvordan andre land har organisert sine KI-sikkerhetsinstitutter og skisserer forslag til hvordan et norsk organ kan organiseres. Vi peker ikke på én konkret organisering, men anbefaler at Norge oppretter et nasjonalt KI-sikkerhetsorgan.
Last ned for å lese hele notatet.
More from Langsikt
Confused about the AI threat?
Recent events have made AI risk a topic of public debate in Norway. Some researchers issue strong warnings, others claim they see doomsday on the horizon, while others dismiss the whole thing as marketing campaigns. This document summarizes what we know, what is disputed, and what the implications of this uncertainty are. The document can also be downloaded as a PDF.
A Norwegian foreign policy for artificial intelligence
Why and how Norway should position itself in a new security policy reality.
The wave of hacking is coming
Until now, small Norwegian businesses have been protected by the fact that no one bothered to hack them. That is changing with open AI.
Open-source AI makes us more vulnerable
Open-source AI models create as many problems as they solve, and some of them could have catastrophic consequences. The solution is coordinated governance of the pace of AI development.