KI-utviklingen, trusler og norske muligheter

KI-teknologi utvikler seg i et eksepsjonelt tempo. Oppgavekompleksiteten KI-systemer kan håndtere har siden 2024 doblet seg omtrent hver fjerde måned, og ingen har identifisert en øvre grense for hvor godt KI kan prestere. De neste årene kan bringe tre mulige scenarier: 1) en intelligenseksplosjon før 2030, 2) noe tilsvarende en ny industriell revolusjon hvor vi får KI på menneskelig nivå tidlig på 2030-tallet, eller 3) at KI utvikler seg som en normal teknologi. De tre scenarioene stiller oss overfor ulike risikoer, og selv det minst transformative scenariet fordrer aktive grep for å sikre nasjonens sikkerhet og velstand.

Den raske utviklingen skaper alvorlige sikkerhetstrusler. KI kan senke terskelen for biovåpenbruk blant enkeltpersoner og små grupper. Ledende KI-nasjoner kan gjøre andre land til vasallstater gjennom teknologisk overlegenhet. Agentisk KI, systemer som handler autonomt, kan unnslippe menneskelig kontroll. Mer generelt kan KI-fremskritt undergrave etablerte strategiske doktriner i internasjonal politikk som gjensidig garantert ødeleggelse, akselerere oppdagelsen av masseødeleggelsesvåpen og intensivere konflikter om ressurser.

Norge bør møte disse utfordringene gjennom strategiske investeringer og institusjonelle tiltak. Vi må styrke vår beredskap mot droner, cyberangrep og biologiske trusler, sikre regnekraftressurser som gjør oss relevante i global KI-politikk, og beskytte demokratiet mot KI-baserte trusler. Konkret foreslår vi at Norge oppretter et nasjonalt KI-sikkerhetsinstitutt, får KI-trusler inn i DSBs krisescenarioanalyser, investerer i defensiv teknologi, forskning og mer regnekraft på norsk jord, og bygger strategisk KI-samarbeid med allierte land som Storbritannia.

‍

Last ned for å lese hele notatet.

‍