Innspill til justiskomiteen: Satsning på sikkerhetsdimensjonen ved fremvoksende teknologier

Langsikt takker for muligheten til å gi innspill til justiskomiteen. Våre kommentarer gjelder kap. 457 Nasjonal sikkerhetsmyndighet (NSM), kap. 444 Politiets sikkerhetstjeneste (PST) og kap. 400 Justis- og beredskapsdepartementet.

Teknologisk utvikling og geopolitisk uro er de to viktigste driverne i et alvorlig internasjonalt sikkerhetsbilde, sa Finlands president Stubb på NUPI-seminar da han besøkte Norge tidligere i oktober. Gitt den alvorlige sikkerhetspolitiske situasjonen støtter Langsikt at regjeringen prioriterer sikkerhet og beredskap i årets statsbudsjett, inkludert økningen på 189 millioner kroner til NSM og 250 millioner kroner til PST. Vi vil spesielt berømme at styrkingen skal bidra til å møte endringer i trusselbildet og rask teknologiutvikling. For å styrke beredskapen mot trusler fra ny teknologi ytterligere, vil vi anbefale komiteen følgende merknader og forslag:

• Senter for fremvoksende teknologier hos NSM: «Komiteens medlemmer fra … viser til at Nasjonal sikkerhetsmyndighet i 2023 opprettet Senter for anvendt kryptologi. Disse medlemmer mener en tilsvarende modell bør vurderes for fremvoksende teknologier som kunstig intelligens og syntetisk biologi, og ber regjeringen komme tilbake til Stortinget med en slik vurdering.»
• Tidlig tilgang til de mest avanserte KI-modellene: Vi foreslår følgende anmodningsforslag: «Stortinget ber regjeringen arbeide for at sertifiserte norske fag- og sikkerhetsmiljøer, som NSM, PST og FFI, får tidlig tilgang til de mest avanserte KI-modellene.» Tidlig tilgang gir forsvarerne et forsprang på angriperne i å utvikle mottiltak, for eksempel innen vaksineutvikling og deteksjon. Avtalene bør trolig forhandles sammen med andre land, for eksempel Storbritannia.
• Øremerking til fremvoksende teknologier: «Komiteens medlemmer fra … legger til grunn at deler av styrkingen av kap. 457, kap. 444 og kap. 400 nyttes til sikkerhetsarbeid relatert fremvoksende teknologier, inkludert kunstig intelligens og syntetisk biologi, og at midlene går til trusselforståelse, forebygging, deteksjon og respons.»

‍

Bakgrunn:

Ledende forskere, teknologer og politikere uttrykker økende bekymring for risiko ved avanserte KI-systemer. Den 11. oktober ble Lancet-kommisjonen om globale helsetrusler i det 21. århundre lansert. Kunstig intelligens trekkes frem som en av to trusler med eksistensielt potensial. Kommisjonen anslår at nordmenn vil tape 6,4 millioner påvirkbare tapte friske leveår (DALY) i perioden 2025–2100 grunnet ondsinnet KI-bruk. Estimatet har stor usikkerhet, men nivået er dobbelt så høyt som helsetap relatert til røyking. At helsetapet er påvirkbart, betyr at politiske valg i dag avgjør hvor stort tapet blir.

Rapporten fremhever tre måter KI kan utgjøre en trussel på, inkludert KI brukt til å designe biologiske våpen. Naturlig forekommende pandemier er allerede blant de største helsetruslene vi har, med en fjerdedels sannsynlighet for en ny eller verre covid-19 de neste ti årene. Teknologiutviklingen senker terskelen for hvem som kan utvikle biologiske våpen, og øker taket for hvor farlig biologi som kan lages. Vi vet hvilke tiltak som kan redusere risiko fra biologiske trusler, og kan se til inspirasjon fra andre land: Storbritannia har under sin biosikkerhetsstrategi annonsert over 1,83 milliarder pund til et nettverk av nasjonale biosikkerhetssentre, avløpsovervåking og respiratorisk metagenomikk.

For å møte truslene fra ny teknologi, er det avgjørende at disse behandles som trusler mot nasjonal sikkerhet. Vi mener det gir mer forventet nytte å investere en ekstra krone i forsvar mot ny teknologi enn en ekstra krone i konvensjonelt forsvar. G20s høynivåpanel for pandemifinansiering (HLIP) anbefaler at land som Norge bruker minimum mellom 0,5 og 1 prosent av sikkerhets- og forsvarsbudsjettene årlig på biosikkerhet og biologisk overvåking, for Norge tilsvarende rundt 1 - 2 milliarder kroner årlig.  

Om oss

Langsikt er en uavhengig, ideell tankesmie for mer langsiktig politikk. Vi forener forskning og politikkutvikling for å bidra til at samfunnets ressurser brukes der de gjør mest nytte. Vårt fokus er på store globale utfordringer som kunstig intelligens, pandemier og ekstrem fattigdom. Les notatet vårt om teknologidrevne biologiske trusler for mer informasjon [https://www.langsikt.no/publikasjoner/teknologidrevne-biologiske-trusler]

‍

Lotte Skolem | Daglig leder i Langsikt | lotte@langsikt.no

Anders Eidesvik | KI-rådgiver i Langsikt | anders@langsikt.no

‍