Norge står utenfor KI-sikkerhetssamarbeidet

Se for deg en morgen der sykehusene fra Kristiansand til Kirkenes er satt ut av spill. Operasjoner avlyses, ambulanser blir stående, og på alle skjermene står det samme kravet: «Betal løsepenger for å få systemene tilbake i drift.» Angrepet er utført ved hjelp av KI, som finner sikkerhetshull raskere enn noen menneskelig ekspert. De landene som er hardest rammet, er de som ikke mottok noe tidlig varsel, og som forsøker å forsvare seg uten de mest avanserte KI-verktøyene.

Scenarioet er oppdiktet, men kan bli en reell mulighet i nær fremtid. I juni i år dokumenterte sikkerhetsselskapet Sysdig det de mener er det første løsepengeangrepet gjennomført av en autonom KI-agent. Et menneske valgte ut offeret og skaffet tilgangen, men deretter var det maskinen som rekognoserte, rettet sine egne feil underveis, krypterte over tusen konfigurasjonsoppføringer og formulerte løsepengekravet.

Skal vi kunne forsvare oss mot stadig mer avanserte angrep som dette, trenger vi tilgang til den mest avanserte KI-teknologien. Men denne utvikles av en håndfull selskaper vi ikke har innflytelse over, i hovedsak amerikanske og kinesiske. Alle som trodde den kraftigste KI-en alltid vil ligge et tastetrykk unna, fikk en vekker i april. Da lanserte Anthropic sin mest kapable modell, Mythos, uten å gjøre den åpent tilgjengelig. Bare utvalgte partnere fikk bruke den, gjennom sikkerhetsinitiativet Project Glasswing.

Det samme mønsteret gjentok seg dager etter lanseringen av etterfølgeren Claude Fable, da Anthropic-kunder 12. juni mistet Fable- og Mythos-tilgang over natten grunnet cyberrelaterte bekymringer i Washington. En drøy uke senere gikk cybersikkerhetsbyråene i Five Eyes-samarbeidet (USA, Storbritannia, Canada, Australia og New Zealand) ut med en felles advarsel: avansert KI endrer selve trusselbildet i et tempo som måles i måneder, ikke år.

I denne nye hverdagen vil vi ikke rekke å sette ned arbeidsgrupper hver gang det smeller; vi trenger et apparat som allerede står klart.

Et statlig KI-sikkerhetsorgan er den mest åpenbare løsningen. De siste tre årene har viktige allierte som Storbritannia, Canada og Frankrike etablert statlige sikkerhetsinstitutter for KI som tester modeller, koordinerer sikkerhetsarbeid og rådgir sine regjeringer. Disse samarbeider gjennom International Network for Advanced AI Measurement, Evaluation and Science (NAAIMES).

Storbritannias AI Security Institute er anerkjent som verdens ledende institusjon for KI-sikkerhet, og var den eneste europeiske institusjonen som fikk teste Mythos før modellen så dagens lys i april. I Estland og Nederland diskuteres det nå hvordan man kan sette opp egne sikkerhetsorganer for å få innpass i NAAIMES. Men ingen har reagert raskere enn Tyskland. Før «Mythos-øyeblikket» i april var et tysk KI-sikkerhetsorgan et nisjetema. To måneder senere vedtok det tyske sikkerhetsrådet å opprette et institutt etter britisk modell, og for to uker siden annonserte Tyskland og Storbritannia at de skal samarbeide tett mot KI-relaterte cybertrusler.

Nå haster det for Norge å melde seg på. I den ferske rapporten fra FNs vitenskapelige KI-panel advarer verdens mest siterte KI-forsker Yoshua Bengio og nobelprisvinner Maria Ressa, statsledere mot å tro at tidshorisontene for KI-utvikling er lange. Vinduet for å handle er åpent, sier de, men kanskje ikke lenge. Norge bør få på plass sitt eget KI-sikkerhetsorgan, i et tempo man ikke har sett maken til i norsk forvaltning.

Den tekniske funksjonen kan bygges på de sterke KI-fagmiljøene vi alt har, men forskningsmiljøer kan ikke representere staten i internasjonale nettverk. Derfor er det maktpåliggende at organet får et tydelig politisk mandat. Prislappen bør ikke være avskrekkende: en policyfunksjon i forvaltningen og testing hos fagmiljøene vil koste en brøkdel av KI-milliarden. Regningen for å stå utenfor KI-samarbeidet får vi ikke se før den kommer, men da er det for sent å forhandle.

‍