Noen må teste KI-modellene Norge gjør seg avhengig av

Denne uken møttes over tyve statsledere og 45 ministerdelegasjoner i New Delhi for årets AI Summit – verdens viktigste arena for KI-sikkerhetspolitikk. Digitaliseringsminister Karianne Tung representerer Norge.

Vi håper Tung kommer hjem inspirert. Norge henger nemlig etter i arbeidet med å trygge KI, som er nødvendig for at regjeringens visjon om å ta i bruk KI på tvers av hele offentlig sektor skal realiseres.

Mange land, eksperter og internasjonale organisasjoner er med rette bekymret for hvorvidt avanserte KI-modeller er trygge å rulle ut i samfunnet.

Kan de manipuleres eller brukes til å manipulere befolkningen?

Diskriminerer de?

Hvordan behandler de data?

For å svare på slike spørsmål har ti land, inkludert viktige allierte som Storbritannia, Canada og Frankrike, etablert statlige sikkerhetsinstitutter for KI som tester modeller, koordinerer sikkerhetsarbeid på tvers av landegrenser og rådgir sine regjeringer. Disse samarbeider gjennom International Network of AI Safety Institutes.

Norge mangler et organ som kan ivareta disse funksjonene. Dermed får vi heller ikke delta i dette viktige nettverket av likesinnede land.

Norge har sterke forskningsmiljøer innen KI-sikkerhet, for eksempel hos Simula og KI-senteret Trust ved Universitetet i Oslo. Men forskningsmiljøer, som med rette opererer på en armlengdes avstand fra myndighetene, kan ikke fylle den rollen et KI-sikkerhetsinstitutt har hos våre allierte.

Vi trenger et organ med mandat til å teste og evaluere KI-modeller før de rulles ut i offentlig sektor, drive internasjonal koordinering og gi strategisk rådgivning til myndighetene.

Regjeringen har som mål at Norge skal bli verdens mest digitaliserte land innen 2030. Det innebærer å ta i bruk KI i sentrale offentlige oppgaver. KI-modeller vil brukes av kraftselskap, helsevesenet og Nav, og bør regnes som nasjonal, kritisk infrastruktur – på lik linje med mobil- og bredbåndsnett.

En viktig del av tryggingsarbeidet er å få mer kontroll over KI-modellene vi tar i bruk. Flere krefter bidrar til dette. Universitetsmiljøene bidrar med grunnforskning og humankapital. Nasjonalbiblioteket og NorwAI bygger norske grunnmodeller på toppen av åpne modeller fra utlandet. I tillegg etableres viktige forvaltningsmiljøer for KI i forbindelse med KI-forordningen, for koordinering, veiledning og tilsyn.

Disse bidragene er viktige, men ingen av dem har som mandat å teste og evaluere modellene vi gjør oss avhengige av under realistiske forhold.

Uten et slikt teknisk kontrollorgan blir vi prisgitt KI-selskapenes egne risikovurderinger eller internasjonale aktørers vurderinger som ikke er tilpasset norsk lov, språk og verdier.

Et norsk sikkerhetsorgan vil ikke være noen brems på KI-utviklingen. Snarere tvert imot. Et «godkjentstempel» fra et uavhengig organ ville senket terskelen for mer utstrakt bruk og eksperimentering i offentlig og privat sektor.

Vissheten om at bilen har gode bremser gjør at vi kan kjøre fortere.

Vår nære allierte, britene, leder an internasjonalt, og bruker nesten 900 millioner kroner årlig på sitt KI-sikkerhetsinstitutt. Vi bør se til dem for inspirasjon og samarbeid, men Norge kan ikke kopiere modellen. Vi er et lite land med hard kamp om spisskompetansen.

En billigere og smidigere løsning kan være å etablere et spisset KI-sikkerhetsorgan under KI Norge i Digdir, med direkte kobling til Statsministerens kontor og Nasjonal sikkerhetsrådgiver. Det kan kjøpe tekniske evalueringer fra norske forskningsmiljøer. Kapasiteten og viljen finnes.

For eksempel gjennomførte Simula nylig en evaluering av Nasjonalbibliotekets siste KI-modell.

En slik bestillingsorganisering holder kostnadene nede og utnytter kompetanse som allerede er bygget opp.

Sikkerhetsorganet kan dermed prioritere kompetanse det er lettere å bygge opp i et forvaltningsmiljø, som eksperter på KI-politikk og -sikkerhet. Disse kan representere Norge i internasjonale fora, overføre kunnskap til departementer og tilsynsmyndigheter og holde sentrale beslutningstagere løpende orientert.

KI er ikke et område hvor man kan lene seg på en NOU hvert fjerde år.

Norge kan nå ambisjonen om å ha verdens mest KI-drevne offentlige sektor. Men det er en viktig, nasjonal oppgave å sikre at modellene vi tar i bruk, er trygge. Det forutsetter internasjonalt samarbeid, som i New Delhi.

Det forutsetter også at vi tar ansvar på hjemmebane.