Sikker KI krever mer enn forskning

Vi trenger et sikkerhetsinstitutt for KI, skrev vi i DN 21. februar. Sven Størmer Thaulow og Jon Atle Gulla i NorwAI poengterer, i sitt svar, at Norge må utvikle KI-modeller, ikke bare teste dem.

Vi deler den visjonen. Men en satsing på sikkerhet og utvikling er ikke en motsetning. Se bare til USA og Storbritannia, som kombinerer nasjonale sikkerhetsinstitutter med ambisiøs KI-utvikling. Sikkerhetsinstituttene bygger tilliten som gjør bruk mulig.

Mye av testarbeidet er nødt til å foregå lokalt der modellene utvikles. Men et statlig sikkerhetsorgan kan både fungere som et kompetansesenter for sikker KI, og koordinere ekstern testing ved behov. Dette kan ivaretas av en liten og smidig organisasjon i KI-Norge, som trekker målrettet på ekstern kompetanse der det trengs.

KI er i ferd med å seile opp som den største sikkerhetsutfordringen vi står overfor. I en slik situasjon trenger vi å bygge tettere allianser med våre nære allierte. Det internasjonale nettverket av AI Safety Institutes er en perfekt mulighet for dette.

Vi må også øke kompetansen på KI-sikkerhet hos den politiske ledelsen som må ta strategiske avgjørelser i tiden som kommer for å trygge Norge. Et statlig KI-sikkerhetsorgan kan fungere som brobygger mellom de tekniske og diplomatiske miljøene og gi oppdaterte analyser til politisk ledelse.

Ingen forskningsmiljøer eller selskaper, uansett hvor flinke de er, kan spille disse funksjonene.