KI-trusler på kort og lang sikt
At KI skaper alvorlige problemer i dag, betyr ikke at vi kan avfeie fremtidens trusler.
KI-generert illustrasjon fra Sora.
Hovedmomenter
Dette er den fulle versjonen av innlegget som ble publisert hos Aftenposten.
I vårt innlegg 24. november hevdet vi at UiO-professor Arnoldo Frigessi avfeide KI-forsker Yoshua Bengios advarsler om katastrofale konsekvenser av en KI-utvikling som kommer ut av kontroll. Frigessi svarer i Aftenposten at vi «ikke kunne tatt mer feil» og trekker frem sitt eget betydelige arbeid for trygg KI over mange år.
Vi er helt enige i at Frigessi har bidratt og bidrar til å gjøre dagens KI-systemer mer tolkbare, rettferdige og bærekraftige. Og i så måte tryggere. Der vi og Frigessi er uenige er hvilken risiko en akselererende KI-utvikling kan utgjøre i årene og tiårene som kommer. Frigessi advarer mot at et fokus på KI-trusler som kan oppstå i fremtiden «distraherer» fra de KI-truslene vi vet eksisterer i dag. Vårt poeng er at man må ha to tanker i hodet samtidig.
Allerede i dag bidrar akselererende KI-utvikling til konsentrasjon av makt og kapital. Teknologien brukes blant annet til destabiliserende desinformasjon og autonome cyberangrep. Disse problemene er det bred enighet om, men utelukker ikke at KI kan utgjøre en større og annerledes trussel på lengre sikt.
Astronomiske pengebeløp investeres både i Kina og Silicon Valley, med uttalte mål å skape superintelligens. De teknologiske løsningene som behøves for å kontrollere en slik KI eksisterer ikke i dag. Å finne dem vil kreve målrettet forskningsarbeid over mange år, i tillegg til det viktige arbeidet Frigessi og andre gjør for å trygge dagens KI-system.
Vi fastholder vår påstand om at også Bengios advarsler om fremtidens KI bør tas på alvor. Teknologirådets ferske rapport om superintelligens – med scenarier for 2030 – viser at også Stortingets rådgivende organ tar problemstillingen på alvor. Et naturlig sted å begynne er å etablere et nasjonalt forskningsinstitutt for KI-sikkerhet, noe som krever offentlige bevilgninger utover den eksisterende KI-milliarden.
Her må vi som forskere jobbe på lag. For å løse både dagsaktuelle og langsiktige problemer.
Mer fra Langsikt
Konseptnotat for et norsk KI-sikkerhetsorgan
Hvorfor og hvordan Norge bør etablere et KI-sikkerhetsorgan.
Nå kommer hackebølgen
Norske småbedrifter har til nå vært beskyttet av at ingen gadd å hacke dem. Det endres med åpen KI.
Åpen KI gjør oss mer sårbare
Åpne KI-modeller skaper like mange problemer som de løser, og noen av dem kan få katastrofale konsekvenser. Løsningen er koordinert styring av KI-utviklingens tempo.
Norge står utenfor KI-sikkerhetssamarbeidet
KI-drevne cyberangrep truer norsk økonomi og infrastruktur. Allikevel har vi ingen plass ved bordet der våre allierte samarbeider om KI-sikkerhet.
Se alle våre publikasjoner her