KI-trusler på kort og lang sikt
At KI skaper alvorlige problemer i dag, betyr ikke at vi kan avfeie fremtidens trusler.
KI-generert illustrasjon fra Sora.
Hovedmomenter
Dette er den fulle versjonen av innlegget som ble publisert hos Aftenposten.
I vårt innlegg 24. november hevdet vi at UiO-professor Arnoldo Frigessi avfeide KI-forsker Yoshua Bengios advarsler om katastrofale konsekvenser av en KI-utvikling som kommer ut av kontroll. Frigessi svarer i Aftenposten at vi «ikke kunne tatt mer feil» og trekker frem sitt eget betydelige arbeid for trygg KI over mange år.
Vi er helt enige i at Frigessi har bidratt og bidrar til å gjøre dagens KI-systemer mer tolkbare, rettferdige og bærekraftige. Og i så måte tryggere. Der vi og Frigessi er uenige er hvilken risiko en akselererende KI-utvikling kan utgjøre i årene og tiårene som kommer. Frigessi advarer mot at et fokus på KI-trusler som kan oppstå i fremtiden «distraherer» fra de KI-truslene vi vet eksisterer i dag. Vårt poeng er at man må ha to tanker i hodet samtidig.
Allerede i dag bidrar akselererende KI-utvikling til konsentrasjon av makt og kapital. Teknologien brukes blant annet til destabiliserende desinformasjon og autonome cyberangrep. Disse problemene er det bred enighet om, men utelukker ikke at KI kan utgjøre en større og annerledes trussel på lengre sikt.
Astronomiske pengebeløp investeres både i Kina og Silicon Valley, med uttalte mål å skape superintelligens. De teknologiske løsningene som behøves for å kontrollere en slik KI eksisterer ikke i dag. Å finne dem vil kreve målrettet forskningsarbeid over mange år, i tillegg til det viktige arbeidet Frigessi og andre gjør for å trygge dagens KI-system.
Vi fastholder vår påstand om at også Bengios advarsler om fremtidens KI bør tas på alvor. Teknologirådets ferske rapport om superintelligens – med scenarier for 2030 – viser at også Stortingets rådgivende organ tar problemstillingen på alvor. Et naturlig sted å begynne er å etablere et nasjonalt forskningsinstitutt for KI-sikkerhet, noe som krever offentlige bevilgninger utover den eksisterende KI-milliarden.
Her må vi som forskere jobbe på lag. For å løse både dagsaktuelle og langsiktige problemer.
Mer fra Langsikt
Datasentre er ikke problemet – dårlig prioritering er det
Datasentre fremstilles som en trussel mot norsk industri og kraftsystem. Tallene viser at risikoen ligger i uklare rammer, ikke i datasentrene i seg selv.
Verdens fremste KI-forsker advarer om farene med kunstig intelligens. Å avfeie ham er risikabelt.
Han har skissert et av de beste løsningsforslagene så langt.
Norge trenger et nytt, nasjonalt prosjekt
Norge og Europa må finne en tredje vei i skyggen av Kina og USA.
Datasentre er framtidens infrastruktur – ikke et sidespor i energipolitikken
Debatten om datasentre domineres av bekymringer for kraftbruk og naturinngrep. Men datasentre er i ferd med å bli en ny form for kritisk infrastruktur. Det avgjørende spørsmålet er ikke hvor mange vi skal ha, men hvilke premisser Norge skal styre dem etter.
Se alle våre publikasjoner her