KI-trusler på kort og lang sikt
At KI skaper alvorlige problemer i dag, betyr ikke at vi kan avfeie fremtidens trusler.
KI-generert illustrasjon fra Sora.
Hovedmomenter
Dette er den fulle versjonen av innlegget som ble publisert hos Aftenposten.
I vårt innlegg 24. november hevdet vi at UiO-professor Arnoldo Frigessi avfeide KI-forsker Yoshua Bengios advarsler om katastrofale konsekvenser av en KI-utvikling som kommer ut av kontroll. Frigessi svarer i Aftenposten at vi «ikke kunne tatt mer feil» og trekker frem sitt eget betydelige arbeid for trygg KI over mange år.
Vi er helt enige i at Frigessi har bidratt og bidrar til å gjøre dagens KI-systemer mer tolkbare, rettferdige og bærekraftige. Og i så måte tryggere. Der vi og Frigessi er uenige er hvilken risiko en akselererende KI-utvikling kan utgjøre i årene og tiårene som kommer. Frigessi advarer mot at et fokus på KI-trusler som kan oppstå i fremtiden «distraherer» fra de KI-truslene vi vet eksisterer i dag. Vårt poeng er at man må ha to tanker i hodet samtidig.
Allerede i dag bidrar akselererende KI-utvikling til konsentrasjon av makt og kapital. Teknologien brukes blant annet til destabiliserende desinformasjon og autonome cyberangrep. Disse problemene er det bred enighet om, men utelukker ikke at KI kan utgjøre en større og annerledes trussel på lengre sikt.
Astronomiske pengebeløp investeres både i Kina og Silicon Valley, med uttalte mål å skape superintelligens. De teknologiske løsningene som behøves for å kontrollere en slik KI eksisterer ikke i dag. Å finne dem vil kreve målrettet forskningsarbeid over mange år, i tillegg til det viktige arbeidet Frigessi og andre gjør for å trygge dagens KI-system.
Vi fastholder vår påstand om at også Bengios advarsler om fremtidens KI bør tas på alvor. Teknologirådets ferske rapport om superintelligens – med scenarier for 2030 – viser at også Stortingets rådgivende organ tar problemstillingen på alvor. Et naturlig sted å begynne er å etablere et nasjonalt forskningsinstitutt for KI-sikkerhet, noe som krever offentlige bevilgninger utover den eksisterende KI-milliarden.
Her må vi som forskere jobbe på lag. For å løse både dagsaktuelle og langsiktige problemer.
Mer fra Langsikt
Datafunn – et skatteincentiv for deling av data
Norge får ikke fart på KI uten bedre data, og ingen har incentiver til å gjøre data delbare. Derfor trenger vi et skatteincentiv for datakvalitet og deling.
KI-risiko er mange ting – derfor trenger vi flere samtaler samtidig
KI-risiko er ikke én ting. Når vi blander sammen konkrete, politiske og langsiktige farer, blir debatten og politikken krevende.
Et gyllent år for KI
2026 vil bli et gyllent øyeblikk for kunstig intelligens. Vi bør nyte det så lenge det varer.
Hva vil skje med jobbene?
Rammeverk for å forstå KIs effekt på økonomien.
Se alle våre publikasjoner her