Kunstig intelligens: en systematisk oversikt over risikobildet
I dette notatet kartlegger vi risiko forbundet med kunstig intelligens (KI) og foreslår løsninger. Målet er å danne grunnlag for en mer informert samtale om hvordan Norge kan bidra til å redusere risikoene og utnytte potensialet som ligger i teknologien.
KI-generert illustrasjon fra Midjourney
Hovedmomenter
I dette notatet kartlegger vi risiko forbundet med kunstig intelligens (KI) og foreslår løsninger. Målet er å danne grunnlag for en mer informert samtale om hvordan Norge kan bidra til å redusere risikoene og utnytte potensialet som ligger i teknologien.
Risikoene kan deles i tre kategorier:
• Strukturelle problemer: KI kan skape systematisk diskriminering av utsatte grupper, økonomiske omstillingsutfordringer, utfordre demokrati og tillit, samt forårsake destabiliserende kappløpsdynamikk mellom stater og selskaper.
• Misbruksrisiko: KI kan senke terskelen for at ondsinnede aktører gjennomfører avanserte cyberangrep eller utvikler kjemiske eller biologiske våpen. Det kan også styrke stater og selskapers evne til å overvåke og manipulere enkeltpersoner og demokratiske prosesser.
• Ulykkesrisiko: KI kan øke risikoen for alvorlige ulykker ved bruk i kritisk infrastruktur, autonome våpen og atomvåpen-systemer.
Alle risikoene vil øke med kraftigere KI. Vi trenger at myndigheter, forskere og selskaper legger ned en ekstraordinær innsats for å løse en rekke tekniske og regulatoriske problemer før modellene blir mer kapable. Dette notatet peker ut en vei framover for denne dugnaden.
Mer fra Langsikt
Verdens fremste KI-forsker advarer om farene med kunstig intelligens. Å avfeie ham er risikabelt.
Han har skissert et av de beste løsningsforslagene så langt.
Norge trenger et nytt, nasjonalt prosjekt
Norge og Europa må finne en tredje vei i skyggen av Kina og USA.
Datasentre er framtidens infrastruktur – ikke et sidespor i energipolitikken
Debatten om datasentre domineres av bekymringer for kraftbruk og naturinngrep. Men datasentre er i ferd med å bli en ny form for kritisk infrastruktur. Det avgjørende spørsmålet er ikke hvor mange vi skal ha, men hvilke premisser Norge skal styre dem etter.
Et hav av data
Norge er i praksis i ferd med å bygge en digital tvilling av havet, men vi bruker den først og fremst til rapportering, ikke til innovasjon.
Se alle våre publikasjoner her