Kunstig intelligens: en systematisk oversikt over risikobildet
I dette notatet kartlegger vi risiko forbundet med kunstig intelligens (KI) og foreslår løsninger. Målet er å danne grunnlag for en mer informert samtale om hvordan Norge kan bidra til å redusere risikoene og utnytte potensialet som ligger i teknologien.
KI-generert illustrasjon fra Midjourney
Hovedmomenter
I dette notatet kartlegger vi risiko forbundet med kunstig intelligens (KI) og foreslår løsninger. Målet er å danne grunnlag for en mer informert samtale om hvordan Norge kan bidra til å redusere risikoene og utnytte potensialet som ligger i teknologien.
Risikoene kan deles i tre kategorier:
• Strukturelle problemer: KI kan skape systematisk diskriminering av utsatte grupper, økonomiske omstillingsutfordringer, utfordre demokrati og tillit, samt forårsake destabiliserende kappløpsdynamikk mellom stater og selskaper.
• Misbruksrisiko: KI kan senke terskelen for at ondsinnede aktører gjennomfører avanserte cyberangrep eller utvikler kjemiske eller biologiske våpen. Det kan også styrke stater og selskapers evne til å overvåke og manipulere enkeltpersoner og demokratiske prosesser.
• Ulykkesrisiko: KI kan øke risikoen for alvorlige ulykker ved bruk i kritisk infrastruktur, autonome våpen og atomvåpen-systemer.
Alle risikoene vil øke med kraftigere KI. Vi trenger at myndigheter, forskere og selskaper legger ned en ekstraordinær innsats for å løse en rekke tekniske og regulatoriske problemer før modellene blir mer kapable. Dette notatet peker ut en vei framover for denne dugnaden.
Mer fra Langsikt
Et hav av data
Norge er i praksis i ferd med å bygge en digital tvilling av havet, men vi bruker den først og fremst til rapportering, ikke til innovasjon.
Skolen bør lære barna å navigere fremtiden
Vi klarer ikke å leve uten mobiltelefon, og vi vil heller ikke klare oss uten kunstig intelligens. Likevel beskytter skolen barna fra verktøyene de må lære å mestre.
De ti KI-bud kobler prinsipper til politikk
Utvalgets rapport foreslår 44 konkrete tiltak for at Norge skal bygge kompetanse, kapasitet og tilsyn i KI-økonomien.
Maskinen kan finne snarveier i tanken
En maskin har forbedret en av informatikkens mest grunnleggende ideer – Dijkstras algoritme for korteste vei. Det markerer et vendepunkt, der grensen mellom menneskelig innsikt og maskinell beregning viskes ut.
Se alle våre publikasjoner her