Kronikk

Varselsskudd fra Meta

Først publisert i:

Meta har åpnet opp for å bruke innhold fra private meldinger til å «forbedre KI». Det er bare starten på hva som vil komme.

Last ned

KI-generert illustrasjon fra Sora

Hovedmomenter

Innhold

Det har lenge vært kjent at Meta liker å tøye strikken når det gjelder jus, personvern og generell anstendighet. Men nå har de også åpnet opp å bruke innhold fra private meldinger i Messenger og Whatsapp til å «forbedre» KI-modellene sine.

Dette skjer hvis man bruker funksjonen Meta-AI i en chat, for eksempel til å oppsummere en melding eller formulere en setning for deg. Meta vil ikke svare på om samtalene kan brukes til trening av nye KI-modeller.

Datatilsynet forteller at de ble «tatt på sengen» av Metas siste grep. Det viser at vi ikke har forstått spillet. Dette handler ikke om et enkelt selskaps dårlige oppførsel – det handler om en fundamental endring i hvordan data blir verdsatt. Det er to lærdommer å hente:

1. Vi vil se stadig mer offensiv datainnhøsting fremover. For tek-gigantene er tilgangen på data selve drivstoffet i KI-utviklingen. Og nå som de har begynt å gå tom for offentlig tilgjengelige data – hele internett er skrapt – bør vi regne med at selskapene retter blikket mot private brukerdata.

Meta er de mest hensynsløse, men det er naivt å tro at de andre tek-gigantene ikke vil følge etter. Vi bør vente at Google snart «oppdaterer» Gmail-vilkårene, at Microsoft finner kreative måter å høste Teams-samtaler på, og at hver app på telefonen din blir en potensiell datainnsamler.

2. Dataen vi gir fra oss i dag, trener KI-modellene som kan erstatte oss i morgen. De fleste tenker ikke over at hver epost de skriver, hvert regneark de fyller ut eller hver rapport de leverer, lagres i skyen. Men for tek-selskapene er dette en gullgruve.

Epostene avslører ikke bare privat og sensitiv informasjon. De utgjør også et bibliotek over hvordan mennesker løser arbeidsoppgaver. Dette kan brukes til å trene modeller som gradvis erstatter flere av jobbene våre.

Det foregår et intenst KI-kappløp hvor tek-gigantene investerer flere hundre milliarder dollar i å utvikle de kraftigste språkmodellene. Målet er å skape KI-modeller som kan erstatte alt menneskelig, økonomisk arbeid. Som debatten rundt dette i DN har vist, er det ingen som vet nøyaktig hvilket arbeid som erstattes, men veien til transformativ KI går gjennom våre data.

Så hvordan beskytter vi oss? Start med å skru av KI-funksjonen i Messenger og Whatsapp for sensitive samtaler. Deretter bør du bytte til Signal for alle viktige samtaler. Og så må vi slutte å tro på at gratistjenester finnes; om du ikke betaler med kroner, betaler du med data.

Men dette er ikke noe enkeltpersoner kan løse. For å beskytte oss, trenger vi handlekraftig regulering på et europeisk nivå. GDPR, selv med sine mange svakheter, sikrer at europeere har bedre personvern enn amerikanere.

Regulering tar oss likevel bare så langt. For at Norge og Europa virkelig skal frigjøre seg fra tek-gigantene, er vi nødt til å utvikle løsninger som både er konkurransedyktige og ivaretar våre verdier. Dette er en vanskelig balanse å finne. I Langsikt har vi satt ned et utvalg med 15 eksperter som skal gi Norge retning for hvordan vi bør forholde oss til KI og data fremover.

Det var en stor feil å overlate sosiale medier til en liten gjeng i Silicon Valley. Nå står vi ved et nytt veiskille med KI – en teknologi som vil forandre samfunnet langt mer enn sosiale medier noensinne har gjort. Denne gangen må vi sørge for at utviklingen skjer på våre premisser.

‍