Nå kommer drittifiseringen til KI

Drittifiseringen, på engelsk enshitification, kommer til KI-chatbotene, og femten år med teknologihistorie forteller oss at vi ikke kommer til å like resultatet. 

Sosiale medier har blitt korrumpert, privatlivet har blitt krenket og oppmerksomheten stjålet uten at politikerne har løftet en finger. Forhåpentligvis er politikerne klare til å vise handlekraft før drittifiseringen ødelegger chatbotene, og med dem oss.

I forrige uke bestemte OpenAI at de skal inkludere reklame i gratisversjonene til ChatGPT. Det kan virke som en liten og uproblematisk endring. Og ikke minst rettferdig. Om du ikke vil betale 250 kr i måneden for de beste modellene, må du akseptere litt reklame for å få tilgang til kraftig og dyr teknologi.

Men det er ikke lov å være naiv. Vi har sett dette spille seg ut før, på sosiale medier og Google, som gikk fra å være elsket av brukerne til å bli ødelagt av jakten på annonsekroner. 

De fortalte oss at reklamen var en gavepakke, siden vi fikk tjenesten gratis. Det de ikke fortalte var at vi dermed ble produktet som ble solgt til annonsørene og at selskapets insentiver ble flyttet fra å blidgjøre oss til å blidgjøre annonsøren. 

Nå sitter vi med fasiten i hånd. Tjenestene ble verre og mer avhengighetsskapende, og de "sosiale mediene" er transformert til passive kortfilmsdistributører. Dette er det som skjer når kraftige algoritmer optimerer for reklame, ikke brukernes blomstring.

KI-labene har siden oppstarten lovet å ikke begå den samme feilen som Facebook. De ble dannet med en storslått visjon om å hjelpe menneskeheten og signerte opprop om at KI utgjorde en eksistensiell trussel. Men markedets sirener er vanskelige å motstå, selv om man har forsøkt å binde seg til masten.

Fra innsiden av OpenAI ropes det varsko. I en kronikk i New York Times i forrige uke skriver eks-ansatt Zoë Hitzig om hvordan avgjørelsen om å begynne med reklamefinansiering har fått henne til å slutte i OpenAI. Hun er den siste i rekken av idealistisk motiverte ansatte som slutter i protest mot at selskapet velger kommersielle hensyn over etikk og trygghet hver gang de tvinges til å velge.

Det er to grunner til at OpenAIs Facebook-vending kan få mye verre konsekvenser enn det vi har sett med sosiale medier. Den ene grunnen er at OpenAI har tilgang på mye mer privat informasjon enn Facebook noen gang har hatt.

Det finnes ikke grenser for hva folk deler med chatbotene. De spør om kjærlighetsråd, ber om hjelp til å tolke sensitive helseopplysninger eller bruker botene som terapeuter. Alt under forutsetningen om at chatbotene er der for å hjelpe, uten å dømme eller hovere over oss. Og chatbotene lytter, tilpasser seg den de snakker med, og ja, snakker dem etter munnen ved behov. Det får folk til å dele. 

Selskapet sier de ikke vil tilpasse reklamene basert på det du skriver, men hvem tror at den lovnaden vil vare når de har begynt å få ferten på annonsepenger? Et ansvarlig selskap skylder sine investorer å ta i bruk alle inntektskilder de har tilgang på.

Den andre grunnen er at algoritmene er mye kraftigere og mer overbevisende. Mens sosiale medier holder på oss gjennom nettverkseffekter og FOMO, er chatbotenes makt enklere: De binder oss ved å hjelpe oss så mye at vi ikke kan leve uten dem. De lærer din historikk og vil over tid kunne gi stadig bedre råd. Det er ikke lett å bytte ut en "fastlege" som kjenner deg ut og inn. Hvis vi knytter tette bånd til spesifikke modeller, vil det gi alvorlige innlåsingseffekter.

I kampen mot drittifiseringen har vi flere mulige grep: 

For det første kan man forby reklame i gratismodellene, et forslag som trolig vil appellere til Kari Nessa Nordtun og hennes tilhengere. Det vil tvinge OpenAI til å fjerne reklamene eller stenge gratisversjonen for norske brukere.

For det andre kan staten gi hele folket gratis tilgang til reklamefrie KI-modeller. Én mulighet er å gi folk tilgang til “Norgesmodellen”: en modell trent på norske data bygget på toppen av åpne utenlandske systemer. Et alternativ er å kjøpe kollektiv premium-tilgang til alle nordmenn fra de ledende KI-selskapene under forutsetning av streng personvernsbeskyttelse. 

Å sikre reklamefrie varianter for norske borgere vil ikke bare forhindre drittifisering. Det vil også være det beste digitaliseringsminister Karianne Tung kan gjøre for å sikre folkets KI-kompetanse.

For det tredje må vi unngå innlåsingseffekter ved å kreve at folk får ta med chat-historikken til andre selskaper, slik man i dag får med seg all relevant historikk når man bytter mobiloperatør.

For det fjerde bør vi bygge "fagforeninger for data", organisasjoner som representerer brukernes datainteresser i møte med selskaper som OpenAI. Bare i fellesskap kan vi bedre vilkårene for datadeling og sikre en viktig inntektskilde i en automatisert fremtid.

Teknologiutvikling er som et sett med stier, hvor det å ta et veivalg former alle senere valg. Å akseptere reklame i KI-systemene er noe vi kommer til å merke konsekvensene av i lang fremtid. Det er nå det må stoppes.