Hvordan redde bøker om kunstig intelligens?

Denne artikkelen ble først publisert hos Altinget. Les mer av Altinget her.

«Det er tiår hvor ingenting skjer og så er det uker hvor tiår skjer.»

Dette Lenin-sitatet (som forresten ikke er fra Lenin) har sjelden vært mer treffende enn for kunstig intelligens. Hver måned kommer det nye gjennombrudd innen KI, som før ville tatt år å oppnå. I forrige uke slapp for eksempel Google Veo 3, som kan skape videoer som er umulige å skille fra virkeligheten. Det er et skille vi lenge har ventet på, men som nå er her. Vi lever midt i en KI-revolusjon som vil ha enorme konsekvenser for samfunnet vårt, ikke minst for demokratiet.

Så hvordan skriver man en bok om et tema som forandrer seg raskere enn man klarer å publisere?

Henrik Skaug Sætras svar er å gå bredt til verks. Hvordan redde demokratiet fra kunstig intelligens utforsker både store og små problemstillinger knyttet til KI. På 176 sider følger vi en reise fra antikkens Hellas til en tenkt fremtid i 2040 hvor nordmenn har digitale kloner som fremmer deres politiske interesser. Ideen bak boka er god og relevant, men utførelsen har noen store mangler.

La oss først se på det som fungerer.

Ikke bare abstrakte spørsmål

En av Sætras viktigste innsikter handler om grensen mellom nasjonal og digital suverenitet. Vi liker å tenke at det er norske politikere som har kontroll på kjerneoppgaver i samfunnet, slik som helse, sikkerhet og utdanning. Men når OpenAI kan lansere ChatGPT og over natten endre norsk skole og arbeidsliv uten noen norsk debatt i forkant, hvem bestemmer egentlig over vår teknologiske fremtid?

Norge kan godt ha ambisjon om å bli verdens mest digitaliserte land, men vi produserer ikke teknologien som digitaliserer oss. I stedet har vi gjort oss avhengig av amerikansk infrastruktur, fra Microsofts skytjenester til Googles søkealgoritmer.

Dette er ikke bare abstrakte spørsmål om nasjonal uavhengighet. Sætra skriver om hvordan «teknoguttene i Silicon Valley» aktivt bruker sin makt til å forme politikken her i Norge. Han skriver godt om hvordan figurer som Elon Musk og Mark Zuckerberg – henholdsvis verdens rikeste og nest rikeste mann – nå er blitt mektigere enn de fleste nasjoner. Da Musk kjøpte Twitter for 44 milliarder dollar var det ikke en økonomisk investering, men en plattform for global politisk kommunikasjon. Konklusjonen er dyster: Demokratiet vårt er under press fra algoritmer vi ikke forstår, kontrollert av menn vi ikke har stemt på.

Denne maktkonsentrasjonen er ikke tilfeldig, mener Sætra, men en konsekvens av at teknologi iboende er politisk. Han utfordrer den rådende oppfatningen om at en teknologi verken er god eller dårlig i seg selv, men at det avhenger av bruk. Han argumenterer for at visse verdier blir bygd inn i teknologiene vi omgir oss med, men at det er vanskelig å oppdage. Han er derfor svært skeptisk til å overføre større beslutninger til KI-systemer selv om de tilsynelatende gir bedre og mer «objektive» svar. 

Debatten blir for liten

En utfordring med boka er formen og språket. Stilen er veldig akademisk og pedagogisk. Det kan være bra for folk som ikke har så mye kjennskap til temaet, men det går på bekostning av lesbarhet. Gjennom hele boka sitter jeg med følelsen av å lese en samfunnsfagstekst fra videregående. Det er for mange setninger av typen «I antikkens Hellas bodde en ganske unik samling mennesker», eller «Noen har omtalt demokrati som en god ting (...)». Sætra bruker dessuten cirka en fjerdedel av boka på generelle betraktninger om demokrati-teori, før han kommer skikkelig inn i KI-materien.

Når det gjelder innholdet, så er et større problem at boken i praksis blir en diskusjon om sosiale medier-algoritmer fremfor KI mer bredt. Visst er filterbobler og ekkokamre relevant for demokratiet, men dette er kanskje et av de mest gjennomdiskuterte temaene i Norge allerede (en mulig konkurrent er temaet «Hvilken rolle redaktørstyrte medier skal spille i en ny mediehverdag»). Selv om analysen av algoritmer er god, tilfører den lite nytt til debatten om hvordan Facebook og TikTok påvirker politikken.

Dette peker på et bredere problem. Store deler av samfunnsdebatten rundt KI blir redusert til en «liten» debatt rundt noen få konkrete temaer. Vi snakker mye om hvordan KI påvirker skolen og hvordan elever kan jukse, men lite om hvilke egenskaper som i det hele tatt er verdt å lære når KI blir stadig smartere. Vi diskuterer deepfakes og hallusineringer, men ignorerer de store strukturelle endringene.

Hvorfor utforsker ikke Sætra mer hva som skjer dersom folk begynner å miste jobbene sine som følge av KI? Det vil trolig være mer omveltende for demokratiet enn deepfake-videoer eller hallusineringer i NAV. Vi ser stadig små drypp om at det lyses ut færre entry level-stillinger for jurister, programmerere og reklamefolk. Hva skjer for eksempel dersom en hel generasjon opplever at utdanningen deres blir irrelevant før de er ferdig med den? Hva gjør det med tilliten til demokratiske institusjoner? Disse spørsmålene fortjener dypere analyse.

Avfeier eksistensiell risiko

Min siste innvending er at boken ikke tar opp muligheten for at vi mennesker kan miste kontroll over KI. Det kan skje i form av et omfattende tekno-diktatur, at vi gradvis blir overflødige og erstattet, eller at KI-systemene blir smartere enn oss og utvikler egne mål. Det sistnevnte får en del norske KI-forskere til å steile, men jeg mener det absolutt er en reell mulighet. Det samme gjør pionerer innen feltet som nobelprisvinnere Geoffrey Hinton og Demis Hassabis, lederne i de største KI-selskapene og en voksende gruppe i det amerikanske sikkerhets-establishmentet. 

Å avfeie eksistensiell KI-risiko som spekulasjon virker naivt i en bok som ellers tar fremtidsscenarier på alvor. Hvis man kan skrive om digitale kloner i 2040, burde han også kunne diskutere muligheten for at superintelligente systemer utgjør en trussel mot menneskehetens fremtid.

Hvordan redde demokratiet fra kunstig intelligens er et betimelig spørsmål som bare vil bli mer relevant framover. Sætra skal ha honnør for å starte denne debatten i Norge og for å tilgjengeliggjøre tung materie for et bredere publikum. Men jeg savner at noen hever blikket og anerkjenner at KI er en langt, langt mer omfattende teknologisk revolusjon enn bare et supplement til eksisterende debatter.

Om vi ikke gjør det, kan du banne på at Silicon Valley vil.

Denne artikkelen ble først publisert hos Altinget. Les mer av Altinget her.