KI hjalp meg å slå Silicon Valleys beste hoder på et Hackaton. Det burde ikke være mulig

Denne artikkelen ble først publisert hos Altinget. Les mer av Altinget her.

De siste månedene har stemningen endret seg veldig i Silicon Valley, hvor jeg for tiden studerer. Flere og flere jeg snakker med, snakker nå om nytt «AGI-moment». Altså at man virkelig kjenner på at KI-modellene har gjort et nytt og merkbart sprang i intelligens. For meg kom denne følelsen forrige helg.

Jeg hadde meldt meg på et «Hackaton» i regi av avisen The Atlantic. Hackaton er nærmest en sport her på vestkysten. Man blir låst inne i et bygg på begrenset tid, i mitt tilfelle åtte timer, og må kode frem en app. I sjette timen kollapset samarbeidet med laget mitt – bestående av en produktleder fra TikTok og en softwareingeniør fra Amazon – på grunn av kreative uenigheter.

Jeg har ingen erfaring med å kode eller programmere. Likevel skulle jeg innen to og en halv time gå på en scene og presentere et produkt som ikke eksisterer noen andre plasser enn i hodet mitt. En umulig oppgave for bare et år siden, men ikke nå lenger.

Ved hjelp av Anthropics KI-modell Claude Code, kunne jeg materialisere en idé til programvare. Ideen var å bygge en algoritme som kunne hente fram avisers tidløse innhold, såkalte «evergreen content» fra The Atlantics arkiver og anbefale dem til leseren ut ifra deres personlige interesser.

Til min uendelige overraskelse greier Claude å gjøre det som andre team på opptil åtte erfarne Silicon Valley-typer gjør. Med minimal input fra min side ser jeg plutselig tusenvis av linjer med kode bli skrevet. Når noe går feil, forklarer jeg feilen på engelsk, så fikser Claude resten.

Det hele ender med at produktet jeg presenterer, blir valgt ut av juryen som en av tre vinnere av 20 lag.

Det burde ikke være mulig.

Langt til Norge

Mens man i Silicon Valley snakker om «AGI-moment», opplever jeg at diskusjonen i Norge er på helt motsatt spor. Den offentlige debatten handler om hvordan man kanskje kan få litt mer KI inn i offentlig sektor, eller hvorvidt leger kan bruke chatboter til å ta notater.

Og i den grad noen nevner kunstig generell intelligens (KGI), er det nesten uten unntak for å forsikre oss om at dette bare er hype fra USA.

Ta for eksempel Inga Strümke, Norges mest innflytelsesrike KI-ekspert. Nylig stilte forskere fra OsloMet spørsmålet «Hvorfor snakkes det så lite i Norge om faren ved å miste kontrollen over utviklingen av superintelligent KI?» i Klassekampen.

Svaret fra Strümke er at vi snakker lite om superintelligens fordi vi har en «relativt opplyst og digitalt kompetent» befolkning og at «folk skjønner at datamaskiner er verktøy.» Strümke, som også representerer majoritetssynet på KI, har tidligere kalt bekymringer om superintelligent KI i DN for «futuristisk alarmisme».

Men hvor gode må modellene bli før vi innser at morgendagens KI-systemer vil overgå de fleste mennesker på de fleste områder?

Du tror det ikke før du ser det

Jeg mener at de nyeste KI-modellene er et klart steg i den retningen. Claude Code er ikke lenger bare en chatbot som kan gi deg svar fram og tilbake, men en agent som kan ta over datamaskinen din og skrive kode. 

For folk som ikke har kodebakgrunn, høres ikke dette så imponerende ut. Det er lett å tenke at «KI som kan kode», er en utvikling som kun påvirker IT-ingeniører. Men som redaktør i Transformer Shakeel Hashim forklarer godt, er alt som vi gjør på PC-er i bunn og grunn kode. Spørsmålet man må stille seg, er ikke «er dette kode», men heller «er dette noe som kan løses digitalt?»

Code, after all, is just a language by which we instruct computers to do things. An AI agent that can code, then, can … do almost anything you do on a computer.

Om svaret er ja, så betyr det også at en KI-agent kan gjøre det. Implikasjonene av dette er enorme. Det er knapt grenser for hva man kan få til på en datamaskin. Med riktig oppsett kan KI-agenter utføre økonomisk lønnsomt arbeid slik som å føre regnskap, lage nettsider og effektivisere prosesser. 

Lytt til amerikanerne

Det er ikke lenger bare toppsjefer i KI-selskaper som snakker om KGI, men også toppolitikere, sikkerhetseksperter, økonomer og uavhengige KI-eksperter. Rekken av eksperter som tar problemet seriøst, blir stadig lengre. Til og med paven tar trusselen om KGI på alvor.

Denne uken kom den andre versjonen av «The International AI Safety Report». Rapporten er skrevet av 100 uavhengige eksperter og er ledet av Yoshua Bengio, en av verdens fremste KI-eksperter som nylig var på besøk i Oslo. Rapporten identifiserer mange trusler, også deriblant faren for at vi mister kontroll over KI-systemene vi lager.

Blant de store KI-selskapene skrives nå majoriteten av all kode av KI-modellene selv. Softwareingeniørenes nye rolle er å gjennomgå kode og gi tilbakemeldinger på strukturen. Det er nesten ingen som skriver kode lenger.

Februar 2020

Selv har jeg brukt Claude i over et år nå, og jeg merker at for hver modell de slipper, så krymper antall oppgaver bare et menneske kan løse. Den siste versjonen av Claude er ikke lenger bare en sparringspartner, men en assistent som nå utfører større og større oppgaver for meg på selvstendig vis.

Og den gjør det i tillegg med eleganse og humor som jeg ikke kan beskrive som annet enn svært sofistikert. Til tider rett og slett som å ha en uendelig kunnskapsrik assistent innebygd i PC-en min, tilgjengelig til enhver tid.

Jeg tror vi står overfor et nytt ChatGPT-øyeblikk. Jeg tror at folk innen kort tid vil forstå at de nyeste KI-modellene ikke lenger bare er samtalepartnere, men selvstendige agenter som kan utføre langt mer enn hva vi tenker i dag.

New York Times journalist Kevin Roose sammenligner øyeblikket vi befinner oss i nå, som februar 2020, rett før Covid smalt. Også da var det bare en liten gruppe som advarte om hva som var i ferd med å treffe oss, og samfunnet var overhodet ikke forberedt. 

I Silicon Valley merker jeg et stemningskifte. Til og med de mest teknologi-optimistiske rundt meg er overrasket over hvor fort ting går. Vi står overfor KI-modeller som verken sover eller spiser, som kan jobbe døgnet rundt og til og med kjøre mange versjoner av seg selv samtidig. Rommet for hva bare mennesker kan gjøre, blir stadig trangere.

Jeg vet virkelig ikke hvor alt dette leder eller hvor vi er på vei. Men det jeg vet, er at vi ikke er forberedt på det som kommer.