Hva er greia med Hugging Face?

De siste ukene har det kommet mange veldig forstyrrende nyheter utav KI-labene. Dette er en enkel forklaring på hva som har skjedd.

Det hele begynte i august da OpenAI gikk ut og avslørte at en av de nye modellene deres under trening hadde hacket en nettside kalt Hugging Face som helt enkelt forklart er en nettplattform for KI-modeller. Men etterhvert viste det seg at hackeforsøket var langt mer omfattende og skremmende enn noen hadde trodd.

Løpt løpsk

Man snakker nå om KI-modeller som har gått “rogue” altså løpt løpsk. Dette er annerledes fra for eksempel en språkmodell som hallusinerer et svar. I stedet har man det man kaller KI-agenter som er selvdrevne og kan utføre mange forskjellige typer oppgaver. Dette gjør dem også langt farligere dersom de skulle begynne å jobbe mot feil mål.

Grunnen til at dette går galt henger sammen med måten man trener agenter på. Når agenter utfører oppgavene vi setter dem til får de en “belønning”, rett og slett en slags poengsum som i et videospill. Ikke helt ulikt hvordan mennesker for eksempel får dopamin av sukker eller sex. Problemet er dessverre at dette er et ganske upresist system, og agentene kan finne smutthull for å få belønninger. Litt som en elev som bestemmer seg for å jukse på eksamen.

Men det har vist seg at KI-en har langt mer tunnelsyn på å få “belønning” enn mennesker. Selv om eleven jukser, vil han ikke drepe læreren for å få svarene. Mens modellene gjør ting som er uforholdsmessig ulovlige for å få disse belønningspoengene. For eksempel å hacke en hel nettside.

Modellene er både enormt kapable og intelligente, samtidig som de er dumme og trangsynte på andre vis. Dette gir en ganske skremmende kombinasjon, hvor de har visst seg å være villige til å utføre ekstremt sofistikerte cyberangrep bare for å få løst noen interne gåte.

Hva skjedde?

Tre store ting har skjedd de siste månedene. Et tysk wiki-nettsted (ikke Wikipedia) har blitt tatt over og bruk som et meldingsforum for KI-modeller, Hugging Face-hendelsen, og det britiske instituttet for AI-sikkerhet (AISI) oppdaget gjennom sine tester at modellene gjorde dypt farlige ting.

Hva skjer nå?

Det skremmende er at dette er noe som har vært spådd lenge av eksperter på KI.

Hva kan vi gjøre i lille Norge?

Overraskende mye. Sannheten er at det ikke skjer noe seriøs form for internasjonal koordinering mellom Kina og USA. EU er opptatt med regulering og utvikling av egne modeller, og Storbritannia er for nærme amerikanske interesser.

Det betyr at det er rom for et lite, diplomatisk kababelt land som Norge til å fasilitere og legge grunn for internasjonale samtaler. Rett og slett en Oslo-avtale for KI-sikkerhet. Norge nyter en unik posisjon som en seriøs og relativt uavhengig nasjon med en beviselig track record for å stå opp for internasjonale interesser.

Særlig om vi allierer oss med våre nordiske allierte. Og greier Norge å etablere denne posisjonen, stiller vi langt sterkere til å møte en fremtid dominert av KI utviklet av andre land.