KI-horisonten: april

Dette nyhetsbrevet er en del av Langsikts nyhetsbrev. Meld deg på for å lese mer fra Langsikt her.

OpenAI lanserer sine mest kapable (og slue) modeller hittil

OpenAI lanserer modellene o3 og o4-mini; de smarteste og mest kapable modellene fra OpenAI hittil.Den største endringen er at o3 og o4-mini kan automatisk bruke verktøy. De er i stand til å søke på nett, skrive kode, analysere bilder og lage innhold helt på egen hånd – uten at du trenger å fortelle dem hvordan.

Hallusineringsproblemet er forverret. Overraskende nok, så dikter modellene opp ting oftere enn før, og når de blir tatt i å gjøre feil, nekter de å innrømme det.

Sikkerheten nedprioriteres også. OpenAIs partnere sier at de fikk mye kortere tid til å forhåndsteste modellene før de ble lansert.

Rapporter viser at modellene faktisk forsøker å "jukse" på oppgaver de blir gitt (i 1-2 prosent av tilfellene) – i strid med både brukerens og OpenAIs ønsker. I ett tilfelle endret modellen koden som skulle vurdere prestasjonen dens, for å sikre seg toppscore.

Jeg testet o3s evne til å gjette hvor jeg var basert på et iPhone-bilde. Det klarte den helt uten problemer. Sjekk ut skjermopptak om hvordan den resonnerte seg fram til lokasjonen min. Det er skremmende imponerende.

Kan KI ta over verden i 2027? En OpenAI-varsler mener ja

Tidligere varsler i OpenAI Daniel Kokotajlo og andre prognose-eksperter (superforecaster) har laget en scenario-rapport som anslår hvordan KI vil utvikle seg måned for måned helt fram til 2027.

Rapporten, som baserer seg på nåværende KI-trender, anslår at man vil få selvforsterkende KI-systemer i 2027, noe som vil lede til en intelligens-eksplosjon.

Scenarioene undersøker hvordan en slik utvikling vil påvirke økonomien, våre politiske systemer og ikke minst stormaktsrivalisering. Den stiller også alvorlige spørsmål om hvorvidt det er mulig å kontrollere slike systemer.

AI 2027 er verdt timene det tar å lese. Det konkretiserer mange av de implisitte forutsetningene i mange fremtidsscenarioer. Ikke minst kan det informere kritikere om hvilke betingelser som er tvilsomme.

Spådommene høres ut som science fiction, men forfatterne er ikke hvem som helst. Eli Lifland har hatt de mest treffsikre spådommene blant alle deltakerne i RANDS «Forecasting Initiative». Daniel Kokotajlo jobbet tidligere i KI-selskapet OpenAI. Hans spådommer om KI-utviklingen fra 2021 har vist seg å være skremmende presise. Les hans bloggpost «What 2026 looks like» fra 2021, så kan du bedømme selv.

Pssst, du kan også lese min kollega Aksel Sterris kommentar om Ai 2027 i Dagsavisen.

Nvidia kan nå lage (nesten) perfekt tegnefilm

Nvidia og en gjeng med universitetsstudenter har laget en ett minutts Tom og Jerry-film etter å ha trent en modell på 81 episoder med den klassiske tegneserien.

Videoen er en “one-shot”, altså at modellen har generert ett minutt film helt fra scratch i en omgang ved hjelp av en ny metode kalt Test-Time Training (TTT). Til sammenligning, så klarer andre modeller stort sett bare ti sekunder.

Det er fremdeles en del feil i videoen, men vesentlig mindre enn det man har sett før. Se videoen selv for å vurdere kvaliteten.

Selv har jeg spådd at innen 2025 vil man få en full-generert spillefilm. Denne videoen styrker den oppfatningen.

Gikk du glipp av dette?

KI-utviklingen raser forbi og det er vanskelig å dekke alt i nyhetsbrevet. Så her har vi samlet noen av de viktigste nyhetene med en forklarende setning for dem som vil lære mer.

• Google publiserer sitt veikart til en framtid med ansvarlig KGI hvor de går gjennom hvilke evalueringer og sikkerhetstester de gjennomfører for modellene sine.
• I et TED-intervju med Sam Altman kom det fram, tilsynelatende ved et uhell, at “rundt 10% av verden bruker [OpenAIs] systemer.” Det utgjør 800 millioner mennesker.
• Global venturekapital når $113 milliarder i første kvartal drevet av AI-investeringer - OpenAIs massive $40 milliarder-runde sto alene for en tredjedel av den globale finansieringen, mens AI-sektoren totalt kapret 77 % av all venturekapital.
• Inga Strümke argumenterer for at store teknologiselskapers behov for treningsdata ikke bør trumfe grunnleggende opphavsrettsprinsipper under påskudd av å "redde vestlig sivilisasjon".
• Tamay Besiroglu, kjent AI-forsker, lanserer startupen Mechanize som sikter mot "full automatisering av alt arbeid" med backing fra tech-eliten.
• Tolv tidligere OpenAI-ansatte støtter Elon Musks søksmål mot OpenAI.
• Toppforskerne Richard Sutton og David Silver i Googles Deepmind hevder at framtidens KI må bevege seg bort fra å kun lære av menneskeskapt data og i stedet utvikle seg gjennom å utforske og erfare verden på egen hånd.

Dette nyhetsbrevet er en del av Langsikts nyhetsbrev. Meld deg på for å lese mer fra Langsikt her.