KI-horisonten: mai

Mark Zuckerberg deler sin visjon av KI-paradis

Ny sveis, men samme profittmaksimerende algoritme. Skjermdump: Dwarkesh Patel.

Jeg er blitt spaltist i Altinget og skriver første spalte om Zuckerbergs visjon for KI. Sjekk den gjerne ut for mer utfyllende kommentar!
I to ferske intervjuer la nylig Meta-sjef Mark Zuckerberg frem sin visjon for KI og hvorfor han mener 2025 vil bli året for open-source.
Han snakker entusiastisk om hvordan KI kan automatisere markedsføring fullstendig, hvor algoritmer automatisk velger den ideelle målgruppen, lager budskap og plakater, fikser plassering i feeden og påvirker brukerne til å kjøpe produktet. Vi kan med andre ord vente oss hyperpersonalisert reklame.
Zuckerberg ser også for seg en “tredje epoke” for sosiale medier hvor KI-generert innhold i større grad vil overta feeden din. Det betyr færre poster fra tanter og onkler, og mer KI-generert innhold skreddersydd til dine preferanser.
Meta tenker også at KI kan være din venn, terapeut og potensielt kjæreste.
Jeg skriver mer utfyllende og kritisk om Zuckerbergs visjon i min nye spalte i Altinget. Sjekk den gjerne ut!

AlphaEvolve kan komme på nye ideer av seg selv. Illustrasjon: Sora

Google DeepMind lanserer AlphaEvolve, et KI-system som kan designe bedre algoritmer med minimal menneskelig inngripen.
AlphaEvolve har allerede skapt imponerende resultater. Det har gitt en 0.7% effektivitetsøkning til Googles datasentre (det høres lite ut, men med tanke på hvor stor Google er på datasentre så teller hver prosent kolossalt mye) og bidratt til å designe bedre databrikker.
Det mest oppsiktsvekkende med AlphaEvolve er at den har klart å automatisk forbedre treningstiden til nye språkmodeller. Det viser at selvforsterkende KI kan bli en mulighet framover.
DeepMind-grunnlegger og nobelprisvinner Demis Hassabis oppsummerer på X: “Knowledge begets more knowledge, algorithms optimising other algorithms - we are using AlphaEvolve to optimise our AI ecosystem, the flywheels are spinning fast…”

Alle er bitt av KI-basillen i disse dager. Foto: © Mazur/cbcew.org.uk

De fleste har fått med seg at vi har fått ny pave. Men kanskje ikke alle har fått med seg at paven har valgt navnet Leo XIV delvis på grunn av KI?
I redegjørelsen for navnevalget sitt fortalte den nye paven at han var inspirert av sin forgjenger (Leo XIII) som var pave under den industrielle revolusjon. Leo XIV sier nå at vi står overfor en ny “industriell revolusjon” innen KI som truer “menneskeverd, rettferdighet og arbeid.”
Den nye paven viderefører dermed arven fra Pave Frans, som advarte sterkt mot at mennesker ikke må miste kontroll over KI.
New York Times har en interessant artikkel om pavens KI-syn (les gratis her)

Fra regulering til fritt fram. Mye har skjedd på to år. Foto: privat

Sam Altman og andre tek-ledere vitnet nylig i en senatshøring om KI. Her var tonen markant annerledes enn under Biden-administrasjonen.
I 2023 advarte Altman sterkt om de negative konsekvensene KI kan ha på samfunnet og argumenterte for behovet for myndighetsregulering og sikkerhetskrav.
Nå har pipen fått en annen lyd, og Altman mener at det ville vært “katastrofalt” å stille krav til selskapene om å teste at modellene er trygge før de slippes ut i offentligheten.
Et sentralt budskap fra både senatorene og vitnene var et ønske om "light touch"-regulering.
Senator Ted Cruz fremstilte valget slik: "I dette kappløpet står USA ved et veiskille: Skal vi velge veien som omfavner vår tradisjon med gründerfrihet og teknologisk innovasjon, eller skal vi innføre Europas kommando- og kontrollpolitikk?”
Konklusjonen man kan dra fra senathøringen er at amerikanske myndigheter og de ledende tek-selskapene er enige om at KI er et kritisk kappløp mot Kina som USA må vinne. Det betyr minst mulig regulering.

Det blir fort mye Sam Altman i monitor i nyhetsbrevet. Foto: Wikimedia/Techcrunch

OpenAI gjør en helomvending og annonserer at den ideelle organisasjonen (non-profit) fortsatt skal beholde kontrollen over selskapet.
I desember 2024 la OpenAI frem planer om å fjerne non-profit-delens kontroll over selskapet, noe som ville gått imot det fundamentale formålet selskapet ble stiftet med: “Å sikre at kunstig generell intelligens (KGI) kommer hele menneskeheten til gode.”
Men nå snur OpenAI etter massiv kritikk og juridisk press. Kritikere, inkludert Elon Musk, KI-pioner Geoffrey Hinton og tidligere OpenAI-ansatte, argumenterte for at endringen ville være et brudd på selskapets juridiske ansvar.
Også statsadvokatene i Delaware og California har blitt involvert i saken, noe som tilsynelatende har tvunget OpenAI til forhandlingsbordet.
OpenAI har nylig blitt verdsatt til svimlende 300 milliarder dollar. Endringer i selskapsstrukturen har med andre ord svært mye å si.
Hva dette vil innebære i praksis er ikke godt å si. Kritikerne mener fremdeles at dette er et forsøk på å svekke kontrollen til OpenAIs ideelle del, og at vi ikke har sett det siste fra Sam Altman enda på dette feltet.
Om du vil lese mer om den svært forvirrende selskapsstrukturen til OpenAI har Vox-journalist Kelsey Piper skrevet to gode artikler om dette, som du kan lese her og her.

KI-utviklingen raser forbi og det er vanskelig å dekke alt i nyhetsbrevet. Så her har vi oppsummert noen av de viktigste nyhetene:

Ny NATO-rapport lister KI og kvanteteknologi som den nest største makro-trenden som vil påvirke verdens sikkerhet de neste 20 årene.
OpenAI måtte trekke tilbake en oppdatering av GPT-4o etter at modellen ble for smiskende med brukerne, noe som viser hvor vanskelig “alignment” er.
Nvidia planlegger å lansere en nedgradert versjon av sin H20 KI-brikke slik at de kan unngå amerikanske eksportrestriksjoner og selge brikkene til Kina.
Kjendisinvestor Paul Tudor Jones advarer mot KI-katastrofe etter å deltatt på Chatham-rules arrangement med flere toppledere i industrien (her er det verdt å se intervjuet på 6 minutter).
Språkmodeller er bedre på å overbevise mennesker enn mennesker ifølge denne forskningsrapporten.
Vil menneskeheten gradvis bli overflødig på grunn av KI? Professor David Duvenaud skriver interessant om hva som skjer hvis maskiner kan bli bedre enn oss ikke bare på arbeidsområder, men alle områder som gjør oss menneskelige.