Et steg nærmere Deepfake Town

Det har vært snakk om at vi snart kommer til å få troverdige deepfakes som kan reagere i sanntid. Vel, dagen er kommet.

I videoen ovenfor kan man se grunnlegger av KI-selskapet Tavus, Hassaan Raza, snakke med en rødhåret kollega om hvordan de skal lansere deres siste produkt Griffin.

Plott-tvisten? Kollegeaen er ikke en ekte person.

Hun er en KI.

"Kan fremdeles se at blablabla"

Og ja, man kan fremdeles se tydelig at det er en KI hvis man ser nøye etter. Det er noe rart med leppene, øynene, stemmen og den generelt uncanny valley-vibben hun gir.

Demonstrasjonsvideoen er også nøye klippet og promotert slik at modellen fremstår mest mulig menneskelig. Hadde man fått test-tilgang til Griffin i dag så ville man skjønt ganske kjapt at det er KI. Påstaden om at modellen deres er i stand til å lure 48% av mennesker kommer også fra selskapet og er ikke faktasjekket av eksterne.

Men når alle forbehold er tatt.

What the fuck???

Tavus har klart å bake inn tusen små og subtile detaljer som vi forbinder med ekte mennesker. Se for eksempel på hvordan hun gynger stolen diskret fram og tilbake når hun "tenker". Eller hvordan bakgrunnen hennes består av en halvveis neddratt gardin hvor dagslys slipper inn på en realistisk pult. Legg også merke til kvisene på nesen.

De har også gjort store framsteg i å gi henne "personlighet". I videoen "fleiper" hun med at Raza er våken for lenge, hun tar et vennlig "pust" før hun gir tommel opp og "smiler" når hun får kompliment. Alt dette er ting som fram til nå har vært ekstremt menneskelig. Men ikke nå lenger.

Sammenlign dette med modellene vi har hatt fram til nå og du vil tydelig se forskjellen.

Teknologi som ikke bør utvikles

Griffin er på et teknisk nivå veldig imponerende og de som har skapt den er sikker veldig smarte og har brukt masse tid og krefter på å få alt til. Problemet er bare at teknologien river ned verden. For hva er det modellen kommer kan brukes til?

Uhhhhhmmm, la meg tenke, ehh, huh, nei. Selvsagt vil det bli det svindel. Hva trodde du?

Tavus – som forøvrig kaller seg The Human Computing Company – hevder at Griffin skal være et verktøy som menneskeliggjør kontakt med dine KI-assistenter. Grunnlegger Raza skriver at det "å snakke med en maskin burde føles like naturlig som å snakke med en venn eller kollega." De ser for seg at modellen deres skal være en menneskelig måte for folk å snakke med helse-assistenten sin eller en lærer.

Det kommer ikke til å skje. For hvem vil ha mest nytte av en teknologi som lurer folk til å tro at man snakker med et ekte menneske? Svindlere kommer til å gnikke seg i hendene. Eller etterretningsbyrå. Eller bare ensomme.

Markedet er stort.

Minner fra fordums tid

Jeg husker enda første gang jeg skjønte at KI-videoer kom til å bli like gode som ekte videoer. Det var da broren min viste meg denne videoen om "The Great Catspy" i april 2023.

Broren min (som jobber med film) var svært oppskaket av videoen. Jeg slet der og da med å skjønne hvorfor han tenkte det var så ille. Man kunne tydelig se at det var AI, at karakterene var helt usammenhengende og at det ikke var annet enn en gøy kattevideo.

Det jeg ikke forsto, men som han gjorde og forklarte meg, var at The Great Catspy bare var det første vi kom til å se. Allerede i 2023 kunne man – basert på trendene og dataene man hadde tilgjengelig – forutse at KI-modellene kom til å bli mye kraftigere.

Det kommer ikke til å stanse her

Et poeng jeg virkelig må hamre inn i folk når jeg snakker om KI er følgende:

"Den KI-en du ser i dag er det dårligste KI kommer til å være. Herifra blir bare teknologien kraftigere."

Det er lett å tenke at modellene har peaket akkurat der vi kan se dem i dag, men det er en grov feilslutning.

Gitt dagens utvikling kommer vi bare til å få enda mer troverdige KI-videoer. Griffin kommer til å bli like allment tilgjengelig som bildegenerering er i dag.

Det betyr at vi kommer til å drukne i KI-videoer i stadig flere kanaler. Ifølge Pew Research er 35% av alt skriftlig innhold på engelske nettsider skrevet av KI siden ChatGPT kom ut i 2022. Vi må vente det samme på video og bilder.

Sterk er den som ikke stikker hodet i sanden, men forbereder seg på en stadig mindre menneskelig verden.