«ChatGPT er rett og slett ikke til å stole på, men det kan endre seg»

Bjørn Ivar Teigen

Forskningssjef i Domos og doktogradsinnehaver i computer science

Google endret verden ved å gjøre det mye lettere å finne innhold på internett. ChatGPT gjør det mye lettere å lage innhold. ChatGPT gir deg skreddersydde svar på akkurat det du lurer på. Mange mener denne teknologien er en trussel for kunstnere, journalister og forfattere og at svindlere vil bruke den til å lure folk. Det kan ikke utelukkes, og det er liten tvil om at dette vil endre mange bransjer.

Men vil denne teknologien endre hvordan vi finner informasjon? Og kan det utkonkurrere Google?

For å forstå det må vi vite hvordan ChatGPT og andre generative AI-systemer fungerer. ChatGPT er basert på GPT-3, OpenAIs største kunstige nevrale nettverk for språkforståelse. GPT står for Generative Pre-trained Transformer. En «transformer» er en form for kunstig nevralt nettverk som baserer seg på en mekanisme som kalles «attention», eller «oppmerksomhet» om du vil. Denne mekanismen gjør det mulig for den kunstige intelligensen å filtrere bort uviktige detaljer.

Før «oppmerksomhet» ble introdusert hadde nevrale nettverk det problemet at mange situasjoner ser veldig forskjellige ut på grunn av detaljer som egentlig er irrelevante. En AI uten «oppmerksomhet» tar med i beregningen at ulike samtaler som egentlig handler om det samme bruker litt andre ord i en litt annen rekkefølge, hvilket språk eller dialekt samtalen foregår på, hvilken ukedag det er, og så videre. Den kunstige intelligensen bruker rett og slett for mange detaljer når den bygger sin forståelse av enhver situasjon (Akkurat som Borges’ Funes the Memorious).

"Techsperten": Hvor skummelt er egentlig kunstig intelligens?

«Oppmerksomhet» forbedrer ChatGPTs evne til å filtrere bort irrelevant informasjon og fokusere på det som er viktig.

Da er det også mye mer sannsynlig at AI’en har sett en lignende situasjon i treningsdataene. Med dagens teknologi er de fleste kunstige intelligenser avhengige av å «huske» lignende situasjoner for å være i stand til å gi gode svar på ting. Ved hjelp av «oppmerksomhet» kan ChatGPT bedre kjenne igjen situasjoner som ligner på hverandre — og dermed kan svarene også bli mye mer overbevisende. ChatGPT ser skogene, ikke bare trærne.

Gir disse egenskapene ChatGPT evne til å skape noe nytt?

Mange vil si at ChatGPT ikke produserer ny kunnskap, og det er noe sannhet i det. ChatGPT kan «bare» huske tilbake til lignende situasjoner og bruker litt fra hver av dem til å generere et svar. Vi kan si at ChatGPT produserer nye måter å si ting på, men den kan ikke sjekke om det den sier er fornuftig på noen annen måte enn å sammenligne sitt eget svar med ting den har sett før. Siden de fleste av minnene til ChatGPT kommer fra tekst vi mennesker har produsert, vil ChatGPT ofte gjengi de samme misforståelsene og feiltolkningene vi mennesker stadig lirer av oss. Derfor kan vi ikke stole noe mer på ChatGPT enn et hvilket som helst nettforum. OpenAI og andre forskningsinstitusjoner jobber nå med å forbedre dette aspektet av teknologien, så det kan hende vi i fremtiden vil få AI’er som faktisk er til å stole på. Inntil videre er det lurt å være skeptisk.

ChatGPT er en fancy måte å automatisk “blande” konsepter og formuleringer fra ulike tekster.

Noen vil nok hevde at en slikt system ikke kan være kreativt. Min mening er at det vi vanligvis kaller kreativitet er akkurat dét — å blande konsepter for å skape et nytt uttrykk. Vi mennesker har riktig nok, i tillegg til tekster vi har lest, en rik opplevelse av det å leve som AI (fortsatt) mangler. Men betyr det nødvendigvis at ChatGPT ikke kan være kreativ?

ChatGPT hinter om at potensialet for denne typen AI-systemer er veldig stort. Teknologien er fortsatt relativt ung (GPT-3 er fra 2020), så det er veldig mye som ikke har blitt testet ut enda. Det kan ikke utelukkes at vi om kort tid får en versjon av ChatGPT som er i stand til å sjekke sine egne utsagn for å vurdere om de sanne eller ikke. Hvis det lykkes, er vi ikke langt unna en verden hvor måten vi finner informasjon på vil endres radikalt. Ikke fordi ChatGPT er en bedre måte å finne frem til data på, men fordi den kan lage nye svar som passer til akkurat det du lurer på. Der Google er en personlig bibliotekar som kan finne frem til akkurat den boken, videoen eller nettbutikken du leter etter, kan AI være en personlig lærer, assistent, life-coach og sparringspartner.

«Generativ AI – sesongens hype eller et gjennombrudd for kunstig intelligens?»

Når denne teknologien perfeksjoneres på flere domener: musikk, bilder, film, TV-serier osv. så kan det bli mulig å få generert akkurat det du spør om.

Se for deg en versjon av Netflix eller Spotify der du kan gi tilbakemeldinger og få skreddersydd materiale. Er du ikke fornøyd med avslutningen på Game of Thrones? Be om en ny slutt. Liker du ikke retningen din favorittartist har tatt i det siste? Spør hva som hadde skjedd om de hadde gjort det du håpet på. Det vil selvsagt koste penger å generere komplekst innhold. Kanskje vil det gi mening å holde avstemninger, eller å videreselge innhold man selv har bedt om til andre brukere.

Det er ikke tvil om at ChatGPT har tatt brukervennligheten til et nytt nivå og dermed gjort state-of-the-art AI mye mer tilgjengelig.

Teknologien er nå såpass enkel å bruke at den kan være et nyttig verktøy for mange. Men ChatGPT mangler fortsatt noe viktig. Den gir oss en rask og enkel måte å produsere tekst, men denne teksten må sorteres, redigeres og kvalitetssikres før det kan brukes. ChatGPT er rett og slett ikke til å stole på. Når det er sagt så må vi også anerkjenne at vi ikke vet om (eller når) dette vil endre seg.

Om noen måneder, år, eller tiår vil vi ganske sikkert se en versjon av ChatGPT som ér til å stole på. Da vil mange bransjer kunne se svært annerledes ut enn de gjør i dag, og de som lager disse AI-systemene vil ha gode kort på hånda.

Bjørn Ivar Teigen er forskningssjef i AI- og nettverksoptimaliseringsselskapet Domos, og har en doktograd i computer science fra Universitetet i Oslo.