«På vei mot et KI-krati?»

Yngvar Ugland

Forbrukerteknolog, Dnb

Kontorene til OpenAI i bydelen The Mission i San Francisco er overraskende anonyme. Angivelig skyldes det at ansatte skal slippe å bli utsatt for spørsmål fra allmennheten på vei inn og ut av jobben. 

Ett av spørsmålene de kan ha blitt stilt, er kanskje spørsmålet som jeg stiller meg, og som jeg mener alle bør stille seg: Er det moralske rammeverket for området du jobber innen satt opp for å være til det beste for menneskeheten? 

I anledning ettårsdagen til ChatGPT besøkte jeg nemlig OpenAI i høst, men formålet med reisen til USA var ikke kun å feire. Sammen med en større norsk delegasjon reiste vi over dammen for å lære av de ledende selskapene innen generativ AI, diskutere samarbeid mellom Norge og USA, og dele erfaringer om regulatoriske, etiske og sikkerhetsmessige utfordringer. 

Det faktum at justisministeren var med og ledet delegasjonen antyder at generativ AI ikke er en hype lenger, men et verktøy som har grepet fatt i arbeidshverdagen hos millioner av mennesker verden over – og som vi ser vil ta enda større plass i tiden fremover. Det er nettopp derfor det er så viktig å stille seg spørsmålet: Gjør generativ AI oss bedre?

Jeg stiller meg spørsmålet fordi jeg ser hva andre verktøy har gjort med vår evne til å fundamentalt forstå hvordan ting henger sammen, forstå «how the machine works» for å låne et godt uttrykk av Thomas Friedman. Et eksempel fra egen erfaringsbase: Som ung voksen kjørte jeg i Los Angeles på kryss og tvers (med unntak av South Central, må vite), for å skaffe meg referansepunkter og orientering om hvordan den enormt utstrakte byen henger sammen. Hadde det ikke vært for at jeg har ganske god hukommelse hadde jeg vært fullstendig nedgradert til en dum agent som utelukkende følger stegvise instruksjoner fra Google Maps, en jobb jeg lett erkjenner at selvkjørende biler gjør bedre enn meg, og som jeg har fått bekreftet hver gang jeg har kjørt med en førerløs taxi i San Francisco.

Jeg har måttet ta meg Google-frie måneder for å hjelpe hjernen min med å tenke sjæl (vi må ikke glemme hva Trond Viggo Torgersen har lært oss). Jeg trenger å undre meg over ting, ikke bare stille meg et spørsmål som jeg umiddelbart får svar på.

De store språkmodellene, hvorav ChatGPT er den mest kjente er så kraftige av vi lar oss fullstendig forføre. Jeg tror det skyldes at språket deres er så enormt bra, og at vi nok har betydelig undervurdert hvor stor del av vår oppfatning av intelligens som språket vårt utgjør.

Det synes å danne seg en enighet om at de som tar i bruk kunstig intelligens, inkludert ChatGPT, kommer til å ta jobbene fra de som ikke tar det i bruk, i det lange løp. Det tror jeg også. De som kommer til å lykkes best er de som kan gjøre kvalitative faglige vurderinger av det som den kunstige intelligensen foreslår, og deretter endre, foredle og videreutvikle dette. Man får altså bruk for den grunnleggende forståelsen av hvordan ting henger sammen. 

Dette kan gi bærekraftig vekst en stund. Spørsmålet jeg stiller meg er hva som skjer når det er den kunstige intelligensen som står for den grunnleggende forståelsen av hvordan ting henger sammen. Hvordan sikrer vi da at vi er mange nok som forstår grunnleggende sammenhenger? Hvordan sikrer vi at det ikke blir tatt beslutninger foreslått av kunstig intelligens som vi egentlig ikke forstår hvorfor vi har tatt? Hvordan sikrer vi demokrati i en slik verden og unngår at vi ender opp med et «KI-krati»?

I likhet med utsiden av bygget til OpenAI, er innsiden like beskjedent. Den eneste brandingen jeg kan finne er selskapslogoen på pulten til resepsjonistene. På ettårsdagen til ChatGPT er OpenAI ikke et selskap som skal være beskjedent, i alle fall ikke når det gjelder deres ansvar for å bidra til at utviklingen av kunstig intelligens skal være til det beste for menneskeheten. Det gjelder selvsagt ikke bare OpenAI, men de har tatt posisjonen som pioneren som brakte kunstig intelligens til allmennheten.

Under besøket i San Francisco som justisministeren ledet, bet jeg meg merke i formuleringen som KI-pioneer / KI-vetaran, Stuart Russell, fra Berkeley-universitetet gjorde:

 «Det som bekymrer meg mest, er hvordan vi skal beholde makten, over noe som er mektigere enn oss (kunstig intelligens, altså)», før han tar en dramatisk pause og legger til «... for all fremtid».

De store språkmodellene ble laget for å lage nytt godt språklig innhold som ikke fantes fra før, basert på språklig innhold som fantes fra før. Så viser det seg likevel at de kan bestå eksamener på universitetsnivå, skrive de mest forførende sangtekser. Og de kan forklare vitser. Og langt på vei har vi ingen dyptgående forståelse av hvorfor de har fått disse egenskapene.

Disse oppdagelsene er blant de største i vår generasjons historie. Det er med andre ord ingen grunn til å være beskjeden for vesle OpenAI. De har gjort et stort gjennombrudd. Og med det kommer et stort ansvar. Men ansvaret ligger ikke bare på OpenAI og teknologiselskapene. Det ligger også på myndigheter, næringsliv og på hver og en av oss enkeltindivider.

NB: Innlegget er en bearbeidet variant av et innlegg som Yngvar Ugland tidligere har publisert på Linkedin.