Robot.

Kunstig intelligens utgjør en like stor internasjonal utfordring som atombomben, men regjeringens strategi mangler det viktigste

Utenlandske selskaper bruker data om norske barn og voksne til å få forsprang i AI-kappløpet, men hvor ble det av utenrikspolitikken i den nasjonale strategien for kunstig intelligens, spør Fredrik Winther.

En nasjonal strategi for kunstig intelligens (KI) er først og fremst utenrikspolitikk og bør handle om det som skjer nå. Det gjør ikke den norske som ble lagt frem denne uka. Den behandler kunstig intelligens som noe norsk, og noe som kommer om noen år. Ikke som en fremtid som allerede er her, eller teknologi som ikke kjenner landegrenser.

Er vi så langt bak at vi tror vi er foran?

Den norske nasjonale strategien for kunstig intelligens som ble lansert av regjeringen forrige uke, har én solid styrke, som også utgjør svakheter. Alle relevante norske institusjoner, organisasjoner, interesser - og verdier, er ivaretatt i forhold til norsk fremtidig utvikling. Noe som er vanlig for nasjonale strategier. Vi har blitt så vant til det at det nærmest utgjør selve håndverket. Det definerer sjangeren. Alle skal med. Da er det også deres nasjonale horisont som former strategien.

Samtidig så er det sånn at så og si alle norske organisasjoner og institusjoner blir påvirket av KI allerede. Ikke en gang i fremtiden, men nå. Sånn er det også folk flest. Vi bruker og påvirkes allerede en stor del av våken tid - hver dag - av KI som ikke er styrt eller regulert fra Norge.

Norske barn finansierer kinesiske selskaper

Ta eksempel TikTok: Den KI og algoritmestyrte informasjons- og underholdningsplattformen brukes i snitt en time om dagen av en halv milliard barn, ungdom og unge voksne. Den har blitt lastet ned av 1,5 milliarder mennesker, vokser raskt, er tilgjengelig i 155 land, og er så populær blant norske barn og ungdom at også statskanalen NRK har sett seg nødt til å ta den i bruk som distribusjonskanal for nyheter.

TikTok bruker KI for å kartlegge og forstå mønstre for hver enkelt bruker. Som for eksempel interesser, motivasjoner, verdier, impulskontroll, avhengighetsmønstre, påvirkbarhet - eller personlighet - og predikerer og påvirker fremtidige handlinger, verdier, holdninger og språk. Det gjøres ved å samle og analysere milliarder av datapunkter hver dag, og gi akkurat deg som bruker stadig mer skreddersydd treffsikkert innhold.

Sånn bygger TikTok personlige profiler og kunnskap om - og til glede for - barn og unge og voksne over hele verden. Og populistisk formulert, sånn finansierer norske barn kinesiske TikTok med data.

Utviklet, regulert og eid fra Kina

Og i brudd med flertallet av de etiske retningslinjene fra nasjonal strategi for kunstig intelligens:

· KI-baserte løsninger skal respektere menneskets selvbestemmelse og kontroll

· KI-baserte systemer skal være sikre og teknisk robuste

· KI skal ta hensyn til personvernet

· KI-baserte systemer må være gjennomsiktige

· KI-baserte systemer skal legge til rette for inkludering, mangfold og likebehandling.

· KI- skal være nyttig for samfunn og miljø

· Ansvarlighet. Alle KI-systemer skal ivareta mulighet for revisjon.

TikTok er bare et av tusenvis av eksempler på KI systemer som påvirker og manipulerer informasjonsstrømmer, som er en del av hverdagen vår allerede, som ikke er gjenstand for Nasjonal kontroll eller regulering - og som det tok et ok kompetent selskap et halvt år å utvikle.

I tillegg kommer alle apper, software, websider, plattformer, og hardware som biler, mobiler, skjermer, sparkesykler, Googles og Facebooks og alt annet vi bruker hver dag, og som på samme måte samler data for å påvirke adferd, og lage tjenester vi vil ha. Stadig mer av. Som den nye oljen, bare mer verdt, og med få unntak uten at det er regulert fra Norge.

Det finnes i dag ingen norske nasjonale regulerende eller utøvende myndigheter som kommer til å ta steget og regulere for eksempel TikTok. Og uten en ny overnasjonal reguleringsmyndighet så er de etiske retningslinjene en Kardemommelov. Også derfor bør en nasjonal strategi for KI først og fremst være utenrikspolitikk og handle om internasjonal regulering.

Norge ligger bak

De fleste land i verden har lansert KI strategier og policy-dokumenter for utvikling og bruk av KI. Felles for de fleste er at de som Norge ønsker å ligge foran og være blant de beste i verden. Samtidig som det skal gjøres trygt, sikkert og transparent, verdier og personvern skal ivaretas, og det skal sikre vekst i økonomi og næringsliv.

Alle vil være best, og for USA, som ligger foran, så går strategien på å holde seg der ved å ikke spenne ben på seg selv med for mange reguleringer. Definerer vi de beste som topp 10% av land i verden, så vil 90% av strategiene ikke lykkes. Felles for strategiene er også at de opererer på et prinsipielt og overordnet nivå. Med unntak av Kina, som er veldig konkret på guidelines, funding og policy, og på hvordan de skal ta igjen USA, og etter hvert øke forspranget gjennom overlegen tilgjengeliggjøring av data.

Det kan se ut som de landene med minst regulering, også har raskest vekst gjennom flest nye eksperimenter og produkter som tar av, som TikTok eller Facebook, og de får et forsprang det blir vanskelig å ta igjen.

KI har også den effekten at de beste kan trekke opp data-stigen etter seg. Det er for eksempel vanskelig for en ny aktør å hente inne TikTok sitt forsprang på datainnsamling om norske barn i Norge. Enten nasjonale retningslinjer følges eller ikke. Av samme grunn som det er stadig vanskeligere for europeiske bilfabrikanter og å ta igjen forspranget Tesla har når de designer biler som datastøvsugere, som allerede har kjørt milliarder av mil og støvsugd enda flere datapunkter. De har gjort millioner av eksperimenter å bygge videre på, lenge før de europeiske fabrikantene har sendt sine forbrenningsingeniører på sitt første KI-kurs.

Dette avgjør hvem som leder an

KI endrer også selve grunnstrukturen for innovasjon i og mellom land. Nasjonale reguleringer har ekstremt stor betydning ressursene som går til å drive utvikling, og dermed også hvem som leder an.

Det kan illustreres med et tankeeksperiment: La oss si at noen ønsker å satse på å gjøre utdanning tilgjengelig for alle og skal investeres en milliard i å bygge opp en ny offentlig eller privat virksomhet som utvikler nye individuelt tilpassede læremidler for opplæring i basisfag som matematikk, naturfag, og språk.

Det skal gjøres ved hjelp av å samle data om barnas læreratferd, slik at barn får individuelt tilpassede oppgaver på en slik måte at det gir mestring, skaper indre motivasjon, er tilpasset personlighet og læringsstil, gir detaljert veiledning på fremgangsmåter for problemløsning, og generelt sikrer optimal opplæring. Litt som en superlærer. Bare bedre.

Det kinesiske fortrinnet

Da kan man investere i Norge og med norske regler, eller USA med amerikanske regler, eller i Kina med kinesiske regler. Om milliarden investeres i Norge så vil brorparten gå til å skape data som nesten ikke finnes, til å vaske og rense disse så de forholder seg til regelverk, søke om lisenser og deltakelse i “regulatoriske sandkasser” som kanskje kommer en gang, organisere for medvirkning fra interesseorganisasjoner, offentlige myndigheter og partssamarbeid, garantere for transparens og personvern, og ta veien via etiske komiteer og retningslinjer. Da er størstedelen av investeringen brukt opp nesten før man er i gang.

Gjøres investeringen i USA som har et litt mer oppdatert regelverk, større databaser, og bedre tilgjengelighet, vil kostnaden fortsatt være noen titalls ganger større enn i Kina. Kina har ikke har samme krav til vasking og lisensiering av personlige data, datapunktene flere og tilfanget eksponentielt større, og de har allerede jobbet lenge med store satsinger på KI tilpasset læring.

Hvem er det da som først vil utvikle og sitte på reguleringen den nye løsningen og som bidrar til å gjøre utdanning tilgjengelig? Sånn vil det være på nesten alle områder, også der vi liker å tenke at Norge har naturlige fortrinn.

I en datadrevet verden, så er det de som kjører flest eksperimenter som innoverer raskest og finner løsninger som virker. Det betyr ikke at det er etisk riktig, men at det allerede skjer, og kommer til å skje, og at løsningene også vil påvirke land de ikke reguleres fra.

Det betyr først og fremst at det ikke er noen vei utenom internasjonale reguleringer, og at en introvert nasjonal strategi for KI risikerer og bli sin egen største fartsdump.

Som Putin har uttalt “den som dominerer utviklingen av KI dominerer verden”.

KI og Atombomben

USA - og ingen amerikansk president - kommer i praksis aldri til å vedta en regulering som evner å bryte opp amerikanske KI-dominerte selskaper som Facebook og Google, selv om de er monopoler eller bryter retningslinjene, og selv om de i sin tid brøt opp Microsofts dominans med stor suksess. En ting er at tjenestene for brukerne er gratis og ikke overpriset som i andre monopoler, men hovedårsaken er de geopolitiske snubletrådene det vil legge for amerikansk næringsliv, og USAs posisjon i verden. Å bryte opp et amerikansk monopol vil gi enda bedre plass til Kina og Kinesiske konkurrenter, og ofte på områder som griper direkte inn folks liv eller i landets kjerneoppgaver.

Det er derfor ikke helt urimelig å mene, som mange gjør at KI utgjør en like stor internasjonal utfordring som atombomben.

Og akkurat som regulering av atomvåpen ikke ble løst med lokale høringsrunder og medvirkningsprosesser, men gjennom internasjonale politikk, så må en strategi for KI også være av utenrikspolitikk.

Vi må snakke om det - på kurs

Det skal strategien ha, den legger opp til at vi må snakke om det. “Regjeringen ønsker en offentlig debatt om etisk bruk og hvilke applikasjoner vi ønsker å ta i bruk i Norge”. I fremtiden. Ansvaret for å skape denne debatten ligger hos Teknologirådet, Datatilsynet, og De nasjonale Forskningsetiske Komiteene. Kjør debatt.

Den skal den også ha, strategien legger også opp til helt konkrete tiltak for å modne denne debatten. Å gi alle som ønsker det et 30 timers opplæringsprogram om KI, noe som nok vil hjelpe kraftig dersom mange nok takker ja til tilbudet. Strategien selv er et veldig godt eksempel på behovet, og vi bør raskt få opp refleksjonsnivået om KI i det politiske ordskiftet, i skole og utdanning, og i byggingen av landet - i verden.

Da må vi også bli i stand til å snakke om Norge i verden:

· Hvordan regulere teknologi som ingen regulerende myndighet eller nasjonalstat i dag har mulighet til å fullt ut regulere?

· Hvordan forberede demokratiet på individualiserte og mikro-målrettede systemer for informasjon, påvirkning, fake news og manipulasjon utenfor vår kontroll?

· Hvordan håndtere beslutninger og ansvar som er flyttet fra organisasjoner og personer til algoritmer og “black boxes” i andre deler av verden?

· Hvordan holde følge med utviklingen i Kina og andre ikke-demokratiske land som leder an og trekker opp KI-stigen etter seg?

· Hvordan forholde seg til kriger og konflikter som i stadig større grad preges av KI styrte autonome våpen og informasjons- og cyberkrigføring?

I tillegg til demokratiske utfordringer må vi snakke om mye annet. For eksempel hva som skjer med arbeidsplasser, utdanning og skole, innovasjon og økonomisk utvikling, helse og medisin, forsvar og sikkerhet, eller selve samfunnskontrakten mellom innbygger og stat.

Alt dette og mye mer må vi snakke om. Ikke minst må vi også snakke om Norges strategi for kunstig intelligens og hvorfor den mangler en utenrikspolitikk.