Nå kommer AI-teamet til Ruter med en slags «Ruter-GPT», for nesten all kollektivtransport i Norge.

Offentlige Ruter skal ha bygget et av landets aller mest fremoverlente AI-miljøer. 

Så langt har de utviklet egne store språkmodeller (Large language model - LLM) fordi det som finnes der ute «egentlig ikke er godt nok». For å utføre de tyngste kalkulasjonene sine har de leid datakraft fra kvantedatamaskiner. «Det går jo så mye raskere». Nå gjør de seg klare for å rulle ut sin nyeste innovasjon: Ruter-GPT.

Umair M. Imam er leder for Ruters AI-team og førsteamanuensis ved Høgskolen i Oslo. Han har lang erfaring med bearbeiding av stordata og kunstig intelligens blant annet fra Skatteetaten, Oljefondet og Google.

I et intervju med Shifter løfter han panseret og hvis frem en del av det som teamet hans jobber med for tiden.

• Mer treffsikker billettkontroll
• Bedre kundeinnsikt
• Bruk av kvantadatamaskiner
• Ruter GPT

AI for billettkontroll

Imam forteller at den kanskje største utfordringen for teamet er arbeidet med det som internt omtales som AI for billettkontroll.

I korte trekk vil Ruter nå bruke AI-teknologi til å predikere hvor det vil være mest hensiktsmessig å gjennomføre kontroll av billetter og slik optimere billettinntektene.

– I dag er dette en veldig manuell oppgave, hvor kontrollørene selv bestemmer hvor de skal stå, sier Imam.

Men å la en AI-algoritme bestemmer hvor de skal stå har noen potensielt negative sider.

Tidligere har AI blitt brukt av andre med svært vekslende hell. Et utstrakt problem har vært å få resultater fra algoritmene som opprettholder et etisk nivå som utsteder kan stå inne for. Det har for eksempel vært fadeser hvor AI-boter har diskriminert basert på hudfarge og kjønn.

For Ruter-teamet var frykten at AIen skulle anbefale å stramme til kontrollene i en del av Oslo og løse dem opp i en annen.

– Noe av det vi har jobbet mest med er å få algoritmene til å gi prediksjoner som både er effektive og etisk forsvarlige, sier Imam.

Det er en vanskelig oppgave som løfter noen krevende spørsmål. Hvor mye tapt potensiell inntekt er man villig til å tolerere mot at kontrollene oppleves som rettferdige?

Så langt har løsningen vært å lage to versjoner av teknologien, en basert på historiske data og en annen på mer randomiserte data i håp om at den siste kanskje vil gi mer etiske anbefalinger.

Det er for tidlig å konkludere noe endelig om hvordan det fungerer. Så langt testes modellene kun i sentrum av Oslo for å unngå at enkelte bydeler blir urettferdig kontrollert. Men ifølge Imam går disse sentrums-testene svært bra.

– Så blir det spennende å se når vi starter fase 2 av testingen på øst- og vestkanten, sier han.

Bedre kundeinnsikt med AI

Når bussen ikke kommer som ventet, blir man irriteret. Noen (mange) blir så sinte at de klager direkte til Ruter.

– Vi får mye negativ feedback når ting går galt. Det er vi vant med, sier Imam. – Det som er viktig for oss, er å finne ut hva vi kan gjøre bedre.

AI-teamets løsning har vært å samle alle klagene og plotte dem inn på reiseruter og fargekode klagene etter sinne (svart er ekstremt sint). Den siste klassifiseringen tar AIen seg av etter å ha blitt trent på norske og svenske banneord.

– Vi lastet ned så mange banneord som vi kunne finne. Det var mange jeg virkelig aldri hadde hørt før, sier Imam.

Nå kan Ruter tydeligere identifisere problematiske områder og ruter. AIen ble også brukt til å identifisere og klassifisere lignende klager, slik at for eksempel klager på at bussjåføren spiller for høy musikk blir adskilt fra klager om opphopning av passasjerer.

Henter kraften fra kvantedatamaskiner

Trafikkdata er komplekse. I utregningene som ligger bak algoritmer og kapasitet, ligger det tunge kalkulasjoner.

– Vi trengte mer kraft til enkelte av utregningene våre, sier Imam som med bakgrunn fra akademia kjente til en mulighet, kvanteberegninger.

Mens vanlige, binære, datamaskiner er bygget opp med transistorer som slås av og på for å signalisere enten 0 eller 1, kan kvantedatamaskinene, bygget på en type fysikk kalt kvantemekanikk, være både 0 og 1 samtidig.

Grovt forenklet gjør det at man ikke trenger å vente på at maskinen skal gå fra 0 til 1, for selv om den utfører en slik prosess med ekstrem hastighet, skal den utføre det så mange ganger at det tar tid.

Oppgaver som en supercomputer bruker år på, kan en kvantedatamaskin utføre på sekunder. Samtidig er ikke kraft løsningen på alt. Ruter bruker det til å løes optimaliseringsproblemer.

Imam forteller at den største utfordringen med å jobbe med kvanteberegninger i dag, er å skaffe folk som kan gjøre det og samtidig kan programmere på gamlemåten.

– Da vi søkte etter folk, var vi trolig de eneste med slike krav i hele Skandinavia, sier han.

Nærmest selvsagt i dag er kvantekraft til leie som en skytjeneste (quantum computing as a service - qaas).

– Vi hadde det i tre måneder og det kostet ikke mer enn 350 dollar, sier en fornøyd Imam. – Det er veldig billig!

Ruter-GPT

Ruter-GPT er en helt egenprodusert stor språkmodell (Large Language Model - LLM) trent på norske reise- og transportdata.

Når den slippes ut av beta, vil alle i Norge kunne kommunisere med modellen og få oppdatert og sammenhengende informasjon om ruter og trafikk.

Imam og teamet har bygget dette ved å tilpasse eksisterende open source LLM-er og trene dem på norsk språk data.

– Modellene som finnes der ute, snakker egentlig ganske bra norsk, kunne dere ikke brukte dem?

– De er egentlig ikke gode nok. Dessuten er det personvernhensyn å ta til LLMer som deler data utover EØS-grensene.

I tillegg vil modellen etter hvert gjøres tilgjengelig, open source, for startups som ønsker å bygge løsninger opp mot den.

Oppretter felles IT-selskap

I bakgrunnen foregår det en stille revolusjon i transportbransjen i Norge for tiden.Innen året er over vil en stor del av de norske transportselskapene, syv stykker er med så langt, ha opprettet et felles IT-selskap som skal binde dem sammen digitalt, og spare noen kostnader i samme slengen. 

Det er i dette selskapet at Imam og teamet kommer til å jobbe fra neste år, men for nå er de Ruter-ansatte.

«AI i venture-investeringer: Slik er den nye skolen»