Tre krav for at kunstig intelligens ikke skal ødelegge tilliten til bankene

Petter Solerød

bank- og fintech-analytiker i Cicero Consulting

I ukene før juleferien 2022 ble verden introdusert for ChatGPT. Over all forventning evnet det AI-baserte verktøyet å levere alt fra leserinnlegg, særoppgaver og lyrikk til innovasjonsidéer, konseptutvikling og avansert koding. Kunstig intelligens er på vei inn i hverdagen, men hvordan denne reisen blir er fremdeles usikkert.

Siren Tønnesen

AI- og analyseansvarlig i Itera

I månedene etter allmennheten fikk tilgang ChatGPT har data, kunstig intelligens og maskinlæring for alvor blitt satt på dagsorden. Som et resultat har teknologiselskapene akselerert sin satsing, og kampen om å skape de beste verktøyene gjennomføres nå med offentlig innsyn. Forventningen er at utviklingen vil gå raskt i årene som kommer. I alle næringer tas kunstig intelligens til tegnebrettet, og finansbransjen er intet unntak. Hvordan skaper man verdi ved hjelp av denne teknologien?

Ikke nytt, men fremstår mye bedre

Teknologien vi snakker om i både offentlig debatt og rundt private middagsbord, er ikke ny. Sannheten er at banker og andre finansinstitusjoner i årevis har benyttet avansert databehandling, automatisering og kunstig intelligens for å redusere kostnader, skape bedre kundeopplevelser og motarbeide hvitvasking og svindel.

Likevel kan 2023 bli året der denne teknologien for alvor løftes inn i den allmenne bevisstheten, og både nivået og bruken skyter fart. Mye tyder på at teknologien, forståelsen og kompetansen har kommet så langt at ambisjoner og planer som oppsto i lys av «big data»-hypen for et tiår siden, endelig fremstår gjennomførbare. Gode idéer børstes støv av, samtidig som tusenvis av mennesker jakter nye, gode bruksområder.

Potensialet i kunstig intelligens er enormt, men det som gjør denne utviklingen så interessant er bredden i mulighetsrommet. Det er ikke vanskelig å identifisere funksjoner, tjenester og arbeidsoppgaver som kan forbedres og effektiviseres med gode maskinlærings- og robotiseringsløsninger.

Brukt riktig kan bedriftene løfte både interne systemer og rutiner, produktene som tilbys, kundebehandlingen og samtidig imøtekomme stadig økte forventninger knyttet til personalisering og brukeropplevelse.

Kritiske hensyn må adresseres

Når vi overlater avgjørelser til maskiner, er det flere hensyn som må tas. En naturlig bekymring er knyttet til hvorvidt bruk av kunstig intelligens vil diskriminere og forskjellsbehandle kunder basert på kjønn, alder, eller andre mer stigmatiserende faktorer som det finnes klare lover for. Om dette skjer, kan det i verste fall føre til en tilbakegang i likestillingsarbeidet og økte ulikheter i samfunnet.

I vår nye rapport «Fem trender som former fremtidens finans» spør vi om hva som er akseptabel feilmargin når beslutninger tas ved hjelp av kunstig intelligens og maskinlæring. Svarene vil kanskje variere, men tidlige feil og svakheter vil gjøre det vanskelig å bygge aksept, tillit og trygghet blant forbrukerne.

For å kunne la systemer som benytter kunstig intelligens og maskinskapte regler evaluere kunder, er tillit til systemene et absolutt krav. Dette er spesielt gjeldende i bank- og finanssektoren, ettersom vurderinger og avgjørelser som tas, blant annet knyttet til kundens låneevne, har stor innvirkning på kundens livssituasjon og fremtid.

For at vi skal kunne ha den nødvendige tilliten til utfall av prosesser som benytter kunstig intelligens er det viktig at aktører som benytter denne teknologien oppfyller følgende tre krav:

Transparens: Vi må kunne se hvordan systemet har kommet frem til beslutningene. Regelsett, utregninger og modeller må kunne etterprøves og forsvares både internt og eksternt.

Ansvar: Vi må vite hvem som har ansvaret for beslutningene systemet tar. Feilvurderinger kan ikke legges på verktøyet. Dette er et komplekst spørsmål, siden både selskapet selv, utviklere, testere, og ansatte som benytter systemet potensielt kan holdes ansvarlig.

Personvern: Systemet bør vise kundene hvordan deres data blir brukt til å fatte beslutninger. Systemet må også behandle kundedataene på en sikker måte, slik at ikke uvedkommende får tilgang til sensitiv informasjon.

Revolusjon eller forsiktig tilnærming?

Arbeidet i finansbransjen er i gang, men det er fremdeles usikkert hvordan norske banker og forsikringsselskap evner å benytte fremgangen i teknologien. Innovasjon og utvikling er kostbart, og EU jobber allerede med et lovverk som skal sikre forsvarlig og ansvarlig bruk av kunstig intelligens.

Å spille innenfor reguleringene vil være en nøkkelfaktor for å skape langsiktig verdi med dataanalyse, maskinlæring og kunstig intelligens. Som annen ny teknologi, skaper kunstig intelligens store muligheter for de som vet å utnytte dem. De som mislykkes, risikerer å havne langt bak konkurrentene.

Vi forventer at vi vil se noen signaler på hva denne utviklingen betyr for både aktørene og deres kunder allerede i løpet av dette året. Mulighetene vil oppstå, men de som glemmer viktigheten av kundetillit og samfunnsansvar risikerer å sette seg selv sjakk matt.