Ny EU-lov om kunstig intelligens – forbyr masseovervåking

523 av parlamentets 705 representanter stemte ja til forslaget, mens 46 sa nei og 49 stemte blankt. 

EUs regelverk for kunstig intelligens (KI) regnes som det første i verden i sitt slag. Nå må loven gjennom en formell godkjenning i EUs ministerråd før den kan tre i kraft, noe som ventes å skje i 2025.

Da kommer EU til å ha et overgripende regelverk for all teknologirundt kunstig intelligens. Selskaper som bryter loven, kan vente seg saftige bøter på opp til 7 prosent av deres globale omsetning. 

– EU leverer

Ifølge tjenestemenn i EU vil regelverket på den ene siden beskytte borgerne mot mulige farer som masseovervåking, og samtidig sørge for å bygge opp under innovasjon og teknologiutvikling. 

– EU leverer. Ikke noe hvis, men eller senere, sier representanten Dragos Tudorache, som har vært ansvarlig for å få lovteksten gjennom EU-parlamentet, ifølge AFP.

– EU setter nå en global standard når det gjelder troverdig KI, istemmer EUs kommissær for det indre markedet Thierry Breton.

Det danske EU-parlamentsmedlemmet Christel Schaldemose mener at den nye loven blant annet vil beskytte barn mot negative konsekvenser av kunstig intelligens. 

– Vi var altfor trege med å regulere sosiale medier. Det går i høy grad ut over barna våre, sier hun ifølge nyhetsbyrået Ritzau. 

Fire risikokategorier

Grovt sett deler den nye loven dagens KI-systemer inn i fire risikokategorier, med minimal og uakseptabel risiko i ytterkantene. De fleste KI-tjenestene ventes å havne i midten – med enten begrenset eller høy risiko. 

Eksempler på sistnevnte er å bruke KI innen transport og ansettelser, mens begrenset risiko handler om krav til innsyn, at man har krav på å vite om et bilde eller video er KI-generert, såkalt deepfake, eller om det er en KI-tjeneste man snakker med. 

Høyrisiko KI-leverandører må heretter gjennomgå risikoanalyser før produktene kan sendes ut på markedet.

Uakseptabel risiko, som EU nå setter en stopp for, gjelder blant annet sanntidsovervåking med ansiktsgjenkjenning og KI-systemer for å sette sosiale «poenger», som blant annet finnes i Kina.

Det blir også forbudt å bruke KI i systemer som bruker biometrisk informasjon til å kartlegge rase, religion eller seksuell orientering. 

EU-kommisjonen overvåker ChatGPT

De ulike områdene skal overvåkes av landenes myndigheter. Unntaket er generell KI som ChatGPT. 

Slike tjenester kommer EU-kommisjonen selv til å overvåke fordi de per definisjon er grenseoverskridende, sier den svenske juristen innen medierett Daniel Westman til nyhetsbyrået TT.

– Markedsledende aktører som Open AI har mulighet til å svelge dette, men mindre programvarebedrifter, som er vant med å eksperimentere, må nå ha et systematisk sikkerhetsarbeid, sier han. 

Kappløp med utviklingen

EU har gjennomført en real sprint for å holde tritt med en rasende utvikling på KI-feltet.

Allerede i 2021 foreslo EU-kommisjonen et regelverk. Men etter at tekstgenereringsmodellen ChatGPT inntok markedet, har det vært nødvendig å bruke tid på å samkjøre lovteksten. 

I desember i fjor ble det enighet om et sett kjøreregler. Men deretter gikk Frankrike og Tyskland et skritt tilbake i frykt for at lovverket ikke var solid nok. 

Lobbyister advarer på sin side om at de nye reglene er uklare og kan bremse utrullingen av nye KI-tjenester i Europa. 

– En riktig gjennomføring er derfor avgjørende for å sikre at AI-regelverket ikke legger en for stor byrde på selskapene, sier Boniface de Champris fra en av de største tech-lobbyistene, CCIA Europe, til AFP.