Ny KI-lov i EU: Forbyr masseovervåking

523 av parlamentets 705 representanter stemte ja til forslaget, mens 46 sa nei og 49 stemte blankt.

EUs regelverk for kunstig intelligens (KI) regnes som det første i verden i sitt slag. Nå må loven gjennom en formell godkjenning i EUs ministerråd før den kan tre i kraft, noe som ventes å skje i 2025.
Da kommer EU til å ha et overgripende regelverk for all teknologi rundt kunstig intelligens. Selskaper som bryter loven, kan vente seg saftige bøter på opptil 7 prosent av deres globale omsetning.

– EU leverer

Ifølge tjenestemenn i EU vil regelverket på den ene siden beskytte borgerne mot mulige farer som masseovervåking, og samtidig sørge for å bygge opp under innovasjon og teknologiutvikling.
– EU leverer. Ikke noe hvis, men eller senere, sier representanten Dragos Tudorache, som har vært ansvarlig for å få lovteksten gjennom EU-parlamentet, ifølge AFP.
– EU setter nå en global standard når det gjelder troverdig KI, istemmer EUs kommissær for det indre markedet Thierry Breton.

Det danske EU-parlamentsmedlemmet Christel Schaldemose mener at den nye loven blant annet vil beskytte barn mot negative konsekvenser av kunstig intelligens.
– Vi var altfor trege med å regulere sosiale medier. Det går i høy grad ut over barna våre, sier hun ifølge nyhetsbyrået Ritzau.

Fire risikokategorier

Grovt sett deler den nye loven dagens KI-systemer inn i fire risikokategorier, med minimal og uakseptabel risiko i ytterkantene. De fleste KI-tjenestene ventes å havne i midten – med enten begrenset eller høy risiko. Eksempler på sistnevnte er å bruke KI innen transport og ansettelser, mens begrenset risiko handler om krav til innsyn, at man har krav på å vite om et bilde eller video er KI-generert, såkalt deepfake, eller om det er en KI-tjeneste man snakker med.

Høyrisiko KI-leverandører må heretter gjennomgå risikoanalyser før produktene kan sendes ut på markedet.

Uakseptabel risiko, som EU nå setter en stopp for, gjelder blant annet sanntidsovervåking med ansiktsgjenkjenning og KI-systemer for å sette sosiale «poenger», som blant annet finnes i Kina.

Det blir også forbudt å bruke KI i systemer som bruker biometrisk informasjon til å kartlegge rase, religion eller seksuell orientering.

EU-kommisjonen overvåker ChatGPT

De ulike områdene skal overvåkes av landenes myndigheter. Unntaket er generell KI som ChatGPT. Slike tjenester kommer EU-kommisjonen selv til å overvåke fordi de per definisjon er grenseoverskridende, sier den svenske juristen innen medierett Daniel Westman til nyhetsbyrået TT.
– Markedsledende aktører som Open AI har mulighet til å svelge dette, men mindre programvarebedrifter, som er vant med å eksperimentere, må nå ha et systematisk sikkerhetsarbeid, sier han.

Kappløp med utviklingen

EU har gjennomført en real sprint for å holde tritt med en rasende utvikling på KI-feltet.
Allerede i 2021 foreslo EU-kommisjonen et regelverk. Men etter at tekstgenereringsmodellen ChatGPT inntok markedet, har det vært nødvendig å bruke tid på å samkjøre lovteksten. I desember i fjor ble det enighet om et sett kjøreregler. Men deretter gikk Frankrike og Tyskland et skritt tilbake i frykt for at lovverket ikke var solid nok.

Lobbyister advarer på sin side om at de nye reglene er uklare og kan bremse utrullingen av nye KI-tjenester i Europa.
– En riktig gjennomføring er derfor avgjørende for å sikre at AI-regelverket ikke legger en for stor byrde på selskapene, sier Boniface de Champris fra en av de største tech-lobbyistene, CCIA Europe, til AFP.