Fremadrettet vil brugen af kunstig intelligens blive reguleret af AI forordningen. Det første udkast til AI forordningen blev fremsat i april 2021, og har siden da været igennem omfattende forhandlinger, som slutteligt skulle lede til verdens første regelsæt, som regulerer brugen af kunstig intelligens.
Af Christian Zeeberg Madsen, advokat (H), partner
Introduktion af AI forordningen
EU’s fokus har været at sikre de gode aspekter ved kunstig intelligens, som har en positiv indflydelse på udviklingen af samfundet, og samtidig begrænse de mindre gode, som kan have en negativ indflydelse på de grundlæggende værdier i samfundet.
Europa parlamentets ønske med den nye AI lovgivning er at sikre, at brugen af AI i EU er gennemsigtig, sikker, sporbar, ikke diskriminerende og miljøvenlig.
Den foreløbige aftale, som EU vedtog den 8. december 2023, forventes at træde i kræft to år efter dens vedtagelse (første halvår af 2026), visse bestemmelser er dog allerede undtaget, disse vil allerede træde i kraft midt 2024.
AI forordningen fastlægger forpligtelserne for brugere og udbydere gennem en risikobaseret tilgang. Risiciene er opdelt i følgende kategorier:
Uacceptabel risiko
Som omfatter AI systemer som udgør en trussel mod mennesker og vil dermed blive forbudt. Hvilket omfatter følgende:
- Kognitiv adfærdsmanipulation af menneske eller sårbare grupper
- Social klassificering af adfærd, socioøkonomisk status osv.
- Biometriske identifikationssystemer, f.eks. ansigtsgenkendelse
Høj risiko
Som medfølger, at systemerne skal overholde højere krav, herunder høj datakvalitet, omfattende data dokumentation og cybersikkerhed. Eksempler på systemer i høj risiko kategorien, er:
- Systemer der træffer afgørelse
- Visse systemer, som bruges indenfor områder som grænsekontrol, retsvæsen og demokratiske processer
- Medicinske apparater
Lav risiko
Hoveddelen af AI systemer falder under denne kategori, og har ikke nogen forpligtelser. Følgende er eksempler herpå:
- Spamfiltre
- Anbefalingssystemer
Såfremt reglerne ikke efterleves, bliver man sanktioneret og tildelt bøder. Bøderne for at overtræde AI forordningen bliver fastsat som en procentdel af virksomhedens samlede omsætning i det foregående regnskabsår eller et fastsat beløb afhængigt af, hvad der er størst.
- Overtrædelsen af forbudte AI applikationer = 35 mio € eller 7% af den samlede omsætning i det foregående regnskabsår
- For overtrædelse af forpligtelser i AI forordningen=15 mio € eller 3% af den samlede omsætning i det foregående regnskabsår
- For afgivelse af forkerte oplysninger = 7,5 mio € eller 1,5 %
Der er aftalt et mindre loft for små og mellemstore virksomheder (SMV) og startups.
Håndhævelse
På EU-plan åbner der et nyt AI kontor under Kommissionen, som skal være med til at bidrage til koordineringen mellem medlemsstater, og dermed sikre at forordningen bliver overholdt. Derudover, vil der blive sammensat en AI bestyrelse, som skal bestå af repræsentanter fra medlemsstaterne, og skal fungere som et rådgivende organ. Slutteligt, vil der blive oprettet et forum, af rådgivende karakter som vil bestå af interessenter, heriblandt repræsentanter fra industrien, og andre parter, som skal være med til at bidrage med viden til AI bestyrelsen.
Det vil være muligt for private aktører at indgive klager til håndhævelsesmyndighederne.
Har du eller din virksomhed spørgsmål hertil, er du/I velkomne til at kontakte os.