Verdens første lov om kunstig intelligens | Odense Bibliotekerne

Kunstig intelligens (AI) er kommet på alles læber efter ChatGPT ryddede forsiderne for to år siden. Virkeligheden er dog, at AI har været en del af vores liv i længere tid. Algoritmerne i vores musikstreamingtjenester er et eksempel. De nye AI-systemer har dog en helt anden karakter og derfor taler mange om, at der er behov for at regulere AI. I EU har man i længere tid arbejdet med en model for regulering, og den er nu trådt i kraft i form af en forordning om kunstig intelligens. AI Act er samtidig den første af sin slags. De vigtigste mål for forordningen er, at:

-    sikre, at AI-systemer i Europa og andre steder respekterer grundlæggende rettigheder, sikkerhed og etik. Den vil også håndtere risici fra stærke og indflydelsesrige AI-modeller.
-    løse problemer, der specifikt opstår med brugen af AI, f.eks. manglende gennemsigtighed i beslutninger og mulige uretfærdige konsekvenser for folk.
-    forbyde brugen af AI, der skaber uacceptable risici for enkeltpersoner, virksomheder og samfundet.
-    identificere bestemte AI-applikationer, der udgør høj risiko, f.eks. i kritisk infrastruktur, uddannelse, sikkerhed i produkter, ansættelse og retshåndhævelse.
-    stille klare krav til højrisiko AI-systemer. Disse systemer skal opfylde strenge krav, herunder risikovurdering, brug af kvalitetsdata, sporbarhed af resultater og nøjagtig dokumentation.
-    oprette en styrestruktur på både europæisk og nationalt niveau for at sikre, at reglerne bliver overholdt og implementeret korrekt.

Disse mål sigter mod at sikre, at AI-teknologier udvikles og bruges på en måde, der respekterer menneskerettigheder, sikkerhed og tillid, samtidig med at fremme samarbejde, innovation og forskning inden for AI.

Kernen i forordningen er en risiko-baseret tilgang til AI. For hver AI-system skal det vurderes hvilken fare forskellige systemerne kan udgøre, og derefter sætte passende regler og krav baseret på den identificerede risiko.

Forordningen arbejder med 4 niveauer:

Højrisiko: AI-systemer, der anses for at have stor risiko, som f.eks. dem brugt i kritiske infrastrukturer eller i ansættelsesprocesser, vil være underlagt strenge krav for at sikre sikkerhed og beskytte mennesker.

Begrænset risiko: AI-systemer med begrænset risiko, som f.eks. chatbots, er systemer, hvor risikoen er associeret med manglende gennemskuelighed. Derfor går reglerne på, at borgere skal have at vide, at de chatter med et AI-system.

Lav risiko eller ingen risiko: De fleste AI-systemer har lav eller ingen risiko og kan bruges frit. Det er f.eks. AI i videospil eller spam-filtre.

Ved at vurdere risikoen for hvert AI-system kan loven sikre, at der er passende regler på plads for at beskytte folk og samfundet, samtidig med at den tillader innovation og udvikling af AI-teknologier.

For at sikre håndhævelse af forordningen har EU-Kommissionen oprettet et AI-kontor. Kontoret skal understøtte de enheder i medlemslandene, som skal håndhæve loven bl.a. gennem evalueringer af AI-systemer og indhentning af informationer fra udviklere. Kontoret er også ansvarlig for at skabe et økosystem for nye virksomheder, bl.a. gennem forskellige initiativer, som skal støtte udviklingen af AI i Europa. Det har Europe Direct Odense skrevet om tidligere.

AI Act er nok ikke løsningen på alle problemer, og forordningen er da også omdiskuteret. Nogle mener, at den hæmmer innovation og at europæiske techvirksomheder sættes tilbage i forhold til amerikanske og kinesiske ditto, mens andre mener at forordningen ikke tager hånd om de grundlæggende problemer, nemlig at techvirksomhederne indsamler en masse data om brugerne. Om AI Act kommer til at virke efter hensigten og rent faktisk kan regulere kunstig intelligens vil kun fremtiden kunne vise.

Kilder:

"AI-Act" / EU-Kommissionen. - Citeret 07/06-2024 fra: https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai

"EU-landene er enige om at tøjle kunstig intelligens" / Bang Thomsen, Per og Lagoni Pedersen, Marie. - Citeret 07/06-2024 fra: https://www.dr.dk/nyheder/udland/eu/eu-landene-er-enige-om-toejle-kunstig-intelligens?ref=viden.ai#!/

"EU forsøger at regulere kunstig intelligens men overser de grundlæggende problemer" / Arndt, Anne Stampe. - Citeret 07/06-2024 fra https://www.dr.dk/nyheder/udland/eu/eu-forsoeger-regulere-kunstig-intelligens-men-overser-de-grundlaeggende-problemer