Användningen av artificiell intelligens i EU kommer att regleras av AI-lagen, världens första heltäckande AI-lagstiftning.
Som en del av den digitala strategin vill EU reglera artificiell intelligens (AI) för att säkerställa bättre villkor för utveckling och användning av denna innovativa teknik. AI kan medföra många fördelar som bättre hälso- och sjukvård, säkrare och renare transporter, effektivare tillverkning samt billigare och mer hållbar energi.
I april 2021 föreslog kommissionen EU:s första regelverk för AI. Enligt förslaget ska AI-system analyseras och klassificeras utifrån den risk de utgör för användare. De olika risknivåerna kommer att innebära mer eller mindre reglering. När förslaget har godkänts kommer det att vara världens första lagstiftning om AI.
Vad Europaparlamentet vill se i AI-lagstiftningen
Europaparlamentet vill se till att AI-system som används i EU är säkra, transparenta, spårbara, icke-diskriminerande och miljövänliga. AI-system bör övervakas av människor, snarare än av automatisering, för att förhindra skadliga effekter.
Europaparlamentet vill också fastställa en teknikneutral och enhetlig definition av AI som kan tillämpas på framtida AI-system.
AI-akten: olika regler för olika risknivåer
De nya reglerna fastställer skyldigheter för leverantörer och användare beroende på den risknivå som AI kan generera. Även om många AI-system utgör en minimal risk måste de genomgå en bedömning.
Oacceptabel risk
AI-system med oacceptabel risk är system som anses utgöra ett hot mot människor och kommer att förbjudas. De omfattar:
- Kognitiv beteendemanipulation av personer eller specifika sårbara grupper: till exempel röstaktiverade leksaker som uppmuntrar till farligt beteende hos barn.
- Social poängsättning: klassificering av människor baserat på beteende, socioekonomisk status, personliga egenskaper.
- Biometrisk identifiering och kategorisering av fysiska personer.
- Biometriska identifieringssystem i realtid och på distans, t.ex. ansiktsigenkänning.
Vissa undantag kan tillåtas i brottsbekämpningssyfte: insatser i realtid där exempelvis misstänkta brottslingar identifieras av AI kommer att tillåtas i undantagsfall, medan system för biometrisk identifiering på distans, där identifieringen sker efter en betydande fördröjning, tillåts vid åtal för allvarliga brott efter domstols godkännande.
Hög risk
AI-system som har en negativ påverkan på vår säkerhet eller våra grundläggande rättigheter kommer att betraktas som högrisk och delas in i två kategorier.
1. AI-system som används i produkter som faller under EU:s produktsäkerhetslagstiftning. Detta inkluderar leksaker, flyg, bilar, medicintekniska produkter och hissar.
2. AI-system som faller inom sju specifika områden och som kommer att behöva registreras i en EU-databas:
- Hantering och drift av kritisk infrastruktur.
- Utbildning och yrkesutbildning.
- Sysselsättning, förvaltning av arbetstagare och tillgång till egenföretagande.
- Tillgång till och ägande av nödvändig privat egendom.
- Brottsbekämpning.
- Hantering av migration, asyl och gränskontroll.
- Hjälp med rättslig tolkning och tillämpning av lagen.
Alla AI-system med hög risk kommer att bedömas både innan de släpps ut på marknaden och under hela sin livscykel.
Generell, generativ AI
Generativ AI, som ChatGPT, måste uppfylla kraven på transparens:
- Märka att innehållet har genererats av AI.
- Utforma systemet för att förhindra att den genererar olagligt innehåll.
- Offentliggöra sammanfattningar av upphovsrättsskyddade data som används för utbildning.
Kraftfull, generell AI som kan innebära systemrisker, exempelvis den mer avancerade modellen GPT-4, måste gå igenom omfattande undersökningar. Alla misstänkta resultat måste rapporteras till EU-kommissionen.
Begränsad risk
AI-system med begränsad risk bör uppfylla minimikrav på transparens för att användare ska kunna fatta välgrundade beslut. Efter att ha använt AI-systemet kan användaren bestämma om hen vill fortsätta att använda systemet. Användare ska få veta när de interagerar med AI. Detta inkluderar AI-system som genererar eller manipulerar bild-, ljud- eller videoinnehåll (t.ex. deepfakes).
Vad händer härnäst?
Den 9 december 2023 kom parlamentet och rådet till en informell överenskommelse om hur AI-lagen ska se ut. Nu måste de olika instanserna formellt godkänna beslutet innan det kan träda i kraft.
Parlamentets utskott för den inre marknaden och konsumentskydd, samt dess utskott för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor, kommer att rösta om lagen inom kort.
Källa: Europaparlamentet
