Användningen av artificiell intelligens i EU kommer att regleras av AI-akten, världens första heltäckande AI-lag.
Som en del av den digitala strategin vill EU reglera artificiell intelligens (AI) för att säkerställa bättre villkor för utveckling och användning av denna innovativa teknik. AI kan medföra många fördelar som bättre hälso- och sjukvård, säkrare och renare transporter, effektivare tillverkning samt billigare och mer hållbar energi.
I april 2021 föreslog kommissionen EU:s första regelverk för AI. Enligt förslaget ska AI-system analyseras och klassificeras utifrån den risk de utgör för användare. De olika risknivåerna kommer att innebära mer eller mindre reglering. När förslaget har godkänts kommer det att vara världens första lagstiftning om AI.
Läs mer om vad artificiell intelligens är och hur det används.
Vad Europaparlamentet vill se i AI-lagstiftningen
Europaparlamentet vill se till att AI-system som används i EU är säkra, transparenta, spårbara, icke-diskriminerande och miljövänliga. AI-system bör övervakas av människor, snarare än av automatisering, för att förhindra skadliga effekter.
Europaparlamentet vill också fastställa en teknikneutral och enhetlig definition av AI som kan tillämpas på framtida AI-system.
Läs mer om Europaparlamentets arbete med AI och vision för AI:s framtid.
AI-akten: olika regler för olika risknivåer
De nya reglerna fastställer skyldigheter för leverantörer och användare beroende på den risknivå som AI kan generera. Även om många AI-system utgör en minimal risk måste de genomgå en bedömning.
Oacceptabel risk
AI-system med oacceptabel risk är system som anses utgöra ett hot mot människor och kommer att förbjudas. De omfattar:
- Kognitiv beteendemanipulation av personer eller specifika sårbara grupper: till exempel röstaktiverade leksaker som uppmuntrar till farligt beteende hos barn.
- Social poängsättning: klassificering av människor baserat på beteende, socioekonomisk status, personliga egenskaper.
- Biometriska identifieringssystem i realtid och på distans, t.ex. ansiktsigenkänning.
Vissa undantag kan tillåtas: Till exempel kommer system för biometrisk identifiering på distans, där identifieringen sker efter en betydande fördröjning, att tillåtas vid åtal för allvarliga brott och endast efter domstolens godkännande.
Hög risk
AI-system som har en negativ påverkan på vår säkerhet eller våra grundläggande rättigheter kommer att betraktas som högrisk och delas in i två kategorier.
1. AI-system som används i produkter som faller under EU:s produktsäkerhetslagstiftning. Detta inkluderar leksaker, flyg, bilar, medicintekniska produkter och hissar.
2. AI-system som faller inom åtta specifika områden och som kommer att behöva registreras i en EU-databas:
- Biometrisk identifiering och kategorisering av fysiska personer.
- Hantering och drift av kritisk infrastruktur.
- Utbildning och yrkesutbildning.
- Sysselsättning, förvaltning av arbetstagare och tillgång till egenföretagande.
- Tillgång till och ägande av nödvändig privat egendom.
- Brottsbekämpning.
- Hantering av migration, asyl och gränskontroll.
- Hjälp med rättslig tolkning och tillämpning av lagen.
Alla AI-system med hög risk kommer att bedömas både innan de släpps ut på marknaden och under hela sin livscykel.
Generativ AI
Generativ AI, som ChatGPT, måste uppfylla kraven på transparens:
- Märka att innehållet har genererats av AI.
- Utforma systemet för att förhindra att den genererar olagligt innehåll.
- Offentliggöra sammanfattningar av upphovsrättsskyddade data som används för utbildning.
Begränsad risk
AI-system med begränsad risk bör uppfylla minimikrav på transparens för att användare ska kunna fatta välgrundade beslut. Efter att ha använt AI-systemet kan användaren bestämma om hen vill fortsätta att använda systemet. Användare ska få veta när de interagerar med AI. Detta inkluderar AI-system som genererar eller manipulerar bild-, ljud- eller videoinnehåll (t.ex. deepfakes).
Källa: Europaparlamentet
