- Skyddsåtgärder för artificiell intelligens avsedd för allmänna ändamål
- Begränsning av brottsbekämpande myndigheters användning av biometrisk identifiering
- Förbud mot poängsättning av medborgare och AI som används för att manipulera och utnyttja användarnas sårbara punkter
- Konsumenternas rätt att lämna in klagomål och få förklaringar av beslut
På onsdagen godkände Europaparlamentet rättsakten om artificiell intelligens. Den ska göra AI säker att använda och ser till så att grundläggande rättigheter respekteras.
Förordningen, som Europaparlamentet kom överens med EU-länderna om i december 2023, antogs av ledamöterna med 523 röster för, 46 röster emot och 49 nedlagda röster.
Syftet är att skydda de grundläggande rättigheterna, demokratin, rättsprincipen och miljöhållbarheten från AI-system med hög risk. Samtidigt främjas innovation och EU:s ledande position på området. Det fastställs krav på AI med tanke på dess potentiella risker och inverkan.
Förbjudna tillämpningar
De nya reglerna förbjuder vissa AI-tillämpningar som hotar medborgarnas rättigheter, däribland biometrisk kategorisering baserad på känsliga uppgifter och oriktad skrapning av ansiktsbilder från internet eller övervakningskameror för att skapa databaser för ansiktsigenkänning. Känsloigenkänning på arbetsplatsen och skolan, social poängsättning, prognostiserat polisarbete (när det enbart baseras på profilering av en person eller bedömning av personliga egenskaper) och AI som manipulerar mänskligt beteende eller utnyttjar människors sårbarheter ska också förbjudas.
Undantag för brottsbekämpande myndigheter
Brottsbekämpande myndigheters användning av biometriska identifieringssystem är i princip förbjuden, utom i några snävt definierade situationer som nämns explicit i reglerna. Biometrisk identifiering i realtid får endast ske om strikta skyddsåtgärder uppfylls, till exempel under en viss begränsad tid eller på ett visst område och om ett särskilt förhandstillstånd från en domstol eller någon annan myndighet har utfärdats. Här kan det handla om en riktad sökning av en försvunnen person eller ett försök att förhindra en terroristattack. Så kallad biometrisk fjärridentifiering i efterhand anses vara förknippad med hög risk och kräver godkännande av en domstol och koppling till ett brott.
Krav för högrisksystem
Det finns klara och tydliga skyldigheter även för andra AI-system med hög risk (på grund av deras betydande potentiella skada på hälsa, säkerhet, grundläggande rättigheter, miljö, demokrati och rättsstatlighet). AI-användning anses ha hög risk till exempel i kritisk infrastruktur, utbildning, sysselsättning, viktiga privata och offentliga tjänster (såsom hälso- och sjukvård, banktjänster), vissa AI-tillämpningar inom brottsbekämpning, migration och gränsförvaltning, domstolsväsendet och demokratiska processer (till exempel valpåverkan). De här AI-systemen måste bedöma och minska riskerna, föra användningsloggar, vara transparenta och korrekta, samt säkerställa mänsklig tillsyn. Som medborgare ska man ha rätt att lämna in klagomål om AI-systemen och få förklaringar om beslut baserade på AI-system med hög risk som påverkar ens rättigheter.
Krav på insyn
AI-system för allmänna ändamål och de modeller de bygger på måste uppfylla vissa insynskrav, följa EU:s upphovsrättslagstiftning och tillhandahålla detaljerad information om hur de lär upp sina modeller. De kraftfullare modellerna som skulle kunna utgöra systemrisker kommer att ställas inför fler krav, bland annat att utföra modellutvärderingar, bedöma och minska systemrisker och rapportera incidenter.
Dessutom måste fabricerat eller manipulerat bild-, ljud- eller videoinnehåll (”deepfakes”) tydligt märkas som sådant.
Stöd för innovation och till småföretag
Regulatoriska sandlådor och verkliga tester måste inrättas på nationell nivå och göras tillgängliga för små och medelstora företag och nystartade företag för att utveckla och lära upp innovativ AI innan den släpps ut på marknaden.
Citat
Under plenardebatten på tisdagen sade Brando Benifei (S&D, Italien), medföredragande för utskottet för den inre marknaden: ”Vi har äntligen världens första bindande lag om artificiell intelligens, för att minska riskerna, skapa möjligheter, bekämpa diskriminering och förbättra transparensen. Tack vare Europaparlamentet kommer oacceptabla AI-metoder att förbjudas i Europa och arbetstagares och medborgares rättigheter kommer att skyddas. En AI-byrå kommer nu att inrättas för att hjälpa företag att börja följa reglerna innan de träder i kraft. Vi har sett till att människor och europeiska värden står i centrum för utvecklingen av AI.”
Medföredragande Dragoș Tudorache (Renew Europe, Rumänien) från utskottet för medborgerliga fri- och rättigheter sade: ”EU har levererat. Vi har kopplat begreppet artificiell intelligens till de grundläggande värden som utgör grunden för våra samhällen. Det återstår dock mycket arbete utöver själva AI-lagen. AI kommer att tvinga oss att ompröva det sociala kontrakt som ligger till grund för våra demokratier, våra utbildningsmodeller, arbetsmarknader och hur vi bedriver krigföring. AI-lagen är en startpunkt för en ny förvaltningsmodell som bygger på teknik. Vi måste nu fokusera på att omsätta denna lag i praktiken”.
Nästa steg
Förordningen ska fortfarande slutgranskas av juristlingvisterna och förväntas antas slutgiltigt före utgången av valperioden (det så kallade rättelseförfarandet). Lagen måste fortfarande formellt också antas av rådet.
Den träder i kraft tjugo dagar efter det att den har offentliggjorts i Europeiska unionens officiella tidning och ska tillämpas fullt ut 24 månader efter det att den har trätt i kraft, med undantag för: förbud mot förbjudna metoder (som kommer att gälla sex månader efter dagen för ikraftträdandet), uppförandekoder (nio månader efter ikraftträdandet), regler för AI-system för allmänna ändamål, däribland styrning (12 månader efter ikraftträdandet) och skyldigheter för högrisksystem (36 månader).
Bakgrund
Lagen om artificiell intelligens är ett direkt svar på medborgarförslagen från konferensen om Europas framtid, mest konkret på förslag 12 (punkt 10) om att stärka EU:s konkurrenskraft inom strategiska sektorer, förslag 33 (punkt 5) om ett säkert och pålitligt samhälle, inklusive, att motverka desinformation och säkerställa att människor i slutändan har kontrollen, förslag 35 om främjande av digital innovation, (punkt 3) samtidigt som mänsklig tillsyn säkerställs och om (punkt 8) en tillförlitlig och ansvarsfull användning av AI, fastställande av skyddsåtgärder och säkerställande av öppenhet, samt förslag 37 (punkt 3) om användning av AI och digitala verktyg för att förbättra medborgarnas tillgång till information, inklusive personer med funktionsnedsättning.
Källa: Europaparlamentet
