Bryssel kopplar greppet om AI

AI är inte bara ett verktyg för programmerare och fuskande gymnasister. Den kan också i realtid fastställa människors identitet via övervakningskameror och fastslå etnicitet, sexuell läggning och till och med politisk hemvist – bara utifrån en bild.  

Det innebär stora möjligheter politiker som vill bli omvalda, företag som vill tjäna pengar och förstås för polis och rättsväsende. Samtidigt innebär det risker för medborgarna. Till exempel kan AI-verktyg hjälpa polisen att förutsäga inte bara var och när ett brott kommer att begås, utan också vem som är mest sannolik att begå det. Men tekniken har inte sällan fel och att utpekas som potentiell brottsling kan göra stor skada för en individ. 

Nu håller EU på att göra en avvägning: var ska gränsen gå för vad AI får användas till? Bryssels lagstiftade institutioner har enats om en ny förordning, AI Act, som ser ut att gå igenom i vår. Lagtexten är inte helt klar, men de övergripande dragen är kända. 

EU utgår från en bred definition av artificiell intelligens, som inte bara omfattar program som kan lära sig nya saker baserat på tidigare kunskap, utan alla system som analyserar data utifrån ett mänskligt satt mål och producerar utdata som kan påverka omgivningen. 

– Det finns väldigt många åsikter om vad artificiell intelligens är. Sätter du fyra forskare i ett rum har du minst sex definitioner av AI. Men när AI-förordningen börjar gälla får man förhålla sig till definitionen den använder, säger Susanne Stenberg, rättslig expert på AI vid det statliga forskningsinstitutet Rise. 

Förordningen delar in AI i tre risknivåer: begränsad risk, hög risk och oacceptabel risk.  

AI med begränsad risk, till exempel spamfilter, får användas fritt. Systemen med hög risk behöver godkännas innan de släpps ut på marknaden. Det rör sig om system som kan påverka medborgarnas säkerhet eller grundläggande rättigheter – allt från artificiell intelligens i bilar och hissar till drift av kritisk infrastruktur, utbildning, brottsbekämpning och gränskontroll. 

– Till exempel skulle AI inom rekrytering eller HR kunna påverka vem som får ett jobb. EU:s grundläggande rättigheter inbegriper rätten att inte diskrimineras, vilket innebär att ett sådant system måste uppfylla vissa krav, förklarar Stenberg. 

Från unionens sida beskrivs AI-förordningen snarast som konsumentskydd. 

– EU motiverar det med att vi ska kunna lita på det vi köper på den inre marknaden. Om jag köper en dator eller en brödrost är den CE-märkt för att jag inte själv ska behöva undersöka att den uppfyller alla standarder och krav på elsäkerhet och sådant. På samma sätt ska AI-produkter CE-märkas, säger Stenberg. 

Och så finns det AI-system som bedöms innebära en oacceptabel risk, och därför ska förbjudas. Dit räknas artificiell intelligens som syftar till att manipulera människors beteende och åsikter, vissa biometriska identifieringssystem, ansiktsigenkänning och system för att poängsätta människor utifrån beteende, status eller egenskaper. 

”Vi har lyckats uppnå en extremt känslig balans: ökande innovation och spridning av artificiell intelligens i Europa medan våra medborgares grundläggande rättigheter respekteras till fullo”, kommenterade Carme Artigas, som i egenskap av Spaniens digitaliseringsminister deltagit i ministerrådets förhandlingar. 

Men det finns en hake: polisens befogenheter. Genom långtgående undantag för polis och rättsväsende varnar kritiker för att AI-förordningen i själva verket riskerar att försvaga skyddet för de grundläggande rättigheterna. Till exempel kommer ansiktsigenkänning i realtid att få användas för att leta efter både förövare och brottsoffer och för att förebygga terrorattacker. Trots motstånd från parlamentet insisterade ministerrådet på att låta polisen ägna sig åt rasprofilering med artificiell intelligens. Och även om arbetsgivare och lärare inte kommer att få använda AI som analyserar människors känslor ser polis och gränskontroll ut att få göra undantag. 

”Det är svårt att bli entusiastisk över en lag som, för första gången i EU, har vidtagit steg för att legalisera ansiktsigenkänning i offentligheten i realtid över hela unionen”, säger Ella Jakubowska, policyrådgivare vid organisationen European Digital Rights, i ett uttalande. 

Ett annat vanligt orosmoment när ny teknik regleras är att teknikutvecklingen ska hämmas. Ofta rör sig tekniken snabbare än Bryssels institutioner, vilket innebär att lagstiftningen riskerar att vara föråldrad redan när den klubbas. EU-kommissionens ursprungliga förslag till AI-förordning har redan behövt uppdateras med transparensregler för så kallad ”general purpose AI” efter att generativ AI slog igenom på bred skala med ChatGPT. 

Risken är att den som först reglerar ny teknik halkar efter mer skrupelfria delar av världen där innovation tillåts utan begränsningar. Förhoppningar om att andra länder ska följa efter den som reglerar först och hårdast kommer ofta på skam. Men när det gäller att reglera AI ser faktiskt resten av världen ut att röra sig i samma riktning, säger Susanne Stenberg. 

– Alla pratar om standarder och regler nu. Så var det inte när EU började ta fram en här lagstiftningen. Det är tydligt att det finns ett behov av att förstå och nå en marknadsmognad för ansvarsfulla AI-system, säger hon. 

Till exempel genomförde Storbritannien ett AI-toppmöte i höstas där bland andra EU-kommissionens ordförande närvarade. Kina håller på att utarbeta nationella AI-regler, och i USA har president Biden utfärdat en exekutiv order om säkerhetsstandarder för AI.  

Men en koalition av justitieministrar från amerikanska delstater varnar för att syftet inte nödvändigtvis ligger i allmänhetens intresse: ”Den exekutiva ordern öppnar dörren för att använda den federala regeringens kontroll över AI för politiska ändamål, som att censurera reaktioner under förevändningen att bekämpa ’desinformation’”, skriver de i ett öppet brev till handelsministern. 

***

Läs även: Europol får rätt att massövervaka EU-medborgare

Läs även: Chat Control: Så ska techjättarna skanna allt du skickar