Het Europees Parlement heeft op woensdag 13 maart jl. de Artificial Intelligence Act goedgekeurd, een nieuwe wet die “de veiligheid en de grondrechten moet beschermen tegen artificiële intelligentie”. Simpel gezegd: er komen regels voor wie AI-technologie ontwikkelt of gebruikt. De meeste regels gelden voor ontwikkelaars, bedrijven en wie professioneel met AI werkt.
Er zal meer transparantie komen over welke systemen met AI werken, hoe ze werken en met welke data ze getraind zijn. De technologie zal ook correcter en beter werken. Chatbots bijvoorbeeld zullen expliciet moeten aangeven dat ze AI gebruiken. Hetzelfde geldt voor deepfakes: beelden of video’s die echt lijken, maar een bestaand iemand of iets nabootsen via AI. Compleet nieuwe teksten, afbeeldingen en video’s die door AI zijn gemaakt, zullen een soort watermerk moeten hebben. Ze moeten misschien niet op het eerste gezicht, maar wel via andere tools kunnen worden herkend.
EU hanteert vier categorieën:
- Minimaal risicoAI (bv. spamfilters, AI-videospelletjes): wordt vrij toegestaan.
- Beperkt risicoAI (bv. chatbots op websites van banken of vliegtuigmaatschappijen): moet voldoen aan transparantieverplichtingen.
- Hoog risicoAI (bv. zelfrijdende wagens, robotchirurgie): wordt onderworpen aan strenge verplichtingen ter controle.
- Onaanvaardbare AI(bv. voor sociaal kredietsysteem): wordt verboden.
Systemen die een onaanvaardbaar risico met zich meebrengen, worden verboden. Het gaat dan over AI-systemen die de rechten van burgers in gevaar brengen, zoals een sociale score toekennen op basis van gedrag. Ook realtime gezichtsherkenning of emotieherkenning op het werk of op school worden verboden. Bedrijven zullen ook geen databanken voor gezichtsherkenning mogen aanleggen door lukraak foto’s en video’s van het internet te plukken. Daarnaast komt er een verbod op voorspellend politiewerk dat enkel bedoeld is om mensen te profileren of hun kenmerken te beoordelen. AI-systemen waarmee menselijk gedrag wordt gemanipuleerd of de kwetsbaarheden van mensen worden uitgebuit, zijn ook niet toegelaten in Europa.
Toch zijn er nog uitzonderingen mogelijk. Realtime gezichtsherkenning zal wel nog kunnen onder heel strikte voorwaarden, met toestemming van een rechter bijvoorbeeld, om gericht te zoeken naar een vermiste of om terroristische aanslagen te voorkomen. De details in de nieuwe wet zullen dus nog heel belangrijk worden. De meeste regels en verplichtingen zijn er voor AI-systemen met een hoog risico, omdat ze mogelijk schade kunnen veroorzaken voor de gezondheid, de veiligheid, de grondrechten, het milieu, de democratie en de rechtsstaat.
Het gaat dan onder meer over AI-technologie die gebruikt wordt in sectoren als justitie, politiek, de gezondheidszorg, de banksector, werkgelegenheid of onderwijs. Volgens de nieuwe regels moeten dit soort AI-systemen transparant en nauwkeurig zijn en moeten de risico’s ervan worden beoordeeld en beperkt.
Bovendien moeten er logboeken worden bijgehouden en moet menselijk toezicht mogelijk zijn, schrijft het Europees Parlement in een persbericht. Burgers hebben het recht om klachten over AI-systemen in te dienen en uitleg te krijgen over beslissingen die zijn genomen op basis van AI-systemen met een hoog risico en die gevolgen hebben voor hun rechten.
De nieuwe AI-wet moet nog door de lidstaten officieel worden goedgekeurd, maar dat zou een formaliteit zijn. De nieuwe regels gaan daarna in fases in. De volledige wet zou pas in 2026 volledig van kracht zijn.
