Beschermt deze AI-wet binnenkort jouw belangrijkste rechten, of is dat ijdele hoop?

In dit artikel:

Kunstmatige intelligentie dringt steeds dieper door in het dagelijks leven — van sollicitaties en kredietbesluiten tot aanbevolen films en chatbots — en de Europese Unie wil daar met een nieuwe wetgeving grenzen aan stellen. De AI-verordening (AI Act) legt Europese regels op voor het ontwerpen, op de markt brengen en gebruiken van AI-systemen, met als doel veiligheid, privacy en andere grondrechten te beschermen zonder innovatie onnodig te blokkeren.

Wat de wet inhoudt
- Risicobenadering: AI-systemen worden ingedeeld naar risico voor mens en maatschappij. Hoe hoger het risico, hoe strenger de eisen.
- Verboden toepassingen: De strengste categorie geldt voor systemen die als onaanvaardbaar gevaarlijk worden gezien; die zijn verboden. Voorbeelden zijn AI die kwetsbare groepen manipuleert of “social scoring” — systemen die mensen beoordelen op basis van gedrag of persoonlijke kenmerken. Er bestaan echter uitzonderingen voor politie- en veiligheidsdiensten onder strikte voorwaarden.
- Hoogrisico-systemen: Systemen die grote impact kunnen hebben op gezondheid, veiligheid of fundamentele rechten (zoals toepassingen in kritieke infrastructuur, toelating tot onderwijs of automatische beoordelingssystemen bij sollicitaties) mogen niet zonder meer gebruikt worden. Leveranciers moeten aantonen dat risico’s voldoende zijn beperkt; voldoen ze aan alle eisen, dan krijgen systemen een CE‑keurmerk.
- Transparantieplicht: Voor generieke AI (General Purpose AI) en voor media die misleiding kunnen veroorzaken gelden vooral transparantie-eisen. Gebruikers moeten weten wanneer ze met een AI-chatbot communiceren en wanneer beelden of video's door AI zijn gemaakt of gemanipuleerd (deepfakes).

Relatie met bestaande wetten
De AI-verordening staat niet los van andere regelgeving. Europese en nationale regels op privacy, consumentenbescherming en digitale diensten blijven van toepassing. Het onderscheid van de AI Act is dat zij AI expliciet als product reguleert en daarmee een minimumniveau van veiligheid en betrouwbaarheid wil afdwingen.

Handhaving en praktijk
Een cruciaal knelpunt is toezicht. Hoewel de verboden categorie al per februari 2025 in werking trad, is de uitvoering van de regels voor hoogrisico‑systemen uitgesteld omdat lidstaten nog nationale toezichthouders moeten aanwijzen en inrichten. Zonder die controleurs bestaat het risico dat risicovolle systemen toch op de markt komen. Nederland werkt aan een uitvoeringswet om de handhaving te regelen, maar die procedure is nog niet afgerond.

Grondrechten en rechtsbescherming
De wet benadrukt expliciet de bescherming van grondrechten — een opvallende ontwikkeling volgens Nederlandse academici — en verplicht aanbieders ernstige incidenten te melden, waaronder vermoedelijke schendingen van die rechten. Burgers kunnen klachten indienen bij de bevoegde markttoezichthouder, die verplicht is deze serieus te onderzoeken. Toch blijft het onzeker in hoeverre die mechanismen snel en robuust genoeg functioneren zodra de technologie zich verder ontwikkelt.

Beperkingen en onzekerheden
De AI Act is een ambitieus kader, maar geen allesomvattende oplossing. Regels zijn gebaseerd op huidige risicobeoordelingen, terwijl AI continu nieuwe toepassingen en risico’s voortbrengt. Daarnaast hangt veel af van de snelheid en strengheid van nationale handhaving. Wetgeving blijft per definitie langzamer bewegen dan technologische ontwikkeling, waardoor gaten kunnen ontstaan tussen regels en praktijk.

Waarom dit belangrijk is
AI raakt fundamentele keuzes en kwetsbare groepen; zonder duidelijke Europese regels kunnen zowel individuele rechten als maatschappelijke veiligheid in het gedrang komen. De AI-verordening probeert een balans te vinden tussen bescherming van burgers en ruimte voor technologische vooruitgang, maar de daadwerkelijke bescherming zal vooral afhangen van effectieve uitvoering en toezicht op nationaal niveau.