De meeste ondernemers denken bij de AI Act vooral aan regeltjes, transparantie en administratie. Maar er is een categorie waar veel minder over gesproken wordt, terwijl de impact daar het grootst is: de Verboden Lijst.

De Europese Unie heeft een harde grens getrokken. Sommige AI-toepassingen worden als zó risicovol beschouwd voor onze rechten en vrijheden, dat ze simpelweg verboden zijn. Ongeacht hoe groot je bedrijf is of in welke sector je werkt.

Gebruik je een van onderstaande systemen? Dan moet je daar onmiddellijk mee stoppen. Dit zijn de absolute no-go’s.

De Rode Lijst: Deze 4 systemen zijn verboden

De AI Act deelt systemen in op risico. De categorie ‘Onaanvaardbaar Risico’ is illegaal. Dit zijn de belangrijkste verboden toepassingen voor het bedrijfsleven:

1. Social Scoring (Sociaal Krediet)

Je kent dit misschien uit verhalen over China: burgers die punten krijgen voor goed gedrag. In Europa is dit verboden.

• Wat mag niet: AI gebruiken om mensen te beoordelen, classificeren of een score te geven op basis van hun sociale gedrag of persoonlijke eigenschappen, als dit leidt tot nadelige behandeling in een andere context.
• Voorbeeld voor bedrijven: Stel, je bent een verzekeraar of verhuurder. Je mag geen AI gebruiken die online data van klanten analyseert (bijv. "hij post vaak 's nachts boze tweets") om te bepalen of iemand betrouwbaar is of een lening krijgt. Ook HR-software die medewerkers rangschikt op 'loyaliteit' op basis van vage gedragsdata is verboden.

2. Emotieherkenning op het werk en in het onderwijs

AI die probeert te ‘lezen’ hoe iemand zich voelt, gaat de EU te ver in situaties waar mensen afhankelijk zijn (zoals werk of school).

• Wat mag niet: Systemen die via camera’s of microfoons afleiden of een werknemer of student vrolijk, verdrietig, gestrest, vermoeid of ongeïnteresseerd is.
• Voorbeeld voor bedrijven: Een callcenter mag geen software gebruiken die de gezichtsuitdrukkingen van medewerkers scant om te zien of ze wel enthousiast genoeg kijken. Ook camera's in de fabriekshal die 'vermoeidheid' bij werknemers meten om de productiviteit te checken, zijn in principe verboden (tenzij het puur om medische veiligheid gaat, zoals bij chauffeurs, maar de regels zijn hier zeer strikt).

3. Biometrische Identificatie in openbare ruimtes (‘Real-time’)

Dit is een heel belangrijk punt voor de beveiligings- en installatiesector.

• Wat mag niet: Gezichtsherkenning (of irisscans/vingerafdrukken) gebruiken om mensen op afstand en in real-time te identificeren in openbare ruimtes.
• Voorbeeld voor bedrijven: Een winkelcentrum of voetbalstadion mag geen slimme camera’s ophangen die het winkelend publiek live scant en vergelijkt met een database van winkeldieven of hooligans.
• Let op het verschil: Je telefoon ontgrendelen met je gezicht (authenticatie) mag wel. Iemand uit een menigte vissen (identificatie) mag niet.

4. Manipulatie en uitbuiting van kwetsbaarheden

AI mag niet worden gebruikt om mensen dingen te laten doen die ze anders niet zouden doen, door in te spelen op hun onderbewustzijn.

• Wat mag niet: "Dark patterns" of subliminale technieken die gedrag sturen en fysieke of psychische schade veroorzaken. Ook mag AI geen misbruik maken van de kwetsbaarheid van specifieke groepen (kinderen, ouderen, mensen met een beperking).
• Voorbeeld voor bedrijven: Speelgoed met een spraakassistent die een kind aanspoort om gevaarlijke dingen te doen ("klim op het dak"), of marketing-algoritmes die specifiek depressieve mensen targeten met agressieve gokreclames op hun zwakste momenten.

Getty Images

Waarom zijn deze systemen verboden?

De Europese wetgever vindt dat economische winst nooit boven fundamentele mensenrechten mag gaan.

• Privacy: Je moet over straat kunnen lopen zonder gescand te worden.
• Discriminatie: AI-systemen hebben vaak vooroordelen (bias). Als een systeem bepaalt of jij betrouwbaar bent, en het systeem is getraind op bevooroordeelde data, word je onterecht uitgesloten.
• Autonomie: Mensen moeten vrije keuzes kunnen maken, zonder onbewust gemanipuleerd te worden door een computer.

Wat betekent dit voor jouw bedrijf? (De Check)

Misschien denk je: "Ik doe hier niets mee." Maar vergis je niet. Veel moderne softwarepakketten hebben AI-functies "onder de motorkap" die standaard aan staan.

Controleer deze 3 gebieden:

1. HR & Werving: Gebruik je software om video-sollicitaties te analyseren? Check of de tool emotie-analyse doet ("kandidaat kijkt nerveus"). Dit is in veel gevallen verboden.
2. Beveiliging & Toegang: Heb je slimme camera's hangen? Check of ze gezichtsherkenning hebben die automatisch bezoekers identificeert. In publiek toegankelijke ruimtes is dit voor private partijen een no-go.
3. Marketing: Gebruik je geavanceerde tools om klantgedrag te beïnvloeden? Zorg dat je niet manipuleert op een manier die mensen hun keuzevrijheid ontneemt.

Wat als je het toch gebruikt? De Boetes.

De EU neemt dit serieus. De boetes voor het overtreden van de regels voor "Verboden AI" zijn de hoogste in de hele wetgeving.

• De boete: Tot 35 miljoen euro óf 7% van je wereldwijde jaaromzet (welke van de twee hoger is).

Dit zijn geen bedragen die je als bedrijfsrisico kunt incalculeren. Het is een duidelijk signaal: hier ligt de grens.

Conclusie en Advies

De AI Act is er niet om pesten, maar om ons te beschermen. Voor 95% van de bedrijven verandert er weinig, omdat de meeste AI (spamfilters, chatbots, planning) gewoon mag.

Maar: check je leveranciers. Vraag specifiek: "Bevat deze software functies die vallen onder Artikel 5 (Verboden Praktijken) van de AI Act?" Vooral bij HR-software en geavanceerde camerabeveiliging is waakzaamheid geboden. Voorkom dat je per ongeluk een Big Brother-systeem in huis haalt dat in Europa illegaal is.