Naar de inhoud
Terug naar overzicht
EU AI ActRegelgevingGovernanceAutoriteit PersoonsgegevensPrivacy

Welke AI is verboden in Nederland? Geen app, wel acht toepassingen

·Door
Welke AI is verboden in Nederland? Geen app, wel acht toepassingen

Is er AI verboden in Nederland? Geen enkel merk of app. Wel acht manieren om AI in te zetten, en die gelden sinds 2 februari 2025 in de hele EU. Voor een ondernemer zit het risico vooral in drie: emoties van personeel uitlezen, mensen een score geven die ze elders benadeelt, en mensen ongemerkt sturen naar een besluit dat hen schaadt. Op 2 december 2026 komen er twee verboden bij, voor uitkleed-apps en AI-kindermisbruik.

ChatGPT, Copilot, Claude en DeepSeek zijn dus niet verboden. Wat je ermee doet kan dat wel zijn.

AI verboden in Nederland: acht toepassingen sinds februari 2025

De lijst staat in artikel 5 van de AI-verordening, de officiële naam van de AI Act. Hij geldt voor wie zo'n systeem aanbiedt én voor wie het gebruikt. Dat laatste ben jij, als ondernemer.

  1. Ongemerkte of misleidende beïnvloeding die iemand een besluit laat nemen dat hij anders niet had genomen, met aanzienlijke schade als gevolg.
  2. Misbruik maken van iemands leeftijd, handicap of financiële nood, met hetzelfde soort schade.
  3. Social scoring: mensen een score geven op hun gedrag of persoonlijkheid, die hen benadeelt in een ander verband of buiten verhouding.
  4. Voorspellen of iemand een misdrijf gaat plegen, alleen op basis van een profiel of persoonlijkheid.
  5. Een database voor gezichtsherkenning vullen met foto's die ongericht van internet of camerabeelden zijn geschraapt.
  6. Emoties afleiden op de werkplek of in het onderwijs, behalve om medische of veiligheidsredenen.
  7. Mensen via biometrie indelen naar ras, politieke voorkeur, vakbondslidmaatschap, geloof of seksuele geaardheid.
  8. Realtime gezichtsherkenning in de openbare ruimte door de politie, op een paar strikte uitzonderingen na.

Punt 4 en 8 gaan vooral over politie en justitie. De rest kan elk bedrijf raken.

Wat er op de werkvloer onder valt

De Europese Commissie publiceerde op 4 februari 2025 richtsnoeren met voorbeelden. Ze zijn niet bindend; het laatste woord heeft het Europese Hof. Maar een toezichthouder leest ze wel. Uit de tekst:

Wat je doetOordeel
Callcenter meet met webcam of stem de boosheid van medewerkersVerboden
Emotieherkenning in een sollicitatiegesprek of de proeftijdVerboden
AI leest de sfeer in het team uit videocallsVerboden
Camera in de winkel meet hoe blij het personeel isVerboden
Callcenter herkent boze klanten aan de stemNiet verboden, wel hoog risico
AI waarschuwt een vermoeide chauffeurMag: vermoeidheid is geen emotie
Emotie-oefentool die alleen de medewerker zelf zietMag, als HR niets terugziet

Het verschil zit in wie er gemeten wordt. Bij je eigen mensen is de machtsverhouding scheef, dus daar is het verboden. Ook een sollicitant valt eronder. Bij klanten valt het niet onder dit verbod. Wel staat emotieherkenning in bijlage III als hoog risico. En sinds 2 augustus 2026 moet je de mensen die je zo meet, erover informeren (artikel 50, lid 3).

Social scoring klinkt als iets uit China, maar de Commissie noemt een gewone verzekeraar als voorbeeld. De verzekeraar haalt bestedingsdata bij een bank op en zet daarmee de premie van een levensverzekering hoger. Met het verzekerde risico hebben die data niets te maken, dus dat is verboden. Een gewone kredietscore op inkomen en uitgaven valt er volgens dezelfde richtsnoeren buiten. Hoog risico is zo'n score wel, zie onze uitleg over AI bij kredietbeslissingen.

Bij manipulatie trekt de Commissie de grens bij openheid. Aanbevelingen op basis van voorkeuren die de gebruiker kent en kan bijstellen, zijn overtuigen. Een systeem dat stiekem emoties van klanten afleest om op het goede moment de duurdere variant te tonen, noemt de Commissie manipulatie. Valt de klant daardoor in aanzienlijke schade, dan is het verboden.

Gezichtsherkenning bij de ingang van een winkel valt niet onder artikel 5. Dat verbod gaat alleen over de politie. Mag het dan wel? Nee. De AVG verbiedt biometrie zonder uitdrukkelijke toestemming of wettelijke grond, en de AP gaf een Nederlandse supermarkt daarvoor eerder een formele waarschuwing. De Commissie noemt die zaak zelf in haar richtsnoeren.

Vanaf 2 december zijn uitkleed-apps verboden

De Digitale Omnibus voor AI (Verordening 2026/1744) schoof vooral deadlines op. Hij voegde ook twee verboden toe aan artikel 5, en die gaan op 2 december 2026 in:

  • AI die realistische naaktbeelden of seksbeelden maakt of bewerkt van een herkenbaar persoon, zonder diens uitdrukkelijke toestemming.
  • AI die beelden van seksueel misbruik van kinderen maakt.

Voor een aanbieder is het verboden als dat het doel van het systeem is. Het is ook verboden als het systeem het voorspelbaar kan zonder dat er degelijke beveiliging tegen is. Voor een gebruiker is het smaller: verboden als jij het systeem voor zulke beelden inzet. Een algemene beeldgenerator gebruiken voor een productfoto blijft dus gewoon mogelijk.

In Nederland was een rechter er al eerder bij. Stichting Offlimits spande een kort geding aan tegen xAI en X, op grond van de AVG en niet van de AI Act. Op 26 maart 2026 kwam het vonnis.

"De voorzieningenrechter verbiedt X.AI seksueel beeldmateriaal te genereren en/of te verspreiden voor zover daarbij gebruik wordt gemaakt van de functionaliteit waarbij personen deels of geheel worden uitgekleed zonder dat zij daar uitdrukkelijk toestemming voor hebben gegeven."

— mr. E.A. Messer, voorzieningenrechter in de Rechtbank Amsterdam (vonnis)

Het verbod geldt voor mensen die in Nederland wonen. X mag Grok niet aanbieden zolang het zulke beelden maakt. De dwangsom is 100.000 euro per dag, tot 10 miljoen euro (Rechtspraak). Het is een voorlopige uitspraak, geen eindvonnis.

Tijdlijn: Wanneer welke AI-regel ingaat. 2 februari 2025: Acht AI-praktijken verboden; 2 augustus 2025: Boetes mogelijk, als er een toezichthouder is; 2 augustus 2026: Chatbotmelding en deepfakelabel verplicht; 2 december 2026: Uitkleed-apps en AI-kindermisbruik verboden; 2 december 2027: Eisen voor hoog risico, zoals AI bij werving.
Bron: Verordening (EU) 2024/1689 en 2026/1744

De boete: 35 miljoen, maar in Nederland deelt niemand hem nog uit

Wie een verboden praktijk toepast, riskeert tot 35 miljoen euro of 7 procent van de wereldwijde jaaromzet, als dat hoger is (artikel 99, lid 3). Voor het mkb draait het om: het laagste van de twee geldt (lid 6). Het zijn maxima. De toezichthouder weegt onder meer de schade, de duur en of je meewerkte.

Boetes kunnen sinds 2 augustus 2025, maar alleen door een aangewezen toezichthouder. Die heeft Nederland nog niet. De Autoriteit Persoonsgegevens (AP) is beoogd toezichthouder op verboden AI, maar krijgt pas bevoegdheden met de Uitvoeringswet AI-verordening. Die lag tot 1 juni 2026 in consultatie; het kabinet plande indiening bij de Kamer in het vierde kwartaal van 2026 (planningsbrief). Hoe dat zit, staat in onze post over de toezichthouder op de AI Act in Nederland.

Wachten op die wet is geen plan. Het verbod geldt al. De AP wijst erop dat een overtreding ook zonder boete tot aansprakelijkheid kan leiden: een benadeelde kan naar de rechter (AP). En de AVG, waar de AP wél op handhaaft, raakt bijna elke vorm van emotieherkenning of biometrie.

Over emotieherkenning is de AP uitgesproken kritisch, ook buiten het verbod. In haar rapportage van juli 2025 schreef ze dat veel systemen op omstreden aannames rusten.

"Het idee dat een emotie door iedereen op dezelfde manier wordt ervaren, klopt niet."

— Aleid Wolfsen, voorzitter van de Autoriteit Persoonsgegevens (Security Management)

Voor een coalitie van Amnesty International, Bits of Freedom en zeven andere organisaties gaat het verbod niet ver genoeg. Zij vroegen de AP in december 2024 om emotieherkenning ook te verbieden bij migratie, grenscontrole en politie, en wijzen erop dat wetenschappers de techniek "pseudo-wetenschappelijk" noemen (inbreng, pdf). Voor de wet telt alleen wat in artikel 5 staat.

Niet verboden, wel regels

Het meeste AI-gebruik in een mkb-bedrijf valt nergens onder artikel 5. Wel onder een van deze drie lagen.

Hoog risico voor werving, krediet en onderwijs

AI die cv's selecteert, personeel beoordeelt, kredietwaardigheid van consumenten bepaalt of toelating tot een opleiding regelt, staat in bijlage III. De eisen daarvoor, zoals menselijk toezicht en logboeken, gaan na uitstel door de Digitale Omnibus op 2 december 2027 in. Voor AI in gereguleerde producten, zoals machines en medische hulpmiddelen, is dat 2 augustus 2028.

Een chatbot meldt zich, een deepfake krijgt een label

Dat staat in artikel 50 en geldt sinds 2 augustus 2026. Ook AI-tekst over publieke zaken waar geen redacteur naar keek, krijgt een label. Wanneer het precies moet, lees je in AI-label verplicht? en in onze uitleg van artikel 50. Daar staat een lagere boete op: tot 15 miljoen euro of 3 procent.

AI-geletterdheid geldt al voor iedereen

Sinds 2 februari 2025 moet elke organisatie waar mensen AI gebruiken, maatregelen nemen zodat ze weten wat ze ermee doen. Ook bij alleen ChatGPT. Sinds 27 juli 2026 hoeft daarbij geen vast niveau meer gehaald te worden (uitleg). Een certificaat hoeft niet. Wie het met het team wil regelen: daarvoor is de workshop AI-geletterdheid.

Wat mensen voor "verboden" aanzien

Drie dingen voelen als een verbod, maar zijn het niet.

DeepSeek mag niet voor ambtenaren, wel voor jou

Rijksambtenaren mogen DeepSeek sinds februari 2025 niet gebruiken. Dat bevestigde een woordvoerder van toenmalig staatssecretaris Zsolt Szabó. Ambtenaren mogen al geen apps gebruiken uit landen met een offensief cyberprogramma tegen Nederland, en China is er een van (Binnenlands Bestuur). Gemeenten beslissen zelf.

De AP riep eind januari 2025 op om "heel voorzichtig en terughoudend" te zijn met de app. Gegevens van gebruikers worden in China opgeslagen. Wie gegevens van anderen uploadt, kan volgens de AP zelf aansprakelijk zijn voor een onrechtmatige doorgifte (NL Times, nieuws.nl). Italië ging verder en blokkeerde de app. In Nederland is het een advies, geen verbod. Zweden ging in oktober 2026 bij de eigen regering nog verder, met ChatGPT en Claude erbij.

Niet in de EU is iets anders dan verboden

Soms komt een AI-functie hier later of nooit. Meta AI kwam in maart 2025 naar Europa, ruim een jaar na de Amerikaanse start, eerst alleen als chat (Meta). ChatGPT Health, dat medische dossiers koppelt, staat alleen in de VS. Dat is een keuze van de aanbieder. Geen wet verbiedt jou om het te gebruiken als het er wel is.

Je werkgever mag ChatGPT verbieden

Een werkgever mag redelijke instructies geven over hoe je je werk doet. Dat staat in artikel 7:660 van het Burgerlijk Wetboek. Een verbod op ChatGPT voor werk is zo'n instructie. Het geldt voor dat bedrijf, niet voor Nederland.

In de praktijk houdt zo'n verbod weinig tegen. Volgens Alert Online 2026 gebruikt 35 procent van de werknemers soms of vaker AI zonder toestemming van de werkgever. Maar 39 procent weet welke AI-tools mogen (rapport). Een lijst met wat wél mag, werkt beter dan een verbod. Hoe je die opstelt, staat in de AI-governance-checklist.

Volgende Stap

Weet je niet zeker of een tool in je bedrijf tegen artikel 5 aanloopt, of onder hoog risico valt? In het traject AI-governance en veilig adopteren brengen we dat met je in kaart en zetten we de regels op papier. Eerst zien waar je staat kan met de gratis AI-scan. Liever direct sparren? Neem contact op.

Gecontroleerd op 6 november 2026. Dit is uitleg, geen juridisch advies. Headerbeeld: AI Centrum Nederland (gegenereerd). Tijdlijn: eigen grafiek op basis van Verordening (EU) 2024/1689 en 2026/1744. Voorbeelden van de werkvloer: richtsnoeren van de Europese Commissie, 4 februari 2025.

Hoe AI-ready is jouw organisatie?

Doe de gratis AI-scan in 3 minuten en krijg een kansenkaart: twee kansen in uren per week, met een plan voor 90 dagen.