Stel je voor: je tikt een berichtje naar een vriend, een grappige foto van je kind in het zwembad of een snelle app om af te spreken voor een borrel. Voor je op ‘verzenden’ klikt, leest een onzichtbare agent mee. Niet een mens, maar een kunstmatige intelligentie, ingebouwd in je telefoon. Binnen een fractie van een seconde beslist die of jouw bericht veilig is of verdacht. En als de software twijfelt? Dan krijgt de politie mogelijk direct een seintje.
Het klinkt als sciencefiction, als een dystopisch scenario dat we kennen uit films als Minority Report. Toch is dit exact waar de Europese Unie binnenkort over stemt. Het plan, door critici al snel “Chatcontrol” gedoopt, heeft maar één officieel doel: het opsporen en stoppen van online kindermisbruik. Maar terwijl niemand het belang daarvan betwist, rijst er een veel grotere vraag: hoe ver willen we gaan om dat doel te bereiken?
Een wet die ieders telefoon raakt.
De kern van het voorstel is eenvoudig en tegelijkertijd ongekend ingrijpend. Iedere telefoon, ieder berichtensysteem, zou worden uitgerust met een AI-scanner. Deze scant elk bericht, elke foto, elk filmpje nog vóórdat het via versleuteling wordt verzonden. Als de software vermoedt dat het gaat om materiaal dat verband houdt met kindermisbruik, gaat er een melding naar de autoriteiten.
Voorstanders benadrukken dat dit noodzakelijk is. Het internet staat bol van misbruikbeelden, en ondanks internationale samenwerking blijft de politie overspoeld met meldingen. Jaarlijks blijven duizenden tips liggen omdat de capaciteit ontbreekt. En encryptie – de technologie die ervoor zorgt dat berichten onleesbaar zijn voor derden – maakt opsporing nóg ingewikkelder.
Volgens velen is de tijd van vrijblijvende oplossingen voorbij. Alleen met dit soort technische ingrepen, zeggen voorstanders, kan er een echte doorbraak worden geforceerd.
Waarom wil de EU dit?
Het plan is niet uit de lucht komen vallen. Al sinds de opkomst van het internet worstelen overheden met hetzelfde probleem: hoe bescherm je kinderen in een wereld die anoniem, grenzeloos en moeilijk te controleren is?
De cijfers zijn schokkend. In de afgelopen vijf jaar vond een Britse organisatie meer dan 1,2 miljoen pagina’s met afbeeldingen van kindermisbruik. Tijdens de coronapandemie explodeerde het probleem verder, omdat daders én slachtoffers vaker online waren.
De politie probeert makers, verspreiders en gebruikers van dit materiaal op te sporen, maar de hoeveelheid is simpelweg te groot. En encryptie maakt het nog lastiger: zelfs als berichten worden onderschept, zijn ze zonder sleutel niet te lezen. Politiediensten beschouwen encryptie dan ook al jaren als een doorn in het oog.
Voor de EU is dit reden genoeg om met een radicaal nieuw plan te komen. Waar eerdere voorstellen sneuvelden in het parlement, lijkt er nu wél een meerderheid. De beslissende stem ligt waarschijnlijk bij Duitsland. Nederland heeft zich voorlopig tegen verklaard.
Versleuteling: zegen en vloek.
Om de discussie te begrijpen, moeten we kijken naar versleuteling – beter bekend als end-to-end encryptie.
Wanneer jij via WhatsApp een bericht verstuurt, gaat dat bericht op slot met een digitale sleutel. Alleen de ontvanger heeft het juiste sleutelgat. Zelfs WhatsApp zelf kan het niet lezen. Dat maakt de technologie geliefd bij journalisten, activisten en burgers die hun privacy willen beschermen.
Maar diezelfde technologie beschermt óók criminelen. Politiediensten noemen het “een muur waar we tegenaan lopen”. Het Europese voorstel probeert dat te omzeilen door de berichten te scannen vóórdat ze op slot gaan. Daarmee wordt encryptie feitelijk geneutraliseerd.
Critici waarschuwen dat dit een fundamenteel gevaar is: een achterdeur die je niet meer kunt sluiten.
Voorstanders: “Wie kan hier tegen zijn?”
Er is geen twijfel dat kindermisbruik een van de meest afschuwelijke misdrijven is. Voorstanders benadrukken dan ook dat dit wetsvoorstel niet gaat om gewone criminaliteit, maar om de bescherming van de meest kwetsbaren in de samenleving.
Opsporingsdiensten pleiten al langer voor toegang tot versleutelde communicatie. Organisaties die slachtoffers bijstaan, steunen het plan. Zelfs beroemdheden mengen zich in de discussie: acteur Ashton Kutcher, jarenlang betrokken bij een bedrijf dat scansoftware ontwikkelde, lobbyde actief bij de EU.
Hun argument is simpel: als deze technologie kan voorkomen dat zelfs één kind slachtoffer wordt, waarom zouden we het dan níet doen?
Tegenstanders: “Een wolf in schaapskleren”
Toch is er forse kritiek, en niet alleen van privacyactivisten. Meer dan 200 . wetenschappers uit 26 landen waarschuwen dat het plan te ver gaat. Volgens hen is er geen veilige manier om zulke scanners te bouwen. Iedere ingebouwde kwetsbaarheid maakt burgers uiteindelijk onveiliger.
Zelfs de AIVD, de Nederlandse veiligheidsdienst, noemt het risico te groot. Wat als de technologie in verkeerde handen valt? Wat als een autoritaire regering besluit de scanner ook in te zetten tegen politieke tegenstanders?
En er is nog een ander gevaar: foutieve meldingen. Denk aan ouders die een foto van hun kind naar de huisarts sturen. Of zoals in een bekend voorbeeld: een Nederlandse man die door Microsoft werd geblokkeerd nadat een algoritme zijn privéfoto verkeerd had geïnterpreteerd. Hij verloor toegang tot e-mail, bestanden en zelfs zijn Xbox-spellen – en moest naar de rechter stappen om zijn account terug te krijgen.
Voor tegenstanders is dit onaanvaardbaar. “Je creëert een systeem dat miljoenen onschuldige Europeanen permanent onder toezicht stelt,” zegt een privacyorganisatie. “Dat is massale surveillance, en daar moeten we nooit aan beginnen.”
Dit moet je weten over Chatcontrol
- Wat is het?
Een EU-plan dat chatapps verplicht om een AI-scanner in te bouwen. Die controleert berichten, foto’s en video’s op mogelijk kindermisbruik, nog vóórdat ze worden versleuteld. - Waarom wil de EU dit?
Het internet staat vol met misbruikbeelden. Politie en organisaties raken overspoeld met meldingen, terwijl encryptie opsporing bemoeilijkt. - Wie zijn voorstanders?
Politiediensten, sommige hulporganisaties en bekende lobbyisten (zoals acteur Ashton Kutcher). Hun argument: ieder middel dat kinderen beschermt is gerechtvaardigd. - Wie zijn tegenstanders?
Privacyorganisaties, wetenschappers én zelfs de AIVD. Zij waarschuwen dat dit leidt tot massale surveillance, misbruik van de technologie en foutieve meldingen. - Wat kan er misgaan?
Onschuldige foto’s kunnen verkeerd geïnterpreteerd worden, wat leidt tot blokkades of politieonderzoek. Ook vrezen critici dat de techniek later tegen andere groepen kan worden ingezet. - Hoe nu verder?
In oktober stemmen EU-landen. Duitsland heeft veel invloed, Nederland is tegen. Als er een meerderheid is, volgt een definitief plan – en moeten techbedrijven de scanners gaan bouwen.
Minder ingrijpende alternatieven?
Ook organisaties die strijden tegen kindermisbruik zijn verdeeld. Sommigen wijzen erop dat er al veel manieren zijn om beter te bestrijden, zonder ieders privéleven open te breken.
Voorbeelden:
- Betere meldstructuren: zorg dat meldingen sneller en effectiever bij de juiste instanties terechtkomen.
- Leeftijdsverificatie: maak het moeilijker voor minderjarigen om toegang te krijgen tot risicovolle platforms.
- Meer middelen voor recherche: investeer in capaciteit, zodat meldingen niet langer op de plank blijven liggen.
Critici vragen zich hardop af of een allesomvattend scansysteem wel proportioneel is. Het zou immers een van de grootste verschuivingen in digitale privacy betekenen sinds de uitvinding van het internet.
En wat gebeurt er daarna?
Zelfs áls de wet wordt aangenomen, is het laatste woord nog lang niet gesproken. Er volgt een onderhandelingsfase, en details kunnen nog wijzigen. In eerdere versies ging het bijvoorbeeld alleen om het vergelijken van foto’s met een database van bekende misbruikbeelden.
Maar één ding is zeker: de techbedrijven moeten de scanners uiteindelijk inbouwen. En daar is de weerstand groot. Berichten-app Signal heeft al laten weten dat het dit simpelweg niet zal doen. Als de wet doorgaat, overweegt het bedrijf zelfs zijn diensten in de EU te staken.
Dat zet druk op de EU: wil men een wet die in de praktijk nauwelijks uitvoerbaar blijkt? Of kiest men toch voor een compromis?
Een strijd om vertrouwen.
De discussie over Chatcontrol gaat in de kern niet alleen over techniek, maar vooral over vertrouwen. Vertrouwen in overheden die zeggen dat ze de technologie alleen voor dit doel zullen gebruiken. Vertrouwen in bedrijven die de scanners moeten bouwen. En vertrouwen in algoritmes die moeten bepalen of een foto onschuldig of crimineel is.
Voorstanders zeggen: “Je kunt dit vertrouwen geven, want het gaat om kinderen.” Tegenstanders antwoorden: “Wie vandaag een achterdeur openzet, kan hem morgen niet meer sluiten.”
De vergelijking met Minority Report duikt steeds opnieuw op. Want in die film ging het mis: een systeem dat bedoeld was om misdaden te voorkomen, begon onschuldigen te beschuldigen en werd zelf een instrument van onderdrukking.
De vraag die nu op tafel ligt is even eenvoudig als beangstigend: willen we leven in een Europa waar elke chat, elk plaatje, elke grap en elke herinnering eerst door een onzichtbare agent moet worden goedgekeurd?
Het laatste woord is aan ons
In oktober stemmen de EU-landen. Duitsland weegt zwaar, Nederland is tegen, en andere lidstaten twijfelen nog. De uitkomst kan een beslissend moment worden voor de digitale toekomst van Europa.
Want dit debat gaat niet alleen over het bestrijden van kindermisbruik, hoe belangrijk dat ook is. Het gaat over de grenzen van privacy, over de vraag hoeveel vrijheid we bereid zijn in te leveren voor veiligheid.
Misschien wordt dit de grootste digitale afweging van onze generatie: een strijd tussen het beschermen van de meest kwetsbaren en het beschermen van de rechten van iedereen.
Hoe de stemming ook uitpakt, één ding is zeker: de manier waarop Europa nu kiest, bepaalt hoe vrij onze digitale toekomst zal zijn.
Uiteindelijk beslissen we niet over een wet, maar over de grenzen van onze vrijheid.■
