Is een foto van een kind in badkleding nog veilig in de familieapp? Privacydeskundigen betwijfelen het sinds de Europese Commissie eerder deze week nieuwe voorstellen introduceerde om de strijd tegen kinderporno op te voeren. Als de plannen worden uitgerold, moeten chatdiensten zoals WhatsApp straks mogelijk berichten scannen op misbruikmateriaal. Dat grijpt diep in de persoonlijke levenssfeer van onschuldige burgers. Bovendien levert het justitie naar verhouding maar weinig op.

Wat zijn de plannen?

Om de verspreiding van kinderporno tegen te gaan, wil de Europese Commissie chatdiensten kunnen verplichten te controleren op misbruikmateriaal dat via hun apps wordt verspreid. Als verdachte inhoud wordt aangetroffen, moet die worden doorgestuurd naar een Europees anti-kinderpornocentrum.

De Europese Commissie vindt de wetgeving hard nodig. Autoriteiten zijn in hun strijd tegen kinderporno nu afhankelijk van vrijwillige medewerking. Met een scanner in elke app zou schadelijk materiaal effectiever kunnen worden bestreden.

Welke technologie wil de Europese Commissie gebruiken?

Chatdiensten versleutelen de berichten van hun gebruikers vaak om te voorkomen dat anderen deze zomaar kunnen aftappen. In vaktermen heet dat end-to-end-encryptie. Als het aan Brussel ligt, versoepelt die versleuteling enigszins en worden berichten nog op de telefoon zelf gescand. Daarnaast moet kunstmatige intelligentie beelden van kinderporno automatisch kunnen herkennen.

Bestanden en berichten waarin mogelijk sprake is van kindermisbruik of het zogeheten grooming (het seksueel benaderen van minderjarigen) worden gemarkeerd en gerapporteerd.

Waarom is er kritiek?

Als eerste vanwege de privacy. Door de versleuteling in berichtenapps open te breken, krijgt een extern systeem toegang tot al je berichten en foto’s. Deskundigen vrezen verder voor de foutgevoeligheid van zo’n systeem. Mogelijk worden ook onschuldige berichten als verdacht aangemerkt. Argeloze zwembadfoto’s in een familieappgroep kunnen daardoor ten onrechte voor kinderporno worden aangezien.

Verder wordt de methode buitenproportioneel gevonden: chatdiensten moeten straks de chats van honderden miljoenen mensen scannen om een beperkt aantal misdadigers op te sporen.

De technologie die wordt gebruikt om te scannen op kinderporno kan daarnaast ook worden gebruikt voor andere inhoud, zoals politieke of religieuze opvattingen. Daardoor zou in theorie een zogeheten gedachtenpolitie personen met afwijkende meningen kunnen volgen, registreren en oppakken.

Hoe zou het dan moeten?

Privacytoezichthouders pleiten voor wetgeving om bedrijven aan te pakken die kinderporno helpen verspreiden. Als de autoriteiten meer personeel beschikbaar zouden stellen om kinderporno tegen te gaan, zouden privéberichten niet hoeven te worden gescand.

Overigens is er een minder vergaande variant op het wetsvoorstel. Nederland pleit in Europa bijvoorbeeld voor het blokkeren en rapporteren van kinderporno met behulp van een zwarte lijst. Dat is wel meer dan waar de Tweede Kamer op aanstuurde: die nam eerder dit jaar een kritische motie aan om te zorgen dat het EU-wetsvoorstel geen chatcontrole bevat en om het wetsvoorstel niet goed te keuren als daarin wel zo’n controle zou staan.