December 2016. De 28-jarige Edgar Maddison Welch stapt met een automatisch vuurwapen het pizzarestaurant Cornet Ping Pong in de Amerikaanse staat North Carolina binnen. Hij eist toegang tot de kelder, terwijl hij klanten bedreigt en met zijn wapen in de vloer van het restaurant schiet.

Welch is ervan overtuigd dat er in de pizzeria kinderen worden vastgehouden en misbruikt door machtige mensen binnen de Democratische partij. Als hij toch geen bijzonderheden aantreft, keert hij onverrichter zake naar buiten, waar de politie hem opwacht. Er vallen geen gewonden en Welch wordt ingerekend. Na zijn arrestatie verklaart de vader van twee meisjes dat hij zijn informatie onder andere van internetforum Reddit haalde.

De inval bij de pizzeria bleek een van de eerste verschijnselen van een inmiddels steeds bekender fenomeen: mensen die radicaliseren via sociale media en vervolgens hun gedachtegoed in de echte wereld uiten. „De afgelopen vijf jaar is er online sprake van een draai naar rechts”, zegt Richard Rogers, hoogleraar nieuwe media en digitale cultuur aan de Universiteit van Amsterdam (UvA). „Vooral op internetfora als Reddit en 4Chan, waar mensen anoniem berichten kunnen plaatsen, zie je een toename van antisemitische en racistische uitingen.”

Relschoppers

Dat sociale media online een katalysator kunnen zijn voor offline incidenten bewezen de avondklokrellen in januari van dit jaar. Honderden jongeren gingen de straat op en richtten vernielingen aan. Een groot deel van deze relschoppers werd gemobiliseerd via berichtenapp Telegram.

Volgens Mehmet Aközbek versterkt de coronacrisis het effect van sociale media. Namens de Expertise-unit Sociale Stabiliteit (ESS), onderdeel van het ministerie van Sociale Zaken en Werkgelegenheid, adviseert hij gemeenten over preventie van radicalisering. „De laatste jaren zijn we steeds meer bezig met rechtsextremisme en complottheorieën, terwijl we daarvoor vooral met jihadisme, islamitisch extremisme, te maken hadden.”

Hoewel radicalisering volgens Aközbek breed voorkomt, zijn het in zijn ogen vooral kwetsbare jongeren die kans maken om te radicaliseren. „Jongeren verspreiden via sociale media in onschuld gekke dingen, maar dat kan ongemerkt extremer worden.” Volgens de coördinerend adviseur kan de verspreiding van extreme boodschappen invloed hebben op de identiteitsontwikkeling van jongeren. „Als volwassene heb je een bepaald wereldbeeld ontwikkeld, maar jongeren zitten midden in die ontwikkeling en zijn makkelijker beïnvloedbaar via onder andere sociale media.”

Bodegraven

De invloed van sociale media wordt versterkt door de ”bubbels” die er ontstaan. Volgens Kees van den Bos, gedragswetenschapper aan de Universiteit Utrecht en auteur van het boek ”Waarom mensen radicaliseren, zorgt het gebrek aan tegengeluid in deze bubbels ervoor dat mensen steeds extremere ideeën krijgen.

Dat gebrek vormt volgens Van den Bos de basis van radicalisering. Toch hoeft radicalisering niet per se fout of strafbaar te zijn; dat wordt het pas wanneer mensen de wet overtreden. „Als dat het geval is, spreek je van extremisme”, aldus de hoogleraar.

Naast de groei van extreemrechtse opvattingen ziet Van den Bos ook de opkomst van complottheorieën als Qanon. „De acties in Bodegraven zijn bijvoorbeeld moeilijk onder te verdelen in politiek links of rechts. Het lijkt erop dat mensen met verschillende politieke achtergronden samenkomen onder een gemeenschappelijk belang”, aldus de hoogleraar.

Alleen al in de gemeente Utrecht verdubbelde in het afgelopen jaar het aantal meldingen van radicalisering ten opzichte van voorgaande jaren. Waar jihadistisch gedachtegoed eerder de voornaamste bron van radicalisering was, ziet de gemeente nu „nieuwe en andere vormen van radicalisatie en polarisatie.” Ook de Nationaal Coördinator Terrorismebestrijding en Veiligheid ziet een groeiende dreiging van extremistisch gedrag in het afgelopen coronajaar. Volgens Aközbek van de ESS spelen sociale media hierin een belangrijke rol: „Juist een kwetsbare groep, jongeren in een nog vormende periode, zit thuis en heeft vooral online contacten, die zich mogelijk radicaal uiten.”

De NCTV signaleert deze ontwikkeling ook in haar in april verschenen Dreigingsbeeld en waarschuwt voor de mogelijke gevolgen. Volgens de coördinator voelen vooral „jonge getroebleerde Nederlanders” zich aangetrokken tot de groeiende rechts-extremistische internetwereld. Daarnaast waarschuwt de overheidsdienst voor een „radicale onderstroom die ageert tegen de coronamaatregelen.” Met name voor eenlingen kunnen de huidige coronamaatregelen volgens de NCTV een aanleiding zijn voor gewelddadige actie.

Nepnieuws

Kunnen overheden iets doen tegen de constante stroom nepnieuws en extremistische uitingen op sociale media? Volgens mediawetenschapper Rogers van de UvA is er in omliggende landen als Frankrijk en Duitsland al strenge wetgeving. Deze werkt alleen niet altijd even effectief. „In Duitsland moeten techbedrijven bepaalde content binnen 24 uur verwijderen”, aldus de hoogleraar. „Dit zorgt er alleen voor dat bedrijven technologie gaan inzetten om alle berichten te controleren.” Volgens Rogers kan dit een censurerend effect hebben, omdat techbedrijven zo al snel te streng controleren en berichten verwijderen.

Ook de bedrijven achter sociale media zelf werken aan dit probleem. Volgens Rogers controleren sociale media strenger op valse boodschappen sinds de aanval op het Amerikaanse Capitool, in januari. „Die moderatie vindt alleen plaats op specifieke onderwerpen”, zegt Rogers, „Er wordt strenger gecontroleerd op berichten over ”Covid” of ”corona”, maar rondom ”vaccin” is nog veel nepnieuws te vinden.”

Internetplatformen modereren op verschillende manieren. Platformen als Facebook werken bijvoorbeeld samen met factcheckers, organisaties die berichten controleren op feiten. Dit is echter een duur en tijdrovend proces, omdat deze factcheckers gemiddeld slechts twee berichten per dag kunnen controleren.

De techniek kan ook een handje helpen bij het controleren van berichten. Facebook heeft algoritmes die een groot deel van berichtgeving die tegen de regels is automatisch verwijderen. Dit kan echter alleen bij al bestaande data. Rogers: „Alles wat onbekend is, kan niet door een algoritme worden beoordeeld. Het wordt dan doorgestuurd naar content moderators.” Ook wanneer een gebruiker een aanstootgevend bericht rapporteert, krijgt een berichtcontroleur deze op zijn of haar bordje.

De manier waarop Facebook omgaat met deze content moderators is controversieel. De werkomstandigheden zijn ronduit slecht. In de in 2018 verschenen documentaire ”The Cleaners” vertelt een Filipijnse werknemer dat zij dagelijks 25.000 afschrikwekkende afbeeldingen moet beoordelen. Vorig jaar schikte Facebook nog voor ruim 48 miljoen euro met Amerikaanse webschoonmakers. Zij sleepten de techgigant voor de rechter vanwege op hun werk opgelopen psychische klachten. „Het is een slecht betaalde baan die vaak wordt uitbesteed aan derde partijen in landen als de Filipijnen en Thailand”, aldus Rogers.

Facebook staat hier voor een lastig dilemma. „Wanneer Facebook mensen in dienst neemt om content te modereren, doet het redactioneel werk en is het feitelijk een mediabedrijf”, zegt Rogers, zelf Amerikaan. „Dat maakt Facebook direct verantwoordelijk voor alle content op het platform.” Daarom besteedt Facebook dit uit aan derde partijen.

Toch laat Facebook zien dat het wel goed kán modereren. Hoogleraar Rogers deed in maart onderzoek naar de controle van platformen op berichtgeving rond het coronavirus. Uit dat onderzoek bleek dat met name Instagram, onderdeel van Facebook, streng controleert op nepnieuws rondom het coronavirus. Facebook zelf controleert volgens Rogers ook streng op dit onderwerp, maar laat nepnieuws over andere thema’s regelmatig ongemoeid. „Facebook bewijst dat het dus wel snel en goed met nepnieuws om kán gaan. Het is dus de vraag waarom het niet consequent modereert op alle thema’s.”

Risico

Hoewel hij de effecten van de coronamaatregelen op bijvoorbeeld jongeren nu nog niet kan inschatten, is gedragswetenschapper Kees van den Bos wel bezorgd over de gevolgen van de lockdowns. „Hoewel er in het begin van de pandemie sprake was van een rally around the flag en er brede steun was voor de autoriteiten, beginnen zij hun gezag soms toch wat te verliezen”, zegt de radicaliseringsexpert. „Dat moet niet heel veel langer duren, omdat dat een risico kan vormen.”

Ook Aközbek maakt zich zorgen: „Kwetsbare jongeren kunnen in coronatijd veel sneller radicaliseren, omdat ze voortdurend alleen op internet zitten”, zegt Aközbek. „Daar moeten we als samenleving oog voor hebben, want dat kan echt problematisch worden.”