Europa, 2030. Een lange stoet auto’s kronkelt als een lome slang over ’s heren wegen. Ruime Franse gezinsauto’s, razendsnelle Italiaanse sportwagens –sommige met meer dan 500 pk onder de motorkap– en degelijke Duitse seniorenmodellen houden zich allemaal aan dezelfde snelheid.

Inhalen is geen optie, ook al zouden bestuurders dat willen. Sinds de Europese Unie autofabrikanten verplichtte om een intelligente snelheidsassistent (ISA) in hun nieuwe modellen in te bouwen, zijn eigenaren namelijk niet meer eindbaas over de snelheid.

Het belangrijkste onderdeel van de slimme snelheidsbegrenzer –alle nieuwe automodellen die na juli 2024 op de Europese markt worden toegelaten moeten er één hebben– is een camera. Die registreert verkeersborden langs de weg en kan de snelheid van de auto daar in de toekomst automatisch op aanpassen.

De Europese Commissie noemde de richtlijn, die begin juli 2022 van kracht werd, een „ongeëvenaarde stap” in de strijd tegen verkeersongevallen. Proeven en berekeningen in onder andere Nederland toonden volgens Brussel aan dat ISA het aantal verkeersdoden met 19 tot 28 procent kan verlagen. Maar vermindering van het aantal verkeersslachtoffers is niet het enige doel. Het systeem moet ook de slechte luchtkwaliteit terugdringen en klimaatverandering tegengaan.

Een logische vervolgstap kan zijn dat steden de snelheid van voertuigen gaan afdwingen. Dat is nu nog niet het geval, maar inmiddels denken gemeentebesturen wel na over verkeerszones waarin de snelheid van auto’s automatisch wordt beperkt. Ziet de camera een ”bebouwde kom”-bord, dan zakt de naald automatisch terug tot de bijpassende snelheid.

Geen eigen afweging

„Automatisering van de deugd”, noemt Maxim Februari dat. De schrijver en filosoof, tot voor kort columnist bij NRC, signaleert in het pas verschenen essay ”Doe zelf normaal” hoe technologie niet alleen onze samenleving verandert, maar ook de rechtspositie van burgers.

Technologie dwingt gebruikers namelijk steeds vaker om zich op een bepaalde manier te gedragen. Supermarkten voorzien hun winkelwagentjes van systemen die de wielen blokkeren wanneer klanten de terreingrens overschrijden. Daarmee voorkomen ze dat hun karretjes worden gestolen, maar beperken ze klanten in de mogelijkheden om hun auto een eindje verderop te parkeren.

Bedrijven op hun beurt blokkeren apparaten als de gebruikers niet aan bepaalde voorwaarden voldoen. Dat kan de veiligheid vergroten, maar hindert consumenten in hun vrijheid. En overheden gebruiken technologie om burgers actief tot gehoorzaamheid te dwingen. De intelligente snelheidsassistent moet de samenleving bijvoorbeeld minder levens kosten en meer kwaliteit van leven brengen, maar ontneemt een burger zijn macht over het stuur.

De redenering achter al die ingrepen klinkt even redelijk als logisch. Overheden willen hun burgers beschermen of een zetje in de goede richting geven, en bedrijven willen hun eigendommen beschermen of ervoor zorgen dat iedereen zich aan de regels houdt. Maar intussen bepaalt het systeem steeds meer en steeds vaker wát we doen en hóé we iets doen. Burgers krijgen daarbij niet meer de ruimte om nog hun eigen morele afweging te maken.

Opmaat naar tirannie

Het gevolg daarvan is, constateert Februari, dat technologie –en eigenlijk de bedrijven die de technologie ontwikkelen– de rol van de staat overneemt. Dat heeft verstrekkende gevolgen. Want technologie is in zichzelf binair: iets kan wel of niet. Een ”eigenlijk” behoort niet tot de mogelijkheden. Nuances zijn er dus niet, terwijl technologie al snel wordt opgevoerd als hét antwoord op welk ingewikkeld vraagstuk dan ook. Daarmee kan technologie zomaar de opmaat vormen naar tirannie.

Neem de QR-code. Op zoek naar een manier om burgers te midden van een hevige pandemie vrijheid en veiligheid te bieden, besloten overheden om een coronapaspoort te introduceren. Burgers konden daarmee aantonen dat ze waren gevaccineerd en dus veilig konden worden toegelaten tot drukke locaties. Bedrijven en instellingen hoefden slechts een QR-code te scannen om te controleren of iemand naar binnen mocht.

Een waterdicht systeem, zou je zeggen. Mensen werden daardoor wel gereduceerd tot een morele of praktische keuze. Het simpelweg wel of niet gevaccineerd zijn –of het bezit van een recent coronatestbewijs– bepaalde wat ze wel of niet mochten. Andere mogelijkheden –het ”eigenlijk”– waren er niet. Voldeed je niet aan de voorwaarden? Jammer, burger, maar de computer zegt ”nee”.

Het digitale identiteitsbewijs (eID) dat Europese landen momenteel ontwikkelen, is net zo’n voorbeeld. Een oplossing om internationaal zaken te doen en persoonsgegevens uit te wisselen: daar kan niemand op tegen zijn, toch? Maar overheden kunnen er wel van de ene op de andere dag nieuwe voorwaarden aan verbinden, zodat burgers vandaag niet meer kunnen wat ze gisteren nog mochten. Instanties kunnen hun van het ene op het andere moment de toegang weigeren omdat de technologie een kruisje achter hun naam heeft gezet.

Daarmee heeft technologie een bedenkelijke positie ingenomen, signaleert Februari. Mensen, óók overheden, staren zich steeds vaker blind op wat het systeem zegt, zonder te kijken naar de achterliggende gedachte en zonder zich ook maar af te vragen of het wel gelijk heeft. De ”output” van technologie is in veel gevallen allesbepalend geworden.

Demos tegen data

Dat heeft ook gevolgen voor hoe we naar de wereld kijken. Steeds vaker vangen we de leefomgeving in kille cijfers, om die vervolgens te gebruiken als basis voor beslissingen. Naakte feiten, ontdaan van context en emotie, vormen de parameters waarop ingewikkelde kwesties worden gemodelleerd en bestuurd.

Klimaatproblemen, bevolkingsvraagstukken en migratiestromen worden teruggebracht tot cijfers waarop wordt gestuurd. Bijbehorende beslissingen worden uitbesteed aan systemen die de zaken feitelijk bekijken en die geen enkele morele band hebben met de kwesties waarover ze knopen doorhakken.

Zo levert de technologie nieuwe regelgevers, zonder hersenen of lichaam. ‘Zwarte dozen’ die niet kunnen vertellen hoe beslissingen tot stand komen, maar die wel bepalen wat burgers wel of juist niet meer mogen doen.

Menselijke eigenschappen

De volgende stap is dat er een rechtsgemeenschap ontstaat met „niet-menselijke existenties”, waarschuwt Februari. Wie bomen, dieren en andere objecten in cijfers vangt en daar vervolgens door mensenogen naar kijkt, zou er zomaar menselijke eigenschappen aan kunnen geven. Het is maar een kleine stap om uit de cijfers af te leiden wat die bomen en dieren zélf zouden willen.

Vergezocht is die gedachte zeker niet. Nog vorige maand verscheen op techwebsite Wired een artikel waarin Ralph Chami, econoom bij het Internationaal Monetair Fonds, de economische waarde van de blauwe vinvis berekende. Het enorme zoogdier slaat tot wel 33 ton koolstof op in zijn lichaam, zo becijferde hij. Blauwevinvispoep bevat bovendien voldoende ijzer om miljarden fytoplanktonorganismen –een plantje dat koolstof uit de lucht haalt– te voeden.

Volgens Chami zou de blauwe vinvis dus een goed middel zijn in de strijd tegen klimaatverandering, en daarmee een waardevolle investering voor bedrijven die hun koolstofuitstoot willen compenseren. Maar: elke bedreiging van de leefomgeving van het dier –of dat nu een geplande nieuwe vaarroute of een boorplatform is– zou zijn economische productiviteit bedreigen. En als je een economische waarde aan de natuur hangt, waarom zou je levende wezens –of dat nu een blauwe vinvis is of zeegras– dan ook geen juridische status geven? Je zou ecosystemen zelfs het recht kunnen geven om misbruikers te dagvaarden voor de schade die ze aan hen berokkenen.

Kortom, vang de natuur in cijfers en het is een bijna logische stap dat zeeën een ‘stem’ krijgen in het klimaatdebat. Zo verliest in een datagedreven samenleving het volk zijn positie aan vinvissen, zeegras en computerchips en delft de demos –het volk– het onderspit.

Niet democratisch gekozen

Nu kun je redeneren dat cijfers zonder enige emotie tot zuiverder beslissingen leiden. Maar, signaleert Februari, die systemen zijn uiteindelijk het product van grote technologiebedrijven. Zij ontwikkelen de ondoorgrondelijke algoritmen waarop beslissers zich baseren –en die aan de wortels van de democratische rechtsstaat zagen. De bedrijven hebben dus een vergaande invloed, maar werden niet democratisch gekozen en hoeven zich allerminst te verantwoorden voor de beslissingen die hun producten aanjagen.

Technologiebedrijven staan daarin overigens niet op zichzelf: ook consultancybedrijven spelen een bedenkelijke rol. In hun boek ”De consultancy-industrie. Hoe consultants bedrijven verzwakken, overheden uithollen, economieën schaden”, dat vorige maand verscheen, beschrijven hoogleraar Mariana Mazzucato en promovendus Rosie Collington hoe adviesbureaus de democratie ondermijnen. De McKinseys van deze wereld schrijven beleidsadviezen, die door politici kritiekloos worden overgenomen.

Soms mogen dezelfde bureaus die de adviezen schreven vervolgens het geadviseerde beleid uitvoeren. Daardoor raken zakelijke en politieke verantwoordelijkheden steeds meer vertroebeld. Want consultancybureaus beïnvloeden, bepalen en maken wereldwijd beleid, maar kennen net als technologiebedrijven geen politieke verantwoordelijkheid. Daarbij bedienen ze regelmatig ook andere klanten die een direct belang hebben bij hun adviezen.

Consultancybureau McKinsey adviseerde bijvoorbeeld de VN-organisatie die verantwoordelijk is voor het Klimaatverdrag, maar beschermde daarbij de belangen van grote houtbedrijven en andere industriële partijen die óók klant waren bij McKinsey. Met hun adviezen weerhouden consultants overheden en bedrijven er ook nog eens van om zelf de kennis te ontwikkelen waarmee ze de economie in het algemeen belang kunnen inrichten. De belangen van burgers bungelen, kortom, onderaan – terwijl juist burgers het beton van de democratie vormen.

Zouden invloedrijke bedrijven de burger wél centraal stellen, dan is dat nog geen blauwdruk voor succes. In ”Infocratie” beschrijft de Koreaans-Duitse filosoof Byung-Chul Han hoe er juist betonrot in de democratie kan ontstaan als burgers wél betrokken worden.

Han constateert hoe het in de afgelopen jaren vanzelfsprekend is geworden om burgers in de verkiezingstijd te benaderen via sociale media. Steeds vaker kiezen politieke partijen bijvoorbeeld voor microtargeting om hun boodschap onder de aandacht van potentiële kiezers te brengen. Bij microtargeting wordt een heel specifieke boodschap verspreid onder een al even specifieke doelgroep.

Ben je bijvoorbeeld man, hoogopgeleid en tussen de 30 en 35 jaar? Dan kunnen de vele demografische gegevens die sociale media over je bezitten suggereren dat je mogelijk bovengemiddeld geïnteresseerd bent in het thema wonen. Een politieke partij kan proberen je aandacht te trekken met een banner over woningnood of over plannen voor de woningmarkt. Een man uit dezelfde leeftijdscategorie, maar met een mbo-diploma en woonachtig in een oostelijke provincie, kan daarentegen een filmpje over de stikstofplannen voorgeschoteld krijgen.

In Nederland gebruikte onder andere het CDA deze marketingtechniek. Door slechts één aansprekend punt onder de aandacht te brengen, probeerde de partij zwevende kiezers aan zich te binden. Maar, zegt Han, verschillende soorten kiezers krijgen daardoor niet zelden tegenstrijdige informatie voorgeschoteld. In feite reduceren politieke partijen burgers tot stemvee: ze zijn alleen nodig om een paar zetels veilig te stellen.

De gevaren laten zich gemakkelijk uittekenen: het vertrouwen in de politiek daalt nog verder, terwijl de tweespalt in het publieke domein alleen maar toeneemt. Maar maatschappelijke problemen zullen Facebook, Twitter en consorten niet oplossen. Zij adviseren hooguit hun klanten op basis van de data die ze in de achterliggende jaren over hun gebruikers verzamelden en die ze nu verkopen als ”kennis”.

Klompje data

Want technologiebedrijven kénnen hun gebruikers –althans, dat beweren ze zelf– en daarmee kunnen ze wie dan ook op zijn wenken bedienen. Maar wát die kennis dan is, bepalen de bedrijven uiteindelijk zelf. Hun kennis is bovendien steevast beperkt tot de gegevens die ze eerder over hun gebruikers verzamelden – en die hun klinkende munt oplevert. Gemakshalve vergeten de bedrijven dat er buiten de verzamelde kennis nog een wereld is.

Kennis is niet langer weten wat je weet en weten wat je niet weet, zoals de Chinese wijsgeer Confucius eeuwen geleden zei, maar nog slechts de wetenschap die je weet. Dus, zegt Februari in ”Doe zelf normaal”, is het wereldbeeld van deze bedrijven hooguit een reductie van de werkelijkheid. Met als gevolg dat economische motieven steeds meer en steeds vaker het functioneren van maatschappijen en rechtsordes bepalen.

Die reductie van de mens tot een klompje data heeft anno 2023 ook zijn weg gevonden in de politiek. Big data is het sociale domein binnengedrongen, schrijft voormalig D66-Kamerlid Kees Verhoeven in ”De democratie crasht. Politieke onmacht in het digitale tijdperk”. De politie gebruikt bergen aan gegevens om te anticiperen op misdrijven, overheidsinstanties verzamelen ”sociale data” om misbruik in kaart te brengen en geheime diensten gebruiken metadata om criminelen en terroristen de pas af te snijden.

Het klinkt wederom objectief, maar de valkuilen zijn legio – al was het alleen maar omdat overheden de cruciale denkfout maken dat algoritmen en gegevens objectief zijn. De gegevens waarop overheden zich baseren, zijn bovendien niet actueel, bevorderen hokjesdenken en bevatten (onvermoede) vooringenomenheden van de ontwikkelaars. Het levert een ‘zwarte doos’ op waarmee politici enerzijds bepalen wat de burger wil, maar waarop ze anderzijds geen enkele concrete controle kunnen uitoefenen.

Als iemand scherp ziet wat de gevolgen daarvan zijn, is het Maxim Februari. In De Volkskrant constateerde de essayist onlangs dat de macht vanuit Den Haag langzamerhand naar allerlei commerciële partijen en private partijen is geglipt. Haags beleid wordt steeds vaker beïnvloed door algoritmen uit Silicon Valley.

Dat probleem laat zich niet oplossen met nog meer technologie en consultants, maar alleen met een diepgaande bezinning op wat een democratie is en hoe die hoort te functioneren.