Kunstmatige intelligentie (AI, van Artificial Intelligence) vindt zelfs zijn weg naar de huiskamer. Digitale assistenten zoals Siri van iPhone en Alexa van Amazon kunnen reageren op vragen, aanbevelingen doen, slimme apparaten in huis bedienen; en de lijst van mogelijkheden groeit dagelijks. Het gaat in het algemeen om acties waarvoor gewoonlijk menselijke intelligentie vereist is. Digitale assistenten zijn soms al zelflerend; ze kunnen bijvoorbeeld worden ‘getraind’ om gewoonten van de gebruiker te herkennen.

„Een van de belangrijkste orwelliaanse aspecten van AI is de mogelijkheid om individuen op de voet te volgen”, schrijft de Brit John Lennox, hoogleraar wiskunde aan de universiteit van Oxford, in zijn boek ”2084” – naar analogie van George Orwells boek ”1984”, waarvan de contouren zich momenteel griezelig realistisch lijken af te tekenen.

„Big Brother ontmoet Big Data. Mark Zuckerberg liet zich eens ontvallen dat Facebook precies weet welk boek, welke film of welk muziekstuk iemand ooit heeft gekocht. Zijn modellen kunnen precies voorspellen naar welke eetgelegenheid je die avond zult gaan wanneer je aankomt in een vreemde stad, zodat de uitbater je favoriete drankje alvast kan klaarzetten.”

Dat kan soms handig zijn. Bijvoorbeeld als Amazon, Google of AliExpress op basis van onlineactiviteiten bepaalde producten aanbeveelt. Lennox noemt als voorbeeld dat hij een website had bezocht voor de boeking van een vlucht. De dag erop kreeg hij een e-mail met het verzoek om te boeken. „Trackingalgoritmes volgen ons voortdurend als we online zijn. Kunstmatige intelligentie is zelfs in staat op maat toegesneden advertenties te maken. En, dat is onderzocht, deze worden vier en een half keer vaker aangeklikt dan algemene advertenties.”

Duistere zijde

Er zit ook een duistere zijde aan Big Data in combinatie met Big Brother, vervolgt de Britse wiskundige. Hij haalt het voorbeeld aan van ene Deborah Caldeira, die een sollicitatiegesprek moest voeren met een geautomatiseerd systeem. „Zonder iemand aan de andere kant van de tafel komt er geen echte conversatie of contact tot stand. Het is moeilijk om erachter te komen waar de robot exact naar kijkt.” Caldeira’s zelfvertrouwen kreeg ondanks haar hoge kwalificaties een knak. „Het geeft je het gevoel dat je voor de organisatie weinig waard bent. In feite raak je je menselijkheid kwijt.”

Het is bovendien de vraag of er met kunstmatige intelligentie straks nog wel menselijke beroepen nodig zijn. Een recent onderzoek van de universiteit van Oxford leidde tot vergaande conclusies. Vanaf 2024 zijn er geen vertalers meer nodig, in 2028 geen chauffeurs, in 2031 geen caissières, in 2049 geen journalisten en in 2053 geen chirurgen meer. En over 125 jaar bestaat er geen enkel menselijk beroep meer, verwachten de onderzoekers.

De Israëlische historicus Yuval Noah Harari schrijft in zijn boek ”Homo Deus” dat er in de 21e eeuw een „nutteloze klasse” zal ontstaan: mensen die niets bijdragen aan de samenleving. Misschien zullen de kunstmatig intelligente wezens deze „nutteloze klasse” gewoon uitroeien, waarschuwt de Zweeds-Britse filosoof Niels Bostrom. Een „huiveringwekkend en onmenselijk concept”, meent Lennox.

Ethisch vraagstuk

„Data die over ons worden verzameld, kunnen ook worden gebruikt om ons te controleren en te sturen”, vervolgt de Britse wiskundige. Dan doemen er opeens grote ethische vraagstukken op: wie is de eigenaar van deze data, en wie controleert dergelijke projecten?

Het verzamelen van data is een immens winstgevende business geworden. Volgens Harvardhoogleraar Shoshana Zuboff transformeren de westerse economieën langzaam naar surveillancekapitalisme. Dat betreft een nieuwe economische orde waarin bedrijven de Big Data verzamelen die we zelf genereren. Met behulp van AI exploiteren ze die om geld te verdienen op een manier die de meeste mensen zal ontgaan. „Dit surveillancekapitalime is een logisch gevolg van de technologieën die momenteel worden ontwikkeld”, schrijft Zuboff in haar boek ”The Age of Surveillance Capitalism”.

Stommiteit

Het domste wat mensen momenteel kunnen doen, is een digitale assistent zoals Siri of Alexa in huis nemen, betoogt de Britse journalist Libby Purves in dagblad The Times. Ze noemt het „eigenaardig” dat mensen moeten betalen voor „een geavanceerde niet-menselijke spion die duizenden kilometers verderop is verbonden met een al te menselijk winstcentrum. Een slecht gereguleerde zakelijke afluisteraar in je huis verwelkomen is een stommiteit, een soort van roekeloos benadelen van jezelf.” Lennox: „En toch maken miljoenen, wellicht miljarden er gebruik van.”

De Britse wiskundige voorziet dat dit surveillancekapitalisme op den duur zal leiden tot een surveillancesamenleving. „Die twee samen kunnen de maatschappelijke stabiliteit en individuele vrijheid ernstig bedreigen.”

Een land dat duidelijk op weg is naar zo’n surveillancesamenleving, is China. Het Chinese datasysteem Integrated Joint Operations Platform (IJOP) verzamelt allerlei data zoals telefoongesprekken, foto’s, DNA, vingerafdrukken en irisscans. Met behulp van AI selecteert het systeem Oeigoerse moslims. Die kunnen worden opgepakt, ondervraagd en vervolgens worden opgesloten. Mensenrechtenorganisatie (HRW) noemt het „geautomatiseerde onderdrukking”.

Soms is het argument dat de regering de verspreiding van het coronavirus ermee wil voorkomen. Maar de echte reden voor deze surveillance is dat de overheid op elk moment wil kunnen zien wat er in religieuze gebouwen gebeurt. The New York Times spreekt van „geautomatiseerd racisme.”

Met de pseudowetenschappelijke term ”Predictive policing” (voospellende politiedienst) rechtvaardigt de Chinese regering „een enorme onderdrukking van Turkssprekende moslims”, stelt HRW-onderzoeker Maya Wang.

China heeft al ruim 180 miljard euro uitgegeven aan de installatie van meer dan 400 miljoen intelligente surveillancecamera’s, zogeheten CCTV’s. „Wat George Orwell voor 1984 voorzag, is nu onder ons. Naar hoe het in 2084 zal zijn, kunnen we slechts gissen. Maar de trend is duidelijk: de Chinese regering gebruikt AI om een totale sociale controle over het land te krijgen”, constateert Lennox, die China „een autoritaire droomwereld” noemt.

Ook in zo’n 200 Chinese kerken hangen surveillancecamera’s. Een keus hebben de christenen niet. „De regering installeert camera’s in elke kerk op het platteland. Elke kerk die haar niet gehoorzaamt, wordt gesloten”, liet een diaken van een kerk weten aan mensenrechtenmagazine

Camera in de kerk

„Er zijn drie camera’s geïnstalleerd in onze kleine kerk die ons altijd in de gaten houden”, klaagde een kerklid. „We zijn geschokt. We hebben helemaal geen vrijheid meer onder dit toezicht.”

„Nadat de camera’s waren geïnstalleerd, durfde niemand in de kerk meer te praten over de politiek, de regering, Hongkong of een andere gevoelig onderwerp”, zei een diaken van een Drie-Zelfkerk in Shenzhen. „Kerken huren beveiligers in om bezoekers die in groepjes staan te praten te verspreiden, uit angst dat ze iets ten nadele van de overheid zeggen. Wanneer de camera’s zulke gesprekken zouden vastleggen, kan dat veel problemen veroorzaken voor kerken.”

Maya Wang van HRW noemt de Chinese situatie „een wake-upcall voor de hele wereld.” Lennox sluit zich daarbij aan: „Ook in het Westen bestaat zo’n surveillanceprogramma, al is dat niet zo gecentraliseerd.” De wiskundige doelt daarmee op de CCTV-camera’s die nummerborden van auto’s en eventuele verkeersovertredingen vastleggen, en camerasystemen die winkelcentra veiliger moeten maken.

Waar al die privédata terecht kúnnen komen, weet feitelijk niemand. En dat baart veel mensen zorgen. „Het is de grootste ethische kwestie van deze Brave New World”, stelt journalist Matt Ridley in dagblad The Times. Geen wonder dat duizend AI-wetenschappers in 2017 de zogeheten ”Asilomar AI Principles” hebben ondertekend. Onder hen waren namen als Stephen Hawking en Elon Musk. Daarmee willen ze voorkomen dat AI misbruikt wordt voor onethische doeleinden.

Toch is Lennox daar vrij sceptisch over. „Elke ingewijde manager weet dat het één ding is om een missie en een lijst van ethische principes te hebben. Maar dat het iets totaal anders is om daarnaar te handelen. Dat zou weleens het grootste probleem kunnen zijn bij het vermijden van de griezelige vooruitzichten voor 2084 die Orwell schetst in ”1984”.”

Is het dan onvermijdelijk dat Big Data Big Brother in de kaart speelt? Yuval Noah Harari meent van wel. „Bigdatasystemen kennen mij inmiddels beter dan ik mezelf ken. De autoriteit zal verschuiven van mensen naar algoritmes. Big Data versterken Big Brother, onmiskenbaar.”

serie Kunstmatige intelligentie
Kunstmatige intelligentie neemt in de huidige maatschappij een steeds grotere plaats in. Deel 1: Big Brother en Big Data.

Lees ook

Transhumane supermens als teken van de eindtijd