Ronald Meester had al eerder kritische boeken geschreven over het gebruik van modellen in wetenschap en politiek. AI kwam daarin zijdelings aan de orde. „Maar toen kwam op 3 november 2022 opeens die hype met ChatGPT. We realiseerden ons dat AI-systemen ook modellen zijn, maar met een heel eigen karakter en dynamiek. Om actueel te blijven, hebben modelleur Marc Jacobs en ik het boek ”De onttovering van AI” geschreven.”

Waar komt u betovering door AI tegen?

„Overal. Mensen denken dat AI onze problemen gaat oplossen of dat het bijna magie is: AI is grenzeloos en veel slimmer dan wij zijn. Er wordt intelligentie, er wordt bewustzijn, er wordt een moraal aan toegekend.

Een krant kopte: ”De technologie slaat een brug naar het hiernamaals”. In dat artikel kwamen mensen aan het woord die in tranen waren toen ze via een AI-chatbot hun overleden dierbare te spreken kregen. Dat is toch bizar? Dus die betovering is er absoluut.”

„Er kwamen mensen aan het woord die in tranen waren toen ze via een AI-chatbot hun overleden dierbare te spreken kregen” - Ronald Meester, hoogleraar waarschijnlijkheidsleer VU

Dus onttovering is noodzaak…

„Ja, Marc en ik wilden een beetje tegengas geven. Goed gebruik van AI begint ermee dat je snapt dat het geen magie is. Dat het om rekenwerk gaat. Als je begrijpt hoe het wiskundig zit, verdwijnt de betovering vanzelf.”

AI wordt vaak gezien als nabootsing van menselijke intelligentie. Is dat terecht?

„Ik zie intelligentie als een kwestie van definitie. Wat is intelligent? Als jij een systeem intelligent vindt, als het een IQ-test kan maken, mag je het van mij intelligent noemen. Maar met menselijkheid heeft dat niets te maken.”

„Als je begrijpt hoe het wiskundig zit met AI, verdwijnt de betovering vanzelf” - Ronald Meester, hoogleraar waarschijnlijkheidsleer VU

Waarom niet?

„Je stelt je dan op het technocratische standpunt dat intelligentie meetbaar is. Maar dan mis je de essentie van wat een mens tot mens maakt. Ik vind het daarom ook vreemd dat AI-systemen, zoals chatbots, met mensen communiceren als volwaardig intelligente partners. Want dat zijn ze niet.”

AI roept wel de illusie van intelligentie op. Hoe komt dat?

„Een schaakcomputer kan beter schaken dan een mens ooit zal kunnen. Is dat systeem dan intelligent? Welnee, maar het kan wel beter schaken. Waarom? Omdat schaken een algoritmisch spel is waarbij je hard moet rekenen.

Als ik 380 x 725 moet uitrekenen, duurt dat even. Zo’n systeem doet dat in een fractie van een seconde. Dat wekt de indruk van intelligentie. Maar het voert alleen uit wat ik heb opgedragen. Net zoals een hijskraan kan tillen wat ik fysiek niet kan.”

Toch wekt AI wel de illusie van intelligentie.

„Dat is in een grote stroomversnelling gekomen door zogeheten Large Language Models, zoals ChatGPT. Je stelt een talige vraag en je krijgt een talig antwoord terug. Als je door je oogharen kijkt, lijkt het alsof een mens antwoordt.

Ik trap ook wel eens in die valkuil. Tijdens een experiment met ChatGPT dacht ik: laat ik eens kijken of ik ChatGPT boos kan maken met vervelende vragen. Op een gegeven moment leek het ongeduldig te worden. Dat riep bij mij een gevoel van medelijden op. Maar het is een illusie van intelligentie die ik moet verdringen.”

Kan het kwaad om AI te zien als een vorm van intelligentie?

„Jazeker. Als mensen denken dat een systeem autonoom kan functioneren, krijgen ze er te veel vertrouwen in. Dan gaan ze het systeem te veel vrijheid geven. Ik ben niet bang dat AI ons gaat overnemen. Maar wel dat wij ons door AI láten overnemen. Dát vind ik gevaarlijk.”

Waarom?

„Je kunt een AI-systeem zo instrueren dat het in een bepaalde situaties bepaalde dingen moet doen. Je kunt echter nooit  alles voorzien; in nieuwe situaties kan het vreemde dingen gaan doen.

Dat is ook de reden waarom grote ICT-systemen bij de overheid niet werken. Ze lopen aan tegen situaties die het algoritme niet had voorzien. Dan is er paniek, want vanwege de complexiteit kan geen mens het oplossen.”

Hoe zijn zulke situaties te voorkomen?

„Je moet AI zo inzetten dat je zelf altijd in control bent. Dat geldt ook de autonome auto. AI is geen komeet die ongecontroleerd naar de aarde suist. Maar voordat mensen zich dat realiseren, moet er misschien iets grondig misgaan.”

Hoe komt het dat mensen zo blind zijn voor de kwalijke kanten van AI?

„De technicus die het systeem bedenkt, is geen staatsman. Die doet gewoon zijn ding en denkt niet na over de gevolgen. En politici hebben geen idee wat er aan de hand is.”

Waaraan ontbreekt het de mensheid dan?

„Aan wijsheid.”

Hoe gaan we wijs met AI om?

„In ons boek vergelijk ik AI met een Chinese kamer: iemand zit opgesloten in een kamer. Hij kent geen Chinees, maar krijgt wel een Chinese instructie. Hij pakt een woordenboek en vertaalt die tekst. Hij heeft geen idee wat hij doet, maar vertaalt simpelweg.

AI werkt niet anders. Het systeem doet iets, maar vindt niks en heeft geen mening. Het volgt een algoritme; het past regels toe. Dus als ik een tekst in het Nederlands aanlever en ik vraag ChatGPT: „Maak er Engels van”,  dan doet hij dat, maar hij begrijpt er niks van.”

Toch wekt AI de illusie van zelfbewustzijn. Kunt u dat toelichten?

„Ja, maar dat is lastig. Om de simpele reden dat niemand weet wat bewustzijn is.”

Heeft zelfbewustzijn dan niet te maken met de menselijke geest?

„Nou, zo kijk ik natuurlijk wel naar de wereld. Ik geloof dat wij bewustzijn niet kunnen reduceren tot puur natuurlijke processen. In mijn optiek is het werkelijk krankzinnig om te praten over bewustzijn van algoritmische systemen.

Ik vind het bizar dat atheïstische wetenschappers claims maken over bewustzijn van systemen terwijl ze het menselijk bewustzijn niet begrijpen. Dan ga je je boekje ver te buiten. Dan praat je gewoon als een gelovige.” Met een glimlach: „Dat vind ik eigenlijk best grappig.””

U vindt dat dus…

„…een enorme zelfoverschatting.”

Naar wat voor samenleving zijn we op weg, als de ontwikkelingen zo doorgaan?

„Naar de samenleving waarin de techniek heerst, een technocratie. De meeste mensen krijgen dan banen die alleen maar dienen om de technische omgeving aan de gang te houden. AI vlakt de intellectuele uitdaging van mensen ernstig af, terwijl bigtechbedrijven er met de winst vandoor gaan.”

En de rest van mensen?

„Interessant werk wordt vervangen door geestdodende banen, zoals de prompt-engineer. Die moet dagelijk bedenken welke vragen je aan ChatGPT kunt stellen. Het is toch verschrikkelijk als je dat je hele leven moet doen.”

AI gaat ons leven dus niet beter maken.

„Mijn vrees is dat de negatieve kanten zullen overheersen. Extreme inkomsten voor de een gaan altijd ten koste van iets of iemand. Die prijs wordt betaald door de rest van de mensen en door onze leefomgeving.”

Maar ons eraan onttrekken gaat ook niet.

„Hoe komt dat? Omdat wij mensen de neiging hebben om nieuwe dingen te omarmen. Techniek heeft iets onweerstaanbaars; als het er is, moeten we het gebruiken.”

Hoe moeten we AI wat u betreft gebruiken?

„Alleen als hulpmiddel, als personal assistant. Laatst had ik een Bijbeltekst nodig. Ik tikte hem even in ChatGPT in en ik had hem zo te pakken. Ik gebruik ChatGPT dan niet anders dan Google. Ik kan het antwoord altijd controleren. Zo houd ik mijn verantwoordelijkheid.”

Dus op dezelfde manier als met een rekenmachine?

„Inderdaad. Ik reken de antwoorden die dat apparaat geeft ook niet met de hand na. Omdat ik weet dat het  de juiste antwoorden geeft. Zinvol gebruik van AI vereist dus een bepaalde wijsheid.”

Hoe belangrijk vindt u het dat een mens verantwoordelijk blijft?

„Het is de kern van ons boek. Maar door de komst van AI raakt de mens zijn menselijkheid kwijt.”

Hoe dan?

Nadenkend: „Wat maakt een mens tot mens? Dat is complex. Het is een optelsom van wat je zegt, wat je schrijft, hoe je het zegt, welke lichaamstaal je spreekt, de verantwoordelijkheid die je neemt, de moed die je betoont, de overwegingen die je maakt en de beraadslagingen die je uiteindelijk tot een bepaald besluit doen komen. Dat is oneindig veel meer dan alleen wat vinkjes op de juiste plek zetten. In de hoogste betekenis is een mens om zijn religiositeit en spiritualiteit mens.

Een mens kunnen we daarom nooit digitaliseren. Als we het verschil tussen mens en machine niet meer inzien, krijgen we een zinloos bestaan. Dan kunnen we geen mens meer zijn.”

In hoeverre kunnen we ethiek, morele oordelen en verantwoordelijkheid aan AI overlaten?

„Ethiek is geen lijstje dat je kunt afvinken. Ethiek gaat over het goede doen. Wat is het goede? Dat ligt niet vast. Over veel basiszaken zijn we het eens: het is beter om iemands leven te redden dan iemand te vermoorden. Maar in de coronatijd zijn dingen gebeurd die veel mensen goed vonden en die ik pertinent slecht vond. Kortom, ethiek blijft een kwestie van debat en verantwoording.”

Dus geen AI-rechter of AI-advocaat?

„Een rechter velt een moreel oordeel. Dat is niet het afvinken van een lijstje, dat gaat om weging van zaken die leiden tot een uitspraak. Rechtspreken moet daarom altijd een menselijke activiteit zijn. Als je dat in algoritmes wilt vangen, krijg je een rigide, onleefbare technocratie.”

AI kan de illusie wekken van creativiteit, empathie, zorg en relatie.

„Er zijn mensen die bij hoog en bij laag beweren dat ze een echte, zinvolle relatie hebben met hun AI-robot. Wie ben ik om hun die illusie te ontnemen? Maar ik denk dat mensen geen echte, zinvolle relaties met een AI-robot kunnen aangaan.”

Ten slotte roept u op tot Bijbels rentmeesterschap. Hoe zou u Bijbels rentmeesterschap rond AI gestalte willen geven?

„Rentmeesterschap betekent verantwoordelijkheid nemen, zorgvuldig omgaan met de dingen. Dat is wel het laatste wat AI doet. Kijk, als ik met mijn mobieltje bezig ben, zie ik niet welke schade ik daarmee aanricht. Maar intussen pleegt AI consequent roofbouw op de schepping: het is onvoorstelbaar wat het kost aan energiebronnen.

Ik heb Bijbels rentmeesterschap hoog in het vaandel staan. Maar AI maakt het moeilijker daar inhoud aan te geven, juist doordat je niet meer in de gaten hebt wat je aan het doen bent. Hoe kun je immers verantwoordelijkheid nemen voor de gevolgen van je daden als je geen flauw benul hebt wat die gevolgen zijn?”

„Ik heb Bijbels rentmeesterschap hoog in het vaandel staan; maar AI maakt het moeilijker daar inhoud aan te geven” - Ronald Meester, hoogleraar waarschijnlijkheidsleer VU

De onttovering van AI. Een pleidooi voor het gebruik van gezond verstand, Ronald Meester; uitg. Mazirel Press, Amsterdam; 230 blz.; € 24,99