Zelfs een fulltime huismoeder kan niet om kunstmatige intelligentie heen. AI bepaalt de timeline op sociale media en probeert haar aandacht zo lang mogelijk vast te houden. De onlinesupermarkt heeft de boodschappenlijst al klaargezet voordat ze haar bestelling heeft geplaatst. Ondertussen bekijkt ze de weersverwachting –die is gemaakt met AI– om te bepalen of ze de was buiten aan de droogmolen kan ophangen. En de robotstofzuiger gaat automatisch aan de slag wanneer ze van huis is.

Als het alleen om zulke AI-technieken zou gaan, lijkt kunstmatige intelligentie vooral het gemak te vergroten. Maar er is meer aan de hand: de technocratie neemt toe. Overheden gebruiken AI om fraudeurs op te sporen, met uitwassen zoals de toeslagenaffaire als gevolg. Grote techbedrijven bepalen met AI waarnaar iemand op zoek is, waarna hij advertenties krijgt van het gevraagde product. Zulke ”recommender systems” leveren vooral hun veel geld op.

Anderen komen door hun zoekopdrachten ongevraagd in een bubbel terecht van complottheorieën of duistere praktijken, hoewel ”content classifiers” zulke webadressen zo veel mogelijk zullen uitbannen. En uit onderzoek van ING bleek onlangs dat vier op de tien Nederlanders vreest dat AI banen gaat kosten.

Angst

De opkomst van AI veroorzaakt angst, constateert promovendus Maarten Sukel in zijn boek ”De AI Revolutie” (2024). Volgens hem spelen dezelfde angsten een rol als de Griekse filosoof Socrates had voor het opschrijven van gedachten: „De mens zou het vermogen om te onthouden verliezen.” Of zoals bij de komst van de trein: „Mensen waren bang dat het lichaam de snelheid van treinen niet aankon.”

Nu staat de mensheid opnieuw voor een grote stap: het toepassen van kunstmatige intelligentie. Dat is niets meer dan het uitvoeren van menselijke intelligente processen, zoals leren, redeneren en beslissingen nemen, maar dan door computersystemen. Die maken daarvoor gebruik van complexe wiskunde, heel veel rekenkracht en een enorme hoeveelheid data.

AI werkt op basis van algoritmen: computerprogramma’s die gegevens verwerken en nieuwe gegevens produceren. De techniek heeft dus niet allereerst te maken met robots, maar vooral met enorme datacenters die al die berekeningen uitvoeren.

Kunstmatig intelligente systemen zijn momenteel heel goed in het uitvoeren van een vastomlijnde taak. Neem een zoekmachine die in fracties van seconden relevante informatie op het scherm presenteert. Daarnaast is er zogeheten generatieve AI die zelf tekst of beelden kan produceren. Relatief bekende voorbeelden hiervan zijn tekstgenerator ChatGPT, beeldgeneratoren Dall-E en Midjourney en videogenerator Sora. Nieuw zijn VASA-1 van Microsoft en EMO van Alibaba, die van een foto of schilderij een levensecht sprekende of zingende persoon op bewegend beeld maken.

Menselijke maat

De opzet van AI is echter vooral technocratisch: de makers van de meeste AI-systemen blijken voornamelijk gericht op het benutten van de technische mogelijkheden, puur omdat het kan. „Maar waar de techniek heerst, gaat menselijkheid verloren”, betogen Ronald Meester, hoogleraar waarschijnlijkheidsberekeningen aan de Vrije Universiteit Amsterdam en datawetenschapper Marc Jacobs in hun boek ”De onttovering van AI” (2024). De ontwikkelaars hebben de menselijke maat uit het oog verloren.

Het probleem is dat AI-toepassingen dwingend van karakter zijn, signaleren beide wetenschappers. „De technicus pur sang weet dat de techniek, als deze er eenmaal is, omarmd zal worden. Niet omdat we die nodig hebben, maar omdat de mens de technologische ontwikkelingen simpelweg niet kan weerstaan. Niemand ontkomt aan de dwingende roep van de techniek.” Daarvan gaat de suggestie uit dat wie niet met zijn tijd meegaat, „zal eindigen als de spreekwoordelijke dinosauriër”.

Mens in het midden

De techbedrijven snijden hun AI-systemen echter nauwelijks toe op de mens die door de techniek wordt beoordeeld of die de techniek gebruikt. Dat moet echt anders, stelt Shannon Vallor, hoogleraar techniekfilosofie aan de universiteit van Edinburgh in Schotland.

Vallor bepleit ”human-centered AI”: AI met de mens in het middelpunt. Dat betekent volgens haar dat „het ontwerp, de ontwikkeling en het gebruik van AI moet worden vormgegeven en geleid door mensen die de eindgebruiker voortdurend in gedachten hebben”. De meeste kunstmatig intelligente systemen worden momenteel gebouwd om overheden, instituten, economieën, industriële processen en de ‘markt’ te dienen, laat ze weten in een interview in de wetenschappelijke bundel ”Human-Centered AI” (2024).

„Van de dwingende roep van techniek gaat de suggestie uit dat wie niet met zijn tijd meegaat, zal eindigen als de spreekwoordelijke dinosauriër” - Ronald Meester en Marc Jacobs, auteurs van ”De onttovering van AI”

De hoogleraar is wars van technologie die is ontworpen om de mens te vervangen, met de mens te concurreren of om hem te devalueren. AI zou de mensheid juist moeten ondersteunen, krachtiger moeten maken, moeten verrijken en versterken. „Human-centered AI moet expliciet zijn ontworpen om de menselijke vermogens aan te vullen.”

Noodgedwongen

Wat haar betreft is de tekstgenerator ChatGPT een schoolvoorbeeld van hoe het niet moet. „Het is overduidelijk dat ChatGPT geen human-centered technologie is. Kijk alleen maar hoe die de lespraktijk scholen op zijn kop zet. We moeten nu noodgedwongen zoeken naar manieren om ChatGPT op een goede manier in te zetten. Niemand heeft erom gevraagd. We kunnen de praktijk van onderwijs geven die we eeuwenlang hebben ontwikkeld in de prullenbak gooien. En we moeten op zoek moeten naar een manier van lesgeven die niet wordt gefrustreerd door ChatGPT.”

Onstuitbaar breidt de invloed van ChatGPT zich uit. Wetenschappers gebruiken ChatGPT om artikelen van andere collega’s te beoordelen, de zogeheten peer review. Onlangs bleek uit onderzoek dat 17 procent van hen daarvoor een chatbot, zoals ChatGPT, heeft ingezet. De onderzoekers noemen dat „zeer schokkend”, omdat dergelijke tools vaak misleidende of verzonnen informatie genereren, reageert Debora Weber-Wulff, computerwetenschapper aan de Berlin University of Applied Sciences, in vakblad Nature . „We verwachten dat een menselijke wetenschapper de tekst beoordeelt. AI-systemen kunnen ‘hallucineren’, en we kunnen niet weten wanneer ze hallucineren en wanneer niet.”

Weg kwijt

Als ChatGPT hallucineert, produceert het antwoorden die niet kloppen of die nergens op slaan. Dat komt doordat het programma kansrekening gebruikt bij het bepalen van het juiste antwoord. Het maakt dan ergens een verkeerde keuze en neemt een verkeerde afslag. Gebeurt dat te vaak, dan raakt het programma de weg kwijt.

„ AI-systemen kunnen ‘hallucineren’, en we kunnen niet weten wanneer ze hallucineren en wanneer niet ” - Debora Weber-Wulff, computerwetenschapper

Het viel de onderzoekers op dat sinds de introductie van ChatGPT steeds vaker de woorden ”lovenswaardig”, ”nauwgezet” en ”ingewikkeld” opduiken in wetenschappelijke artikelen. Dat is „echt opvallend”, merkt Andrew Gray van het University College London op. Afgelopen jaar zouden voor het schrijven van iets meer dan 1 procent van de gepubliceerde 60.000 artikelen chatbots zijn gebruikt; dat zijn dus minstens 600 artikelen.

Opbloeien

De vraag is echter wie er opbloeit door zulk gebruik van ChatGPT: de mens die zich ervan afhankelijk maakt of de techniek? Mensen moeten opbloeien, niet de techniek, is het credo van Vallor.

De hoogleraar bekent dat ze minder optimistisch over human-centered AI is dan vijf jaar geleden. „We zijn een afwijkende soort van engineering normaal gaan vinden. Voor de softwarerevolutie hadden we een vorm van traditionele engineering die noties uit de ethiek, verantwoordelijkheid, veiligheid en prestaties combineerde. Er was begrip voor de gebruiker en de gebruiker stond centraal. Die grondhouding dreigen we kwijt te raken.”

„Vroeger stond de gebruiker centraal; die grondhouding dreigen we kwijt te raken” - Shannon Vallor, hoogleraar techniekfilosofie

Levensbeschouwelijk

Meester en Jacobs steken de spade nog dieper. Ze betogen dat AI de mensheid voor een levensbeschouwelijk vraagstuk stelt. Het gaat om de vraag naar wat mensen werkelijk de moeite waard vinden en het vraagstuk hoe erg het is om verantwoordelijkheden vanwege „ons gemak” over te dragen aan een machine.

Dat een hijskraan meer kan tillen dan een mens, vindt niemand erg. Dat een schaakcomputer een mens verslaat evenmin. Een rekenmachine maakt het leven ook een stuk eenvoudiger. Maar een mens levert er vrijheid voor in: hij maakt zich afhankelijker van techniek. Daarbij gaat onmiskenbaar een deel van zijn menselijkheid en creativiteit verloren.

AI gaat nog wat stappen verder: het kan zelfstandig beslissingen nemen. „In een technocratie heerst de techniek. Daar heerst het algoritme, de logica, de rationaliteit die alle menselijkheid uit het systeem verdrijft”, oordelen de wetenschappers.

Ook kan AI de indruk wekken dat het bewustzijn heeft. „Als we ChatGPT iets vragen, krijgen we een talig antwoord terug.” Zelfs een gesprek voeren met de chatbot is mogelijk. AI geeft je dan het idee dat ze een bewust wezen is, schrijven Meester en Jacobs. „Dit is, en dat kunnen we niet genoeg benadrukken, een enorme illusie. ChatGPT begrijpt niets. Het voert absoluut niets uit waarvan wij zouden zeggen dat het intelligent of slim is.”

„Het idee dat AI een bewust wezen zou zijn, is een enorme illusie” - Ronald Meester en Marc Jacobs, auteurs van ”De onttovering van AI”

Tegelijk kan ChatGPT de mening van mensen verregaand beïnvloeden. De levensbeschouwelijke antwoorden die de chatbot geeft zijn allerminst neutraal, maar verwoorden de geseculariseerde visie die de meeste mensen op aarde delen.

Houvast

Vandaag de dag bepaalt AI mede hoe mensen in de wereld staan en daarin houvast zoeken, constateren Meester en Jacobs. „Wij leven in een extreem geseculariseerde samenleving. We kunnen zonder ironie best spreken over ‘geloof’ in AI: het geloof dat het ons verder helpt en leidt tot een betere wereld”; ja, dat de toepassing van AI leidt tot meer vrijheid.

Maar het is volgens hen zeer de vraag of dat terecht is. „AI laat zich niets gelegen liggen aan de maatschappelijke en individuele impact die ze heeft.” AI is immers techniek die altijd de mens als mentor nodig heeft. Volledige automatisering is een illusie.

„De dwang mee te moeten met de technische ontwikkelingen en tegelijk vervreemding door de techniek, is een giftige combinatie” - Ronald Meester en Marc Jacobs, auteurs van ”De onttovering van AI”

Intussen vervreemdt AI de mensheid van zichzelf en zijn natuurlijke leefomgeving. Meester en Jacobs spreken zelfs van een „giftige combinatie”: aan de ene kant de dwang mee te moeten gaan met de technische ontwikkelingen, aan de andere kant de verdergaande vervreemding door de afstand die de abstracte techniek oproept.

De snelle ontwikkeling van AI maakt wel dat „we ons ertoe moeten verhouden”, betogen beide wetenschappers. „Het feit dat AI zich zo opdringt, betekent dat wij gedwongen worden om onze positie tot de wereld te bepalen en af te bakenen. Er is dus bezinning nodig die heel wat dieper gaat dan de vraag of AI straks slimmer is dan wijzelf.”

De onttovering van AI. Een pleidooi voor het gebruik van gezond verstand, Ronald Meester en Marc Jacobs; Amsterdam University Press, Amsterdam; 232 blz.; € 24,95;

Human-centered AI. A multidisciplinairy perspective for Policy-makers, auditors and users, Catherine Régis, Jean-Louis Denis, Maria Luciana Axente en Atsuo Kishimoto (red.); CRC Press, Londen; 342 blz.; € 58,-;

De AI-revolutie. Hoe kunstmatige intelligentie de maatschappij gaat veranderen (en daar nu al mee bezig is), Maarten Sukel; Uitgeverij Balans, Amsterdam; 188 blz.; € 20,-