Wetenschap4 juli 2000

Geen ruimte voor menselijke vrijheid en verantwoordelijkheid

Kurzweil en de Club van Rome

Door dr. ir. A. Vlot
Wat mij het meest frappeerde bij het lezen van het boek van Ray Kurzweil was dat de lijn van zijn argumentatie sterk doet denken aan die van de Club van Rome in het rapport ”Grenzen aan de groei” uit 1972. Het hemelsbrede verschil is dat de methode die bijna dertig jaar geleden werd gehanteerd om een somber toekomstscenario (een dystopie) te schetsen, nu dienst doet om ons mee te nemen naar een wereld van grenzeloze mogelijkheden (een utopie).

Zowel de Club van Rome als Kurzweil gebruikt exponentiële trends om een ophanden zijnde omslag te voorspellen. De Club van Rome wees op de exponentiële toename van de wereldbevolking, van energie- en grondstoffenverbruik en van vervuiling, om aan te tonen dat een wereldomvattende catastrofe voor de deur stond. Kurzweil doet hetzelfde, maar dan voor de exponentieel stijgende rekenkracht die je voor 1000 dollar kunt aanschaffen.

Zowel in het boek van Kurzweil als in het rapport van de Club van Rome staat hetzelfde voorbeeld om de explosieve kracht van exponentiële trends aanschouwelijk te maken, namelijk dat van de uitvinder van het schaakspel en de keizer van China (zie grafiek op vorige pagina).

De Club van Rome gebruikte in het rapport nog een tweede, soortgelijk beeld van waterlelies in een vijver die zich elke dag verdubbelen. Lange tijd valt dat nauwelijks op, totdat letterlijk van de ene op de andere dag de vijver helemaal propvol met lelies ligt. Exponentiële trends vertonen dus een plotselinge omslag die desastreus of adembenemend kan zijn. De Club van Rome trok een exponentiële lijn door en zag een catastrofe in het verschiet; Kurzweil pakt een andere trend beet en voorziet daarmee computers van menselijke trekken, een vervaging van de grens tussen mens en machine en het eeuwig leven van de menselijke geest.

Revoluties
Utopieën en dystopieën zijn er altijd wel geweest. Die van de Club van Rome en van Kurzweil zijn uniek, omdat ze geen hersenspinsels van fantasten of zwartkijkers lijken te zijn, maar onderbouwde prognoses van gerenommeerde wetenschappers. Daarom hebben ze zo'n impact.

Kurzweil is niet de eerste wetenschapper die wijst op het belang van de exponentiële ontwikkeling van de techniek. Die is voor het eerst uitvoerig onderzocht door de Engelse techniekhistoricus Lilly. Hij heeft het aantal uitvindingen in de loop van de tijd en het belang ervan in getallen uitgedrukt. Zo maakte hij in de geschiedenis revoluties zichtbaar met een plotselinge scherpe stijging van de stand van de techniek (zoals de landbouwrevoluties).

Eeuwenlang was deze ontwikkeling schommelend, maar vanaf 1770 –het begin van de Industriële Revolutie– plotseling exponentieel. Waar je ook naar kijkt: het aantal studieboeken, het energieverbruik van de industrie, de hoeveelheid afval, de wereldbevolking, het aantal wetenschappers, al deze indicatoren nemen sinds die tijd exponentieel toe, en zorgen voor koren op de molen van toekomstvoorspellers zoals de Club van Rome en Kurzweil. Ook de afstand die de mens in een dag kan afleggen – een dagreis– steeg op soortgelijke wijze, door achtereenvolgens de postkoets, de stoomlocomotief, de auto en het vliegtuig.

Concorde
Maar deze ontwikkeling laat ook zien dat het vertrouwen op dit soort exponentiële trends bouwen op zand is. Sinds de introductie van het straalverkeersvliegtuig aan het eind van de jaren 1960 is een dagreis constant gebleven. Het supersone verkeersvliegtuig Concorde werd aan het begin van de jaren 1970 een flop onder invloed van de publieke opinie, die zich keerde tegen lawaai en vervuiling. De ontwikkeling was daardoor lange tijd begrensd, ondanks de technische mogelijkheden.

De publieke opinie was destijds namelijk uitermate kritisch tegenover de technische ontwikkeling, maar zij heeft tussen de Club van Rome en Kurzweil een golfbeweging doorgemaakt: van een positieve, verwachtingsvolle visie op de techniek, via een maatschappijkritische inslag in de jaren zeventig, naar een meer optimistische kijk in de jaren negentig op de mogelijkheden om milieuproblemen en maatschappelijke misstanden op te lossen met geavanceerde techniek.

Met name de computer- en biotechnologie hebben het laatste decennium voor de mens mogelijkheden geopend waardoor zijn kunnen nog slechts begrensd lijkt te zijn door zijn fantasie. Waar vroeger utopieën beperkt moesten blijven tot sciencefictionverhalen, lijken er voor de nieuwste technologieën nauwelijks reële grenzen meer te zijn. Daarom is een kritische benadering van de mogelijkheden die de techniek ons biedt noodzakelijker dan ooit. Want waar Kurzweil geen rekening mee houdt, is wat we met z'n allen wenselijk vinden. Ethiek speelt in zijn verhaal geen rol. Hij schetst een onontkoombare ontwikkeling, wat kenmerkend is voor dit soort utopieën. En het is opvallend en consequent dat hij geen ruimte laat voor menselijke vrijheid en verantwoordelijkheid.

Vlieg
Het 'enge' van Kurtzweils utopie is namelijk niet of zij al dan niet werkelijkheid wordt, maar dat er voor vandáág een boodschap van uitgaat, namelijk dat de mens slechts een complexe machine is. Die opvatting ligt ten grondslag aan onze moderne tijd en ving aan met de denkers René Descartes, die bovendien nog een menselijke geest onderscheidde, en Lamettrie, die de mens als één en al machine zag. Kurzweils visie staat in deze materialistische traditie van onze moderne cultuur.

Wat Kurzweil tussen haakjes zet, zijn typische kenmerken van de mens, zoals vrijheid en verantwoordelijkheidsbesef. Exponentiële trends kunnen dan krachtig zijn, maar meer rekenkracht per 1000 dollar brengen deze kenmerken niet zo maar teweeg, omdat het hier niet een kwestie is van meer, maar van ánders.

Kurzweil schrijft dat de huidige computers de intelligentie van de vlieg evenaren die op dit moment hinderlijk op mijn toetsenbord rondloopt. Het dunkt me dat dat reden is tot bescheidenheid met betrekking tot de huidige stand van de computertechnologie.

Kurzweil trekt de lijn van het vullen van de eerste paar velden van het schaakbord door naar het vullen van het hele bord. En vliegen zijn slechts wezens zonder de typisch menselijke trekken zoals vrijheid, zelfbewustzijn en verantwoordelijkheidsbesef, die niet door de wetenschap in systemen te formaliseren zijn. Achter de computer blijft daarom altijd de mens noodzakelijk die de computer dit soort menselijke trekken laat nabootsen (want meer is het niet). Het is niet voldoende om de exponentiële trend naar meer rekenkracht door te trekken, maar het moet ook aangetoond worden hoe een logisch consistent systeem zoals een computer menselijke eigenschappen kan krijgen die van een andere orde zijn. Kurzweils utopie is daarom speculatie.

Liefde
Ik las dat iemand als reactie op Kurzweils visie het serieuze idee opperde om met het implanteren van chips in het menselijk brein het mogelijk te maken om via internet een orgasme te krijgen. Dat soort reacties zijn het 'enge' van Kurzweils gedachtegoed, die geloof, hoop en blijkbaar ook liefde reduceert tot louter materiële en manipuleerbare processen. Het uitzicht op grenzeloze mogelijkheden leidt daarom juist tot verarming. Niet straks, als het schaakbord bijna vol is, maar nu al.

Dr. ir. A. Vlot is verbonden aan de faculteit der luchtvaart- en ruimtevaarttechniek van de TU Delft. De auteur bereidt een proefschrift voor met als onderwerp ”Techniek en religie”. Hij is bestuurslid van de Vereniging voor Reformatorische Wijsbegeerte.