Brede bezinning op kunstmatige intelligentie dringend gewenst
Het zijn grote vragen die experts van Artificial Intelligence (AI), ofwel kunstmatige intelligentie, woensdag in een open brief de wereld instuurden. Moeten we het risico willen lopen de controle over onze beschaving te verliezen? Moeten we machines willen creëren die ons overladen met propaganda en nepnieuws? Willen we dat onze banen verdwijnen, ook die waaraan we plezier beleven? En zelfs: moeten we niet-menselijke ‘breinen’ willen ontwikkelen die ons mensen eventueel totaal kunnen overvleugelen en overbodig maken?
Het zijn bepaald geen vragen die velen met een ”ja” zullen beantwoorden. De aan de vragen gekoppelde oproep is dan ook: laten we voor tenminste zes maanden pas op de plaats maken om na te denken over de mogelijke consequenties van doorontwikkeling van AI. Wat willen we precies als mensheid? Wat is positief en wat niet meer?
Elke (technologische) ontwikkeling stuit in de regel op weerstand en er zijn altijd wel mensen die met al dan niet religieus geladen doemscenario’s komen. De zorgen in deze open brief vallen echter niet af te doen met een verwijzing naar bedenkingen die er ooit ook waren bij bijvoorbeeld de boekdrukkunst. De oproep tot bezinning komt niet van wat onverbeterlijke cultuurpessimisten of complotdenkers, maar voor een belangrijk deel van mensen die diep in de techwereld zitten. Onder hen Tesla- en Twittertopman Elon Musk en een mede-oprichter van Apple, Steve Wozniak.
Zij hebben er vast enig belang bij als OpenAI, de ontwikkelaar van het tot nu toe meest geavanceerde AI-model GPT-4, even de rem op doorontwikkeling zet. Het kan ook een reden zijn dat OpenAI de open brief nog niet tekende. Maar de vragen die de open brief opwerpt, zijn uiterst relevant. De bewering in de brief dat AI „de geschiedenis van het leven op aarde diepgaand kan veranderen” is namelijk niet uit de lucht gegrepen. Het is daarom zonder meer van belang dat de ontwikkeling ervan uiterst zorgvuldig wordt overdacht. Het zal van moed en verantwoordelijkheidszin getuigen als techbedrijven de oproep ter harte nemen.
De realiteit is nu al dat chatbots soms de gesprekken van reële mensen overnemen. Belgische media berichtten deze week over een man met psychische problemen die een einde aan zijn leven maakte, nadat hij daartoe volgens de familie was aangezet door een chatbot van het nogal obscure bedrijfje Chai Research. De functionaliteit ervan werkt zo dat hoe langer een conversatie duurt, hoe meer de chatbot meegaat in de stemming en gedachten van de reële gesprekspartner. De technologie van GPT is niet wezenlijk anders. Het gevaar ervan op velerlei terrein is duidelijk.
Incidenten zijn zelden goede richtingwijzers voor de toekomst en angst is een slechte raadgever. Realiteitszin is bij de verdere ontwikkeling van AI echter dringend gewenst. In feite is er nu sprake van een groot sociaal, wereldwijd, experiment, zonder enige begrenzing. Bij zulke verstrekkende technologie is dat meer dan onwenselijk.
