Veel machthebbers begrijpen nog steeds niet dat de wereld dichter bij het bouwen van generatieve AI is dan bij het uitvogelen hoe we die moeten controleren, zegt Max Tegmark, het hoofd van het Future of Life Institute. Dat is een internationale instelling die zich bezighoudt met het verminderen van de risico’s van nieuwe technologieën. „Zes jaar geleden dachten veel mensen nog dat het beheersen van taal op het niveau van ChatGPT-4 sciencefiction was, en toen gebeurde het ineens”, aldus Tegmark over de chatbot van OpenAI.

Stuart Russell, hoogleraar informatica aan de Universiteit van Californië, zegt dat een van zijn grootste zorgen wapensystemen zijn „waarbij de AI die het wapensysteem bestuurt, bepaalt wie er wordt aangevallen, wanneer er wordt aangevallen, enzovoort”. Hij legt de verantwoordelijkheid om dit te voorkomen bij overheden.

Frankrijk, dat samen met India de top organiseert, wil dat onder meer overheden en bedrijven zich uitspreken om AI wereldwijd te reguleren, maar zonder bindende regels op te stellen. Ook wil het land dat op de top toezeggingen worden gedaan op het gebied van duurzaamheid rond AI.

Zondag wordt alvast een project gelanceerd waarbij de belangrijkste risico’s van AI en de oplossingen die hiervoor wereldwijd zijn ontwikkeld in kaart worden gebracht. Volgens de coördinator van dit project, GRASP, zijn daarin momenteel zo’n driehonderd hulpmiddelen en technologieën meegenomen.

Verder heeft Microsoft zondag in aanloop naar de AI-top de oprichting van een stichting in Abu Dhabi aangekondigd die moet zorgen voor meer „verantwoorde” AI. De Verenigde Arabische Emiraten willen een leidende rol spelen in de opkomst van AI en meer samenwerkingsverbanden aangaan.

De AI-top vindt maandag en dinsdag plaats in het Grand Palais in Parijs. Er worden bezoekers uit ongeveer tachtig landen verwacht, onder wie de Amerikaanse vicepresident J.D. Vance, de Chinese vicepremier Ding Xuexiang en AI-onderzoeker en Nobelprijswinnaar Demis Hassabis. Namens Nederland zijn minister Dirk Beljaarts (Economische Zaken) en staatssecretaris Zsolt Szabó (Digitalisering en Koninkrijksrelaties) aanwezig.