Het onderzoek naar kunstmatige intelligentie (KI) staat allang niet meer in de kinderschoenen. Inmiddels is er al een veelheid aan problemen onderzocht en zijn vele wegen verkend.

In de afgelopen twintig jaar heeft het onderzoek zich voornamelijk gericht op de problemen die te maken hebben met de constructie van zogeheten Intelligent Agents – systemen die in een omgeving kunnen waarnemen en opdrachten uitvoeren.

In deze context is intelligentie gerelateerd aan statistische en economische noties van rationaliteit. Grofweg gezegd: intelligentie als het vermogen om goede beslissingen te nemen, plannen te maken en conclusies te trekken.

Toepassingen met kansberekening, besluitvormingstheorie en statistische leermethodes hebben geleid tot een hoge mate van integratie en kruisbestuiving tussen kunstmatige intelligentie, machinaal leren, statistiek, meet- en regeltechniek, neuro­wetenschappen en andere disciplines.

Het tot stand komen van gemeenschappelijke theoretische kaders, in combinatie met de beschikbaarheid van data en rekenkracht, heeft opmerkelijke successen opgeleverd. Successen in verschillende samengestelde taken, zoals spraakherkenning, beeldclassificatie, zelfbesturende voertuigen, automatische vertaalsystemen, robots en computerspellen.

Steeds meer mogelijkheden stappen over de drempel van het laboratoriumonderzoek en dienen zich aan als winstgevende technologieën. In die positieve spiraal is iedere kleine stap voorwaarts al enorme sommen geld waard. Met het oog op prestatieverbeteringen wordt de roep om meer onderzoeksinvesteringen alleen maar luider.

Iedereen is het erover eens dat het onderzoek naar kunstmatige intelligentie gestaag vordert. De invloed van kunstmatige intelligentie op de samenleving zal alleen maar toenemen. De potentiële voordelen zijn niet te onderschatten. Alles wat een beschaving voortbrengt is immers een product van menselijke intelligentie. We kunnen niet voorspellen wat er allemaal mogelijk is als je kunstmatige intelligentie inzet, maar het uitroeien van ziekte en armoede is niet ondenkbaar. Maar om er maximaal profijt van te trekken, moeten we een aantal potentiële valkuilen vermijden.

De vooruitgang van het onderzoek op het gebied van kunstmatige intelligentie maakt het hoogst actueel om de focus van het onderzoek niet alleen te richten op de technische kant –het kundiger maken van kunstmatige intelligentie– maar ook op het maximaliseren van de maatschappelijke voordelen.

Dat zijn ook de overwegingen geweest die geleid hebben tot de ”AAI 2008-2009 Presidential Panel on Long-Term AI Futures” (een overleg opgericht door de voorzitter van de vereniging ter bevordering van kunstmatige intelligentie (AAAI) waarin computerwetenschappers bezig zijn met de sociale aspecten van kunstmatige intelligentie, red.) en andere projecten gerelateerd aan de effecten van kunstmatige intelligentie. Hierdoor is het onderzoeksveld van kunstmatige intelligentie aanzienlijk vergroot, waar tot nu toe vooral is gefocust op technieken die neutraal zijn met betrekking tot het doel waartoe ze dienen.

Wij pleiten voor een uitgebreid onderzoek dat als doel heeft systemen van kunstmatige intelligentie, die almaar kundiger worden, krachtig en heilzaam te maken: onze systemen moeten doen wat wíj willen dat ze doen. In ons document met onderzoeksprioriteiten geven we veel voorbeelden van dergelijke onderzoeksrichtingen die bijdragen aan het maximaliseren van de maatschappelijke voordelen van kunstmatige intelligentie.

Dit onderzoek is per definitie interdisciplinair, omdat het zowel betrekking heeft op de maatschappij als op kunstmatige intelligentie. Het beslaat zowel het terrein van de economie, wetgeving, filosofie als computerveiligheid, formalisering en de verschillende vakken binnen kunstmatige intelligentie.

Samengevat: wij geloven dat onderzoek naar een krachtige en heilzame werking van kunstmatige-intelligentiesystemen zowel urgent als van groot belang is. Vandaag de dag zijn er concrete onderzoeksrichtingen die we daarvoor kunnen volgen.

De brief is gepubliceerd door het internationale Future of Life Institute en ondertekend door internationale wetenschappers, onder anderen door Stephen Hawking, de oprichters van kunstmatige-intelligentiebedrijf DeepMind en Tesla- en Space X-oprichter Elon Musk.