Big data: „Mens en machine worden evenveel waard”
Stel, je moet voor de rechter verschijnen nadat je door rood reed. Maar vorig jaar was je ook al betrapt op een forse snelheidsoverschrijding. En enkele jaren geleden ben je, als mbo-student, gearresteerd bij een demonstratie. Wat bepaalt nu de strafmaat? Alleen het negeren van het rode verkeerslicht?
Nee, want mensen zoals jij blijken in 88 procent van de gevallen binnen twee jaar weer in de fout te gaan. Dat ziet de rechter aan de statistieken die hij voor zijn neus heeft tijdens de zitting. Daarom krijgt je een fors hogere straf dan bijvoorbeeld de 40-jarige vrouw die even later moet voorkomen voor hetzelfde vergrijp. Lijkt dit voorbeeld vergezocht? Toch niet. In de Amerikaanse staat Pennsylvania is ”voorspellend straffen” al realiteit. Daarbij wordt de kans op toekomstige misdrijven meegewogen.
Explosieve groei
De informatie die over de gemiddelde mens beschikbaar is, groeit explosief. Het aantal beslissingen gebaseerd op informatie over ons, neemt óók toe. „Het wordt een gevecht om achter alle cijfertjes de mens te blijven zien”, meent techniekfilosoof Jeroen van den Hoven. Zijn reformatorische collega Marc J. de Vries is dat met hem eens. „We hebben de neiging om te denken in getalletjes. Daarmee versimpelen we het leven tot een optelsom. Kun je een mens vangen in zijn data?” zo stelt hij de retorische vraag. De Vries verduidelijkt: „Als er heel erg veel cijfertjes zijn, verlies je de mens uit het oog. Eén foto van een kind dat huilt van de honger doet een moreel appel op je; 100.000 hongerende kinderen in een statistiek over Afrika zeggen veel minder.” De twee hoogleraren reageren op vijf stellingen over spannende dilemma’s van big data.
Met big data kunnen we de samenleving beter maken.
Daar hoeft Van den Hoven niet lang over na te denken. „Ja, de wereld wordt zeker beter met big data. Denk alleen al aan de mogelijke toepassingen in de gezondheidszorg. Een ziekenhuis kan alle gegevens die het verzamelt, combineren. Daardoor kunnen we ziekten veel eerder vaststellen en zien welke behandelingen succesvol zijn en welke niet.”
„We kunnen de wereld ook veiliger maken”, vervolgt de ethicus. „De politie voorspelt met behulp van big data de kans op een bepaald type delict en de plaats en het tijdstip daarvan. En Global Pulse, een afdeling van de Verenigde Naties, gebruikt grote hoeveelheden gegevens om te voorspellen waar conflicten of hongersnoden zullen uitbreken, waarop de VN zouden kunnen anticiperen.
We staan op de drempel van een nieuwe samenleving, de zogenoemde ”big data society”. De wereld is door ons toedoen steeds complexer geworden. De techniek en de verzamelde informatie geven meer mogelijkheden de wereld weer te overzien.
Maar we moeten wel alle zeilen bijzetten om schade te voorkomen. Veel hangt af van het antwoord op de vraag hoe we de samenleving willen inrichten.” Van den Hoven trekt de parallel met de rol van de auto in de duurzaamheidsdiscussie. „Met het gebruik van de auto konden we schade aan het milieu niet voorkomen. Nu proberen we met elektrische, hybride en waterstofauto’s iets te doen tegen de schadelijke effecten. Met big data gaat het niet over het milieu, maar wel over privacy, democratie en dergelijke.”
De Vries erkent dat big data „gigantische mogelijkheden” biedt en dat mensen daar ook gebruik van mogen maken. Maar of de wereld er echt beter door wordt, durft hij niet te zeggen. „Dan moet je jezelf eerst de vraag stellen wat nu eigenlijk ”beter” is. Een langer leven? Sterkere en intelligentere mensen? Techniek gaat ervan uit dat gezond beter is dan ziek, langer leven beter dan kort leven. Maar je kunt heel intelligent zijn en toch ongelukkig. ”Beter” betekent vanuit christelijke perspectief dat iets je dichter bij God brengt.
Big data doet altijd iets met je. Je kunt er iets mee. Je kunt er meer door te weten komen. Dat oefent aantrekkingskracht op ons uit. We zijn zondige mensen, en data kunnen misbruikt worden. Daarom moeten we zorgvuldig met deze techniek omgaan. Maar big data heeft vast ook positieve mogelijkheden die God ons heeft gegeven. Wellicht kan het in dienst staan van de verspreiding van het Evangelie. Ik weet nog niet hoe dat concreet zou kunnen, maar de radio en televisie hebben we ook voor evangelisatie kunnen gebruiken.”
Big data maakt het moeilijker voor de burger om overzicht op het eigen leven te houden.
Beide hoogleraren erkennen dat het steeds lastiger wordt voor een individueel mens om controle te houden over zijn eigen leven. Van den Hoven: „Alle apparaten worden ‘slim’ en slaan gegevens op. Als je dat niet wilt, moet je extra maatregelen nemen. Wanneer mensen kennis over andere personen hebben, krijgen ze de neiging om daar misbruik van te maken”, zo waarschuwt hij.
De Vries nuanceert: „Probeer niet krampachtig om alles in eigen hand te houden. Het gevoel dat techniek ons boven het hoofd groeit, is al heel oud. Het is een gevoel van vervreemding. Mensen weten niet meer wat er allemaal van hen gemeten wordt en hoe ze dat kunnen tegenhouden. Maar net als een christen is ook een samenleving van God afhankelijk. Dan moet je jezelf soms overgeven aan andere mensen en niet alles in eigen hand willen houden. Het blijft wel je plicht om verantwoordelijkheid te nemen.”
Technieken en analyses die voor big data worden gebruikt leveren nieuwe ethische vragen op.
„Tot nu toe is een mens meer waard dan een robot. Omdat leven meer waard is dan mechanische onderdelen”, zegt De Vries. „Maar de grens tussen mens en machine vervaagt. In de toekomst kunnen je hersenen wellicht aangesloten worden op een apparaat en kan het een niet functioneren zonder het ander. Je kunt dan geen moreel oordeel meer uitspreken over de vraag of een mens of een machine waardevoller is.”
De hoogleraar vervolgt: „Ook als het over data gaat, komen er allerlei onduidelijke vragen naar boven. Wanneer je vroeger je gegevens in een boek schreef, was dat boek van jou. Met alles wat erin stond. Als iemand dat boek afpakte, was dat diefstal, want het was jouw eigendom. Maar van wie zijn data die je produceert met je mobiele telefoon of door je surfgedrag? Kun je nog data stelen wanneer die toch al onbeperkt te bereiken zijn? Door de technische ontwikkelingen vervagen de morele grenzen gemakkelijk, en zelfs de categorieën, zoals het recht op eigendom. Wie is bijvoorbeeld eigenaar van de informatie? Wat blijft staan: goed is wat je dichter bij God brengt, slecht wat je verder van Hem afbrengt.”
Van den Hoven ziet dat big data zelfs een bedreiging voor de democratie kan zijn. „De gelijkheid van onze samenleving staat onder druk. De gegevens van grote groepen mensen komen in de handen van enkele data-analisten. Wanneer wij geen toegang hebben tot die informatie, hebben zij macht over ons. Kennis is macht, en de kennis is dan oneerlijk verdeeld.
Verder worden mensen enorm manipuleerbaar als je weet hoe grote groepen op een feit reageren. Je kunt hen dan veel beter sturen. Dat is een enorme bedreiging voor de democratie. Eveneens bedreigend is dat mensen op internet steeds meer in ”filterbubbels” leven. Je krijgt op internet een zoekprofiel omdat gegevens over je browsergeschiedenis worden opgeslagen. Daardoor krijg je alleen nog berichten te zien die aansluiten bij je interesse. Dan ga je in een steeds kleinere wereld leven. Mensen lezen dan niet meer het Reformatorisch Dagblad, maar de Daily Me. Dan lijkt het of de wereld om jou draait.”
De mens onttrekt zich aan zijn verantwoordelijkheid en laat beslissingen over aan de computer.
Beide ethici benadrukken dat het belangrijk is dat de mens altijd verantwoordelijkheid blijft nemen voor de keuzes die een computer maakt. „Voor de bigdatasamenleving wordt het ontwikkelen van goede software een van de grootste obstakels,” denkt Van den Hoven. „De sjoemelsoftware van autofabrikanten bewijst dat enkele techneuten een hele groep mensen op het verkeerde been kunnen zetten.”
In de techniekindustrie is ”machine learning” in opkomst. Dan wordt de computer zo geprogrammeerd dat die zelfstandig kan ‘leren’. „Het probleem daarbij is dat je niet weet welke afwegingen een computer maakt”, vindt Van den Hoven. „Kijkt de computer die de hoogte van de hypotheek bepaalt alleen naar de financiële gegevens, of ook naar etnische komaf omdat de machine bijvoorbeeld geleerd heeft dat mensen van een bepaald ras minder vaak hun hypotheek terugbetalen? In dat laatste geval maakt de computer zich schuldig aan discriminatie. Een keuze zoals deze moet altijd een ménselijke beslissing zijn, want wíj moeten verantwoordelijkheid nemen”, benadrukt Van den Hoven.
Uit grote hoeveelheden data komen allerlei verbanden tevoorschijn die niet of nauwelijks logisch zijn. De Vries: „Zo kan bijvoorbeeld blijken dat zenuwachtige mensen meer kans hebben op longkanker. Dan zou de zorgverzekeraar aan dat type mensen meer premie kunnen vragen. Maar wetenschappelijk kun je dat verband nooit onderbouwen. Het kan bijvoorbeeld wel blijken dat zenuwachtige mensen vaker roken, en dat roken de kans op longkanker bevordert. Maar dan krijgen mensen dus longkanker omdat ze roken en niet omdat ze zenuwachtig zijn. Ieder verband dat je vindt, moet je dus wetenschappelijk kunnen onderbouwen.”
„Data-analyse is slechts een bril, een model, om naar de werkelijkheid te kijken”, meent Van den Hoven. „Daarom moeten algoritmes altijd beheersbaar blijven en moeten we erover nadenken welke beslissingen we aan de computer over willen laten”, denkt De Vries: „Want uiteindelijk is de mens alleen verantwoording schuldig voor zijn daden aan God. Dan kun je niet zeggen: „De computer heeft dat voor mij besloten.””
Computers zijn moraalloos.
Van den Hoven: „Kinderen zijn eigenlijk heel bijzondere computers. Ze leren net als een zelflerend computerprogramma door voorbeelden die je hun geeft. Als je de computer de verkeerde voorbeelden aanreikt, leert die –net als een kind dat zou doen– de verkeerde dingen. De belangrijkste vraag is: „Op welke voorbeelden willen we de computer trainen? Het antwoord op die vraag is een menselijke beslissing.”
„De computer kan leren als een mens, maar het blijft een dood ding dat nooit een moraal zal kunnen ontwikkelen”, vindt De Vries. „De mens is en blijft de enige die intelligent is en een vrije wil heeft. Computers kunnen wel iets ontwikkelen wat verraderlijk veel op een moraal lijkt.”
Moraal zit niet in de materie, meent De Vries. „Mensen die zeggen dat het menselijk brein na te bouwen is, hebben een materialistisch wereldbeeld. God Zelf vormde Adam uit klei. Hij was een compleet mens. Maar hij ging pas leven toen God hem in zijn neusgaten blies en een ziel gaf.”
Marc J. de Vries
Prof. dr. ir. Marc J. de Vries is bijzonder hoogleraar reformatorische wijsbegeerte aan de Technische Universiteit Delft. Hij begeeft zich op het snijvlak van filosofie, ethiek en techniek. Daarnaast is hij redactiebestuurslid van Philosopihia Reformata, een tijdschrift over filosofie, religie, en wetenschap/technologie.
Jeroen van den Hoven
Prof. dr. Jeroen van den Hoven is hoogleraar aan de Technische Universiteit Delft. Hij doceert daar ethiek en technologie. Hij is de oprichter van 3TU, een organisatie die nadenkt over ethische zaken die in ontwikkeling zijn en technologie die gebruikt en gereguleerd kan worden. Daarnaast is hij voorzitter van de expertgroep big data en privacy. Die groep is samengesteld door minister Kamp van Economische Zaken en heeft de opdracht om te bedenken wat de kansen en mogelijkheden van big data zijn zonder dat mensen het vertrouwen in internet verliezen.
serie De mogelijkheden van big data
Dit is het vierde en laatste artikel in een serie over big data.