Mensen kunnen steeds beter worden gevolgd dankzij kunstmatige intelligentie. Dat roept vragen op.

De Engelse schrijver George Orwell beschrijft in zijn beroemde boek ”1984” een maatschappij waarin mensen voortdurend in de gaten worden gehouden. Big brother is watching you; grote broer kijkt toe. Volgens bezorgde burgers begint onze wereld inmiddels behoorlijk op zijn sombere creatie te lijken.

Op steeds meer plaatsen worden camera’s opgehangen. Ook in supermarkten en andere winkels. Daarmee kunnen klanten worden gevolgd, en tegenwoordig kan ook hun gedrag worden geanalyseerd.

Supermarktketen Jumbo is bezig met een experiment met AI, ofwel kunstmatige intelligentie. Het bedrijf wil die gaan inzetten in de strijd tegen winkeldiefstal. Stelen is een groot en groeiend probleem voor het bedrijf. In 2023 werd bij de keten voor meer dan 100 miljoen euro aan producten ontvreemd.

Steekproeven

Jumbo maakte daarom recent bekend meer cameratoezicht in de winkels te gaan toepassen. Ook zullen op een slimmere manier steekproeven worden uitgevoerd bij de zelfscankassa’s. Tot nu toe is zo’n steekproef, waarbij wordt gekeken of de klant alle boodschappen in zijn of haar mandje wel heeft gescand, min of meer willekeurig.

AI-toepassingen moeten ervoor zorgen dat afwijkend gedrag van klanten wordt herkend. Het bedrijf laat weinig los over de manier waarop kunstmatige intelligentie wordt gebruikt. Wel geeft Jumbo aan dat niet wordt gekeken naar persoonlijke kenmerken van mensen. „Alles wat we op het punt van AI doen, voldoet vanzelfsprekend aan de geldende wet- en regelgeving”, meldt een woordvoerder van het bedrijf. „Privacybescherming is belangrijk voor ons.”

De supermarktketen geeft aan dat de huidige proef enkele maanden zal duren en dat daarna conclusies worden getrokken. Als de test succesvol is, wil het bedrijf landelijk kunstmatige intelligentie gaan toepassen.

Eelco Hos van Retail Innovation, een bureau dat bedrijven adviseert, is een deskundige op het terrein van AI-toepassingen in de detailhandel. Hij ziet tal van mogelijkheden. Op zijn site geeft hij voorbeelden van de wijze waarop winkels kunstmatige intelligentie kunnen inzetten.

Zo kunnen camera’s volgens hem in de toekomst checken wat iemand koopt en scant. Als een bepaald product niet wordt gescand, kan een zelfscanapparaat de klant vragen om dat alsnog te doen.

Een andere mogelijkheid is dat een computer een medewerker waarschuwt als iemand niet alles afrekent. Een camera bij de kassa maakt dan een foto van de winkelmand.

Een derde mogelijkheid die Hos noemt, zal bij een aantal mensen de wenkbrauwen doen fronsen. Een winkel kan een AI-camera plaatsen die de klant bij binnenkomst al registreert en in de gaten houdt. Sta je te lang bij een schap met dure vleeswaren, terwijl je alleen maar een stukje kaas afrekent? Dan is er in de toekomst een grote kans dat je bij de kassa wordt gecontroleerd.

Robot

Volgens Hos gaat AI veel veranderen in de winkels. Uit onderzoek blijkt volgens hem dat bij willekeurige steekproeven bij de zelfscankassa’s ongeveer een op de tien keer een afwijking wordt geconstateerd. ,Maar straks is dat negen op de tien keer.”

Hos beoordeelt die ontwikkeling als positief en ziet de introductie van kunstmatige intelligentie in de Nederlandse winkels dan ook het liefst zo snel mogelijk plaatsvinden.

Steekproeven zullen volgens hem op steeds meer plaatsen gericht kunnen worden gedaan. „Een winkelier controleert dan geen willekeurige klanten meer die hun tas moeten openen om alles wat daarin zit opnieuw te laten scannen.” Goedwillende mensen, die nu regelmatig worden gecontroleerd, zullen daardoor in de toekomst minder vaak of misschien zelfs helemaal niet meer met steekproeven te maken krijgen.

In de praktijk zal het volgens Hos over een tijdje vaak zo zijn dat een klant die een product niet heeft gescand een vriendelijk bericht krijgt van een robot bij de zelfscankassa.

Die vraagt om het vergeten product ook langs het rode lichtje te halen. De betaling wordt geblokkeerd tot hieraan voldaan is. Er is volgens Hos dan nog weinig reden om de manager of politie erbij te halen. „Ook een voordeel.”

Er zijn volgens hem meer positieve zaken te noemen. Winkelmedewerkers zijn in zijn beleving beter af. Hos voorziet minder agressie bij de controles.

Over de privacy van mensen maakt hij zich geen grote zorgen. In een recent interview met het Brabants Dagblad gaf Hos aan dat controles geheel anoniem zullen plaatsvinden. Gezichten van klanten worden volgens hem in principe niet gefotografeerd en anders onherkenbaar gemaakt. De technologie onthoudt de verworven informatie volgens hem ook niet.

Hij geeft wel toe dat er dingen kunnen misgaan. Bedrijven controleren nu soms al op basis van risicoprofielen. Bepaalde klanten worden dan scherper in de gaten gehouden dan andere. Een concreet voorbeeld: een supermarkt controleert een klant vaker als er eens iets is misgegaan met zijn of haar bonuskaart.

Als winkels met risicoprofielen werken en dat combineren met gezichtsherkenning, heeft Hos daar bezwaren tegen. „Die technologie bestaat al”, weet hij. „Maar het gaat wel erg ver om mensen zo intensief te volgen, en zeker om dat te doen op basis van uiterlijke kenmerken. Wat het extra lastig maakt: om een robot dit te leren, moeten er heel veel controles plaatsvinden zodat hij zaken leert herkennen.”

Kritisch

Blijft Hos ondanks die kanttekening positief over het gebruik van AI in winkels, veel privacydeskundigen kijken er heel anders tegenaan.

Iemand die zich bijzonder kritisch uit over het toepassen van kunstmatige intelligentie is Danny Mekic, jurist en wetenschapper, ondernemer en managementadviseur. Hij promoveert aan de Universiteit Leiden op het fundamentele recht op menselijke waardigheid in relatie tot de impact van digitale technologieën op privacy en gegevensbescherming. Hij vindt het een kwalijke zaak dat steeds meer mensen op steeds meer plaatsen in de gaten worden gehouden. „Dat doet wat met ons.” Volgens hem toont onderzoek aan dat burgers zich door cameracontrole minder vrij gaan voelen. En dat kan ertoe leiden dat ze zich minder snel uiten, en zich op diverse manieren anders gaan gedragen.

„Onze maatschappij staat bekend als vrij”, stelt Mekic. „Nederland is een open samenleving waarin creativiteit wordt gewaardeerd. Je moet afwijkend kunnen zijn. Dat heeft ons veel gebracht. Maar die vrijheid staat onder druk.”

Het inschakelen van kunstmatige intelligentie om mensen te controleren, zorgt daar volgens hem voor. „AI houdt ons niet alleen voortdurend in de gaten; het voert ook interventies uit. Onpersoonlijke systemen nemen besluiten over ons. Zoals: wie pikken we er in de winkel uit voor een steekproef?”

Niet neutraal

Techniek is volgens Mekic niet neutraal, „al denken veel mensen dat dat wel zo is.” 
Hij geeft aan niet precies te weten wat de Nederlandse supermarkten gaan doen. „Het geeft te denken dat die terughoudend zijn in het geven van informatie.” Maar dat het toepassen van AI voor grote veranderingen gaat zorgen, staat voor hem vast.

„Er zal bijvoorbeeld gemeten gaan worden hoe snel iemand zich door een winkel verplaatst. Doet hij of zij dat langzaam, dan kan AI dat als verdacht beschouwen, met een controle als gevolg. Maar wat, als je even een praatje wilt maken, en daarom een tijdje in een gangpad blijft staan? Zorgt dat er binnenkort voor dat je als potentiële winkeldief wordt beschouwd?”

Hij geeft nog een voorbeeld: „Wat denk je van een oudere, die moeilijk ter been is? Hoe gaat kunstmatige intelligentie daarmee om?”

Daar valt volgens hem niet achter te komen, omdat niemand weet hoe de AI-systemen bepaalde zaken interpreteren.

„En dan de beeldherkenning. In principe zijn winkels verplicht om heel terughoudend te zijn als het gaat om het filmen van gezichten. Maar ik sluit niet uit dat dit in de toekomst verandert. Nu al worden bij schoolexamens de gezichten van deelnemers gefilmd.”

Ledematen

De beelden van ledematen mogen volgens Mekic al wel worden gebruikt, en ook dat kan volgens hem tot problemen leiden. „Stel dat iemand maar één arm heeft. Dat snapt een AI-systeem niet, dus dat kan er zomaar toe leiden dat de betreffende persoon voortdurend aan controles wordt blootgesteld.”

Minstens zo gevaarlijk vindt hij het risico op discriminatie. „Op dit moment hebben nogal wat systemen moeite bij het analyseren als het mensen met een donkere huidskleur betreft.” Volgens Mekic ontbreekt de menselijke maat volledig en dat baart hem grote zorgen. „Willen we een samenleving die onzichtbaar ouderen en anderen discrimineert? Ik niet.”

Hij begrijpt dat winkels zich zorgen maken om de stijgende diefstallen, maar vindt dat ze de hand in eigen boezem moeten steken. „Ze hebben natuurlijk zelf de scankassa geïntroduceerd. De bedrijven besparen daar veel geld mee, doordat ze minder personeel nodig hebben, maar ze wisten van tevoren dat er meer zou worden gestolen.” De winkels hebben in zijn ogen dan ook een grote verantwoordelijkheid om correct met hun klanten om te gaan.

Ontmenselijkt

Mekic: „Begrijp me goed: met het doen van controles is niets mis. Die zijn nodig. Maar doe het eerlijk. Voer indien nodig meer steekproeven uit, maar laat AI niet bepalen wie daarvoor in aanmerking komt. Vroeger lag de primaire verantwoordelijkheid voor het betalen van producten bij de verkoper, nu wordt alles bij de koper gelegd.”

Op die manier wordt onze maatschappij volgens hem steeds minder gebaseerd op vertrouwen. „Als de basishouding wantrouwen is, plaatst dat de mens meer en meer buiten de samenleving. Onze interacties worden ontmenselijkt. Dan is techniek veel te belangrijk.”