Automatisch onterecht beschuldigd

Elke keer als ik gebruik maak van de zelfscan in een supermarkt en ik word gecontroleerd, voel ik mij al schuldig. Onterecht. Nu snap ik het huidige systeem van de steekproef en weet ik dat het niet om mij als persoon gaat. Echter, met de nieuwe systemen wordt er gebruik gemaakt van camera’s. Als je iets in je zak of tas stopt, wordt dit door AI gedetecteerd op de camerabeelden. Deze beelden worden direct gedeeld met de bedrijfsleider van de winkel en deze kan daarmee bij de kassa de vermeende dader aanspreken. Nu snapt u wel dat dit goed is voor de pakkans. Dieven hebben hierdoor geen schijn van kans meer. Echter, met zelfscan stop ik de boodschappen in een tas of in mijn zak. Grote kans dus dat ik aangemerkt word als dief. Onterecht. AI neemt beslissingen op basis van eerder vergaarde data. In deze data en beslissingen zitten vooroordelen of aannames. Dit kan zeer problematische vormen aannemen. Een man met autisme [reageert op een blog](https://blog.iusmentis.com/2024/02/22/alweer-controle-bij-de-zelfscankassa-mogelijk-vindt-ai-je-gedrag-verdacht/) dat zijn bewegingen anders zijn dan bij anderen en dat hij dit jaar achter elkaar gecontroleerd wordt, terwijl dat vorig jaar een stuk minder was. Dat levert hem veel stress en angst op. Hij vraagt zich dan ook af: heb ik gewoon pech dat mijn manier van doen verdacht is of moet het model beter getraind worden? Terecht. Privacywaakhond Autoriteit Persoonsgegevens heeft nog geen uitspraak gedaan over de inzet van AI bij het opsporen van winkeldiefstal. Ik denk dat het belangrijk is dat hij dit wel gaat doen. Als de proeven succesvol zijn, worden deze gegarandeerd bij veel supermarkten ingezet. De privacy van burgers wordt daarmee steeds verder ingeperkt. Als je er wat verder over nadenkt, is het eigenlijk absurd dat je gevolgd wordt en je gedrag in de winkel gemonitord wordt. Dat gebeurt straks vast niet alleen bij supermarkten maar ook in hele winkelcentra. Op die manier worden we binnenkort continue gesurveilleerd door AI alleen omdat winkels geld willen besparen. En we weten ook dat, als technologie zoals camera’s met gebruik van AI eenmaal wordt gebruikt, de volgende stappen gemakkelijker zijn te nemen, omdat de infrastructuur er al ligt. Tijdens het schrijven van deze column dacht ik: is dit wel de juiste technologische oplossing voor het probleem? Nu worden de technologische pijlen gericht op de mens, wat veel vraagstukken en problemen met zich meebrengt. Moet er niet meer nagedacht worden over de beveiliging van het product zelf? Kan er net als bij verpakkingen met elektronica iets toegevoegd worden aan de verpakking waardoor deze altijd gescand moet worden? Een technologische uitdaging, zeker, maar vast niet uitdagender dan het opzetten van een neuraal netwerk. In deze tijd, waarin technologie een oplossing schijnt voor alles, pleit ik voor een menselijk alternatief. We moeten door naar een tijd waarin technologie ons helpt. Bijvoorbeeld door op de handscanner een optie te hebben om een goedkoper, gezonder of duurzamer alternatief te laten zien voor het product dat je hebt gescand. En een tijd waarin we weer meer aandacht hebben voor elkaar. Ook in de supermarkt. Dit begint al bij de winkel zelf. In de supermarkten waar ik kom, is er weinig tot geen aandacht voor je wanneer je als klant door de winkel loopt. Je bent behoorlijk anoniem. Zorg dat de klant zich gezien voelt op een positieve manier, door een menselijk oog en niet door het oog van de camera. Dat begint met gedag zeggen. In een omgeving waarin we bouwen aan vertrouwen en aandacht, wordt de drempel om te stelen steeds hoger. ”Vertrouwen opbouwen? Geef net iets meer dan je gekregen hebt”, [schrijft](https://www.nrc.nl/nieuws/2024/03/07/vertrouwen-opbouwen-geef-net-iets-meer-dan-je-gekregen-hebt-a4192260) Charlotte Boström in NRC. Terecht. _De auteur is medeoprichter van stichting Techthics, een platform dat nadenkt over de impact van nieuwe technologie op ethiek en christelijke religie._

Automatisch onterecht beschuldigd

Opinie

RD.nl in uw mailbox?