In dat jaar gingen Ray-Ban en Meta (Facebook) samen werken aan Ray-Ban-stories, de eerste generatie van ”smart connected devices” (slim met elkaar verbonden apparaten). Sindsdien combineren de brillen mode en lifestyle met technologieën als camera en spraakbesturing. De samenwerking beoogt de integratie van sociale media in het dagelijks leven. Persoonlijk denk ik echter dat we geen integratie maar juist desintegratie (ontkoppeling) nodig hebben om authentieke menselijke interactie te bevorderen en polarisatie terug te dringen.

Een verschijnsel als de Ray-Ban-stories wordt aangemerkt als ”augmented reality” (AR): het „verrijkt de werkelijkheid”. Augmented reality voegt digitale informatie toe aan de echte wereld en maakt daar een interactieve werkelijkheid van.

Onlangs hoorde ik van een specifieke toepassing van de Meta Ray-Ban 2: twee studenten van Harvard University ontwikkelden met behulp van deze brillen een softwareprogramma om mensen onmiddellijk te kunnen identificeren en gevoelige persoonlijke gegevens te kunnen verzamelen via gezichtsherkenningssoftware.

Hoe het werkt? De in het Ray-Banmontuur geïntegreerde camera maakt een video van iemand. Die wordt gestreamed naar Instagram, waarna een computerprogramma de stream onder zijn hoede neemt. Daarna wordt met behulp van AI de scan van het gezicht gebruikt om op internet te zoeken naar meer foto’s van de desbetreffende persoon. Tot slot worden onlinegegevensbronnen (denk aan artikelen en databases van bijvoorbeeld kiezerregistraties) gebruikt om contactgegevens en familieleden te achterhalen. Deze informatie verschijnt op de telefoon van de softwareontwikkelaars. Op deze manier lukte het hun om heimelijk tientallen mensen te identificeren.

Foute boel uiteraard. Genoemde werkwijze biedt ons een eng vooruitzicht als gevolg van technologische innovatie. Vooral het feit dat mensen niet weten dat ze via een Ray-Ban-bril worden geïdentificeerd, is zeer verontrustend. Daarom is het goed dat de Harvardstudenten, omdat privacy en ethische implicaties hun ter harte gaan, ervoor gekozen hebben om de broncode niet openbaar te maken.

Dit voorbeeld houdt rechtstreeks verband met het thema ”gezichtsherkenning”, bijvoorbeeld door overheidsinstanties: Big Gov(ernment). Diverse organisaties gebruik(t)en gezichtsherkenningssoftware. De politie zette deze technologie in om verdachten te identificeren aan de hand van camerabeelden van misdrijven. Sommige gemeentelijke diensten gebruiken gezichtsherkenning om te bepalen of iemand wel of niet toegang tot iets heeft. Denk ook aan asielprocedures waarbij gezichtsherkenning wordt gebruikt om de identiteit van de aanvragers te controleren. Ook luchthavens, waaronder Schiphol, gebruiken gezichtsherkenningssoftware voor identiteitscontroles bij het in- of uitreizen.

De meeste toepassingen van gezichtsherkenning beschouw ik als foutief gebruik van technologie. Natuurlijk moeten we veiligheid ten koste van vrijwel alles bevorderen. Veiligheid is een groot goed en een van de onbetwiste kernpijlers waarop de overheid rust. Het gaat echter schuren bij enkele thema’s waarmee we (in de meeste gevallen) onlangs nog te maken hebben gehad. Denk aan het recht op privacy en hoe gezichtsherkenning botst met de privacy van burgers. Ook dataretentie (gegevensopslag) speelt een rol: waar, hoe en voor hoelang worden persoonsgegevens opgeslagen? En als het over toezicht gaat: bij welk toezicht en bij welke handhaving is gezichtsherkenning geoorloofd? Een belangrijke vraag is ook in welke mate deze technologie ongelijke behandeling en vooringenomenheid ten opzichte van bepaalde bevolkingsgroepen bevordert? En zijn overheidsinstanties transparant als het erom gaat hoe en met welk doel zo’n technologie wordt toegepast?

De mailbox van de twee studenten zou nu toch wel moeten volstromen met aanbiedingen van bedrijven die staan te popelen om dit talent binnen te halen. Mensen die innoveren en tegelijk bewust ervoor kiezen om de broncode niet te publiceren hebben we hard nodig.

De auteur is medeoprichter van Techthics, een platform dat nadenkt over de impact van nieuwe technologie op ethiek en christendom.