Chatten, appen en andere vormen van digitaal babbelen zijn breed ingeburgerd, maar daarbij gaat het vrijwel altijd om contact tussen twee of meer mensen. Een ‘gesprek’ met een robot of chatbot klinkt als kille communicatie, maar is het afgelopen jaar erg populair geworden. De techniek ontwikkelt zich in een hoog tempo, zodat de indruk ontstaat van een levensecht gesprek. Met de nieuwste chatbots lijkt het of je aan het videobellen bent met iemand die je heel goed kent. Gebruikers kunnen de chatbot zelf ontwerpen, karakter en uiterlijk kiezen en inzetten voor taalcursussen, huiswerkhulp, spelletjes, gezelschap of, inderdaad, psychotherapie. Naar schatting zijn er vorig jaar bijna 1 miljard van deze apps gedownload.

De Autoriteit Persoonsgegevens (AP) sloeg woensdag alarm vanwege de populariteit van apps voor virtuele vriendschappen en therapieën. Zulke ”AI-companion”-apps zien er zó echt uit dat gebruikers soms niet meer beseffen dat ze met een computer aan het chatten zijn. Dat brengt grote risico’s met zich mee, waarschuwt de AP in een gedegen rapport. Mensen die in een crisis verkeren en dan verkeerde adviezen krijgen. In het ergste geval krijgt iemand met suïcidale gedachten niet het advies om hulp te zoeken, maar wordt hij aan het lijntje gehouden.

Communiceren met enen en nullen is van een heel andere orde dan de band tussen behandelaar en cliënt

Dat kunstmatige intelligentie tal van voordelen biedt, is onbetwist. Over de nadelen lopen de meningen uiteen, maar vaak beperken de zorgen zich tot het wegvallen van werkgelegenheid of het gevaar van desinformatie. Dat er nu oog is voor de gevaren van virtuele vriendschappen is winst. Daarbij gaat het niet alleen om het risico dat persoonlijke gegevens in handen komen van techbedrijven –ook dat is al genoeg reden tot zorg– maar om het besef dat zulke apps zich gedragen als een „verslavende echokamer” en er een afhankelijkheidsrelatie kan ontstaan met de chatbot.

Lees ook

AI is meer dan een slimme boodschappenjongen

De waarschuwing voor therapeutische chatbots is terecht. Daarom zijn er maatregelen nodig waardoor gebruikers er steeds op gewezen worden dat ze in gesprek zijn met een robot die geen verantwoordelijkheid kan dragen. Hoe vriendelijk deze machines ook mogen zijn, het kan niet genoeg benadrukt worden dat communiceren met enen en nullen van een geheel andere orde is dan de band tussen een behandelaar en zijn cliënt. Dat een AI-bot een helpdeskmedewerker vervangt is al discutabel, maar laat in de (geestelijke) gezondheidszorg, het onderwijs en het pastoraat de persoonlijke relatie niet gaan ontbreken door taken te ‘ontmenselijken’. De mens is geschapen als een sociaal wezen en kan de nabijheid van een écht ander mens niet missen.