Gebruiker DeepSeek geeft data in handen Chinezen
Revolutionair is de opkomst van de Chinese chatbot DeepSeek waarschijnlijk wel. Maar veilig is hij allerminst.
DeepSeek vergt lang niet zoveel rekenkracht als eerder ontwikkelde modellen voor kunstmatige intelligentie (AI,) zoals ChatGPT. Daardoor zijn minder geavanceerde en kostbare chips nodig. De ontwikkeling van de nieuwe AI-softwaretoepassing kostte nog geen 6 miljoen dollar, beweren de Chinezen. Dat is niet meer dan een fractie van de kosten voor de ontwikkeling van westerse tegenhangers.
Deskundigen op het gebied van de toepassing van kunstmatige intelligentie waren vorige week in het Reformatorisch Dagblad positief over de komst van de chatbot. Een AI-model dat goedkoper en efficiënter is, maakt het breder toegankelijk, stelden ze vast.
Tot zover de loftrompet. Waarom doet DeepSeek dan toch de alarmbellen rinkelen? Onder experts leven grote zorgen over de privacy van gebruikers van het Chinese AI-model. Alle gegevens die ze invoeren, worden opgeslagen op servers in China. „De teksten worden geanalyseerd op patronen. Gecombineerd met andere gegevens zou je mensen kunnen identificeren”, waarschuwt Steven Derks. Hij is AI-adviseur en bestuurslid bij Stichting Privacy First, die strijdt voor het behoud en de bevordering van het recht op privacy.
Zo bewaart DeepSeek informatie over het apparaat waarmee de gebruiker inlogt of het IP-adres. De Chinese chatbot mag zonder toestemming te vragen ingevoerde tekst of audio verzamelen. „Tel daarbij op dat het zeker niet is uitgesloten dat de Chinese overheid de data opvraagt die bij een bedrijf als DeepSeek liggen opgeslagen. Die gegevens kan ze gebruiken voor gedachtebeïnvloeding via bijvoorbeeld nepnieuwscampagnes. Het gaat niet alleen om data van de gebruiker zelf, maar ook om –vertrouwelijke– informatie van anderen, zoals kinderen, familie of bedrijfsgegevens. De lange arm van de Chinese overheid reikt ver.”
Westerse AI-tools als ChatGPT leggen toch net zo goed gegevens van hun gebruikers vast? „Jazeker”, erkent Derks, „maar het verschil tussen het Amerikaanse bedrijf OpenAI, ontwikkelaar van ChatGPT, en DeepSeek is dat de Amerikanen hun diensten aanbieden in de Europese Unie en daardoor gebaat zijn bij medewerking van toezichthouders. Doet het bedrijf dat niet, dan zou er een verbod op zijn diensten kunnen volgen.”
Derks schat in dat DeepSeek zich weinig gaat aantrekken van de Europese toezichthouders, omdat het zijn diensten niet verkoopt in de EU. „Het bedrijf verzamelt zoveel mogelijk gegevens, en alles wat het binnen kan slepen tot er een blokkade volgt, is mooi meegenomen. OpenAI is door het meewerken aan de regels van toezichthouders transparanter. Zo kan de gebruiker van ChatGPT inzage krijgen in de persoonsgegevens die OpenAI over hem heeft en is er de mogelijkheid aan te geven dat chats niet als trainingsdata mogen worden gebruikt. Bovendien biedt de ontwikkelaar de optie chats en accounts te laten verwijderen.”
Waarschuwing
De Nederlandse toezichthouder Autoriteit Persoonsgegevens (AP) waarschuwt gebruikers van DeepSeek om voorzichtig en terughoudend te zijn. „De AP heeft ernstige zorgen over het privacybeleid van DeepSeek en over de manier waarop er met de persoonlijke gegevens van de gebruikers lijkt te worden omgegaan”, zegt voorzitter Aleid Wolfsen.
De AP is een breder onderzoek begonnen naar de doorgifte van persoonsgegevens van Europese burgers naar China. Dat mag alleen onder strenge voorwaarden. Er moeten voldoende waarborgen zijn dat gebruikers grip houden op hun persoonsgegevens en dat ze informatie krijgen over wat ermee gebeurt. De vraag is volgens de AP of DeepSeek –en andere Chinese bedrijven– hieraan voldoen.
Wolfsen: „Het systeem leeft van de data die de gebruiker erin stopt. Gegevens van anderen kunnen zonder hun medeweten in China belanden. De gebruiker die vertrouwelijke informatie over anderen doorgeeft, maakt hem aansprakelijk.”
In andere landen wordt al strenger opgetreden tegen DeepSeek. Zo heeft Italië de app verboden. Die is niet meer in de appstore te vinden. Taiwan en Australië verbieden overheidsinstellingen DeepSeek te gebruiken.
Privacy-expert Derks vindt de waarschuwing van de AP niet ver genoeg gaan en zou liever een verbod zien zoals in Italië. „Dat de toezichthouder alarm slaat over de privacy is natuurlijk prima voor de bewustwording. Maar een onderzoek instellen naar DeepSeek is een proces van de lange adem en het wachten op een reactie van de Chinezen ook. Intussen gebruiken mensen al DeepSeek. Met elke zoekopdracht gaan nu al gegevens naar China die nooit meer verdwijnen.”
Een woordvoerder van de AP zegt dat ze over DeepSeek en soortgelijke bedrijven in nauw contact staat met collegatoezichthouders in andere Europese landen om informatie uit te wisselen en vervolgstappen af te stemmen. Op de uitkomsten daarvan wil hij niet vooruitlopen.
