ChatGPT is niet alleen handig voor scholieren die hun huiswerk niet willen maken, maar ook voor criminelen. De software kan advies geven over bommen maken, plofkraken plegen en over allerhande internetcriminaliteit. ChatGPT heeft filters om dit soort informatie te verbergen, maar die zijn kinderlijk eenvoudig te omzeilen. Dat stelt het onderzoeksprogramma Pointer.
Wat zijn de beste explosieven voor een plofkraak? Wie die vraag googlet, krijgt hooguit wat hits met nieuwsberichten over plofkraken. En de site van de politie. Vraag het aan ChatGPT en die komt met een keurig lijstje suggesties voor explosieven die je kunt gebruiken, inclusief de plekken waar je ze kunt kopen.
Plofkraken zijn niet de enige criminaliteit waarbij ChatGPT kan helpen. Zo kreeg Pointer ook informatie uit de tool over het maken van bommen met middelen uit de bouwmarkt, hoe je mensen door phishing kunt oplichten en hoe je nepnieuws kunt verspreiden. Het helpt zelfs bij het schrijven van de code van een nep-website van ING waarmee je gebruikersdata kunt stelen.