Zulke systemen kunnen worden gebruikt om taken te automatiseren en zo efficiënter te werken. Maar de inspectie ziet ook risico’s. Algoritmes geven bijvoorbeeld niet altijd de juiste voorspellingen. Dat kan de mensen raken over wie zulke voorspellingen worden gedaan.

Reclassering Nederland maakt bijvoorbeeld gebruik van OxRec, een algoritme dat inschat hoe groot de kans is dat iemand binnen twee jaar opnieuw de fout in gaat. Hierbij wordt gekeken naar twaalf persoonskenmerken, zoals leeftijd en geslacht. Het systeem is gebaseerd op wetenschappelijk onderzoek. Reclasseringsmedewerkers gebruiken dit hulpmiddel als zij advies geven in een strafproces.

Sinds de toeslagenaffaire staat de manier waarop overheidsorganisaties gebruikmaken van algoritmes sterk in de aandacht. De Belastingdienst maakte namelijk gebruik van een algoritme dat medewerkers moest wijzen op mogelijke fraudeurs. Mensen met een dubbele nationaliteit werden hierdoor benadeeld omdat zij vaker uit het systeem rolden.