Racistisch algoritme voorspelt kans op criminaliteit

In de Verenigde Staten wordt op grote schaal software gebruikt die toekomstige criminele feiten moet voorspellen. Een algoritme geeft mensen die worden gearresteerd een nummer dat aangeeft hoe groot de kans is dat ze in de toekomst nieuwe feiten zullen plegen. De Amerikaanse onderzoekssite Pro Publica voerde een intrigerend onderzoek uit op basis van het risicoprofiel van 7.000 arrestanten. Ze vergeleken hun risicoprofielen met het aantal effectief gepleegde feiten twee jaar later en stelden vast dat het systeem dat intussen wordt gebruikt in tal van Amerikaanse staten nauwelijks beter werkt dat een muntje opgooien. Bovendien is het systeem zwaar gebiast: zwarten krijgen in verhouding to de realiteit een veel te hoog risicoprofiel aangemeten, blanken een veel te laag.