| | | Beste heer Flint, | | Algoritmes en Big Data zijn niet meer weg te denken uit onze maatschappij. Ze zitten in de navigatie-app in de auto, in medische apparaten, videospelletjes, je slimme energiemeter en ga zo maar door. Een algoritme is een recept om een wiskundig probleem op te lossen. Een soort rekenregel dus. Algoritmes kunnen snel veel gegevens analyseren en daarin patronen herkennen. Dat kan handig zijn. | | Veel mensen denken dat algoritmes objectief zijn, maar helaas is het niet zo eenvoudig. Algoritmische systemen zijn door mensen gemaakt en afhankelijk van de gegevens die mensen erin stoppen. Als die mensen van vooroordelen uitgaan, kunnen de conclusies die het algoritme trekt ook bevooroordeeld zijn. Dat kan tot discriminatie leiden. Denk aan wat rapper Typhoon overkwam. Toen een agent hem zag rijden, controleerde hij hem omdat Typhoon aan een risicoprofiel voldeed. De agent dacht: donkere huidskleur + dure auto = drugscriminaliteit. Je ziet dat risicoprofielen tot verkeerde conclusies kunnen leiden. Hetzelfde geldt voor algoritmes. Dat zag je bijvoorbeeld bij de toeslagenaffaire bij de belastingdienst. | In deze mensenrechtenspecial leggen we je meer uit over algoritmes en Big Data.
|
|
| |
