Hier zou liever staan: Toezicht op algoritmes door Autoriteit Persoonsgegevens
Want dat is het. In Nederland komt er een extra controle op algoritmes omdat gebleken is dat algoritmes heel makkelijk kunnen discrimineren.
Ze gaan namelijk erg makkelijk uit van wat ‘normaal’ is, oftewel, veel voorkomt. Wijk je af, dan klopt dat dus niet volgens het algoritme.
Algoritmes kunnen hiermee een heel grote impact op een leven hebben. Bijvoorbeeld of je wel of niet een leningen of hypotheek krijgt. In Nederland gaat de Autoriteit Persoonsgegevens (AP) daarom toezicht op algoritmes en kunstmatige intelligentie houden.
Helaas blijkt dat keihard nodig. We hebben al enkele forse schandalen gehad die zijn voortgekomen uit te veel vertrouwen in de juistheid van algoritmes. Denk aan de kinderbijslag affaire.
Zonder dat we het weten of doorzien worden bepaalde groepen gediscrimineerd omdat ze, soms heel onschuldig, anders zijn.