"Neutrale data bestaan niet", zegt Stikker vaak tegen studenten informatica en anderen bij kenniscentra. Ze kijken haar meewarig aan, en worden ongemakkelijk, vertelt Stikker, mede oprichter van Waag die zich bezighoudt met de sociale- en culturele impact van technologie. Maar ieder meetpunt is een interpretatie van de werkelijkheid, gaat ze verder waarop deze briljante rekenaars het idee krijgen dat ze over filosofie begonnen is. Het ongemak neemt verder toe, is haar ervaring. Stikker: "Er zijn ontelbaar veel vooraannames gedaan tot het moment dat je iets tot data verklaard. Wie de categorieën van de database definieert, definieert al voor een belangrijk deel de uitkomst. Dus wie bepaalt wat we meten? Dat wat we niet meten, telt niet mee in de analyse. Dit bepaalt voor een belangrijk deel de blikrichting. Vervolgens pas je algoritmen toe. Een algoritmen is niets meer dan: als dit, dan dat. Dan bepaalt het algoritme het schakelpunt, de inclusie of exclusie, de actie of niet-actie. Dat zijn eigenlijk instructies die je allemaal aan het licht zou moeten brengen want hoe besluit dat systeem? Kan het systeem ons uitleggen hoe het iets heeft besloten? We hebben zichzelf uitleggende systemen nodig. Sommigen mensen worden heel blij van kunstmatige intelligentie omdat systemen zelf gaan leren en tot conclusies komen maar we weten niet hoe die tot stand zijn gekomen. Ik denk dat we dat fundamenteel niet moeten willen".
Reacties