Dwarsdenken. Aangeleerde fouten

Fouten maken is menselijk. Althans, dat vinden wij mensen. Een algoritme dat een fout maakt, dát is een ander verhaal.

Uit onderzoek van de University of Pennsylvania blijkt zelfs dat wanneer we een algoritme een kleine, betekenisloze fout zien maken, het vertrouwen volledig verloren kan gaan. Algorithm aversion noemen onderzoekers dat ook wel.

We zijn dus vaak strenger voor de technologie dan voor onszelf. Zo accepteren we al decennia lang dat door de introductie van de auto wereldwijd dagelijks meer dan drieduizend mensen overlijden. Maar als één persoon sterft door toedoen van een zelfrijdende auto, staat de wereld op z’n kop. We verwachten dat AI-systemen volledig uitlegbaar zijn. Maar als een menselijke bestuurder een ongeluk veroorzaakt, moeten we ons toch ook beroepen op een geregisseerde verklaring achteraf? We kunnen dan niet in de hersenpan kijken om de exacte aanleiding van een keuze te achterhalen.

Daarbij komt nog eens dat veel systeemfouten ontstaan door ons eigen toedoen. We verwijten AI-systemen dat ze biased zijn en daarmee voor ongelijkheid zorgen. Maar die ongelijkheid komt hoofdzakelijk door menselijke vooroordelen ín de data die als input wordt gebruikt. Het is bij AI dus geen kwestie van nature, maar van nurture. In plaats van met de vinger naar onszelf te wijzen, wijzen we naar de technologieën. Dat is niet alleen onterecht, het staat ook de ontwikkeling van AI en de potentie die het heeft in de weg.

Met AI kunnen we juist meer controle krijgen over de ongelijkheid op het gebied van bijvoorbeeld geslacht of ras. De condities die voor biases zorgen, kunnen we bij AI veel beter sturen dan bij mensen. Zo kunnen we zorgen voor voldoende diversiteit in de datasets én in de achtergrond van deprogrammeurs die de algoritmen ontwikkelen. Als we accepteren dat vooroordelen bestaan, kunnen we systemen bouwen die deze oneerlijkheid eerlijker spreiden. AI kan onze fouten misschien niet volledig oplossen, maar wel beter verdelen.

Beeld: Michiel Laurens

Rudy van Belkom
Namens de Stichting Toekomstbeeld der Techniek (STT) onderzoekt hij de toekomst van artificiële intelligentie

NWO-tijdschrift over wetenschap

Met het NWO-tijdschrift Onderzoek duiden we de de ontwikkelingen, wensen én andere geluiden in het wetenschappelijk veld. Het wordt gratis toegezonden aan onder andere onderzoekers, beleidsmakers, journalisten en andere relaties van NWO.