Je doet mee aan een online enquête waarin je moet kiezen welke van drie kandidaten het meest geschikt is voor een baan als brandweerman. Je ziet alleen hun foto en naam.
De uitleg die je krijgt als je op een bepaalde foto klikt, is precies wat er gebeurt met AI-systemen. Bias ontstaat wanneer AI gevoed wordt met data die vooroordelen bevatten. Als AI bijvoorbeeld vooral getraind wordt met foto’s van mannelijke dokters en vrouwelijke verpleegkundigen, zal het systeem geneigd zijn te denken dat dokters meestal mannen zijn en verpleegkundigen meestal vrouwen. Maar het gaat verder dan alleen maar foto’s. Stel je voor dat een AI-systeem wordt gebruikt om sollicitaties te beoordelen. Als het systeem getraind is op gegevens van de afgelopen tien jaar waarin vooral mannen voor een bepaalde job werden aangenomen, dan zou AI vrouwen mogelijk een lagere score kunnen geven. Dat leidt tot discriminatie, wellicht zonder dat iemand dat bewust zo bedoeld heeft, maar de gevolgen zijn wel groot.
Een ander, eenvoudiger voorbeeld: is het je ook al opgevallen dat je op sociale media dikwijls dezelfde soort berichten te zien krijgt? Dat komt doordat het algoritme dat jouw feed samenstelt, bepaalde voorkeuren ontwikkelt op basis van jouw eerdere keuzes. Dit illustreert hoe bias in technologie kan werken en hoe het onze keuzes onbewust kan beïnvloeden.
Bias kan op onverwachte manieren opduiken. Zo blijkt bijvoorbeeld dat sommige AI-detectoren voor plagiaat en taalgebruik bevooroordeeld zijn tegen studenten die Engels niet als moedertaal hebben. AI-systemen zijn vaak getraind op teksten van native speakers en kunnen afwijkende zinsconstructies of woordkeuzes van non-native speakers als verdacht markeren, terwijl die gewoon het gevolg zijn van een andere taalachtergrond. Dit soort bias kan leiden tot oneerlijke beoordelingen en een verkeerd beeld geven van jouw capaciteiten als schrijver.
Bias is een Engels term en spreek je uit als ‘bai-jes’, waarbij de ‘e’ dezelfde uitspraak heeft als in ‘boter’.
Het is belangrijk om te begrijpen hoe AI-systemen werken en om alert te zijn voor mogelijke bias. Vraag jezelf af of de data die het systeem gebruikt, representatief en divers zijn, en of de resultaten niet bevooroordeeld zijn tegenover bepaalde groepen mensen. Door kritisch te blijven en deze vragen te stellen, help je mee aan een eerlijkere en meer verantwoorde technologie.