Page 11 - HS 5 AI en ethiek
P. 11
A.I. voor wiskunde
Een ander erg belangrijk ethisch probleem met AI-systemen zoals ChatGPT, Gemini en andere chatbots
zijn “biases” die om uiteenlopende redenen verbonden zijn aan de AI-modellen.
Wij lichten dit probleem toe in een aantal aparte paragrafen.
5.5 BIASES (vooroordelen)
Bias is het Engelse woord voor vooringenomenheid of bevooroordeling.
In onze maatschappij zijn er heel wat vooroordelen.
• Zo zijn bijvoorbeeld de vooroordelen over mensen in armoede erg groot: ze zijn lui, profiteurs,
geven geld uit aan de verkeerde dingen;
• Leerkrachten hebben de luxe om maar 22 uur per week te werken en hebben veel te veel
vakantie;
Biases komen uiteraard ook voor in AI-systemen en verwijzen naar de vooroordelen in de manier
waarop een AI-model beslissingen neemt. Dit kan leiden tot oneerlijke of discriminerende uitkomsten.
AI-bias kan verschillende oorzaken hebben en is veelal te wijten aan ongebalanceerde datasets die
bepaalde groepen bevoordeelt of benadeelt. De belangrijkste reden voor deze algoritmische
vooringenomenheid is de menselijke vooringenomenheid in de gegevens. Dat wil zeggen, dat de
informatie die AI gebruikt om output te genereren, afkomstig is van mensen. Deze menselijke tendens
om te discrimineren op basis van etniciteit, geslacht of andere factoren, wordt dus uitvergroot door AI.
Voorbeeld 1
Indien je tot voor kort (2024) aan een AI-systeem Midjourney voor het maken van afbeeldingen de vraag
stelde om afbeeldingen van verplegende en dokters in een ziekenhuis te maken dan kreeg je wel erg
stereotype antwoorden.
t
e
n
.
o
l
e
h
t a
We zien links vier keer een jonge, blanke vrouw in een getailleerd uniform met een kapje op haar hoofd. m
.
Buiten het feit dat er alleen blanke vrouwen getoond worden, is de kleding ook behoorlijk w
stereotyperend. Het kapje valt onder de noemer ‘historische vooringenomenheid’. Mede daardoor lijkt w
het hier meer op een carnavalskostuum dan op een uniform wat hedendaagse verplegers aan hebben. w
© 2025 Ivan De Winne ivan@mathelo.net 11
