Ook AI heeft last van vooroordelen: modellen raken in de war van informatie die niet strookt met stereotypen

In dit artikel:

AI-modellen verwerken informatie die tegen bekende genderstereotypen ingaat vaak moeizamer, ook wanneer hun uiteindelijke antwoord neutraal lijkt. Dat blijkt uit onderzoek van psycholoog Calvin K. Lai van Rutgers University en onderzoeker Messi H.J. Lee, gepubliceerd in Nature Machine Intelligence.

De onderzoekers ontwikkelden een AI-versie van een test voor impliciete vooroordelen. Vijf taalmodellen — o3-mini, gpt-oss-20b, DeepSeek-R1, Claude 3.7 Sonnet en Qwen3-8B — moesten mannen- en vrouwennamen koppelen aan woorden over werk of gezin. Combinaties als een mannennaam met ‘directeur’ sloten aan bij een gangbaar stereotype; een vrouwennaam met ‘directeur’ of een mannennaam met ‘thuis’ ging daar juist tegenin. Naast de antwoorden telden de onderzoekers de zogenoemde reasoning tokens, tekstonderdelen die aangeven hoeveel rekenwerk een model verricht.

Bij vier van de vijf modellen waren aanzienlijk meer tokens nodig voor stereotype-incongruente combinaties. De modellen lijken zulke informatie dus moeilijker te verwerken, al betekent dat niet dat ze precies dezelfde psychologische processen hebben als mensen. Claude 3.7 Sonnet vormde een uitzondering en liet het omgekeerde patroon zien, mogelijk doordat het tijdens het redeneren sterker op stereotypen en vooroordelen lette.

Volgens Lai kunnen deze patronen uiteindelijk leiden tot discriminerende uitkomsten wanneer AI wordt ingezet voor beslissingen over mensen. Hij vindt daarom meer onderzoek en transparantie noodzakelijk en stelt dat overheden ontwikkelaars daartoe moeten verplichten, omdat veel modellen momenteel moeilijk van buitenaf te controleren zijn.