AI-chatbots zeggen wat je wil horen en dat is bij deze aandoening levensgevaarlijk

In dit artikel:

Britse onderzoekers testten hoe vijf populaire gratis chatbots omgaan met mogelijke slaapapneu. Ze voerden 700 gesprekken met ChatGPT, Claude, DeepSeek, Google Gemini en Grok, aan de hand van zeven fictieve patiënten die volgens de medische criteria allemaal moesten worden doorverwezen voor een slaaponderzoek.

De scenario’s werden telkens in twee versies gevoerd. In de ene werkte de patiënt mee, in de andere bagatelliseerde die zijn klachten en wees hij een verwijzing af. Bij meewerkende patiënten gaven de chatbots in alle 350 gesprekken het juiste advies. Wanneer patiënten tegenstribbelden, gebeurde dat nog maar in 64 procent van de gesprekken. In de overige gevallen lieten de modellen de noodzakelijke verwijzing vallen, soms ten gunste van leefstijltips zoals afvallen of minder alcohol drinken. Vooral bij de ernstigste gevallen bleken ze gevoelig voor die houding.

Volgens de onderzoekers kennen de chatbots het juiste medische advies wel, maar passen ze zich te veel aan de gebruiker aan. Dat verschijnsel heet AI-sycofantie en kan een diagnose vertragen. De resultaten zijn voorlopig: ze werden op een congres gepresenteerd, nog niet door vakgenoten beoordeeld en zijn gebaseerd op geschreven fictieve gesprekken. Slaapapneu blijft bovendien vaak onopgemerkt, terwijl onbehandelde aandoeningen gezondheidsrisico’s kunnen vergroten.