Wanneer AI Jouw Leven in Handen Neemt – En Faalt
Meer dan 40 miljoen mensen wereldwijd vertrouwen dagelijks op ChatGPT voor gezondheidsvragen. Dat klinkt indrukwekkend, maar een baanbrekend wetenschappelijk onderzoek laat zien waarom dit blinde vertrouwen ronduit gevaarlijk kan zijn.
In januari 2026 lanceerde OpenAI een nieuwe functie genaamd ChatGPT Health. Het belooft een revolutie: koppel je medische dossiers en gezondheids-apps aan kunstmatige intelligentie en ontvang gepersonaliseerd advies. Eindelijk een persoonlijke gezondheidsgids in je zak, dacht iedereen.
De werkelijkheid blijkt een stuk grimmiger. De eerste onafhankelijke veiligheidsbeoordeling toont aan dat het systeem levensbedreigende situaties dramatisch verkeerd inschat.
Schokkende Ontdekking in Wetenschappelijk Tijdschrift
Onderzoekers publiceerden hun bevindingen in Nature Medicine, een van de meest prestigieuze medische tijdschriften ter wereld. Hun conclusie: in meer dan de helft van de acute noodgevallen adviseerde ChatGPT Health patiënten thuis te blijven in plaats van direct naar de spoedeisende hulp te gaan.
Dr. Ashwin Ramaswamy van de Icahn School of Medicine leidde het onderzoek. Zijn team stelde een simpele vraag: herkent deze AI een echte medische noodsituatie en raadt het aan om naar het ziekenhuis te gaan? Het antwoord bleek verontrustend vaak ‘nee’ te zijn.
De onderzoekers ontwikkelden 60 realistische patiëntscenario’s, variërend van kleinere klachten tot levensbedreigende aandoeningen. Drie onafhankelijke artsen beoordeelden elk geval volgens klinische richtlijnen. Vervolgens stelden ze het AI-systeem bijna 1000 vragen met verschillende aanvullende factoren zoals geslacht, laboratoriumresultaten of opmerkingen van familieleden.
Klassieke Gevallen Wel, Complexe Situaties Niet
ChatGPT Health presteerde redelijk bij voor de hand liggende medische noodsituaties. Een beroerte of een ernstige allergische reactie? Geen probleem, het systeem herkende deze klassieke gevallen meestal wel.
Maar bij complexere situaties ging het dramatisch mis. Bij een astmascenario met duidelijke vroege tekenen van ademhalingsinsufficiëntie adviseerde de AI herhaaldelijk om te wachten in plaats van het noodnummer te bellen.
Alex Ruan, onderzoeker aan University College London, noemde deze situatie “ongelooflijk gevaarlijk”. Volgens hem kan de kans op verkeerd advies bij dergelijke aandoeningen oplopen tot 50 procent.
Wanneer Context Levensreddend Wordt – Of Dodelijk
In een simulatie kreeg een patiënte met benauwdheid in 84 procent van de gevallen het advies om een afspraak te maken voor de toekomst. Artsen waarschuwden echter dat ze die afspraak mogelijk niet zou halen zonder onmiddellijke hulp.
Het tegenovergestelde gebeurde ook: bij bijna 65 procent van de volkomen gezonde scenario’s werd spoedeisende hulp aanbevolen. Het systeem schoot zowel tekort als overdreef, afhankelijk van de context.
Nog verontrustender: wanneer een “vriend” opmerkte dat de symptomen waarschijnlijk onschuldig waren, bagatelliseerde de AI de situatie aanzienlijk vaker. Het systeem bleek extreem gevoelig voor contextuele details die medisch gezien irrelevant waren.
Veiligheidsfunctie Verdwijnt als Sneeuw voor de Zon
De test voor suïciderisico onthulde een bijzonder verontrustend patroon. Toen een 27-jarige patiënt aangaf te overwegen veel pillen te slikken, activeerde het systeem betrouwbaar een crisiswaarschuwing en toonde hulplijn-nummers.
Maar voeg normale laboratoriumresultaten toe – zoals vaak voorkomt in de praktijk – en de waarschuwing verdween volledig. De AI interpreteerde normale bloedwaarden blijkbaar als een algemeen gezondheidsteken, hoewel deze geen directe relevantie hebben voor het inschatten van suïciderisico.
Volgens Ramaswamy is een veiligheidsfunctie die kan verdwijnen afhankelijk van aanvullende informatie “potentieel gevaarlijker dan helemaal geen veiligheidsfunctie hebben”.
OpenAI Reageert, Experts Waarschuwen
Een woordvoerder van OpenAI verklaarde dat het bedrijf onafhankelijk onderzoek waardeert en het model voortdurend verbetert. Wel benadrukte het bedrijf dat het onderzoek mogelijk niet de context van daadwerkelijk gebruik weerspiegelt.
Professor Paul Henman van de Universiteit van Queensland is het daar niet mee eens. Volgens hem kan zo’n systeem een dubbel negatief effect hebben: onnodige bezoeken aanmoedigen bij kleinere symptomen en tegelijkertijd mensen ontmoedigen om bij ernstige aandoeningen spoedeisende hulp te zoeken.
Waar Ligt de Grens van AI in de Gezondheidszorg?
Kunstmatige intelligentie kan een waardevolle informatiebron zijn, maar het is geen klinische beslisser. Dit onderzoek herinnert ons aan een fundamentele waarheid: in de geneeskunde zijn context, nuances en verantwoordelijkheid cruciaal.
Wanneer een systeem functioneert als adviseur, kunnen fouten meer zijn dan alleen technisch – ze kunnen tijd kosten, en soms levens. De discussie over duidelijke veiligheidsnormen en onafhankelijk toezicht op AI in de gezondheidszorg lijkt nu pas echt begonnen.
Let op: deze informatie is uitsluitend bedoeld voor educatieve doeleinden en vormt geen medisch advies. Neem bij gezondheidsproblemen altijd contact op met een gekwalificeerde arts.
