Een Recept voor Rampspoed
Volgens een nieuw onderzoek vertrouwen mensen meer op medisch advies van kunstmatige intelligentie dan van echte dokters, zelfs als deze robots vaak onjuiste informatie geven.
In het onderzoek, uitgevoerd door wetenschappers van het Massachusetts Institute of Technology en gepubliceerd in het New England Journal of Medicine, werden 300 deelnemers gevraagd om medische adviezen te beoordelen die gegeven waren door een medische dokter, een online gezondheidsplatform of een AI-model, zoals ChatGPT. Ze moesten aangeven welk advies zij het meest vertrouwden.
De deelnemers — zowel experts als leken op medisch gebied — beoordeelden de door AI gegenereerde antwoorden als nauwkeuriger, geldig, betrouwbaar en compleet, zo bleek uit de studie.
Zowel experts als leken konden niet betrouwbaar het verschil zien tussen door AI gegenereerde antwoorden en die van menselijke dokters.
In het onderzoek werd ook aan deelnemers gevraagd om advies te beoordelen dat door AI was gegeven en van lage nauwkeurigheid was, wat de deelnemers niet wisten.
“Deelnemers vonden deze AI-antwoorden met lage nauwkeurigheid niet alleen geldig, betrouwbaar en volledig/tevredenstellend, maar gaven ook aan een hoge neiging te hebben om het potentieel schadelijke medische advies op te volgen en onnodig medische hulp te zoeken als gevolg van het gegeven antwoord,” vonden de onderzoekers.
Er zijn talloze gedocumenteerde gevallen van AI die schadelijk medisch advies geeft, waaronder een ongeïdentificeerde 35-jarige Marokkaanse man die naar de spoedeisende hulp moest nadat een chatbot hem had opgedragen rubberen banden om zijn aambei te wikkelen.
In een ander schokkend geval vergiftigde een 60-jarige man zichzelf nadat ChatGPT hem had voorgesteld om natriumbromide te eten — soms gebruikt om zwembaden te desinfecteren — als een goede manier om zijn inname van keukenzout te verminderen.
Die man werd drie weken in het ziekenhuis opgenomen met paranoia en hallucinaties, volgens een casestudy gepubliceerd in augustus in de Annals of Internal Medicine Clinical Cases.
“Het probleem is dat wat ze uit die AI-programma’s krijgen niet noodzakelijkerwijs een echte, wetenschappelijke aanbeveling is met een daadwerkelijke publicatie erachter,” vertelde Dr. Darren Lebl, hoofd van de onderzoeksdienst voor wervelkolomchirurgie van het Hospital for Special Surgery in New York, eerder aan The Post.
“Ongeveer een kwart van de adviezen was verzonnen,” onthulde de dokter.
In een recente enquête uitgevoerd door Censuswide zei ongeveer 40 procent van de respondenten dat ze medisch advies van AI-bots zoals ChatGPT vertrouwden.
Vergelijkbare berichten
- ChatGPT Studiemodus Transformeert Onderwijs: Veilig & Verantwoord Gebruik Op Scholen!
- Hittegolven versnellen veroudering: nieuw onderzoek onthult!
- Onderzoekers onthullen verrassend geheim achter perfect bewaarde ‘vreemde’ mummie
- Romeinen gebruikten poep tegen infecties: ‘Donkerbruine vlokken’ in medicijnflesje gevonden!
- Selfie-gekke moeders: Kinderen eerder geneigd tot plastische chirurgie, onthult studie
Eva schrijft gepassioneerd over cultuur, geschiedenis en maatschappelijke thema’s. Ze onderzoekt trends in kunst en erfgoed, met een bijzondere interesse voor Europese invloeden. Haar artikelen combineren diepgang en toegankelijkheid, waardoor cultuur op een boeiende manier wordt gepresenteerd voor een breed, nieuwsgierig lezerspubliek binnen én buiten Nederland.