Mening: Chatbots Worden de Primaire Huisartsen van Mensen—Indrukwekkend, Maar Riskant

We stappen snel over van Dr. Google naar Dr. Chatbot. In augustus meldde OpenAI meer dan 200 miljoen wekelijkse actieve gebruikers, en hoewel de populairste vragen van gebruikers over schrijven en coderen gaan, gebruiken sommigen ze voor meer persoonlijke zaken, van datingadvies tot huidverzorgingsroutines en ziektediagnoses.

Een recente studie toonde aan dat AI chatbots beter presteerden dan artsen in diagnostische nauwkeurigheid. Maar, kunnen we echt AI vertrouwen als onze dokters?

Net zoals het scala aan onderwerpen waar mensen vragen over stellen is uitgebreid, zijn er ook alarmbellen gaan rinkelen over de risico’s en gevaren van het vertrouwen op AI in de medische sector – inclusief die welke betrekking hebben op kwesties van leven of dood.

Dr. Chatbot gaat viraal vanwege zijn “wonderen”

Een paar dagen geleden ging een vrouw viraal op Reddit omdat ze deelde hoe ChatGPT haar hielp om haar huid beter te verbeteren dan een dermatoloog met indrukwekkende voor-en-na foto’s.

Een 37-jarige Kaukasische vrouw gebruikte ChatGPT om een op maat gemaakt huidverzorgingsroutine te creëren om haar gesloten comedonen te behandelen, en het hielp haar echt! pic.twitter.com/vwkm13G2Hs

— AshutoshShrivastava (@ai_for_success) 11 november 2024

“Ik gaf chatGPT vervolgens een prompt om zich te gedragen als een professionele dermatoloog en me te helpen een huidroutine te creëren die mijn gesloten comedonen, acne, het minimaliseren van poriën en het strakker maken van de huid, en het verminderen van fijne lijntjes zou helpen verminderen. Ik gaf het ook foto’s van mijn huid op dat moment,” schreef ze en legde vervolgens uit dat ze de chatbot vertelde om rekening te houden met alle producten die ze al in huis had en nieuwe producten voor te stellen met een huidverzorgingsroutine.

Na twee maanden was de Redditor verbaasd over de verbeteringen in haar huid.

Het is geen geïsoleerd geval. Veel gebruikers hebben onthuld hoe chatbots in staat zijn geweest om röntgenfoto’s en bloedtesten beter te begrijpen en uit te leggen dan hun eigen artsen. Zelfs artsen zijn verbaasd over de beeld- en data-analyses die door kunstmatige intelligentie zijn geïnterpreteerd.

Waarom Gebruiken Mensen Chatbots Als Artsen?

AI kan veranderen in de professional die je nodig hebt – een huisarts, een therapeut, een dermatoloog, een voedingsdeskundige, een radioloog – wanneer je het nodig hebt, en er zijn veel redenen waarom mensen AI boven mensen verkiezen.

Specialisten kunnen duur zijn

De vrouw met de huidklachten onthulde dat ze ongeveer 400 dollar had uitgegeven aan de producten die de chatbot had voorgesteld.

“Het was een flinke investering, maar als ik denk aan wat een consult bij een dermatoloog zou hebben gekost, is dit niet eens zo slecht,” schreef ze.

Volgens BetterCare, moet een patiënt zonder ziektekostenverzekering in de Verenigde Staten in 2024 ongeveer $150 betalen voor een bezoek aan een dermatoloog en tot $1000 voor de behandeling. En de gemiddelde kosten van een psychotherapiesessie – een andere populaire toepassing voor AI-tools – variëren van $100 tot $200 per sessie, volgens Forbes Health.

AI-chatbots zijn goedkopere alternatieven en kunnen worden gezien als de enige keuze, vooral voor mensen in lagere inkomensgroepen.

Natuurlijk rijst er een andere vraag: Als er iets misgaat, is het dan echt een kostenbesparende maatregel?

Sneller en handiger

Onlangs kreeg ik een uitslag op mijn arm. Ondanks dat ik die post over het huidwonder van die vrouw had gezien, verkoos ik een dermatoloog in Spanje te raadplegen. De eerstvolgende beschikbare afspraak was pas over drie maanden, zelfs met een privé zorgverzekering. Ik heb geluk dat het alleen om droogheid lijkt te gaan, dat het me niet stoort en dat het hopelijk weg zal zijn tegen de tijd dat de dokter mij kan zien.

De tijdlijnen voor medische zorg zijn afhankelijk van de stad en het verzekeringsplan van de patiënt. Echter, het zien van specialisten en zelfs huisartsen is in veel delen van de wereld een test van geduld geworden.

Chatbots zijn niet alleen letterlijk binnen handbereik, maar kunnen onze vragen analyseren en binnen enkele seconden beantwoorden.

Minder Ongemakkelijk

Ik heb een vriendin die arts is en ik kan altijd bij haar terecht als ik medisch advies nodig heb, maar het feit dat ze mijn vriendin is, maakt het soms ook ongemakkelijk. Voordat ik haar een bericht stuur, vraag ik me altijd af: Heb ik onlangs nog gevraagd hoe het met haar gaat? Ze is een geweldig mens en een fantastische professional, en ik weet zeker dat ze nooit zal stoppen met het beantwoorden van mijn medische vragen. Maar, van mens tot mens, ik kan het niet helpen dat ik ook om haar gevoelens geef.

Een van de voordelen van kunstmatige intelligentie is de eigen kunstmatige toestand. Het heeft geen gevoelens of een slechte dag, het zal je niet beoordelen of zeggen “Stop met zo’n hypochonder te zijn” (niet dat mijn vriend dit ooit tegen me heeft gezegd) omdat ze getraind zijn om beleefd te zijn en al onze zorgen te beantwoorden met alle informatie die we willen. Het is onderdeel van wat de technologie verslavend maakt , en waarschijnlijk waarom velen liever ongemakkelijke vragen stellen in de “privacy” van hun smartphones.

De Risico’s En Gevaren Van Het Vertrouwen Op Chatbots

Het klinkt allemaal cool en leuk totdat we de tijd nemen om na te denken over de risico’s en uitdagingen die AI en de mensheid het hoofd bieden.

Verkeerde Aanwijzing, Verkeerde Spelling

In die studie waarin AI beter presteerde dan artsen, werd een belangrijke conclusie getrokken: de groep artsen die AI mochten gebruiken als bondgenoot bij de diagnoses, presteerden niet aanzienlijk beter dan degenen die het niet mochten gebruiken. Waarom? Wel, een deel van het probleem was dat ze niet wisten hoe ze de juiste prompts moesten schrijven om het meeste uit de AI te halen.

“Ze behandelden het als een zoekmachine voor gerichte vragen: ‘Is cirrose een risicofactor voor kanker? Wat zijn mogelijke diagnoses voor oogpijn?’,” zei Dr. Jonathan H. Chen, een van de auteurs van de studie, tegen the New York Times.

Dit is een van de problemen waar veel gebruikers en AI-technologieën ook tegenaan lopen. Chatbots zijn goed in het stellen van diagnoses, maar veel symptomen moeten individueel en op een gepersonaliseerde manier geanalyseerd worden. Wat als een persoon er niet in slaagt om de juiste context aan de chatbot te geven? Of belangrijke details of aandoeningen vergeet te vermelden die een echte dokter voor een patiënt niet zou missen?

Onnauwkeurigheid En Hallucinaties

Chatbots zijn professionele betweters en zeggen soms met veel zelfvertrouwen de verkeerde dingen. En wij geloven het. En gebruikers die dagelijks op de technologie vertrouwen, doen dat steeds meer.

Het is moeilijk om die keer te vergeten—in mei—wanneer Google Gemini suggereerde dat gebruikers “ongeveer ⅛ kopje niet-giftige lijm aan de saus toevoegen om het meer plakkerigheid te geven” aan een pizza.

Het was grappig, omdat we meteen de hallucinatie konden herkennen—die chique naam voor wanneer AI absurde antwoorden geeft. Maar wat als het een complexer onderwerp betreft, wat als de persoon die het AI-antwoord leest bang, eenzaam en bezorgd is over hun gezondheid?

Zelfs als AI maand na maand beter wordt, blijft de mogelijkheid van een fout bestaan.

Wie is de schuldige als er iets misgaat?

Het ethische debat is op dit moment een hot topic. Als de chatbot een verkeerde diagnose stelt of verschrikkelijk advies geeft, wie is dan de schuldige? De ontwikkelaars, het model, het AI-bedrijf, de bronnen die dat model hebben getraind?

Een tragisch geval zorgde een paar weken geleden voor opschudding toen een Amerikaanse moeder AI de schuld gaf van de dood van haar 14-jarige zoon en een rechtszaak aanspande tegen de startup Character.ai—een platform om AI-personages te creëren. De tiener leed aan depressie en raakte geobsedeerd door de technologie. Zijn avatar, Daenerys Targaryen, besprak met hem een plan om zelfmoord te plegen en moedigde hem zelfs aan om het te doen.

Terwijl AI door het World Economic Forum wordt beschouwd als een krachtig hulpmiddel om wereldwijde geestelijke gezondheidscrisissen te verlichten en het toenemende percentage van angst- en depressiegevallen te verminderen, kan het ook gevaarlijk zijn, vooral voor kinderen.

Doe Het “Op Eigen Risico”

Hoewel er nog verbeteringen nodig zijn, vind ik graag dat AI een groot potentieel heeft om de wachttijden in de gezondheidszorg te verminderen – zowel voor specialistische afspraken als spoedeisende zorg – om wetenschappelijke vooruitgang te versnellen en om artsen te ondersteunen, vooral die overweldigd worden door overmatige werkdruk en lage lonen, zoals vaak het geval is in Latijns-Amerikaanse landen, door patiënten te helpen met basisvragen vanuit huis.

Het kan ook helpen om de verschillen in toegang tot gezondheidszorg tussen verschillende sociale klassen te overbruggen, de weg vrijmakend voor een democratisering van de geneeskunde zoals nooit tevoren. Dit alles is nu binnen ons bereik, slechts een vraag weg voor iedereen met toegang tot een smartphone.

Het is echter cruciaal om te begrijpen dat we nog in de beginfase zitten en dat we de meest kwetsbare bevolking moeten beschermen. Iedereen die ervoor kiest om vandaag Dr. Chatbot te gebruiken om hun gezondheid te verbeteren, moet dit doen met een begrip van de kleine lettertjes in de algemene voorwaarden, met kritisch denken en met het besef dat ze – voor nu – de verantwoordelijkheid nemen voor de betrokken risico’s.