Forskare har upptäckt att tre språkbaserade chatbots – trots avancerade tekniker för prompt-engineering – ofta ger suboptimala råd om strokeförebyggande åtgärder, diagnos, behandling och återhämtning, vilket understryker behovet av mänsklig övervakning för att säkerställa lämplighet och säkerhet. Stroke är fortfarande en av de vanligaste orsakerna till död och funktionsnedsättning världen över, vilket understryker vikten av korrekt och praktisk patientinformation.
I en internationell studie som genomfördes vid National Taiwan University och Harvard T.H. Chan School of Public Health utvärderade forskarteamet om generativa AI-chatbots – ChatGPT-4o, Claude 3 Sonnet och Gemini Ultra 1.0 – är lämpliga för att ge kliniskt tillförlitlig rådgivning inom strokevård. Resultaten är publicerade i tidskriften npj Digital Medicine.
För att säkerställa klinisk relevans skapade forskarteamet först en typisk klinisk presentation av en strokepatient genom hela vårdkedjan. De stroke-relaterade frågorna som ställdes till AI-modellerna baserades på de vanligaste patientfrågorna i klinisk praxis och omfattade fyra stadier av strokevård: förebyggande, tidig symtombeskrivning, akut behandling och rehabilitering. Frågorna utformades i samråd med kliniska experter och speglade realistiska, patientorienterade scenarier.
Varje modell testades med tre olika promptstrategier – Zero-Shot Learning (ZSL), Chain-of-Thought (COT) och Talking Out Your Thoughts (TOT) – och fyra erfarna strokespecialister, som inte kände till modellen eller prompttypen, ombads att betygsätta resultaten utifrån noggrannhet, hallucinationer (färre hallucinationer = högre betyg), specificitet, empati och handlingsbarhet. Framgången mättes enligt gränsvärdet 60/100 i Taiwans läkarutbildning, där alla resultat under detta värde betraktas som potentiellt osäkra för självständig användning av patienter.
Poängen låg i genomsnitt mellan 48 och 56 i alla stadier – en förbättring jämfört med tidigare rapporter, men fortfarande under tröskeln för klinisk kompetens. I förebyggande och rehabiliterande scenarier nådde modellerna ibland 60 eller något över när de kombinerades med TOT-prompter, vilket speglar förbättringar i empati och tydlig vägledning. ZSL-prompter tenderade att minska hallucinationer mer effektivt. Ingen modell-prompt-kombination klarade dock testet konsekvent, och alla hade störst svårigheter med akuta behandlingsfrågor.
”Befintliga bevis tyder på att generativ AI har en verklig potential att bidra till att minska hälsoskillnaderna och lindra bristen på vårdpersonal i eftersatta och landsbygdsområden, särskilt när tillgången till specialister är begränsad. Våra resultat visar att generativ AI är imponerande när det gäller allmän hälsoinformation, men fortfarande opålitlig när patienter befinner sig i högriskmedicinska situationer som stroke”, säger John Tayu Lee, docent vid National Taiwan University och seniorforskare vid Health Systems Innovation Lab vid Harvard T.H. Chan School of Public Health.
”Även om genomtänkta frågor kan förbättra chatbottens svar, kommer de inte att göra en allmän modell till en smart läkare över en natt. Precis som speglar ger tydliga frågor tydliga svar”, säger Vincent Cheng-Sheng Li, andra författare, National Taiwan University. ”Att omvandla dessa reflektioner till säker vägledning vid sängkanten kräver dock samarbete mellan AI och kliniker.”
Prof. Rifat Atun, seniorförfattare och professor och direktör för Health Systems Innovation Lab vid Harvard University, kommenterade: ”Generativ AI har en enorm potential att förbättra den globala hälsojämlikheten, eftersom GenAI-lösningar kan spridas enkelt för bred tillämpning till låg kostnad. Men dessa lösningar måste implementeras på ett ansvarsfullt sätt, med robust styrning, rigorös klinisk validering och mänsklig övervakning för att säkerställa lämplighet och säkerhet.”
”Artificiell intelligens förändrar hälso- och sjukvården över hela världen. Genom att kombinera avancerad datavetenskap med medicinsk expertis kan patientcentrerade språkmodeller överbrygga klyftan mellan spjutspetsteknik och verkliga kliniska behov”, säger Dr Wei Jou Duh, VD för NTU AI Research Center. ”I takt med att AI utvecklas snabbt kan nyare modeller fungera på olika sätt, men riktmärkena och metoderna erbjuder en rigorös grund för att utvärdera deras inverkan.”
Mer information: John Tayu Lee et al, Evaluation of performance of generative large language models for stroke care, npj Digital Medicine (2025). DOI: 10.1038/s41746-025-01830-9
