Artificiell intelligens blir allt vanligare inom sjukvården och används redan för att tolka röntgenbilder, analysera patientjournaler och ge beslutsstöd till läkare. Men hur tillförlitliga dessa system är beror på betydligt fler faktorer än själva AI-modellen.
En ny studie visar att kvaliteten på medicinska AI-system i hög grad påverkas av hur data samlas in, hur modellerna tränas och hur de används i den kliniska vardagen. Forskarna menar att även den mest avancerade AI-modellen riskerar att ge missvisande resultat om dessa grundläggande faktorer inte hanteras korrekt.
Data är viktigare än avancerade algoritmer
En av studiens tydligaste slutsatser är att kvaliteten på träningsdatan är avgörande.
Om AI-modellen tränas på data som inte representerar den patientgrupp den senare ska användas för kan träffsäkerheten försämras kraftigt. Exempelvis kan skillnader i ålder, kön, etnicitet eller förekomsten av olika sjukdomar påverka hur väl modellen fungerar i praktiken.
Forskarna betonar därför att breda och representativa datamängder är en förutsättning för tillförlitliga medicinska AI-system.
Patienternas information påverkar resultaten
Studien visar också att AI-systemens precision är beroende av hur fullständig informationen från patienterna är.
Om viktiga symtom eller medicinska uppgifter utelämnas kan AI fatta beslut på ett bristfälligt underlag. Tidigare forskning har dessutom visat att patienter ibland beskriver sina besvär mindre utförligt när de tror att de kommunicerar med en AI i stället för en läkare, vilket kan försämra kvaliteten på bedömningen.
Noggrann testning krävs innan införande
Forskarna framhåller att AI-system måste utvärderas i verkliga vårdmiljöer innan de används rutinmässigt.
Ett system som fungerar mycket bra på ett sjukhus behöver inte automatiskt prestera lika bra på ett annat, där patientunderlag, arbetsrutiner eller teknisk utrustning kan skilja sig åt.
Därför rekommenderas omfattande validering i flera olika vårdmiljöer innan AI-lösningar införs i större skala.
Människan fortsätter att spela en central roll
Trots de snabba framstegen betonar forskarna att AI inte bör ersätta medicinsk expertis.
Istället bör tekniken användas som ett beslutsstöd där läkare och annan vårdpersonal kan väga samman AI rekommendationer med patientens sjukdomshistoria, kliniska undersökningar och egen medicinsk erfarenhet.
Den mänskliga bedömningen är fortfarande avgörande, särskilt vid komplexa eller ovanliga sjukdomstillstånd.
Transparens skapar större förtroende
Studien lyfter även fram vikten av att AI-system är transparenta.
Om vårdpersonal förstår hur ett system har tränats, vilka data det bygger på och vilka begränsningar som finns blir det lättare att avgöra när resultaten kan litas på och när ytterligare bedömningar behövs.
Det kan också stärka patienternas förtroende för AI-baserade beslutsstöd inom sjukvården.
AI framtid avgörs av mer än bara tekniken
Forskarna menar att framtidens medicinska AI inte enbart kommer att utvecklas genom kraftfullare algoritmer.
Lika viktigt är att säkerställa hög datakvalitet, rättvis representation av olika patientgrupper, noggrann klinisk utvärdering och ett nära samarbete mellan AI-system och vårdpersonal.
Om dessa faktorer prioriteras kan artificiell intelligens bli ett ännu mer tillförlitligt verktyg för diagnostik, behandling och beslutsstöd – samtidigt som patientsäkerheten stärks.
Publikationsuppgifter
David G. Dobolyi m.fl., ”The influence of face recognition ability and race on the relationship between psychological and algorithmic similarity”, Journal of Applied Research in Memory and Cognition (2026). DOI: 10.1037/mac0000264
