En chattbot kan svara varmt och bekräftande utan att kunna ta ansvar för en mänsklig relation. I en perspektivartikel diskuterar forskare hur AI-sällskap kan bidra till känslomässigt beroende och förstärka skadliga föreställningar. Samtidigt betonar de att effekterna behöver undersökas bättre och kan skilja sig mellan användare.
Fördjupning: Artikeln publicerades i JMIR Mental Health den 10 september och uppmärksammades av Northeastern University den 28 september. Den är en forskningsbaserad argumentation, inte ett nytt experiment som visar hur stor risken är för en viss användare.
När ett verktyg uppfattas som en vän
Författarna Asia Maurich Novelli, Sukhwinder Shergill och Andreia Sofia Teixeira diskuterar både särskilda sällskapsappar och vanliga AI-assistenter. Deras utgångspunkt är att ett flytande samtal och en varm ton kan få människor att tillskriva systemen mänskliga egenskaper.
De beskriver en ojämn relation: användaren kan dela känslor och sårbarheter, medan systemets svar inte innebär ett motsvarande mänskligt engagemang. Överdriven bekräftelse kan dessutom förstärka användarens övertygelser i stället för att hjälpa till att pröva dem kritiskt.
Författarna nämner också forskning som pekar på möjlig kortsiktig lindring av ensamhet och förbättrat humör. Deras argument är därför inte att varje samtal är skadligt, utan att möjlig nytta behöver bedömas tillsammans med risker och teknikens begränsningar.
Tillgänglighet är både en möjlighet och en fråga att undersöka
I Northeasterns presentation framhålls att chattbotar ofta är billiga och tillgängliga dygnet runt. Den tillgängligheten kan förklara varför människor söker stöd där. Forskarna efterlyser mer kunskap om hur systemen används, vad samtalen innehåller och hur användarnas mående utvecklas över tid.
De lyfter också att behov och sårbarhet varierar. En person kan använda en bot för en avgränsad uppgift, medan en annan söker en nära samtalspartner. Socialt stöd och andra möjligheter till hjälp kan påverka sammanhanget. Det gör en enda generell beskrivning av alla användare otillräcklig.
Vad visar en perspektivartikel?
En perspektivartikel samlar kunskap för att föra ett vetenskapligt resonemang. Den kan identifiera problem och föreslå hur forskning eller teknik bör utvecklas. Däremot ger den inte automatiskt samma underlag som en studie där deltagare följs systematiskt med bestämda utfallsmått.
Här behöver läsaren särskilt skilja mellan rapporterade skador, tänkbara mekanismer och en uppmätt riskökning. Att beskriva hur en skada kan uppstå besvarar inte hur ofta den uppstår. För den senare frågan behövs bland annat tydliga jämförelsegrupper och kunskap om hur deltagarna mådde från början.
Vad bör fortsatt forskning fråga?
En användbar uppföljning behöver undersöka mer än hur nöjd någon är direkt efter ett samtal. Hur förändras vardagen över tid? Får användaren mer kontakt med andra eller mindre? Skiljer sig resultaten mellan olika sätt att utforma och använda en chattbot?
Författarnas övergripande ståndpunkt är att AI främst bör stödja mänskliga system och relationer. Det är en riktning för diskussion och utveckling, inte ett bevis för att alla AI-tjänster ger samma resultat.
Läs fler artiklar om artificiell intelligens och vår guide till att tolka vetenskapliga studier.
Källor: Tool or Companion? Reframing Conversational AI to Prevent Psychological Harm, JMIR Mental Health; författarnas sammanfattning vid Network Science Institute; Northeastern University, 28 september 2026. Publikationstyp: perspektivartikel. Herobild: genrebild.