System för artificiell intelligens (AI), särskilt konversationsagenter som ChatGPT eller Gemini, används numera dagligen av ett växande antal människor världen över. Även om många användare litar på svaren som AI-agenterna ger på deras frågor, är dessa inte alltid korrekta och tillförlitliga.
Forskare vid University of Waterloo och University College London (UCL) har nyligen genomfört en studie i syfte att bättre förstå hur människor bedömer både AI-agenters och människors säkerhet i sina förutsägelser eller slutsatser. Deras resultat, publicerade i Communications Psychology, tyder på att människor genomgående uppfattar AI-system som mer säkra i sina svar än människor, även när de svar de genererar är desamma som de som ges av människor.
”I takt med att AI-system blir mer och mer sofistikerade förlitar sig människor alltmer på dem för råd, till exempel om vilka produkter de ska köpa eller vilket innehåll de ska konsumera”, sa Clara Colombatto, förstaförfattare till artikeln, till Phys.org.
”Detta speglar något vi gör hela tiden när vi interagerar med andra människor, eftersom vi ofta söker vägledning och råd från andra. Men det finns en viktig skillnad mellan att ta råd från människor och AI-system: när människor ger råd kommunicerar de ofta också hur säkra de är på det de säger, och den säkerheten påverkar i sin tur hur mycket vi litar på och förlitar oss på rådet.”
Hur människor tillskriver förtroende till andras svar
Till skillnad från människor är de flesta befintliga AI-system, inklusive de modeller som ligger till grund för funktionen hos ChatGPT och Gemini, utformade för att endast generera svar på specifika frågor, utan att ange hur säkra de är på sina svar. Effekterna av denna brist på förtroenderelaterad information på hur mycket användare litar på AI-agenternas svar har ännu inte tydligt kartlagts.
”Vi ville förstå om människor naturligt tolkar ut självförtroende hos både mänskliga och AI-system även när detta inte kommuniceras direkt, och vilka faktorer som påverkar dessa bedömningar”, förklarade Colombatto. ”För att förstå hur människor tillskriver självförtroende till andra agenter utformade vi en uppgift där deltagarna observerade antingen människor eller AI-system som fattade beslut och sedan rapporterade hur säkra de trodde att agenten var på varje val.”
Colombatto och hennes kollegor analyserade därefter de insamlade uppgifterna för att fastställa hur olika signaler påverkade det förtroende som deltagarna tillskrev AI-agenter eller människor. Intressant nog fann de att deltagarna tenderade att tro att agenterna var mer självsäkra när de svarade snabbt eller när ett beslut verkade vara lättare för dem att fatta.
”Viktigt är att vi också fann att människor tillskrev större självförtroende till aktörer som de trodde var mer träffsäkra eller kapabla, även när denna tro inte var faktiskt motiverad”, sade Colombatto. ”Detta är särskilt viktigt i AI-sammanhang, eftersom människor ibland kan anta att AI-system är bättre än människor på vissa uppgifter, och därför dra slutsatsen att AI:n är mer självsäker, även när så inte är fallet – vilket skapar en ’illusion av självförtroende’ hos AI.”
Sammantaget tyder resultaten av denna studie på att människor inte behöver att agenterna uttryckligen kommunicerar hur säkra de är på en förutsägelse för att dra slutsatser om deras säkerhetsnivåer. Istället fann teamet att deltagarna i studien tenderade att automatiskt använda olika ledtrådar, såsom hur snabbt en agent svarade eller hur kompetenta de verkade vara, för att dra slutsatser om deras säkerhet.
”Det är viktigt att notera att dessa signaler kan vara vilseledande: när människor tror att ett AI-system är mycket kompetent kan de också anta att det är mycket självsäkert, även om systemet i själva verket inte är tillförlitligt i just den specifika situationen”, sade Colombatto. ”Med andra ord följer människors tolkningar deras (ibland felaktiga) tidigare föreställningar om AI, snarare än dess faktiska prestanda.”
Implikationer för AI-design och nästa forskningssteg
Det senaste arbetet av Colombatto och hennes kollegor betonar vikten av att utforma AI-system som förmedlar självförtroende till användarna, både direkt och via andra signaler. Teamets iakttagelser kan vägleda utvecklingen av nya funktioner för AI-modeller, särskilt stora språkmodeller (LLM), och bidra till att förbättra befintliga.
”I interaktioner mellan människor fungerar självförtroende som en viktig social signal som hjälper oss att avgöra när vi ska lita på råd och när vi ska behandla dem med större försiktighet”, sade Colombatto. ”Våra resultat tyder på att när AI-system inte tillhandahåller denna information explicit kan människor dra slutsatser på egen hand, med viktiga konsekvenser: de kan i slutändan lita för mycket på AI-rekommendationer, även när systemet kan vara osäkert eller benäget att göra fel.”
Forskarna planerar för närvarande nya studier som syftar till att hjälpa människor att dra slutsatser om AI-systemens tillförlitlighet på ett mer pålitligt sätt. Specifikt vill de identifiera lovande strategier för att effektivt kommunicera hur säkra AI-systemen är på sina förutsägelser till användarna.
”När vi interagerar med andra människor kommunicerar vi tillförlitlighet genom en rad olika signaler, inklusive vår röstton, våra ansiktsuttryck, vår kroppshållning osv.”, tillägger Colombatto. ”AI-system saknar dock ofta dessa egenskaper, eftersom de flesta system inte har människoliknande röster eller fysisk närvaro. Att förstå vilka typer av tillförlitlighetssignaler som är mest hjälpsamma, transparenta och trovärdiga i interaktioner mellan AI och människor kommer därför att vara en viktig inriktning för framtida forskning.”
Publiceringsuppgifter
Clara Colombatto et al, Beliefs about accuracy shape confidence attributions to humans and artificial agents, Communications Psychology (2026). DOI: 10.1038/s44271-026-00445-4.
