Människor bryr sig mer om att ha rätt än om att undvika misstag, visar ny studie

När forskare utvecklar prognosmodeller, AI-system och beslutsstöd utgår de ofta från en grundläggande princip: den bästa förutsägelsen är den som minimerar risken för fel. Men ny forskning visar att människor inte nödvändigtvis håller med.

En studie publicerad i tidskriften Management Science visar att människor i många situationer hellre vill ha en prognos som ger större chans att vara exakt rätt, även om den samtidigt ökar risken för större misstag. Resultaten utmanar flera av de antaganden som ligger till grund för dagens prognossystem och artificiella intelligens.

Att ha rätt värderas högre än att ha mindre fel

Studien leddes av Berkeley J. Dietvorst vid University of Chicago Booth School of Business och omfattade totalt 16 experiment med deltagare som fick göra eller utvärdera olika typer av prognoser.

Forskarna upptäckte ett tydligt mönster: människor lägger oproportionerligt stor vikt vid att träffa helt rätt.

Om en prognos går från att vara exakt korrekt till att vara bara lite fel upplevs detta som en betydande försämring. Däremot spelar det mindre roll hur mycket större felet blir efter den första avvikelsen.

– För många människor är målet med en förutsägelse att ha rätt, inte bara att minimera det genomsnittliga felet, säger Dietvorst.

Det innebär att människor inte alltid värderar prognoser på samma sätt som statistiska modeller gör.

En psykologisk gräns mellan rätt och fel

Resultaten tyder på att våra hjärnor behandlar skillnaden mellan ”rätt” och ”fel” som en särskilt viktig gräns.

I flera av experimenten fick deltagarna ta del av sannolikhetsfördelningar och välja vilka utfall de skulle förutsäga. Istället för att välja alternativ som matematiskt sett minimerade den förväntade felmarginalen valde många det alternativ som gav störst chans att bli exakt rätt.

Forskarna fann också att människors känslomässiga reaktioner följde samma mönster.

Tillfredsställelsen sjönk kraftigt när en prognos gick från perfekt till nästan korrekt. Men när prognosen redan var fel spelade ytterligare felmarginaler betydligt mindre roll för hur nöjda deltagarna kände sig.

Viktiga konsekvenser för AI och prognossystem

Upptäckten är särskilt relevant i en tid då allt fler beslut fattas med hjälp av AI och avancerade analysverktyg.

Många av dagens system optimeras utifrån statistiska mått som syftar till att minimera det genomsnittliga felet. Men om människor i själva verket värdesätter möjligheten att ha exakt rätt högre än att minska felens storlek kan det uppstå en konflikt mellan systemens design och användarnas förväntningar.

Detta kan påverka hur mycket människor litar på AI-genererade rekommendationer och prognoser.

– Om modellerna optimeras för mål som skiljer sig från vad människor värdesätter kan acceptansen och förtroendet påverkas negativt, säger Dietvorst.

Kan dagens AI vara optimerad för fel mål?

Forskarna menar att resultaten väcker en viktig fråga för framtidens AI-system, affärsprognoser och beslutsstöd:

Är systemen optimerade för det som människor faktiskt vill ha?

Ur ett statistiskt perspektiv är det ofta bäst att minimera den genomsnittliga felmarginalen. Men ur ett mänskligt perspektiv kan det vara viktigare att ibland träffa helt rätt, även om det innebär att vissa prognoser blir mer felaktiga.

Studien visar därmed att framgångsrika prognoser inte bara handlar om matematik och statistik – utan också om hur människor uppfattar och värderar osäkerhet.

I takt med att AI får en allt större roll i samhället kan förståelsen för dessa psykologiska mekanismer bli avgörande för hur framtidens beslutsstöd utvecklas.