Fem minuters träning förbättrar människors förmåga att upptäcka AI-genererade falska ansikten

I takt med att artificiell intelligens (AI) utvecklas blir de digitalt genererade bilderna av mänskliga ansikten allt mer realistiska och därmed svårare att skilja från riktiga porträtt.

En ny studie från forskare vid universiteten i Reading, Greenwich, Leeds och Lincoln visar att en mycket kort träningsinsats på endast fem minuter signifikant kan förbättra människors förmåga att upptäcka dessa AI-skapade förfalskningar. Resultaten publicerades nyligen i tidskriften Royal Society Open Science.

Studien involverade 664 deltagare som fick i uppgift att identifiera huruvida ansikten som visades var äkta eller genererade av det avancerade AI-systemet StyleGAN3 – vid studiens tidpunkt det mest sofistikerade verktyget för syntetisk ansiktsgenerering. Det visade sig att deltagare med normal förmåga att känna igen ansikten låg något över slumpens nivå och lyckades korrekt identifiera falska ansikten i 31 % av fallen. Superigenkännare, en mindre grupp personer med exceptionellt bra ansiktsigenkänningsförmåga, gjorde det bättre men inte övertygande nog – deras träffsäkerhet var 41 %. För jämförelse skulle en slumpmässig gissning hamna runt 50 %, vilket indikerar svårighetsgraden i uppgiften.

Där kom träningsmomentet in. Deltagarna fick en kort genomgång av typiska tecken på AI-genererade fel, exempelvis onaturliga hårmönster eller inkonsekvent antal tänder, vilket avslöjar slarv i renderingen. Resultaten efter denna snabba utbildning var anmärkningsvärda: superigenkännarnas förmåga att korrekt identifiera falska ansikten klättrade upp till 64 %, medan de med normal igenkänning ökade till 51 %. Detta visar tydligt att en mycket kort instruktionsperiod kan ge väsentliga förbättringar i en annars utmanande uppgift.

Dr Katie Gray, som lett studien, poängterar allvaret i frågan: AI-genererade ansikten används i ökande omfattning för att skapa falska profiler på sociala medier, kringgå identitetsverifieringssystem och generera falska dokument. Eftersom dessa ansikten ofta upplevs som mer verklighetstrogna än riktiga människor, utgör de en reell säkerhetsrisk. Den föreslagna träningsmetoden är både enkel och effektiv, och forskarna tror att en kombination av sådan träning tillsammans med de naturliga förmågorna hos superigenkännare kan utgöra en viktig del i kampen mot falska identiteter online.

Intressant nog påpekade studien att träningen hade en liknande effekt på båda grupperna, vilket tyder på att superigenkännare inte bara är bättre på att upptäcka AI-fel utan sannolikt även använder andra, mer subtila visuella ledtrådar för att avgöra äkthet. Att forskningen använde StyleGAN3 i stället för äldre modeller är viktigt eftersom det visar att trots den betydligt ökad komplexiteten i ansiktsgenereringen kan människor ändå förbättra sin upptäcktsförmåga med korta, riktade träningsinsatser.

Framtida studier planeras för att undersöka hur långvarig effekten av träningen är samt hur superigenkännarnas färdigheter bäst kan kombineras med algoritmisk AI-detektion. Detta är särskilt relevant eftersom tekniken snabbt utvecklas och nya metoder för att generera falska ansikten ständigt dyker upp. Studien skapar hopp om att ett brett införande av enkla träningsmetoder kan bli ett effektivt verktyg i att motverka bedrägerier och missbruk av AI-genererad bildteknologi.

Sammanfattningsvis visar denna forskning att även en kort, fokuserad insats kan ge betydande förbättringar i förmågan att känna igen AI-genererade falska ansikten. Med den ökande spridningen av denna teknik är sådana upptäcktsverktyg avgörande för att upprätthålla säkerhet och trovärdighet i digitala miljöer.