AI-genererad forskning är ett hot, både mot samhällets kunskap och allmänhetens förtroende för vetenskapen. Det konstaterar forskare från Bibliotekshögskolan, Högskolan i Borås, som nyligen identifierat över hundra misstänkt AI-genererade artiklar i sökmotorn Google Scholar.
Forskarna rapporterar att falska AI-genererade vetenskapliga artiklar har översvämmat sökmotorn Google Scholar. Studiens fynd av AI-skapad skräpvetenskap innebär att falsk vetenskap har gjorts tillgänglig och kan spridas brett och till en mycket lägre kostnad för illasinnade aktörer. Arbetet publiceras i tidskriften Harvard Kennedy School Misinformation Review.
Detta utgör en fara för både samhället och forskarsamhället, menar Jutta Haider och Björn Ekström från Bibliotekshögskolan, som står bakom studien tillsammans med Kristofer Söderström vid Lunds universitet och Malte Rödl vid Sveriges lantbruksuniversitet.
Ökad risk för bevisförstöring
En av de största farhågorna med AI-genererad forskning är den ökade risken för bevisförfalskning – att falsk forskning kan användas för strategisk manipulation.
”Risken för det vi kallar ’evidence hacking’ ökar markant när AI-genererad forskning sprids i sökmotorer. Det kan få påtagliga konsekvenser eftersom felaktiga resultat kan sippra vidare ut i samhället och eventuellt också in i allt fler domäner”, säger Ekström, som är doktor i biblioteks- och informationsvetenskap.
Forskarna bakom studien har redan sett att dessa problematiska artiklar har spridit sig till andra delar av forskningsinfrastrukturen på webben, i olika arkiv, sociala medier och liknande. Spridningen är snabb och Google Scholar synliggör de problematiska artiklarna. Även om artiklarna dras tillbaka finns det en risk att de redan har hunnit spridas och fortsätter att göra det.
AI-genererad forskning ställer dessutom till problem för det redan hårt pressade peer review-systemet.
Ställer högre krav på informationskompetens
Att AI-genererad forskning sprids i sökmotordatabaser ställer högre krav på dem som tar del av forskning på nätet.
”Om vi inte kan lita på att den forskning vi läser är äkta riskerar vi att fatta beslut baserade på felaktig information. Men lika mycket som detta är en fråga om vetenskaplig oredlighet är det en fråga om medie- och informationskunnighet”, säger Haider, professor i biblioteks- och informationsvetenskap.
Hon påpekar att Google Scholar inte är en akademisk databas. Sökmotorn är lättanvänd och snabb, men saknar rutiner för kvalitetssäkring. Det är redan ett problem med vanliga Google-resultat, men det är ännu mer problematiskt när det gäller att göra vetenskapen tillgänglig.
”Människors förmåga att avgöra vilka tidskrifter och förlag som – för det mesta – publicerar kvalitetsgranskad forskning är viktig för att hitta och avgöra vad som utgör tillförlitlig forskning och är av stor betydelse för beslutsfattande och opinionsbildning”, avslutar Haider.
För mer information: Jutta Haider et al, GPT-fabricerade vetenskapliga artiklar på Google Scholar: Key features, spread, and implications for preempting evidence manipulation, Harvard Kennedy School Misinformation Review (2024). DOI: 10.37016/mr-2020-156
