Forskare behöver lära sig att hantera misstro och desinformation tidigt i karriären

Bilden av vetenskapen som ett ”elfenbenstorn” utmanas ständigt i dag. Forskare verkar i en miljö där fabricerade artiklar kan bli en del av den vetenskapliga litteraturen, politiska aktörer kan avgöra vilka forskningsfrågor som är acceptabla och artikelfabriker och generativ AI kan producera otillförlitlig text i en aldrig tidigare skådad hastighet. Dessa påfrestningar hotar forskningens ”epistemiska säkerhet”.

Epistemisk säkerhet handlar om att skydda de människor, arbetssätt och institutioner som gör det möjligt att skapa, granska, korrigera och förmedla kunskap. Den är beroende av både forskningsintegritet och akademisk frihet. Det akademiska systemet kan inte producera tillförlitlig kunskap om oredlighet ignoreras, forskare är rädda för trakasserier eller lärosäten undviker känsliga frågor.

Oredlighet i forskning

Den kraftiga ökningen av tillbakadragna artiklar under senare år visar både vetenskapens styrka och dess sårbarhet. Att artiklar dras tillbaka visar att vetenskapen kan korrigera sig själv, men korrigeringen kommer ofta sent. Då kan otillförlitliga resultat redan ha citerats, spridits och använts i nya studier. Bara under 2023 drogs fler än 10 000 vetenskapliga artiklar tillbaka. Dessa artiklar hade fram till 2024 fått över 35 000 citeringar. De ursprungliga påståendena kan därför få betydligt större spridning än meddelandena som förklarar varför de inte längre bör betraktas som tillförlitliga. Medier och publiceringsplattformar kan förstärka denna obalans genom att ge uppseendeväckande resultat betydligt större synlighet än de efterföljande tillbakadragandena.

En snabb titt på Retraction Watch visar bredden av den oredlighet som förekommer: fabricerade meriter, förfalskade resultat, påhittade referenser, manipulerad sakkunniggranskning och till och med falska författarskap. Inlägg på PubPeer visar också hur ofta forskare upptäcker duplicerade bilder, oförklarade motsägelser och andra problem i den publicerade litteraturen. Tillbakadragna artiklar utgör bara den mest synliga delen av problemet. En betydligt större mängd forskning kan vara bristfälligt utformad, otillräckligt redovisad eller retoriskt vilseledande utan att nå gränsen för ett formellt tillbakadragande. Sådana artiklar förblir en del av ”normalvetenskapen”, där de kan citeras, användas i undervisning och ligga till grund för fortsatta studier.

Generativ AI gör att mer står på spel. Den centrala frågan är inte om en text är skriven av en människa eller genererad av AI, utan om dess påståenden är sanna, spårbara och underbyggda. Mycket uppmärksamhet har ägnats åt att upptäcka om en text har skrivits av AI. Detta har också bidragit till framväxten av ”AI accent-ism”, som kan beskrivas som en ideologiskt präglad inställning till ord och uttryck som förknippas med AI-genererad text. Den viktigare frågan borde dock vara: ”Går det att verifiera den här texten och den forskning som redovisas i den?” Forskare behöver utveckla vanor för att kontrollera uppgifter, oavsett vem eller vad som har producerat texten.

Att hantera misstro och desinformation

Forskare tidigt i karriären är särskilt utsatta i dessa situationer. De är beroende av publicerad litteratur för att lära sig ämnets normer, identifiera utrymme för egen forskning och utforma studier, men får kanske begränsad förberedelse för att känna igen otillförlitlig forskning. De har också mindre makt när det uppstår tvister om författarskap, handledning eller forskningsintegritet. Lärosäten behöver därför behandla kritisk läsning, forskningsintegritet, akademisk frihet och forskares säkerhet som sammanhängande delar av forskarutbildningen.

Ett konkret arbetssätt är att använda tillbakadragna artiklar som utgångspunkt. I stället för att enbart presentera vetenskapen genom polerade framgångsberättelser kan lärare låta doktorander undersöka hur studier kan gå fel och hur korrigeringar fungerar. Oredlighet kan lämna retoriska varningssignaler: källor som är fabricerade eller återges missvisande, metoder som låter avancerade men saknar avgörande detaljer, motsägelser mellan påståenden, resultat, figurer och slutsatser, överdriven säkerhet eller förvrängd terminologi. Det senare omfattar så kallade ”tortured phrases” – krystade formuleringar som skapats för att dölja kopierad eller maskingenererad text.

Epistemisk säkerhet

Ingen av dessa signaler bevisar i sig att oredlighet har förekommit. De är uppmaningar att stanna upp och använda fler strategier för att kontrollera uppgifterna. Denna form av ”detektivläsning” bör skapa välgrundad tillit. Förberedelserna behöver börja tidigt, innan publiceringspressen gör att vanor cementeras, och fortsätta genom hela forskarkarriären. Epistemisk säkerhet är nämligen ett gemensamt ansvar, inte en engångsövning i regelefterlevnad eller en checklista.

Lärosäten måste också stödja arbetet på organisatorisk nivå. De bör göra rättelser och meddelanden om tillbakadraganden synliga, ge tydlig vägledning om ansvarsfull AI-användning, utbilda handledare och granskare, skydda forskare som utsätts för trakasserier och kommunicera öppet när något går fel i forskningen. De bör också informera forskare om vilket stöd som finns, vilka publika plattformar som medför särskilda risker och hur hot kommer att hanteras. Det nyligen instiftade Ctrl-Z-priset, som uppmärksammar forskare som själva tar initiativ till att dra tillbaka sina artiklar, är ett utmärkt exempel på hur forskningsintegritet kan främjas.

Att skydda vetenskapen kräver mer än att faktagranska dess slutprodukter. Det kräver att vi värnar de människor, arbetssätt och friheter som gör tillförlitlig kunskap möjlig. Om forskare tidigt i karriären lär sig hur misstro skapas, hur oredlighet sprids och hur den akademiska friheten kan försvagas, blir de bättre rustade att stoppa desinformation innan den blir en del av det vetenskapliga kunskapsunderlaget. Vetenskapen behöver kritiska läsare lika mycket som produktiva författare, och lärosätena måste utbilda och skydda båda.