AI stuwt publicatiedrift verder op
Permanent beschikbaar voor brainstorms, een kei in patroonherkenning en acceptabel vaardig met vertalingen. Chatbots zijn een verleidelijk hulpje voor wetenschappers die publicaties nodig hebben om mee te tellen in de academische wereld. Tegelijkertijd zet AI het publicatiesysteem nog zwaarder onder druk.
Beeld: Ivo de Boer & Peter van Dorst
Het lukt gewoon: een publicatie in een academisch tijdschrift opgenomen krijgen terwijl er letterlijk in staat dat de data en illustraties verzonnen zijn door ChatGPT en Dall-E. Wetenschapsjournalist Stan van Pelt, opgeleid als neurowetenschapper, kreeg het voor elkaar met een van A tot Z verzonnen paper over een telepatisch experiment waarbij ook interactie zou zijn geweest met buitenaardse wezens. Zijn doel: testen of zoiets door peer review heen glipt. Het open access tijdschrift Cases hapte toe en binnen een maand stond het artikel online, inclusief vermelding in Google Scholar.
Gesjoemel wordt verleidelijk
Googles motto ‘Staan op de schouders van reuzen’ krijgt zo een wonderlijke bijsmaak. Van Pelts nepartikel was een openlijk experiment, maar het gebeurt ook stiekem. Nogal wat andere wetenschappers laten zich verleiden tot gesjoemel omdat ze publicaties op hun naam hard nodig hebben en dat wordt steeds makkelijker door de brede beschikbaarheid van taalmodellen en AI-diensten voor beeld en data.
Echt en namaak zijn door AI vaak al niet meer te onderscheiden
“We kunnen echt en namaak door AI vaak al niet meer onderscheiden”, zegt microbiologe Elisabeth Bik die van de jacht op wetenschapsfraude haar levenswerk heeft gemaakt. Ze inspireerde wereldwijd tientallen collega’s die als science sleuths speuren naar publicaties waar iets niet aan deugt, bijvoorbeeld omdat een bepaalde dataset of serie afbeeldingen opduikt in twee experimenten die niets met elkaar te maken hebben. Hun kanttekeningen komen online op PubPeer en in sommige gevallen trekt een tijdschrift dan de vervalste publicatie terug.
Getraind oog
Biks specialiteit is geknoei met afbeeldingen van waarnemingen onder de elektronenmicroscoop en andere apparatuur. Op het plaatje is dan bijvoorbeeld een deel gekopieerd om het beeld mooier of overtuigender te maken. Een getraind oog herkent dat, maar inmiddels kan AI nieuwe beelden maken die niet van echt zijn te onderscheiden.
Bik was tegen AI in de wetenschap, maar steunt inmiddels taalsuggesties en patroonherkenning als ethisch gebruik. “Het wordt steeds beter. Misschien accepteer ik over een paar jaar dat iemand een dataset invoert en AI er een paper over laat schrijven.”
Wie carrière wil maken aan de universiteit moet publiceren
Als de gegevens maar kloppen, want wetenschap draait om waarheidsvinding. Waarom vallen onderzoekers dan voor het gemak van verzonnen gegevens? Stan van Pelt schrijft daar uitvoering over in zijn recent verschenen boek Sloppy science. In het academisch universum heeft gepubliceerd onderzoek een hoge status. Wie carrière wil maken aan de universiteit moet publiceren. Liefst in gezaghebbende tijdschriften en het is nog mooier als je indrukwekkende artikel wordt geciteerd door anderen. Naast de carrièredruk speelt de ongelijkheid in de wereld ook mee, zegt Bik. “Als je in Bangladesh aan de universiteit studeert, hoop je wellicht op een PhD-plaats en ooit een postdoc in het Verenigd Koninkrijk of in Nederland. Om als niet-Europese student geaccepteerd te worden heb je een paar gepubliceerde papers nodig.”
Systeem beloont publicaties
Een systeem dat publicaties beloont, moedigt wetenschappers aan zoveel mogelijk te publiceren. Dat moet in geïndexeerde tijdschriften met peer review, de kwalitatieve beoordeling door collega’s in het vakgebied. Dat systeem piept en kraakt al jaren. Het relatief nieuwe gereedschap AI verhoogt het tempo van schrijven en versnelt de analyse van data. De cijfers over publicatiedrift lopen uiteen, maar de groei van het aantal te beoordelen papers is nauwelijks op te vangen.
Academici produceren artikelen aan de lopende band dankzij AI. Reviewers worden overstelpt en dat is een probleem
Hoogleraar publiek begrip van wetenschap Bas Haring (Universiteit Leiden) doet zelf weinig peer review maar ziet wat er om hem heen gebeurt. “Academici produceren artikelen aan de lopende band dankzij AI. Reviewers worden overstelpt en dat is een probleem.” Zijn collega’s krijgen teksten voorgelegd die op de automatische piloot geschreven lijken – alles om maar snel het gewenste aantal publicaties op een cv te kunnen vermelden.
Aantal papers groeit sneller dan aantal wetenschappers
Valt de kwaliteit dan nog te beoordelen? Mark Hanson en anderen stelden in Quantitative Science Studies (2024) dat het aantal papers veel sneller groeit dan het aantal wetenschappers. Dat veroorzaakt overbelasting bij de makers en de beoordelaars. Sommige uitgevers jagen de productie verder op met themanummers. De cijfers over doorlooptijd en acceptatie wijzen erop dat de lat daarbij steeds lager ligt.
Paper mills besmetten het wetenschappelijk domein in toenemende mate
Het Franse platform Ouvrir la Science propageert daarom een nieuwe richtlijn: wie een artikel wil publiceren, moet ook tien publicaties beoordelen in peer review. Dat kan alleen op vrijwillige basis. Het is geen oplossing voor een andere trend: organisaties die zich erop toeleggen zo snel mogelijk papers bij elkaar te knippen en plakken, gepubliceerd op twijfelachtige platforms die gerespecteerde titels imiteren. Deze zogeheten paper mills en hun handlangers besmetten het wetenschappelijk domein in toenemende mate, beschrijven Reese A.K. Richardson en anderen in een PNAS-artikel uit 2025. Dubieuze tijdschriften publiceren artikelen over onderwerpen buiten het eigen onderzoeksterrein, ze verkopen vermelding als auteur op een internationale markt en ze groeien sneller dan het aantal correcties op PubPeer.
Misleiding is van alle tijden
Slordigheid of opzettelijke misleiding zijn van alle tijden. Fraudejager Bik kreeg dertig jaar geleden op het RIVM een Aziatische onderzoeker binnen met een prachtige publicatielijst. “Maar die kon nog geen pipet vasthouden. Zo’n persoon heeft een gelegenheid om naar Europa te komen en in een ander circuit te verdwijnen.”
Verzonnen onderzoeksdata
In zijn boek zet wetenschapsjournalist Van Pelt vraagtekens bij klassiek onderzoek van Louis Pasteur (miltvuurvaccin) en Georg Mendel (erfelijkheid). Van recentere datum is het schandaal rond sociaal psycholoog Diederik Stapel die onderzoeksdata aanpaste of volledig verzon zodat het resultaat paste bij zijn hypotheses. Oplettende promovendi trokken aan de bel. Stapel verloor zijn hoogleraarschap en zijn doctorstitel, 58 gemanipuleerde artikelen werden ingetrokken. The New York Times omschreef hem in 2013 als de grootste oplichter in de wetenschap.
Wie nu wil frauderen, heeft met AI gemakkelijk gereedschap. Als een mens knoeit met tabellen zit daar onbewust een patroon in, maar AI kan perfecte gerandomiseerde gegevens verzinnen over een schijnbaar betrouwbare onderzoekspopulatie. De fraudeur moet dan wel nadenken. Bik: “In een geaccepteerde publicatie over prostaatkanker kwam ik een dataset tegen uit een onderzoek naar darmkanker. Daar waren ze vergeten de vrouwen uit de gegevens te halen. Bij peer review zou dat toch moeten opvallen.”
De suggestie van plagiaat hangt al snel boven je hoofd
De transparantie-eis over AI-gebruik rukt op in wetenschappelijke richtlijnen. Simpelweg verbieden is geprobeerd op universiteiten en bij uitgeverijen, maar handhaving bleek praktisch onmogelijk. Een recente enquête van Elsevier stelt dat wereldwijd 58 procent van de wetenschappers AI inzet bij voorbereidend onderzoek. De Leidse studente Yunshan Cai haalde de media met haar masterscriptie waarbij zelfs de begeleiding in handen was van AI – een experiment met supervisie op afstand van hoogleraar Bas Haring. Ze is niet de enige, weet Cai op basis van observatie: “Veel studenten gebruiken AI bij research en schrijven, maar het is moeilijk om ervoor uit te komen. Al snel hangt de suggestie van plagiaat boven je hoofd.”
AI is nauwelijks in staat om onafhankelijk denken en wetenschappelijke creativiteit te ondersteunen
Cai ontwikkelde een algoritme om nagelbijten te detecteren op foto’s van personen en zetten zichzelf daarnaast in als onderzoeksobject om na te gaan welke begeleiding AI een masterstudent kan bieden. Zij profiteerde van AI bij het formuleren van de onderzoeksvraag, doelgericht literatuuronderzoek en coderen van software. Eén van de conclusies: AI helpt bij functionele taken, maar is nauwelijks in staat om onafhankelijk denken en wetenschappelijke creativiteit te ondersteunen.
Een mens blijft echt het verschil maken
Is dit gereedschap dan ook geschikt voor het schrijven van papers of proefschriften? Cai wil daar geen oordeel over geven, aangezien ze geen ervaring heeft met dat niveau van publiceren. Haar menselijke supervisor Bas Haring: “Voor zelfstandige promovendi kan AI iets extra’s bieden. Net als videobellen is AI een techniek die dingen versnelt. Bij begeleiding blijft een echt mens wel verschil maken. Zo’n gereedschap kan drie keer constateren dat de student een deadline niet heeft gehaald, maar dat maakt minder indruk dan een boze of verdrietige begeleider.”
Haring heeft nog geen verzoek ontvangen van andere studenten die AI als begeleider willen inzetten en hij zoekt geen vervolg. “Ik vond het eenmalig leuk met deze studente, maar ik ben niet van plan hier mijn werk van te maken door meer experimenten te doen of er een paper over te schrijven.”
Minder strikte eisen
De versnellingsbelofte valt slecht bij Felienne Hermans, hoogleraar vakdidactiek van de informatica bij de VU. Zij verzet zich stelselmatig tegen de bewieroking van AI en de publicatieranglijsten die de hoofdrol spelen bij het toekennen van onderzoeksbeurzen en promotieplaatsen. Ze ziet enkele hoopvolle ontwikkelingen: sommige universiteiten stellen minder strikte eisen aan het aantal publicaties bij een promotie, er is ruimte voor maatschappelijke academische activiteiten dankzij het landelijke programma Erkennen & Waarderen.
Wat ben je nog als je zegt dat een computer jouw expertise kan vervangen?
Het zijn kleine lichtpuntjes in een systeem dat zichzelf serieuzer moet nemen, vindt Hermans. “Het wetenschappelijk narratief is dat je veel papers moet schrijven. Het lijkt niet uit te maken wat je schrijft. Hoe kan zo’n systeem tot kwaliteit leiden?” Praat haar al helemaal niet over AI bij peer review: “Je bent wereldtop op jouw gebied als je peer review doet. Wat ben je nog als je zegt dat een computer jouw expertise kan vervangen?”
Er is geen gebrek aan kennis, maar aan wetenschappers die kennis overbrengen
Haar eigen publicaties heeft ze grotendeels verschoven naar kranten, tijdschriften en opiniërende platforms. “Er is geen gebrek aan kennis, maar aan wetenschappers die kennis overbrengen. Dat mazelen en kinkhoest terugkomen heeft niets te maken met een tekort aan kennis over vaccins. Als hoogleraar kun je ervoor kiezen om niet meer zoveel papers te schrijven en wel zo goed mogelijk de wereld beter te maken.”
Deelnemen aan de race
Beginnende academici moeten vooralsnog deelnemen aan de race, beseft ze. “Soms moet ik daarin mee. Ik kan geen promovendi begeleiden zonder het spel van peer review. Jonge wetenschappers moeten nog mee in de prestigemachine van de wetenschap. Maar ik ben teleurgesteld in de mensen van mijn leeftijd. Die kunnen er allemaal voor kiezen minder papers te schrijven.”
