Generatieve AI Veroorzaakt Alarm in de Wetenschap nu Vervalste Data de Geloofwaardigheid Bedreigen

AI-gegenereerde afbeeldingen wekken grote zorgen op bij onderzoekers en uitgevers, omdat nieuwe generatieve AI-tools het verontrustend gemakkelijk maken om valse wetenschappelijke data en afbeeldingen te creëren, zoals opgemerkt in een persbericht van Nature.

Deze vooruitgang bedreigt de geloofwaardigheid van academische literatuur, met experts die vrezen voor een toename in AI-gedreven, vervaardigde studies die mogelijk moeilijk te identificeren zijn.

Jana Christopher, een beeldintegriteitsanalist bij FEBS Press in Duitsland, benadrukt dat de snelle evolutie van generatieve AI steeds meer zorgen oproept over het potentiële misbruik ervan in de wetenschap.

“De mensen die in mijn vakgebied werken – beeldintegriteit en publicatie-ethiek – maken zich steeds meer zorgen over de mogelijkheden die het biedt”, zei Jane zoals gerapporteerd door Nature.

Ze merkt op dat, hoewel sommige tijdschriften AI-gegenereerde tekst onder bepaalde richtlijnen kunnen accepteren, afbeeldingen en data gegenereerd door AI worden gezien als het overschrijden van een grens die de integriteit van het onderzoek diep kan beïnvloeden, zoals opgemerkt door Nature.

Het detecteren van deze door AI gecreëerde afbeeldingen is een primaire uitdaging geworden, zegt Nature. In tegenstelling tot eerdere digitale manipulaties, ontbreken er vaak aan AI-gegenereerde afbeeldingen de gebruikelijke tekenen van vervalsing, wat het moeilijk maakt om enige misleiding te bewijzen.

Beeldforensica specialist Elisabeth Bik en andere onderzoekers suggereren dat door AI-geproduceerde afbeeldingen, met name in de moleculaire en celbiologie, al aanwezig kunnen zijn in gepubliceerde literatuur, zoals gemeld door Nature.

Tools zoals ChatGPT worden nu regelmatig gebruikt voor het opstellen van artikelen, herkenbaar aan typische chatbot-zinnen die onbewerkt blijven, maar door AI gegenereerde afbeeldingen zijn veel moeilijker te herkennen. In reactie op deze uitdagingen ontwikkelen technologiebedrijven en onderzoeksinstituten detectietools, merkte Nature op.

AI-aangedreven tools zoals Imagetwin en Proofig lopen voorop door hun algoritmes te trainen om generatieve AI-content te identificeren. Volgens Proofig’s mede-oprichter Dror Kolodkin-Gal detecteert hun tool 98% van de tijd succesvol AI-afbeeldingen, maar hij merkt op dat menselijke verificatie cruciaal blijft om resultaten te valideren, aldus Nature.

In de uitgeverswereld gebruiken tijdschriften zoals Science Proofig voor initiële scans van inzendingen, en uitgeversgigant Springer Nature ontwikkelt eigen tools, Geppetto en SnapShot, voor het identificeren van onregelmatigheden in tekst en afbeeldingen, zoals gemeld door Nature.

Andere organisaties, zoals de International Association of Scientific, Technical and Medical Publishers, lanceren ook initiatieven om papierfabrieken te bestrijden en de integriteit van onderzoek te waarborgen, zoals gemeld door Nature.

Deskundigen waarschuwen echter dat uitgevers snel moeten handelen. Wetenschappelijke beeldspeurder Kevin Patrick maakt zich zorgen dat, als actie achterblijft, door AI gegenereerde inhoud nog een ander onopgelost probleem kan worden in wetenschappelijke literatuur, zoals gemeld door Nature.

Ondanks deze zorgen, blijven velen hoopvol dat toekomstige technologie zich zal ontwikkelen om de door AI gegenereerde misleidingen van vandaag te detecteren, waardoor een langetermijnoplossing wordt geboden om de integriteit van wetenschappelijk onderzoek te waarborgen.