NEWS

Springer Nature stellt zwei neue KI-Werkzeuge
zum Schutz der Forschungsintegrität vor

Geppetto und SnappShot leisten einen wichtigen Beitrag dazu, die Veröffentlichung gefälschter Forschungsergebnisse zu verhindern.

Die Wissenschaft leidet zunehmend unter der steigenden Zahl von Betrugsfällen bei Forschungsarbeiten. Deshalb führt Springer Nature nach erfolgreichen Pilotversuchen zwei neue maßgeschneiderte Werkzeuge ein, die auf Künstlicher Intelligenz basieren. Diese unterstützen die Identifizierung von Publikationen, die KI-generierte gefälschte Inhalte oder problematische Bilder enthalten. Dies sind zwei Indikatoren dafür, dass Probleme mit der wissenschaftlichen Integrität vorliegen.

Das eine Tool, Geppetto, wurde in Zusammenarbeit mit der Wissenschaftssparte von Slimmer AI entwickelt, die Springer Nature 2023 übernommen hat. Es erkennt KI-generierte Inhalte, die ein klassisches Anzeichen für das Wirken sogenannter Paper Mills sind.

Geppetto unterteilt Forschungsarbeiten in Abschnitte und prüft mit eigenen Algorithmen die Konsistenz des Textes im jeweiligen Abschnitt. Die Abschnitte erhalten dann eine Punktzahl, die sich nach der Wahrscheinlichkeit richtet, dass der Text von einer künstlichen Intelligenz erzeugt wurde. Je höher die Punktzahl, desto größer ist die Wahrscheinlichkeit, dass es Probleme gibt. Daraufhin wird eine menschliche Überprüfung durch Mitarbeitende von Springer Nature eingeleitet. Geppetto hat bereits Hunderte von gefälschten Beiträgen kurz nach der Einreichung identifiziert und verhindert, dass sie veröffentlicht werden. So konnte das Tool Redakteur*innen und Peer-Reviewer*innen wertvolle Zeit ersparen.

SnappShot, ebenfalls eine Eigenentwicklung, ist ein KI-gestütztes Programm zur Analyse der Bildintegrität. SnappShot wird derzeit zur Analyse von PDF-Dateien mit Gel- und Blot-Bildern und zur Suche nach Duplikaten in diesen Bildtypen eingesetzt – ein weiteres bekanntes Muster bei Betrugsfällen in der Wissenschaft. Künftig soll SnappShot auf weitere Bildtypen und Integritätsprobleme ausgedehnt werden, um die Überprüfung von Forschungsarbeiten zu beschleunigen.

Wie bei Geppetto trifft SnappShot nicht die Entscheidung, ob ein Beitrag die nächste Stufe des Redaktionsprozesses durchläuft, sondern gibt ein Signal, ob eine menschliche Bewertung der Bilder erforderlich ist. Das Tool trägt nicht nur dazu bei, die Veröffentlichung doppelter oder manipulierter Daten zu vermeiden, sondern unterstützt auch ein sinnvolles Feedback für Autor*innen zu ihren Abbildungen. Das gilt beispielsweise für den Fall, dass Abbildungen versehentlich dupliziert wurden. So trägt SnappShot zu höheren Standards in der Forschungspraxis und im Datenmanagement bei.

Chris Graf, Research Integrity Director bei Springer Nature, sagte dazu:

„Die Verlagsbranche sieht sich einer entschlossenen, vorsätzlichen Bedrohung durch Paper Mills und betrügerische Akteure ausgesetzt, die gefälschte Forschungsartikel mit fingierten Daten einreichen. Wir sind fest entschlossen, diese Inhalte nicht durch unsere Systeme dringen zu lassen.”

Diese KI-Werkzeuge sind zwei von mehreren, die derzeit intern entwickelt werden. Sie sind Teil der laufenden Bemühungen von Springer Nature, die Integrität der veröffentlichten Inhalte zu gewährleisten. Dazu gehören Investitionen in ein schnell wachsendes Expert*innenteam und eine umfangreiche Technologieentwicklung. Springer Nature engagiert sich auch für eine kontinuierliche Zusammenarbeit mit der breiteren Verlagsgemeinschaft im Rahmen des STM Integrity Hub, der den Wissens- und Datenaustausch erleichtert und gemeinsame Technologie-Tools entwickelt.

springernature.com/de/group