In der Welt des wissenschaftlichen Publizierens galten Name und Ruf eines renommierten Fachverlags bislang als Garant für Qualität und Verlässlichkeit. Doch die fortschreitende Integration generativer Künstlicher Intelligenz (KI) in den Schreibprozess stellt dieses Vertrauen vor neue Zerreißproben und fordert von Forschenden eine höhere Wachsamkeit. Jüngste Fälle zeigen: Selbst im Programm etablierter Verlage wie Springer Nature finden sich Publikationen, die gänzlich mithilfe von KI erstellt wurden und fehlerhafte Inhalte oder gar fiktive Zitationen enthalten.
Eigenverantwortung im Zeitalter von Paper Mills und KI-Büchern
In Fachkreisen wird derzeit intensiv über Titel wie „Social, Ethical and Legal Aspects of Generative AI“ diskutiert.
Analysen zufolge enthält dieses Werk Verweise auf Fachzeitschriften, die gar nicht existieren. Das Problem ist systemisch: Wo KI ohne gründliches menschliches Lektorat oder Peer-Review-Verfahren eingesetzt wird, droht eine Schwemme an minderwertiger Literatur. Dieser Fall erinnert in seiner Problematik an sogenannte Paper Mills, auch wenn renommierte Verlage wie Springer Nature hier eher durch unzureichende Begutachtungsprozesse in die Kritik geraten als durch vorsätzliche Täuschung. Paper Mills hingegen produzieren massenhaft wissenschaftliche Arbeiten, oft mit manipulierten Daten oder eben KI-generierten Inhalten, um sie gegen Gebühr in Fachzeitschriften unterzubringen. Diese Automatisierung inhaltlicher Fälschung macht es für die Forschungsgemeinschaft notwendig, die Integrität ihrer Quellen noch sorgfältiger zu prüfen.
Flankierende Unterstützung durch Datenbankanbieter und Bibliotheken
Die Identifizierung und Kennzeichnung solcher fehlerhaften Werke (Retractions) sind für Bibliotheken und Forschende eine frustrierende Mammutaufgabe. Zur Unterstützung halten die großen Datenbankanbieter jedoch bereits Strategien bereit: So setzt EBSCO verstärkt auf sogenannte „Rückzugsindikatoren“. In den entsprechenden Datenbanken werden zurückgezogene Artikel gekennzeichnet, um Nutzende bereits während der Recherche auf Unstimmigkeiten hinzuweisen. Ein Beispiel für solch einen Artikel findet sich im
Online-Katalog KAI. Der Anbieter Clarivate geht als Betreiber des Central Discovery Index (CDI) einen Schritt weiter: Durch eine
Kooperation mit der Plattform Retraction Watch werden Datensätze in der Web of Science Core Collection mit detaillierten Rückzugsbegründungen angereichert. Zudem hat Clarivate angekündigt, Zitationen aus zurückgezogenen Artikeln nicht mehr für die Berechnung des Journal Impact Factors zu berücksichtigen. Der Verlag Elsevier verfolgt eine „
Null-Toleranz-Politik“ gegenüber KI-generierter Literatur: KI-Systeme können keine Autorschaft beanspruchen. Da sie keine juristischen Personen sind, ist eine Haftung für ihre Aussagen ausgeschlossen – die volle Verantwortung für jeden veröffentlichten Satz muss folglich zwingend bei einem Menschen liegen. Vollständig KI-generierte Texte führen daher zur sofortigen Ablehnung oder Retraction. Erlaubt bleibt die KI-gestützte Textoptimierung (z. B. der Sprache), sofern diese transparent in einem
Disclosure Statement offengelegt wird. Zur Sicherung der Datenbanken Scopus und ScienceDirect setzt der Verlag zudem auf automatisierte Detection-Tools, die unnatürliche Formulierungen (tortured phrases) oder manipulierte Bilddaten bereits im Begutachtungsprozess identifizieren sollen.
Flankierende Services der Bibliothek
Die Bibliothek der Fachhochschule Südwestfalen verfolgt diese Entwicklungen sehr genau. Angesichts der Menge elektronischer Titel, die über E-Book-Pakete lizenziert werden, ist eine inhaltliche Prüfung nicht realisierbar: Die bibliothekarische Expertise liegt in der Bereitstellung der Infrastruktur und Medien, nicht in der fachwissenschaftlichen Bewertung hochspezialisierter Inhalte. Unsere Rolle ist daher eine flankierende Unterstützung der Wissenschaft. Wir stellen die benötigten Medien bereit und wirken auf technischer Ebene an der Qualitätssicherung mit: Wir nutzen die technische Filtermechanismen der Anbieter, um die Qualität der lizenzierten Ressourcen zu sichern. Durch die enge Kooperation mit dem Hochschulbibliothekszentrum (hbz) werden bereits bekannte, fehlerhafte Datensätze auf Zentralebene bereinigt, sofern diese bekannt werden. Zuletzt stellen wir sicher, dass Rückzugshinweise und Korrekturen der Verlage in unseren Systemen, wie dem Online-Katalog KAI, für Sie transparent und sichtbar werden.
Unser Appell
Die endgültige Verantwortung für die Auswahl und Validierung von Quellen liegt bei den Forschenden selbst. Folglich ist eine gesteigerte Sensibilität bei der Literaturrecherche unerlässlich. Bleiben Sie bei der Quellenarbeit kritisch, gerade wenn Sie KI-Tools zur Unterstützung nutzen: Ein Treffer in einem bekannten Verlag ist heute leider nicht mehr automatisch ein Siegel für inhaltliche Korrektheit. Prüfen Sie insbesondere den Ursprung von Zitationen sowie ihre Validität. Die Integrität der Wissenschaft hängt mehr denn je von Ihrer individuellen Informationskompetenz ab.