In der Welt des wissenschaftlichen Publizierens galten Name und Ruf eines renommierten Fachverlags bislang als Garant für Qualität und Verlässlichkeit. Doch die fortschreitende Integration generativer Künstlicher Intelligenz (KI) in den Schreibprozess stellt dieses Vertrauen vor neue Zerreißproben. Jüngste Fälle zeigen: Selbst im Programm etablierter Verlage wie Springer Nature finden sich Publikationen, die gänzlich mithilfe von KI erstellt wurden und fehlerhafte Inhalte oder gar fiktive Zitationen enthalten.
Das Phänomen der Paper Mills und KI-Bücher
In Fachkreisen wird derzeit intensiv über Titel wie „
Social, Ethical and Legal Aspects of Generative AI“ diskutiert.
Analysen zufolge enthält dieses Werk Verweise auf Fachzeitschriften, die gar nicht existieren. Das Problem ist systemisch: Wo KI ohne gründliches menschliches Lektorat oder Peer-Review-Verfahren eingesetzt wird, droht eine Schwemme an minderwertiger Literatur. Dieser Fall erinnert in seiner Problematik an sogenannte Paper Mills, auch wenn renommierte Verlage wie Springer Nature hier eher durch unzureichende Filterprozesse in die Kritik geraten als durch vorsätzliche Täuschung. Paper Mills sind profitorientierte Unternehmen, die wissenschaftliche Arbeiten wie am Fließband produzieren, oft mit manipulierten Daten oder eben KI-generierten Inhalten, um sie gegen Gebühr in Fachzeitschriften unterzubringen. Diese Automatisierung inhaltlicher Fälschung stellt eine neue Stufe des wissenschaftlichen Fehlverhaltens dar, die nun auch etablierte Verlage unter Druck setzt.
Wie reagieren Datenbankanbieter?
Die Identifizierung und Kennzeichnung solcher fehlerhaften Werke (Retractions) sind für Bibliotheken und Forschende eine frustrierende Mammutaufgabe. Die großen Datenbankanbieter haben jedoch bereits Strategien entwickelt: So setzt EBSCO verstärkt auf sogenannte „Rückzugsindikatoren“. In den entsprechenden Datenbanken werden zurückgezogene Artikel gekennzeichnet, um Nutzende bereits während der Recherche auf Unstimmigkeiten hinzuweisen. Ein Beispiel für solch einen Artikel findet sich im
Online-Katalog KAI. Der Anbieter Clarivate geht als Betreiber des Central Discovery Index (CDI) einen Schritt weiter: Durch eine
Kooperation mit der Plattform Retraction Watch werden Datensätze in der Web of Science Core Collection mit detaillierten Rückzugsbegründungen angereichert. Zudem hat Clarivate angekündigt, Zitationen aus zurückgezogenen Artikeln nicht mehr für die Berechnung des Journal Impact Factors zu berücksichtigen. Der Verlag Elsevier verfolgt eine „
Null-Toleranz-Politik“ gegenüber KI-generierter Literatur: KI-Systeme können keine Autorenschaft beanspruchen. Da sie keine juristischen Personen sind, ist eine Haftung für ihre Aussagen ausgeschlossen – die volle Verantwortung für jeden veröffentlichten Satz muss folglich zwingend bei einem Menschen liegen. Vollständig KI-generierte Texte führen daher zur sofortigen Ablehnung oder Retraction. Erlaubt bleibt die KI-gestützte Textoptimierung (z. B. der Sprache), sofern diese transparent in einem
Disclosure Statement offengelegt wird. Zur Sicherung der Datenbanken Scopus und ScienceDirect setzt der Verlag zudem auf automatisierte Detection-Tools, die unnatürliche Formulierungen (tortured phrases) oder manipulierte Bilddaten bereits im Begutachtungsprozess identifizieren sollen.
Was bedeutet das für Hochschulen?
Die Bibliothek der Fachhochschule Südwestfalen verfolgt diese Entwicklungen sehr genau. Angesichts der Menge an Titeln, die über E-Book-Pakete lizenziert werden, ist eine manuelle Prüfung weder personell noch inhaltlich realisierbar: Uns fehlen hierfür einerseits die Kapazitäten, um die Vielzahl an Neuerscheinungen zu sichten, andererseits auch die notwendige fachliche Expertise für eine fundierte Beurteilung. Wir verlassen uns daher auf die technischen Filtermechanismen der Anbieter sowie auf die enge Kooperation mit dem Hochschulbibliothekszentrum (hbz), das betroffene Datensätze bereits auf Zentralebene bereinigt, sofern diese bekannt sind. Dennoch ist eine gesteigerte Sensibilität bei der Literaturrecherche für Forschende und Studierende unerlässlich.
Unser Appell
Nutzen Sie KI-Tools als Unterstützung, aber bleiben Sie bei der Quellenarbeit kritisch. Ein Treffer in einem bekannten Verlag ist heute leider nicht mehr automatisch ein Siegel für inhaltliche Korrektheit. Prüfen Sie insbesondere den Ursprung von Zitationen sowie ihre Validität. Die Integrität der Wissenschaft hängt mehr denn je von Ihrer Informationskompetenz ab.