Wie erkenne ich erfundene Quellenangaben in einem KI-Ergebnis?

In Kürze

Eine erfundene Quellenangabe sieht aus wie eine echte: Drucksachennummer, Wahlperiode und Sitzungsnummer stehen korrekt nebeneinander. Erkennen lässt sie sich erst beim Nachschlagen im amtlichen Register. Dieser Artikel erklärt, wie man dabei im Kontext von Public Affairs in 3 Schritten vorgehen kann.

Wichtige Erkenntnisse

• Eine erfundene Quellenangabe fällt erst beim Nachschlagen im amtlichen Register auf, beim Lesen bleibt sie unsichtbar.
• Eine Studie von Stanford und Yale zu Rechts-KI-Systemen aus den USA zeigt: 17 bis 33 Prozent der Belege sind erfunden oder verfehlen die Aussage.
• Geprüft wird gegen das Register, nicht gegen die Suchmaschine: DIP, Lobbyregister und EUR-Lex sind die Nachweisorte für Bund und EU.
• Empfohlen wird, alles, was das Haus verlässt, über alle 3 Stufen zu prüfen: alles, was an Kunden, Partner oder die Öffentlichkeit geht.

Woran erkennt man eine erfundene Quellenangabe?

Eine erfundene Quellenangabe fällt beim Lesen nicht auf. Sie ist so aufgebaut wie eine echte, besteht aber aus falschen Zahlen und Fundstellen. Wer sie erkennen will, muss in der Quelle selber nachschlagen, und das kostet Aufwand. Deshalb lohnt es sich, die Prüfung in Stufen zu denken, die im Aufwand steigen.

1. Existiert die Quelle überhaupt? Eine Drucksachennummer, ein Protokoll, ein Registereintrag wird im zuständigen Register gesucht. Diese Stufe kostet Sekunden.
2. Enthält die Quelle die zitierte Fundstelle? Das Dokument liegt vor, aber Seite, Absatz oder Passagennummer passen nicht.
3. Trägt die Fundstelle die Aussage, die ihr zugeschrieben wird? Das Dokument sagt etwas anderes, oder es wird mehr hineingelesen, als drinsteht.

Die Existenzprüfung deckt nur die ersten zwei Stufen ab, nicht die dritte. Eine Quelle kann existieren und die zitierte Stelle enthalten, ohne die Aussage zu tragen. Wie häufig solche Fehler entstehen, misst eine Studie von Forschenden der Stanford University und der Yale University, erschienen im Journal of Empirical Legal Studies1. Sie hat Rechts-KI-Systeme aus den USA getestet, also Recherchesysteme, die auf die eigenen Datenbestände ihrer Anbieter zugreifen und kommt zu dem Ergebnis, dass diese Systeme in 17 bis 33 Prozent der Fälle falsche Angaben machen2. Ein Teil dieser Fehler ist subtiler als eine frei erfundene Fundstelle: Die Quelle existiert, aber sie stützt die zitierte Aussage nicht, was die Studie als fehlende Fundierung zählt. Gemessen wurde an US-amerikanischer Rechtsrecherche, auf Public Affairs in Deutschland ist der Befund nur bedingt übertragbar. Aufschluss gibt die Studie trotzdem, weil sie zeigt, welche Art von Fehlern entsteht.

Warum wirkt eine erfundene Quelle im Politikbetrieb echt?

Jedes Zitat im politischen Verfahren folgt einem Muster, das sich nachbilden lässt. Eine Bundestagsdrucksache trägt eine Nummer nach dem Schema Wahlperiode/Laufnummer. Ein Plenarprotokoll kommt mit Wahlperiode und Sitzungsnummer, eine Ausschussdrucksache mit ihrem eigenen Zusatz. Ein Registereintrag im Lobbyregister hat eine Registernummer, ein Ratsdokument eine Dokumentnummer mit Kürzel und laufender Nummer. Wer diese Muster kennt, kann sie vervollständigen, auch wenn das konkrete Dokument nie existiert hat. Sichtbar wird der Unterschied deshalb nicht am Text, sondern erst beim Nachschlagen, und das erfordert einen Wechsel in ein anderes Register. Diesen Wechsel überspringt eine flüchtige Kontrolle. Solange niemand im Register prüft, liest sich die erfundene Fundstelle wie eine echte.

Das Kammergericht Berlin hat einen Fall entschieden, in dem genau das passiert war (Beschl. v. 20.11.2025, Az. 17 WF 144/25). In einem Schriftsatz zitierte eine Anwältin eine BGH-Entscheidung mit Datum und Aktenzeichen samt Zeitschriftenfundstelle, vollständig und plausibel. Der Senat stellte nach eigener Recherche in Datenbanken fest, dass die angeführte Entscheidung nicht existiert und sich an der genannten Fundstelle auch keine inhaltlich passende Entscheidung findet3.

Wo prüft man nach, ob Quellenangaben erfunden sind?

Nachgeschlagen wird immer dort, wo ein Dokument im Original liegt. Jede Belegform des politischen Verfahrens wird in einem Register geführt, und gegen dieses Register wird geprüft. Entscheidend ist nicht, wer ein Dokument erwähnt, sondern wer es führt. Welches Register das passende ist, hängt vom Arbeitsfeld ab. Für Public Affairs sind die folgenden Register auf Bundes- und EU-Ebene relevant.

Belegform	Amtlicher Nachweisort
Drucksachen, Plenarprotokolle, Vorgänge und Aktivitäten des Bundestages	DIP, das Dokumentations- und Informationssystem des Bundestages, das dafür auch eine Schnittstelle bereitstellt
Registereinträge von Interessenvertretungen	Das Lobbyregister beim Deutschen Bundestag, dessen Eintragungen und Textinhalte nach § 4 Absatz 2 Lobbyregistergesetz maschinenlesbar und mit einer Suchfunktion veröffentlicht werden
Europäische Rechtsakte und Verfahrensstände	EUR-Lex, die Datenbank für europäisches Recht

Eine Suchmaschine hilft bei der Prüfung nicht weiter. Wer eine erfundene Nummer dort eintippt, findet möglicherweise genau die KI-Antwort, die sie erfunden hat. Das Dokument selbst liegt nur im Register.

Was muss ein KI-Ergebnis mitliefern, damit die Prüfung möglich ist?

Prüfen lässt sich ein KI-Ergebnis nur, wenn es die Angaben selbst mitliefert, gegen die man nachschlägt. Diese Punkte lassen sich am Ergebnis ablesen, ohne dass es auf das Produkt dahinter ankommt.

• Bei jeder Aussage steht die Herkunft dabei, samt Entscheidungsweg und Annahmen. Der Leser kann nachvollziehen, warum eine Quelle herangezogen wurde.
• Der unveränderte Quellentext ist zugänglich. Der Leser verlässt sich nicht auf eine Paraphrase, sondern liest selbst nach.
• Das Ergebnis trennt, was die Quelle belegt, was jemand daraus schließt und was für die Zukunft erwartet wird. Der Leser muss diese Unterscheidung nicht selbst vornehmen.
• Der Inhalt ist als KI-Erzeugnis gekennzeichnet.

Diese Kennzeichnung ist nicht nur für die Quellenprüfung wichtig, sondern auch rechtlich verbindlich. Artikel 50 Absatz 2 der KI-Verordnung 2024/1689 verlangt, dass Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, sicherstellen, dass die Ausgaben in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Für veröffentlichten Text gilt nach Artikel 50 Absatz 4 eine Ausnahme: Die Offenlegungspflicht entfällt, wenn die Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.

Wie GovernLens das löst

Bis hierher liegt die Prüfung beim Leser: nachschlagen, vergleichen, einschätzen. GovernLens wertet die amtlichen Quellen von Bundes- und EU-Ebene aus und hält zu jeder Aussage den wortgenauen Verweis auf Drucksache, Protokoll oder Stellungnahme fest. Der Leser springt nicht von Vermutung zu Vermutung, sondern kann direkt in der App ein Zitat am Originaltext überprüfen.

• Jedes Zitat in GovernLens wird geprüft, bevor es angezeigt wird: Die zitierte Passage muss wortgenau im Quelltext stehen, sonst entfernt das System den Beleg.
• Die Plattform trennt strikt zwischen Fakten und Annahmen: Antworten stützen sich auf geprüfte Quellen, und fehlende Daten werden offen benannt, anstatt überspielt zu werden.
• Der Quelltext ist einen Klick entfernt: Jede Angabe öffnet die Originalquelle mit der zitierten Stelle, sodass sich Belege jederzeit verifizieren lassen, ohne die Plattform zu verlassen.
• Jede Anfrage greift auf unsere eigene Wissensdatenbank zu: Antworten stützen sich auf einen gepflegten Bestand an Primärquellen, nicht auf eine einfache Websuche. Bei Bedarf gibt es die Möglichkeit weitere Informationen durch eine Websuche zu finden. Hier sorgt eine umfassende Liste verifizierter und gesperrter Quellen dafür, dass nur seriöse Daten in die Antworten gelangen.

Damit läuft die Prüfung aus den 3 Stufen im System, bevor eine Antwort beim Nutzer ankommt. Wer im politischen Betrieb auf KI-Ergebnisse setzt, erhält mit GovernLens Belege, die diese Prüfung bereits bestanden haben.