Datenqualität

Wenn eine KI-Antwort eine Zahl erfindet: Stille Fehler in Anlagethesen

Sprachmodelle formulieren Anlagethesen in Sekunden. Sie warnen nicht, wenn eine Zahl erfunden ist. Dieser Artikel beschreibt, wie eine Redaktion solche stillen Fehler erkennt.

Bildschirm mit Kursdaten und Aktienchart — Ein Kurschart zeigt eine vergangene Entwicklung, keine Zukunft. Eine KI-Antwort zeigt nicht einmal verlässlich die Vergangenheit.

Eine Antwort, die plausibel klingt

Ein Leser schickte uns den Mitschnitt einer Unterhaltung mit einem Sprachmodell. Die Frage lautete: Wie hoch war die Eigenkapitalquote von Unternehmen X im Geschäftsjahr 2023? Die Antwort nannte eine Prozentzahl, dazu eine knappe Erläuterung, wie sich die Quote gegenüber dem Vorjahr verändert habe. Der Tonfall war nüchtern, die Zahl wirkte konkret.

Wir haben die Zahl nachgeprüft. Das Unternehmen hatte im Geschäftsjahr 2023 keine Eigenkapitalquote in diesem Bereich ausgewiesen, weil es in diesem Jahr nach einer Kapitalerhöhung einen Übergangsbericht veröffentlichte, der die Angabe anders gliederte. Die KI-Antwort war nicht falsch im Sinne einer Tippfehler. Sie war erfunden — und sie sah aus wie eine geprüfte Angabe.

Warum es keine Warnung gibt

Sprachmodelle sind keine Datenbanken. Sie erzeugen den nächsten wahrscheinlichsten Text auf der Grundlage ihrer Trainingsdaten. Wenn eine konkrete Zahl in den Trainingsdaten nicht enthalten war, wird eine plausible Zahl erzeugt. Es gibt keinen internen Schalter, der sagt: Hier fehlt eine Quelle. Das Modell weiß nicht, was es nicht weiß.

Für einen Text über das Wetter am Wochenende ist das folgenlos. Für eine Anlagethese ist es nicht folgenlos. Wer eine Entscheidung auf eine erfundene Eigenkapitalquote stützt, entscheidet sich für ein Risiko, das er nicht sehen kann.

Was eine redaktionelle Gegenprüfung tut

Die Gegenprüfung hat in diesem Fall drei Schritte:

Originallieferstelle aufsuchen. Die Zahl wird nicht in der Zweitverwertung, sondern im Geschäftsbericht des Unternehmens gesucht. Steht die Angabe dort? In welcher Gliederung?
Definition klären. Eigenkapitalquote kann sich auf das bilanzielle Eigenkapital, auf das Kernkapital nach regulatorischer Definition oder auf eine harte Kernkapitalquote beziehen. Drei Zahlen, ein Begriff.
Stand festhalten. Die Zahl gilt für ein Geschäftsjahr, für einen Stichtag und für eine bestimmte Währung. Bleibt eine dieser drei Angaben offen, ist die Angabe nicht tragbar.

Im Leserbeispiel war die Angabe in Schritt 1 nicht auffindbar. Die KI-Antwort blieb ohne Quelle. Die redaktionelle Gegenprüfung bestand darin, das zu dokumentieren und die These nicht zu verwenden.

Was Leserinnen und Leser tun können

Wer eine KI-Antwort mit einer konkreten Zahl liest, kann drei Fragen stellen:

Steht diese Zahl in der Originallieferstelle, also im Geschäftsbericht, in der Behördenstatistik oder im Börsendaten-Feed?
Welche Definition liegt der Zahl zugrunde?
Auf welchen Stichtag bezieht sich die Zahl?

Bleibt eine der drei Fragen offen, ist die Angabe nicht mehr als eine Vermutung. Das sagt nichts gegen ein Modell. Es beschreibt, was ein Modell leistet und wo seine Grenze liegt.

Fazit

Stille Fehler sind Fehler, die nicht als Fehler erscheinen. Eine Redaktion kann sie sichtbar machen, indem sie die Quelle aufsucht, die Definition klärt und den Stand festhält. Das ist langsamer als eine Modellantwort. Es ist auch verlässlicher.