Warum KI so überzeugend irren kann

Sprachliche Sicherheit ist kein Beleg

Ein Chatbot nennt eine Studie, ein Erscheinungsjahr und einen passend klingenden Titel. Alles wirkt vollständig – bis sich die Studie nicht finden lässt. Solche falschen oder erfundenen Inhalte werden häufig Halluzinationen genannt. Das US-amerikanische National Institute of Standards and Technology beschreibt das Problem in seinem Profil zu generativer KI als Konfabulation: falsche Inhalte, die mit überzeugendem Auftreten ausgegeben werden.

Fehler haben verschiedene Formen

Eine Antwort kann eine verbreitete Falschannahme übernehmen, Details vermischen oder Informationen ergänzen, die im Ausgangsmaterial fehlen. Die Forschungsarbeit TruthfulQA untersuchte bereits 2021, ob Sprachmodelle menschliche Irrtümer aus Texten nachahmen. Die damaligen Ergebnisse sind kein aktueller Produktvergleich. Sie zeigen aber, warum eine vertraut klingende Erklärung und eine zutreffende Erklärung unterschiedliche Dinge sind.

Für Leserinnen und Leser ist der Unterschied oft schwer zu erkennen: Auch eine falsche Aussage kann klare Sätze, Fachbegriffe und eine schlüssige Gliederung haben. Die Darstellungsqualität sollte deshalb getrennt von der sachlichen Richtigkeit bewertet werden.

Drei konkrete Kontrollen

Erstens: zentrale Behauptungen einzeln herauslösen. Bei einer Unternehmensnachricht wären das etwa das angekündigte Produkt, der Termin und die zugesagte Funktion. Zweitens: die Originalquelle öffnen und kontrollieren, ob sie die Behauptung wirklich trägt. Eine existierende URL allein genügt nicht. Drittens: Zahlen, Namen und Zitate direkt am Ausgangsmaterial abgleichen, bevor sie veröffentlicht oder weitergegeben werden.

Ein einfaches Beispiel: Die KI soll aus einem Protokoll Aufgaben zusammenstellen. Jede Aufgabe bekommt einen Verweis auf die entsprechende Passage. Gibt es dort keine verantwortliche Person oder keinen Termin, bleibt das Feld ausdrücklich offen. So fällt eine erfundene Ergänzung eher auf.

Unsicherheit gehört in die Antwort

Es ist sinnvoll, fehlende Belege und widersprüchliche Angaben ausdrücklich anzeigen zu lassen. Ein entsprechender Hinweis im Auftrag kann die Prüfung erleichtern, garantiert aber keine Fehlerfreiheit. Auch zwei ähnlich formulierte KI-Antworten sind keine unabhängige Bestätigung. Wenn eine Aussage eine Entscheidung trägt, sollte die Prüfung auf nachvollziehbare Quellen und bei Bedarf auf fachkundige Menschen zurückgreifen.