KI-Chatbots können Fakten, Zitate, Urteile oder Quellen erfinden, weil große Sprachmodelle vorhersagen, welche Textteile wahrscheinlich zusammenpassen. Sie besitzen kein eingebautes Wahrheitsgefühl. Suchzugriff, Werkzeuge und gute Daten können Fehler reduzieren, aber nicht vollständig ausschließen.
Warum Plausibilität wie Wissen klingt
Beim Training lernt ein Modell statistische Muster aus großen Textmengen. Auf eine Frage erzeugt es Schritt für Schritt eine passende Fortsetzung. Wenn eine seltene Information fehlt, kann das Modell aus ähnlichen Mustern eine scheinbar stimmige Antwort zusammensetzen. Genau hier entsteht die Halluzination: Form und Zusammenhang wirken korrekt, doch die konkrete Behauptung hat keine Grundlage. Lange Gespräche, unklare Fragen und der Druck, immer zu antworten, können das Risiko erhöhen.
Ein Chatbot kann den Ton von Gewissheit perfekt nachbilden, ohne Gewissheit zu besitzen.
Was das in deinem Alltag verändert
Bei Ideen, Umformulierungen oder Struktur hilft ein gelegentlicher Fehler oft wenig. Bei Gesundheit, Recht, Geld, Nachrichten und wissenschaftlichen Quellen kann er entscheidend sein. Besonders gefährlich sind erfundene Details, die gut in das eigene Vorwissen passen. Wer die Antwort direkt weiterverwendet, überträgt nicht nur Text, sondern auch unsichtbare Unsicherheit.
Was du konkret tun kannst
Bitte um konkrete Quellen und öffne sie tatsächlich. Prüfe Namen, Datum, Zitat und zentrale Zahl bei der Originalstelle. Formuliere Fragen eng und gib verlässlichen Kontext mit. Fordere das Modell auf, Unsicherheit und alternative Erklärungen zu markieren – aber behandle auch diese Selbsteinschätzung nicht als Garantie. Für wichtige Entscheidungen bleibt eine fachkundige oder primäre Quelle notwendig.
Die wichtige Grenze
Nicht jede falsche KI-Antwort ist eine Halluzination; manchmal ist die Quelle veraltet, die Frage mehrdeutig oder die Berechnung fehlerhaft. Umgekehrt kann eine Antwort ohne Quellen korrekt sein. Die sinnvolle Haltung ist weder blindes Vertrauen noch pauschale Ablehnung, sondern eine Prüfung proportional zum möglichen Schaden.
