Eine KI antwortet fast immer selbstbewusst, auch wenn sie falsch liegt. Das gilt für Cloud-Modelle genauso wie für lokale. Fachleute nennen das Halluzination.

Ursache 1: Es liegt nichts Passendes auf dem Tisch

Ein Sprachmodell kennt nur, was es gelernt hat und was Sie ihm in der Anfrage mitgeben. Fragen Sie nach dem Mitgliedsbeitrag Ihres Vereins und geben keine Quelle mit, wird das Modell raten. Die Antwort klingt plausibel, kann aber falsch sein.

Ursache 2: Etwas Falsches liegt auf dem Tisch

Enthalten Ihre Unterlagen widersprüchliche oder veraltete Angaben, liest die KI diese Fehler mit. Wenn von fünf Dokumenten eins falsch ist, kann sie die falsche Fassung wiedergeben.

Das Kontextfenster: der begrenzte Schreibtisch

Ein Modell kann nur eine begrenzte Menge Text gleichzeitig berücksichtigen. In sehr langen Chats fällt früher Gesagtes herunter, und die Fehler häufen sich. Bei einem neuen Thema ist ein neuer Chat meist besser.

Was Sie tun können

Lassen Sie sich Quellen nennen und prüfen Sie wichtige Angaben nach. Legen Sie nur geprüfte Inhalte als Grundlage bereit. Und behandeln Sie KI-Antworten als Entwurf, nicht als Wahrheit.