Wenn von „der KI“ die Rede ist, steckt meist ein ganzes System dahinter. Es hilft, sich vier Teile vorzustellen. Dann wird klar, was ein KI-Assistent kann, wo er Fehler macht und an welcher Stelle Ihre Daten im Spiel sind.

Das Gehirn: das Sprachmodell

Ein Sprachmodell (englisch LLM) ist eine Art sehr kluge Wortvorhersage. Es wurde mit Milliarden Texten trainiert und rät, welches Wort als Nächstes passt. Das Modell ist eine große Datei, die man herunterladen und austauschen kann. Über Ihre Organisation weiß es nichts, außer dem, was Sie ihm geben.

Die Hände: das Werkzeug drumherum

Das Gehirn allein kann keine Datei öffnen. Dafür braucht es ein Programm, das Dateien liest, sucht und Ergebnisse schreibt. Fachleute nennen das Harness. Wichtig: Dieses Programm entscheidet, welche Daten das Modell überhaupt zu sehen bekommt. Hier stellen Sie Sicherheit ein.

Der Bibliothekar: die Suche

Damit das Modell auf Ihre Unterlagen zugreifen kann, sucht ein weiterer Baustein die passenden Stellen heraus und legt sie dem Modell vor. Das Verfahren heißt RAG, auf Deutsch etwa „Antwort mit nachgeschlagenen Quellen“.

Der Aktenschrank: Ihr Wissen

Am Ende ist die KI nur so gut wie die Unterlagen, auf die sie zugreift. Gut sortierte, geprüfte Notizen und Dokumente sind der wichtigste Teil des Systems.

Was das für Ihre Entscheidung bedeutet

Das Gehirn kann in der Cloud oder lokal auf Ihrem eigenen Rechner laufen. Hände, Bibliothekar und Aktenschrank können in beiden Fällen bei Ihnen bleiben. Welche Variante passt, hängt davon ab, wie sensibel Ihre Daten sind.