Quellenbindung (Source Grounding)

Ausführliche Erklärung

Große Sprachmodelle wie GPT oder Claude sind darauf trainiert, wahrscheinliche Textfortsetzungen zu erzeugen – sie berechnen Muster, prüfen aber keine Fakten. Ohne Quellenbindung neigen sie zu sogenannten Halluzinationen: Das Modell generiert plausibel klingende, aber faktisch falsche Aussagen. Quellenbindung löst dieses Problem, indem das System zur Laufzeit relevante Informationen aus vertrauenswürdigen Quellen abruft und die Modellantwort explizit darauf stützt. Das Ergebnis ist nachvollziehbar, aktuell und weniger fehleranfällig.

In Unternehmen ist Quellenbindung besonders wichtig, wenn KI-Systeme auf interne Unternehmensdaten, rechtliche Vorgaben oder aktuelle Produktinformationen zugreifen sollen. Ein Kundensupport-Bot muss beispielsweise auf die tatsächliche Produktdokumentation verweisen können, nicht auf veraltetes Wissen aus dem Trainingsstand. Ebenso benötigen Assistenzsysteme im Controlling Zugriff auf aktuelle Zahlen aus dem ERP-System statt geschätzte Werte.

Die gängigste Methode zur Quellenbindung ist Retrieval-Augmented Generation (RAG): Vor der Antwort durchsucht das System eine Wissensbasis (z. B. Vektordatenbank, Dokumentenarchiv, API), reichert den Prompt mit den gefundenen Passagen an und fordert das Modell auf, nur auf Basis dieser Quellen zu antworten. Idealerweise gibt das System die verwendeten Quellen transparent aus, sodass Anwenderinnen und Anwender die Antwort prüfen können.

Quellenbindung reduziert nicht nur Halluzinationen, sie macht KI-Systeme auch wartbar: Wenn sich Geschäftsregeln oder Produktdaten ändern, müssen Sie nicht das Modell neu trainieren, sondern nur die Datenquelle aktualisieren. Allerdings gilt: Schlechte Quellen führen zu schlechten Antworten. Ist die angebundene Dokumentation veraltet oder fehlerhaft, wird das Modell falsche Informationen mit Quellenangabe ausgeben – was unter Umständen gefährlicher ist als eine erkennbare Halluzination.