Retrieval-Augmented Generation (Wissensgestützte KI-Antworten)

Auch: Retrieval-Augmented Generation, RAG, Wissensgestützte KI-Antwort, Vektor-Retrieval, Quellenbasierte Generierung

Ein Verfahren, das ein Sprachmodell an das echte Wissen eines Unternehmens koppelt: Vor jeder Antwort werden die wenigen wirklich relevanten Passagen aus einer Wissensbasis abgerufen und mitgegeben — die KI antwortet aus belegten Quellen, nicht aus dem Gedächtnis.

Kategorie: Digitalisierung & KI Autor: Pereta

Kern-Logik

Ein Sprachmodell allein kennt das eigene Unternehmen nicht — es rät plausibel, aber ohne Bezug zu den echten Preisen, Verträgen und Prozessen. Der naive Ausweg, einfach ein ganzes PDF oder viel Text in den Prompt zu kippen, funktioniert nicht: Er ist teuer, überfüllt den Kontext und verwässert die Antwort. Retrieval-Augmented Generation löst das sauber, indem es nur das Relevante gezielt heranholt.

Der Aufbau der Wissensbasis:

1. Extrahieren und bereinigen. Das Unternehmenswissen wird aus seinen Quellen gezogen und von Ballast befreit.
2. In überlappende Chunks teilen. Der Text wird in kleine, sich leicht überlappende Abschnitte zerlegt, damit kein Zusammenhang an einer harten Kante zerreißt.
3. Einbetten und speichern. Jeder Chunk wird in einen Vektor übersetzt und in einer Vektordatenbank abgelegt — durchsuchbar nach Bedeutung, nicht nur nach Stichwort.

Der Ablauf bei einer Frage:

• Es werden nur die drei bis fünf relevantesten Passagen abgerufen — nicht der ganze Bestand.
• Diese Passagen gehen mit Quellenangabe an das Modell, das daraus die Antwort formt.

Genau das trennt RAG vom bloßen Kontext-Stuffing: nicht alles hineinkippen, sondern das Wenige gezielt heranholen. Das Ergebnis ist eine Antwort, die belegbar aus dem eigenen Wissen stammt und ihre Quelle nennen kann — die Grundlage für Vertrauen in KI-Auskünfte.

Für eine Agentur ist RAG das Herzstück jeder ernsthaften KI-Lösung mit Unternehmenswissen — und ein konkretes Digitalisierungsangebot für KMU, die aus ihrem verstreuten Wissen eine verlässliche Auskunft machen wollen (siehe lex-ki-betriebssystem).

Konkrete Anwendungen

• KMU-Wissensauskunft (Pereta-ICP): Angebote, Datenblätter und Prozessdokumente werden zur durchsuchbaren Basis, aus der ein Assistent belegte Antworten gibt statt zu raten.
• Pereta-KOS: Der eigene Wissensbestand wird über quellengestütztes Retrieval abgefragt — jede Antwort mit Herkunftsnachweis.
• Kundenservice: Häufige Fragen werden aus dem echten Wissensstand beantwortet, mit nachvollziehbarer Quelle statt erfundener Auskunft.

Wann einsetzen?

• Sobald KI auf firmeneigenes Wissen antworten soll — Preise, Verträge, Prozesse, Produktdetails.
• Wenn Nachvollziehbarkeit zählt — RAG kann die Quelle jeder Aussage nennen.
• Bei großem, verstreutem Wissensbestand — wo Kontext-Stuffing an Menge und Kosten scheitert.

Häufige Fehler

1. Kontext-Stuffing für RAG halten. Ein ganzes PDF in den Prompt zu kippen ist das Gegenteil — RAG holt gezielt wenig, nicht pauschal viel.
2. Ohne Quellenangabe generieren. Ohne den Herkunftsnachweis verliert RAG seinen größten Vorteil, die Belegbarkeit.
3. Schlechte Chunks. Zu grob oder ohne Überlappung geteilt, zerreißen Zusammenhänge — die Antwortqualität steht und fällt mit der Aufbereitung.

Verwandte Einträge

• lex-ki-betriebssystem — RAG als Wissensschicht des KI-Betriebssystems
• lex-geo — auffindbar werden für die generierenden Systeme
• lex-guarded-agentic-loop — belegte Antwort statt frei geratener Ausgabe