# RAG (Retrieval-Augmented Generation)

- Veröffentlicht: 2026-09-27
- Aktualisiert: 2026-09-27
- Quelle: https://art-kon-tor-digital.de/glossar/rag/

---

Glossar · IT & KI

# RAG Retrieval-Augmented Generation

Kurz gesagt

RAG (Retrieval-Augmented Generation) ist ein Verfahren, bei dem ein Sprachmodell vor dem Antworten passende Textstellen aus deinen eigenen Dokumenten heraussucht und sie mit in die Anfrage gibt. Die KI antwortet dann auf Basis von Verträgen, Handbüchern oder Akten statt nur aus ihrem Trainingswissen, und kann die Quelle nennen. Unternehmen nutzen RAG für interne Wissensdatenbanken und Assistenten, die firmeneigene Inhalte kennen sollen.

[Zur Leistung](/ki/wissensdatenbank/)

![](https://art-kon-tor-digital.de/wp-content/uploads/2026/09/ki-1024x683.webp)

### Warum das für dich wichtig ist

Ein Sprachmodell weiß nichts über dein Unternehmen. Es kennt weder deine Preisliste noch die Wartungsanleitung von 2019 oder den Vertrag mit einem bestimmten Lieferanten. RAG schließt diese Lücke, ohne dass du ein Modell neu trainieren musst: Die Dokumente werden in Abschnitte zerlegt, als Vektoren in einer Suchdatenbank abgelegt und bei jeder Frage nach Ähnlichkeit durchsucht. Die Treffer landen zusammen mit der Frage beim Modell.

Der praktische Nutzen: Antworten mit Fundstelle. Wer fragt „Welche Kündigungsfrist steht im Vertrag mit Firma X?“, bekommt die Passage aus dem Dokument, nicht eine plausible Vermutung. Das macht RAG für Kanzleien, Praxen, Ingenieurbüros und jeden Betrieb interessant, der viel Wissen in Dateien liegen hat, das niemand mehr findet.

### Typische Missverständnisse

- RAG ist kein Training. Die Dokumente verändern das Modell nicht, sie werden bei jeder Anfrage neu herausgesucht. Neue Dateien sind deshalb sofort nutzbar, gelöschte sofort weg.
- RAG macht ein Modell nicht fehlerfrei. Findet die Suche die falsche Stelle, ist auch die Antwort falsch. Die Qualität hängt stark davon ab, wie die Dokumente aufbereitet und zerlegt werden.
- RAG braucht keine Cloud. Suche, Datenbank und Modell laufen auch auf einem Server im eigenen Haus.
- Zugriffsrechte gelten weiter, oder müssen es. Ein RAG-System, das jedem alles zeigt, ist ein Datenschutzproblem, kein Assistent.

### Wie wir damit arbeiten

Wir bauen RAG-Systeme als [KI-Wissensdatenbank](/ki/wissensdatenbank/) auf einem [lokalen KI-Server](/ki/lokaler-ki-server/), meist mit Anbindung an Nextcloud oder ein bestehendes Dateisystem und mit dem Rechtekonzept, das dort schon gilt. Wie das in der Praxis aussieht, zeigt der Anwendungsfall [Aktenrecherche mit KI ohne Cloud](/referenzen/aktenrecherche-mit-ki-ohne-cloud/).

**Verwandte Begriffe:** [LLM](/glossar/llm/), [Lokale KI](/glossar/lokale-ki/), [Nextcloud](/glossar/nextcloud/)

## FAQHäufige Fragen zu RAG

Was ist der Unterschied zwischen RAG und Feintuning?
Beim Feintuning wird ein Modell mit eigenen Daten weitertrainiert, das Wissen steckt danach im Modell, lässt sich schwer aktualisieren und nicht mit einer Quelle belegen. Bei RAG bleibt das Modell unverändert, die passenden Dokumente werden bei jeder Frage neu herausgesucht. Für Firmenwissen, das sich ändert und belegbar sein soll, ist RAG fast immer der bessere Weg.

Kann RAG auch gescannte PDFs und alte Dokumente durchsuchen?
Ja, wenn der Text vorher per Texterkennung (OCR) aus den Scans geholt wird. Die Qualität der Antworten hängt dann an der Qualität der Scans: schiefe, handschriftliche oder schlecht kopierte Seiten ergeben lückenhaften Text. Das prüfen wir im Testbetrieb mit einer Stichprobe aus dem echten Bestand.

Erfindet ein RAG-System trotzdem Antworten?
Seltener, aber es kann passieren, etwa wenn die Suche nichts Passendes findet und das Modell trotzdem antwortet. Deshalb gehört zu jeder Antwort die Fundstelle, und das System wird so eingestellt, dass es lieber „dazu finde ich nichts“ sagt als zu raten. Die Prüfung der Quelle bleibt beim Menschen.