LLM Large Language Model
Kurz gesagt
Ein LLM (Large Language Model, großes Sprachmodell) ist ein KI-Modell, das mit sehr großen Textmengen trainiert wurde und daraus Sprache versteht und erzeugt: Es beantwortet Fragen, fasst zusammen, übersetzt, schreibt und ordnet Texte ein. ChatGPT, Claude und Gemini sind Produkte auf Basis solcher Modelle; offene Modelle wie Llama, Mistral oder Qwen lassen sich auch auf eigener Hardware betreiben. Für Unternehmen ist ein LLM der Baustein hinter Chat-Assistenten, Wissensdatenbanken und Automatisierungen.
Fachlich geprüft von Marcel, IT-Admin & Webentwickler · Stand September 2026
Warum das für dich wichtig ist
Ein Sprachmodell berechnet, welches Wort, genauer: welches Token, am wahrscheinlichsten als nächstes folgt. Das klingt banal, reicht aber für erstaunlich viele Büroaufgaben: E-Mails vorformulieren, Protokolle zusammenfassen, Dokumente klassifizieren, Daten aus Rechnungen ziehen. Genau diese Routinen machen den größten Teil dessen aus, was Unternehmen mit KI tatsächlich tun.
Wichtig für die Auswahl: Modelle unterscheiden sich in Größe (Parameter), Kontextfenster (wie viel Text sie auf einmal verarbeiten) und Lizenz. Große Cloud-Modelle sind bei komplexen Aufgaben stärker; offene Modelle laufen dafür dort, wo deine Daten liegen.
Typische Missverständnisse
- Ein LLM weiß nichts, es hat gelernt, wie Sprache aussieht. Fakten, die im Training nicht vorkamen (deine Firma, letzte Woche), erfindet es im Zweifel plausibel. Das nennt man Halluzination.
- Ein LLM lernt im Betrieb nicht dazu. Was du in einen Chat schreibst, verändert das Modell nicht; dafür bräuchte es ein neues Training oder Feintuning.
- Wo das Modell läuft, entscheidet, wer deine Eingaben sieht. Das ist eine Datenschutzfrage, keine Modellfrage.
- Größer ist nicht automatisch besser. Für Zusammenfassen und Klassifizieren reicht oft ein mittleres offenes Modell, das auf einer einzelnen Grafikkarte läuft.
Wie wir damit arbeiten
Wir betreiben offene Sprachmodelle auf einem lokalen KI-Server im Unternehmen, binden sie per RAG an eigene Dokumente an und nutzen sie in n8n-Workflows. Welche Daten in welches Modell dürfen, klären wir vorher, eine Entscheidungshilfe steht im Ratgeber Lokale KI, EU-Cloud oder ChatGPT?
FAQHäufige Fragen zu LLM
Was ist der Unterschied zwischen einem LLM und ChatGPT?
ChatGPT ist ein Produkt von OpenAI: eine Oberfläche mit Zusatzfunktionen wie Websuche, Dateiupload und Verlauf, die auf großen Sprachmodellen aufbaut. Das LLM ist das Modell dahinter. Dieselbe Art von Modell lässt sich auch ohne ChatGPT nutzen, über eine Schnittstelle oder als offenes Modell auf eigener Hardware.
Was bedeutet Halluzination bei KI?
Eine Halluzination ist eine Antwort, die plausibel klingt, aber falsch ist: ein erfundenes Zitat, eine falsche Zahl, eine Quelle, die es nicht gibt. Sie entsteht, weil das Modell wahrscheinliche Texte erzeugt, keine geprüften Fakten. Dagegen helfen Antworten auf Basis eigener Dokumente mit Fundstelle (RAG) und die Regel, Ergebnisse vor der Verwendung zu prüfen.
Welches Sprachmodell ist das beste für ein Unternehmen?
Das hängt von Aufgabe, Daten und Betriebsort ab, nicht von einer Rangliste. Für Zusammenfassen, Klassifizieren und Fragen an eigene Dokumente reichen oft offene Modelle mittlerer Größe, für komplexe Analysen sind die großen Cloud-Modelle stärker. Wir testen in der Regel zwei oder drei Modelle mit echten Aufgaben, bevor wir uns festlegen.