LLM: Was ein Large Language Model ist und was nicht
Ein LLM ist kein Orakel und keine Datenbank. Es ist eine sehr gute Wort-Vorhersage-Maschine, die so viel gelesen hat, dass es klingt, als würde sie verstehen. Wer das im Kopf behält, setzt LLMs im Unternehmen richtig ein.
150 € pro Stunde, pauschal für alles. Für Unternehmen, zzgl. USt.
Was ist ein LLM?
Ein LLM ist ein neuronales Netz mit Milliarden von Parametern, das gelernt hat, Sprache statistisch zu modellieren. Die Grundlage der meisten heutigen LLMs ist die Transformer-Architektur aus dem Jahr 2017. Sie erlaubt es, beim Erzeugen eines Wortes den gesamten bisherigen Text gleichzeitig zu berücksichtigen, statt ihn nur von links nach rechts abzuarbeiten.
Trainiert wird in mehreren Stufen. Zuerst liest das Modell riesige Textmengen und lernt, fehlende oder nächste Wortteile vorherzusagen. Danach wird es mit Beispielen und menschlichen Bewertungen darauf trainiert, Anweisungen zu folgen und hilfreich zu antworten. Diese zweite Stufe macht aus einem Textgenerator einen Assistenten.
Wichtig ist, was dabei nicht entsteht: ein Wissensspeicher mit geprüften Fakten. Ein LLM speichert Muster, keine Quellen. Deshalb kann es überzeugend falsch liegen. Wie das passiert und was dagegen hilft, steht unter KI-Halluzination.
Zehn Begriffe rund um LLMs
Wer diese zehn Wörter kennt, versteht jede Produktpräsentation und jedes Angebot zum Thema.
| Begriff | Was es ist | Warum es dich interessiert |
|---|---|---|
| Token | Wortteil, in den Text zerlegt wird | Abrechnung und Längengrenzen laufen in Token, nicht in Wörtern |
| Kontextfenster | wie viel Text das Modell auf einmal berücksichtigt | entscheidet, ob ein ganzer Vertrag oder nur eine Seite hineinpasst |
| Prompt | die Anweisung samt Material | bestimmt die Qualität der Antwort stärker als das Modell |
| Parameter | gelernte Gewichte im Netz | mehr heißt nicht automatisch besser für deine Aufgabe |
| Temperatur | wie zufällig das Modell Wörter auswählt | niedrig für Fakten, höher für Ideen |
| Fine-Tuning | Nachtrainieren mit eigenen Beispielen | für Stil und Format, selten für Wissen nötig |
| RAG | Retrieval-Augmented Generation: Antwort aus vorher gesuchten Dokumenten | der übliche Weg, Firmenwissen anzubinden, mit Quellenangabe |
| Offene Gewichte | Modell zum Herunterladen und selbst Betreiben | Daten bleiben im eigenen Haus, Betrieb ist deine Aufgabe |
| Halluzination | plausibel klingende, aber falsche Ausgabe | jede Zahl und jedes Zitat prüfen |
| Agent | LLM, das selbst Werkzeuge aufruft und Schritte plant | mehr Möglichkeiten, mehr Kontrolle nötig |
Wann ein Agent sinnvoll ist und wann ein fester Ablauf besser, erklärt unser Ratgeber KI-Agenten. Wie man Prompts baut, lernst du in der Schulung Prompt Engineering.
LLM, Chatbot, generative KI: der Unterschied
Die Begriffe werden oft vermischt. Generative KI ist der Oberbegriff für alle Modelle, die neue Inhalte erzeugen, also auch Bilder, Musik und Video. Ein LLM ist die Sorte generativer KI, die auf Sprache spezialisiert ist. Ein Chatbot ist eine Anwendung: eine Oberfläche, die ein LLM nutzt, oft ergänzt um Regeln, Firmenwissen und Weiterleitung an Menschen.
Für Unternehmen heißt das: Man kauft selten „ein LLM“, sondern eine Anwendung, die eines nutzt. Die Frage ist dann, welche Daten an wen gehen, wie Firmenwissen eingebunden wird und wer die Antworten prüft. Mehr zum Oberbegriff unter Generative KI, zur Anwendung unter KI-Chatbot.
Was sagt die KI-Verordnung zu LLMs?
Große Sprachmodelle gelten in der KI-Verordnung als KI-Modelle mit allgemeinem Verwendungszweck. Ihre Anbieter haben seit dem 2. August 2025 eigene Pflichten, etwa technische Dokumentation und eine Strategie zur Einhaltung des Urheberrechts (Art. 53). Unternehmen, die solche Modelle nur nutzen, trifft das nicht direkt. Für sie gelten die Regeln für Betreiber, vor allem KI-Kompetenz und Transparenz. Überblick unter EU AI Act.
Checkliste: Welches LLM passt ins Unternehmen?
Nicht das größte Modell gewinnt, sondern das, das deine Daten, deine Sprache und dein Budget respektiert. Acht Fragen an jeden Anbieter.
Wo werden Daten verarbeitet?
Rechenzentrum in der EU oder nicht? Gibt es einen Vertrag zur Auftragsverarbeitung?
Werden Eingaben zum Training genutzt?
In vielen Geschäftstarifen nicht. In kostenlosen Varianten oft schon. Vertraglich festhalten.
Wie gut ist es auf Deutsch?
Mit deinen echten Texten testen, nicht mit Werbebeispielen. Fachbegriffe deiner Branche gehören in den Test.
Reicht das Kontextfenster?
Passen deine längsten Dokumente hinein, oder brauchst du eine Suche davor?
Was kostet eine typische Aufgabe?
Preise pro Token in Kosten pro Vorgang umrechnen, zum Beispiel pro beantwortete Kundenanfrage.
Gibt es Quellenangaben?
Für Firmenwissen sollte die Antwort zeigen, aus welchem Dokument sie stammt.
Offene Gewichte nötig?
Wenn Daten das Haus nicht verlassen dürfen, ist ein selbst betriebenes Modell eine Option, mit Aufwand für Betrieb und Updates.
Wie kommst du wieder raus?
Prompts, Daten und Abläufe sollten sich auf ein anderes Modell übertragen lassen. Modelle wechseln schneller als Verträge.
Wann du uns nicht brauchst
Wenn dein Team einen Chat-Assistenten im Geschäftstarif nutzt, eine KI-Richtlinie hat und weiß, dass Ergebnisse geprüft werden, ist für den Alltag schon viel erreicht. Wir helfen, wenn Firmenwissen angebunden werden soll, wenn Abläufe automatisiert werden oder wenn ein Chatbot vor deiner Kundschaft stehen soll, und zwar so, dass er im Live-Betrieb besser wird.
Häufige Fragen zu LLMs
Was bedeutet LLM?
LLM steht für Large Language Model, auf Deutsch großes Sprachmodell. Gemeint ist ein KI-Modell, das mit sehr großen Textmengen trainiert wurde und Texte erzeugt, zusammenfasst, übersetzt oder Fragen beantwortet, indem es das jeweils wahrscheinlich nächste Wortteil vorhersagt.
Ist ChatGPT ein LLM?
ChatGPT ist eine Anwendung, die auf Sprachmodellen von OpenAI aufbaut. Das LLM ist der Motor, ChatGPT das Fahrzeug drumherum, mit Oberfläche, Gesprächsverlauf, Suche und weiteren Werkzeugen. Dasselbe gilt für andere Assistenten wie Gemini oder Claude.
Wie funktioniert ein LLM einfach erklärt?
Das Modell zerlegt Text in Token, also Wortteile. Beim Schreiben schaut es auf alles, was bisher dasteht, und berechnet, welches Token am wahrscheinlichsten folgt. Dann hängt es dieses an und wiederholt den Schritt. Gelernt hat es diese Wahrscheinlichkeiten aus sehr vielen Texten.
Kann ein LLM mit Firmendaten arbeiten?
Ja, meist über RAG: Vor der Antwort werden passende Dokumente aus deinem Bestand gesucht und dem Modell mitgegeben. So bleiben die Daten in deiner Ablage, und die Antwort kann ihre Quelle nennen. Wichtig sind Zugriffsrechte, Datenschutzvertrag und eine Regel, wer Antworten prüft.
Was ist der Unterschied zwischen LLM und KI?
KI ist der Oberbegriff für Systeme, die Aufgaben lösen, für die man sonst menschliche Intelligenz bräuchte, von Bilderkennung bis Prognosen. Ein LLM ist eine bestimmte Art von KI-Modell, spezialisiert auf Sprache. Jedes LLM ist KI, aber nicht jede KI ist ein LLM.
Quellen
- Vaswani u. a.: Attention Is All You Need, arXiv 1706.03762, 2017, abgerufen am 14.11.2026.
- Ouyang u. a.: Training language models to follow instructions with human feedback, arXiv 2203.02155, 2022, abgerufen am 14.11.2026.
- Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 3 Nr. 63, Art. 53, abgerufen am 14.11.2026.
- Bitkom: Erstmals nutzt die Mehrheit der Unternehmen KI, 14.09.2026, abgerufen am 14.11.2026.