> Was ist ein LLM? Large Language Models einfach erklärt: wie sie funktionieren, zehn Begriffe von Token bis RAG, Checkliste für die Auswahl im Unternehmen. # LLM: Was ein Large Language Model ist und was nicht Von [Alexander Scharff](https://mediabrandcast.com/team/alexander-scharff/) · 14. November 2026 Ein LLM ist kein Orakel und keine Datenbank. Es ist eine sehr gute Wort-Vorhersage-Maschine, die so viel gelesen hat, dass es klingt, als würde sie verstehen. Wer das im Kopf behält, setzt LLMs im Unternehmen richtig ein. [LLM-Einsatz besprechen](https://mediabrandcast.com/kontakt/?anliegen=beratung) 150 € pro Stunde, pauschal für alles. Für Unternehmen, zzgl. USt. - [Zu den zehn Begriffen](https://mediabrandcast.com/wissen/ki/llm/#begriffe) Kurz gesagt Ein LLM (Large Language Model, großes Sprachmodell) ist ein KI-Modell, das mit sehr großen Textmengen trainiert wurde und Text erzeugt, indem es Stück für Stück das wahrscheinlich nächste Wortteil vorhersagt. LLMs stecken hinter Chat-Assistenten, Übersetzern und Schreibhilfen. Sie formulieren flüssig, können aber Fakten erfinden. mediabrandcast erklärt hier die wichtigsten Begriffe und gibt eine Checkliste für die Auswahl im Unternehmen. ## Was ist ein LLM? Ein LLM ist ein neuronales Netz mit Milliarden von Parametern, das gelernt hat, Sprache statistisch zu modellieren. Die Grundlage der meisten heutigen LLMs ist die Transformer-Architektur aus dem Jahr 2017. Sie erlaubt es, beim Erzeugen eines Wortes den gesamten bisherigen Text gleichzeitig zu berücksichtigen, statt ihn nur von links nach rechts abzuarbeiten. Trainiert wird in mehreren Stufen. Zuerst liest das Modell riesige Textmengen und lernt, fehlende oder nächste Wortteile vorherzusagen. Danach wird es mit Beispielen und menschlichen Bewertungen darauf trainiert, Anweisungen zu folgen und hilfreich zu antworten. Diese zweite Stufe macht aus einem Textgenerator einen Assistenten. Wichtig ist, was dabei nicht entsteht: ein Wissensspeicher mit geprüften Fakten. Ein LLM speichert Muster, keine Quellen. Deshalb kann es überzeugend falsch liegen. Wie das passiert und was dagegen hilft, steht unter [KI-Halluzination](https://mediabrandcast.com/wissen/ki/halluzination/). ## Zehn Begriffe rund um LLMs Wer diese zehn Wörter kennt, versteht jede Produktpräsentation und jedes Angebot zum Thema. Begriffe erklärt von mediabrandcast, Stand 14.11.2026 | Begriff | Was es ist | Warum es dich interessiert | |---|---|---| | Token | Wortteil, in den Text zerlegt wird | Abrechnung und Längengrenzen laufen in Token, nicht in Wörtern | | Kontextfenster | wie viel Text das Modell auf einmal berücksichtigt | entscheidet, ob ein ganzer Vertrag oder nur eine Seite hineinpasst | | Prompt | die Anweisung samt Material | bestimmt die Qualität der Antwort stärker als das Modell | | Parameter | gelernte Gewichte im Netz | mehr heißt nicht automatisch besser für deine Aufgabe | | Temperatur | wie zufällig das Modell Wörter auswählt | niedrig für Fakten, höher für Ideen | | Fine-Tuning | Nachtrainieren mit eigenen Beispielen | für Stil und Format, selten für Wissen nötig | | RAG | Retrieval-Augmented Generation: Antwort aus vorher gesuchten Dokumenten | der übliche Weg, Firmenwissen anzubinden, mit Quellenangabe | | Offene Gewichte | Modell zum Herunterladen und selbst Betreiben | Daten bleiben im eigenen Haus, Betrieb ist deine Aufgabe | | Halluzination | plausibel klingende, aber falsche Ausgabe | jede Zahl und jedes Zitat prüfen | | Agent | LLM, das selbst Werkzeuge aufruft und Schritte plant | mehr Möglichkeiten, mehr Kontrolle nötig | Wann ein Agent sinnvoll ist und wann ein fester Ablauf besser, erklärt unser Ratgeber [KI-Agenten](https://mediabrandcast.com/wissen/ki-agenten/). Wie man Prompts baut, lernst du in der Schulung [Prompt Engineering](https://mediabrandcast.com/leistungen/schulungen/prompt-engineering/). ## LLM, Chatbot, generative KI: der Unterschied Die Begriffe werden oft vermischt. Generative KI ist der Oberbegriff für alle Modelle, die neue Inhalte erzeugen, also auch Bilder, Musik und Video. Ein LLM ist die Sorte generativer KI, die auf Sprache spezialisiert ist. Ein Chatbot ist eine Anwendung: eine Oberfläche, die ein LLM nutzt, oft ergänzt um Regeln, Firmenwissen und Weiterleitung an Menschen. Für Unternehmen heißt das: Man kauft selten „ein LLM“, sondern eine Anwendung, die eines nutzt. Die Frage ist dann, welche Daten an wen gehen, wie Firmenwissen eingebunden wird und wer die Antworten prüft. Mehr zum Oberbegriff unter [Generative KI](https://mediabrandcast.com/wissen/ki/generative-ki/), zur Anwendung unter [KI-Chatbot](https://mediabrandcast.com/software/ki-chatbot/). ## Was sagt die KI-Verordnung zu LLMs? Große Sprachmodelle gelten in der KI-Verordnung als KI-Modelle mit allgemeinem Verwendungszweck. Ihre Anbieter haben seit dem 2. August 2025 eigene Pflichten, etwa technische Dokumentation und eine Strategie zur Einhaltung des Urheberrechts (Art. 53). Unternehmen, die solche Modelle nur nutzen, trifft das nicht direkt. Für sie gelten die Regeln für Betreiber, vor allem KI-Kompetenz und Transparenz. Überblick unter [EU AI Act](https://mediabrandcast.com/wissen/ki-verordnung/). Fakten - Transformer-Architektur vorgestellt in „Attention Is All You Need“, 2017. Quelle: [Vaswani u. a., arXiv 1706.03762](https://arxiv.org/abs/1706.03762), abgerufen am 14.11.2026 - Training mit menschlichem Feedback macht Modelle besser im Befolgen von Anweisungen. Quelle: [Ouyang u. a., arXiv 2203.02155, 2022](https://arxiv.org/abs/2203.02155) - KI-Modelle mit allgemeinem Verwendungszweck: eigene Anbieterpflichten seit 02.08.2025. Quelle: [Art. 3 Nr. 63, Art. 53, Art. 113 VO (EU) 2024/1689](https://eur-lex.europa.eu/eli/reg/2024/1689/oj) - 57 % der Unternehmen ab 20 Beschäftigten nutzen KI, ein Jahr zuvor 36 %. Quelle: [Bitkom, 14.09.2026](https://www.bitkom.org/Presse/Presseinformation/Erstmals-nutzt-Mehrheit-Unternehmen-KI) ## Checkliste: Welches LLM passt ins Unternehmen? Nicht das größte Modell gewinnt, sondern das, das deine Daten, deine Sprache und dein Budget respektiert. Acht Fragen an jeden Anbieter. ### Wo werden Daten verarbeitet? Rechenzentrum in der EU oder nicht? Gibt es einen Vertrag zur Auftragsverarbeitung? ### Werden Eingaben zum Training genutzt? In vielen Geschäftstarifen nicht. In kostenlosen Varianten oft schon. Vertraglich festhalten. ### Wie gut ist es auf Deutsch? Mit deinen echten Texten testen, nicht mit Werbebeispielen. Fachbegriffe deiner Branche gehören in den Test. ### Reicht das Kontextfenster? Passen deine längsten Dokumente hinein, oder brauchst du eine Suche davor? ### Was kostet eine typische Aufgabe? Preise pro Token in Kosten pro Vorgang umrechnen, zum Beispiel pro beantwortete Kundenanfrage. ### Gibt es Quellenangaben? Für Firmenwissen sollte die Antwort zeigen, aus welchem Dokument sie stammt. ### Offene Gewichte nötig? Wenn Daten das Haus nicht verlassen dürfen, ist ein selbst betriebenes Modell eine Option, mit Aufwand für Betrieb und Updates. ### Wie kommst du wieder raus? Prompts, Daten und Abläufe sollten sich auf ein anderes Modell übertragen lassen. Modelle wechseln schneller als Verträge. ## Wann du uns nicht brauchst Wenn dein Team einen Chat-Assistenten im Geschäftstarif nutzt, eine KI-Richtlinie hat und weiß, dass Ergebnisse geprüft werden, ist für den Alltag schon viel erreicht. Wir helfen, wenn Firmenwissen angebunden werden soll, wenn Abläufe automatisiert werden oder wenn ein Chatbot vor deiner Kundschaft stehen soll, und zwar so, dass er im Live-Betrieb besser wird. ## Häufige Fragen zu LLMs ### Was bedeutet LLM? LLM steht für Large Language Model, auf Deutsch großes Sprachmodell. Gemeint ist ein KI-Modell, das mit sehr großen Textmengen trainiert wurde und Texte erzeugt, zusammenfasst, übersetzt oder Fragen beantwortet, indem es das jeweils wahrscheinlich nächste Wortteil vorhersagt. ### Ist ChatGPT ein LLM? ChatGPT ist eine Anwendung, die auf Sprachmodellen von OpenAI aufbaut. Das LLM ist der Motor, ChatGPT das Fahrzeug drumherum, mit Oberfläche, Gesprächsverlauf, Suche und weiteren Werkzeugen. Dasselbe gilt für andere Assistenten wie Gemini oder Claude. ### Wie funktioniert ein LLM einfach erklärt? Das Modell zerlegt Text in Token, also Wortteile. Beim Schreiben schaut es auf alles, was bisher dasteht, und berechnet, welches Token am wahrscheinlichsten folgt. Dann hängt es dieses an und wiederholt den Schritt. Gelernt hat es diese Wahrscheinlichkeiten aus sehr vielen Texten. ### Kann ein LLM mit Firmendaten arbeiten? Ja, meist über RAG: Vor der Antwort werden passende Dokumente aus deinem Bestand gesucht und dem Modell mitgegeben. So bleiben die Daten in deiner Ablage, und die Antwort kann ihre Quelle nennen. Wichtig sind Zugriffsrechte, Datenschutzvertrag und eine Regel, wer Antworten prüft. ### Was ist der Unterschied zwischen LLM und KI? KI ist der Oberbegriff für Systeme, die Aufgaben lösen, für die man sonst menschliche Intelligenz bräuchte, von Bilderkennung bis Prognosen. Ein LLM ist eine bestimmte Art von KI-Modell, spezialisiert auf Sprache. Jedes LLM ist KI, aber nicht jede KI ist ein LLM. ## Quellen 1. [Vaswani u. a.: Attention Is All You Need](https://arxiv.org/abs/1706.03762), arXiv 1706.03762, 2017, abgerufen am 14.11.2026. 2. [Ouyang u. a.: Training language models to follow instructions with human feedback](https://arxiv.org/abs/2203.02155), arXiv 2203.02155, 2022, abgerufen am 14.11.2026. 3. [Verordnung (EU) 2024/1689 (KI-Verordnung)](https://eur-lex.europa.eu/eli/reg/2024/1689/oj), Art. 3 Nr. 63, Art. 53, abgerufen am 14.11.2026. 4. [Bitkom: Erstmals nutzt die Mehrheit der Unternehmen KI](https://www.bitkom.org/Presse/Presseinformation/Erstmals-nutzt-Mehrheit-Unternehmen-KI), 14.09.2026, abgerufen am 14.11.2026. Geschrieben von [Alexander Scharff](https://mediabrandcast.com/team/alexander-scharff/) Mitgründer von Juice 9, Marketing, IT und KI Marketing-Master (KI-Studie, Note 1,0), IT-Ausbildung, KI-Manager. Baut Websites, Software und KI-Automatisierungen, die im Live-Betrieb laufen. Veröffentlicht am 14. November 2026 [Alexander Scharff auf LinkedIn](https://www.linkedin.com/in/alexander-scharff-de/) [KI-Einsatz besprechen](https://mediabrandcast.com/kontakt/?anliegen=beratung) 150 € pro Stunde, pauschal für alles. Für Unternehmen, zzgl. USt. - [KI-Beratung](https://mediabrandcast.com/ki-beratung/)