LLM: Bedeutung und Abkürzung
LLM ist die Abkürzung für Large Language Model. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) verwendet dafür den Begriff große KI-Sprachmodelle. Gemeint sind neuronale Netze, die auf umfangreichen Textsammlungen trainiert werden, um Text zu verarbeiten und zu erzeugen.
„Groß“ bezieht sich auf zwei Dinge: die Menge der Trainingsdaten und die Zahl der Parameter. Parameter sind die einstellbaren Zahlenwerte im Inneren des Modells. Laut BSI können LLMs bis zu einer Billion Parameter haben.
Ein LLM ist eine bestimmte Art von KI. Bild- und Videogeneratoren sind andere Arten generativer KI.
Wie ein LLM funktioniert
Tokens: die Einheit, in der das Modell rechnet
Ein LLM liest keinen Text wie ein Mensch. Es zerlegt ihn zuerst in Tokens. Das können ganze Wörter, Wortteile oder einzelne Zeichen sein. Nach Tokens wird auch abgerechnet. Mehr dazu im Eintrag KI-Token.
Wahrscheinlichkeit: Wort für Wort zur Antwort
Das BSI beschreibt die Arbeitsweise so: LLMs nutzen Wahrscheinlichkeitsverteilungen, um vorherzusagen, welches Zeichen oder Wort in einem Zusammenhang als Nächstes folgen könnte. Die Antwort entsteht also Stück für Stück. Das Modell schlägt dabei nicht nach, sondern setzt fort, was zum bisherigen Text passt. Laut Anthropic sind die Antworten selbst bei der vorsichtigsten Einstellung nicht vollständig gleich. Dieselbe Frage kann also unterschiedlich formulierte Antworten bekommen.
Training: erst lesen, dann üben
Das Training läuft laut BSI in zwei Phasen. Zuerst lernt das Modell aus großen Textmengen ein allgemeines Verständnis von Sprache (Vortraining, pretraining). Danach wird es in einer Feinabstimmung (fine-tuning) auf bestimmte Aufgaben spezialisiert, etwa mit menschlichen Bewertungen von Beispielantworten (RLHF).
Kontextfenster: das Arbeitsgedächtnis
Das Kontextfenster (context window) ist die Textmenge, die ein Modell bei einer Anfrage berücksichtigen kann. Anthropic nennt es das Arbeitsgedächtnis des Modells, im Unterschied zu den Trainingsdaten. Anweisung, Wissen, Gesprächsverlauf und Frage müssen gemeinsam hineinpassen, bei den aktuellen Claude-Modellen laut Anthropic bis zu 1 Million Tokens.
Bekannte Modelle und Anbieter
Anbieter bieten ihre Modellfamilien meist in mehreren Größen an: große für schwierige Aufgaben, kleine für schnelle, günstige Antworten.
| Anbieter | Modellfamilie | Beispiele (Stand 16.10.2026) |
|---|---|---|
| OpenAI | GPT | GPT-6 Astra, GPT-6.1 Sol, GPT-6 Luna |
| Anthropic | Claude | Claude Fable 5.1, Opus 5.5, Sonnet 5.5, Haiku 5.5 |
| Gemini | Gemini 4 Argon, Gemini 3.8 Flash, Gemini 3.5 Flash-Lite | |
| Meta | Muse, davor Llama | Muse Wonder, Muse Spark; offen: Muse Spark Open, Muse Glimmer |
| Mistral AI | Mistral | Mistral Large 4, Mistral Medium 3.5, Mistral Small 4 |
| DeepSeek | DeepSeek | deepseek-flash, deepseek-v4-pro |
| Alibaba Cloud | Qwen | Qwen3.8, Qwen-Max, Qwen-Flash |
Meta und Mistral bieten auch Modelle mit offenen Gewichten an, die Sie auf eigenen Servern betreiben können. Modelle werden nach einiger Zeit abgeschaltet, Claude Opus 5.5 laut Anthropic nicht vor dem 22. September 2027. Preise vergleichen wir im Eintrag KI-Modelle.
Was ein LLM nicht weiß
Ein LLM weiß nur, was in seinen Trainingsdaten stand. Diese enden an einem Stichtag, bei den aktuellen Claude-Modellen laut Anthropic im Juni 2026. Ohne Zugriff auf aktuelle Daten kennt ein Modell laut BSI keine aktuellen Ereignisse.
Ihre Preise, Öffnungszeiten, Zuständigkeiten und internen Abläufe kennt das Modell ebenfalls nicht. Fragt jemand danach, muss das passende Wissen in die Anfrage.
Das übliche Verfahren dafür heißt RAG (Retrieval Augmented Generation, auf Deutsch etwa: Antworten mit nachgeschlagenem Wissen). Zur Frage werden die passenden Stellen aus einer Wissensbasis gesucht und dem Modell im Kontextfenster mitgegeben. Laut Anthropic eignet sich RAG besonders für aktuelle Informationen, Fachwissen und die ausdrückliche Angabe von Quellen. Die Suche nach Stellen mit passender Bedeutung kann über Embeddings in einer Vektordatenbank laufen.
Schritt 1Frage„Wie lange gilt die Garantie auf Modell X?“
Schritt 2WissenDie passende Stelle wird in Ihren Unterlagen gesucht und dem Modell mitgegeben.
Schritt 3Antwort mit QuelleDas LLM formuliert aus dieser Stelle und nennt Dokument und Seite.
Die Antwort ist nur so gut wie das gefundene Wissen. Das BSI warnt zudem, dass manipulierte Inhalte in einer Wissensbasis zu falschen Antworten führen können. Regeln Sie deshalb, wer dort schreiben darf.
Halluzinationen: wenn das Modell etwas erfindet
Ein LLM erzeugt Text, der wahrscheinlich klingt. Das ist nicht dasselbe wie wahr. Das BSI beschreibt, dass Modelle Inhalte erfinden, die weder in der Eingabe noch in den Trainingsdaten standen, und nennt das Halluzinieren. Gefährlich ist das, weil solche Aussagen meist glaubhaft wirken, bis hin zu erfundenen Quellenangaben.
Gegenmittel sind: passendes Wissen mitgeben, klare Regeln für Zusagen (siehe Prompt Engineering), eine sichtbare Quelle und die Übergabe an einen Menschen, wenn das Wissen fehlt. Mehr unter KI-Halluzination.
Was das für Ihr Unternehmen heißt
Im Betrieb ist ein LLM meist ein Baustein in einem Ablauf:
- Telefon: Spracherkennung macht aus dem Anruf Text, das LLM formuliert die Antwort, eine künstliche Stimme spricht sie.
- Web- und WhatsApp-Chat: Das LLM beantwortet Fragen von Kunden und Bewerbern aus Ihrem hinterlegten Wissen.
- E-Mail-Postfach: Das LLM ordnet eingehende Mails ein und schreibt Antwortentwürfe.
- Firmenwissen: Mitarbeitende fragen in eigenen Worten nach Abläufen oder Dokumenten und bekommen eine Antwort mit Fundstelle.
GrisaKI setzt dafür Modelle von OpenAI, Google (Gemini) und Anthropic (Claude) ein. Die Firmenwissensdatenbank liegt in einer Postgres-Datenbank mit Vektorsuche (pgvector) bei Hetzner in Deutschland. Antworten aus Dokumenten können dort die Quelle mit Seitenangabe nennen.
Vier Fragen helfen bei jeder Lösung mit LLM:
- Welches Wissen bekommt das Modell, und wer hält es aktuell?
- Was darf das Modell zusagen, und was gibt es an einen Menschen ab?
- Sehen Sie und Ihre Kunden, woher eine Antwort stammt?
- Wo werden die Daten verarbeitet, und gibt es einen Auftragsverarbeitungsvertrag?
Datenschutz: was Sie klären sollten
Gehen Kundennamen, E-Mails oder Bewerbungen an ein LLM, verarbeitet der Anbieter personenbezogene Daten in Ihrem Auftrag. Dafür braucht es einen Vertrag nach Art. 28 Abs. 3 DSGVO.
- Training: Laut OpenAI werden Daten, die an die API gehen, nicht zum Training genutzt, es sei denn, Sie stimmen ausdrücklich zu. Die gewerblichen Bedingungen von Anthropic schließen Training mit Kundeninhalten aus. Google nutzt bei der Gemini API Eingaben im bezahlten Zugang nicht zur Produktverbesserung, im kostenlosen schon. Für Nutzer im EWR gelten laut Google aber stets die Bedingungen des bezahlten Zugangs.
- Ort der Verarbeitung: OpenAI bietet Verarbeitung in Europa an, mit Voraussetzungen und einem Aufschlag von 10 % für neuere Modelle. Die Claude API von Anthropic bietet derzeit nur „global“ oder „USA“ als Verarbeitungsort.
Stand 16.10.2026 laut Dokumentation der Anbieter. Kein Rechtsrat.
Verwandte Begriffe
- KI-Token: die Rechen- und Abrechnungseinheit
- KI-Modelle: aktuelle Modelle und Preise
- Prompt Engineering: gute Anweisungen schreiben
- KI-Halluzination: erfundene Aussagen vermeiden
- Embedding: Text als vergleichbare Zahlen
- Vektordatenbank: Speicher für die Wissenssuche
- MCP: offener Standard für die Anbindung an Daten und Werkzeuge
- ChatGPT Business, Enterprise oder Copilot?: LLM-Werkzeuge für Unternehmen im Vergleich
Häufige Fragen
Was bedeutet LLM?
LLM ist die Abkürzung für Large Language Model, auf Deutsch großes Sprachmodell. Gemeint ist ein KI-Modell, das mit sehr großen Textmengen trainiert wurde und Texte verstehen und erzeugen kann. Bekannte Modellfamilien sind GPT von OpenAI, Claude von Anthropic und Gemini von Google.
Wie funktioniert ein LLM?
Ein LLM zerlegt Text in Tokens und berechnet auf Grundlage von Wahrscheinlichkeiten, welcher Text als Nächstes passt. So entsteht die Antwort Schritt für Schritt. Diese Wahrscheinlichkeiten hat es im Training mit großen Textmengen und einer anschließenden Feinabstimmung gelernt.
Kennt ein LLM die Daten meines Unternehmens?
Nein, nicht von sich aus. Es kennt nur seine Trainingsdaten bis zu einem Stichtag. Damit es Fragen zu Ihren Preisen oder Abläufen richtig beantwortet, muss das passende Wissen bei jeder Anfrage mitgegeben werden, meist über RAG. Gute Lösungen zeigen dazu die Quelle an.
Werden meine Daten zum Training eines LLM verwendet?
Bei den API-Zugängen von OpenAI und Anthropic laut deren Bedingungen nicht, bei der Gemini API von Google nicht im bezahlten Zugang. In kostenlosen Angeboten kann das anders sein. Prüfen Sie Vertrag und Tarif je Anbieter.
Kann ein LLM falsche Antworten geben?
Ja. Ein LLM erzeugt Text, der wahrscheinlich klingt, und kann dabei Fakten erfinden. Das nennt man Halluzination. Gegenmittel sind mitgegebenes Wissen, klare Regeln, eine sichtbare Quelle und die Übergabe an einen Menschen, wenn das Wissen fehlt.
Über den Autor
Sandro Griesing
Gründer von GrisaKI und Geschäftsführer der new face Media GmbH in Sangerhausen
Sandro Griesing hat über zehn Jahre Agenturerfahrung. Mit GrisaKI richtet er KI-Assistenten für Telefon, Chat, E-Mail und interne Abläufe in mittelständischen Unternehmen ein, vor allem in Mitteldeutschland.
Mehr über GrisaKIQuellen
- Bundesamt für Sicherheit in der Informationstechnik: Generative KI-Modelle – Chancen und Risiken für Industrie und Behörden, Version 2.0 vom 17.01.2025, abgerufen am 16.10.2026
- Bundesamt für Sicherheit in der Informationstechnik: Künstliche Intelligenz, abgerufen am 16.10.2026
- Anthropic: Glossary, abgerufen am 16.10.2026
- Anthropic: Models overview, abgerufen am 16.10.2026
- OpenAI: Models, abgerufen am 16.10.2026
- Google: Gemini models, abgerufen am 16.10.2026
- Meta: Models, abgerufen am 16.10.2026
- Wikipedia: Llama (language model), abgerufen am 16.10.2026
- Mistral AI: Models, abgerufen am 16.10.2026
- DeepSeek: Models & Pricing, abgerufen am 16.10.2026
- Alibaba Cloud: Model Studio: model pricing, abgerufen am 16.10.2026
- OpenAI: Data controls in the OpenAI platform, abgerufen am 16.10.2026
- Anthropic: Commercial Terms of Service, gültig ab 17.06.2025, abgerufen am 16.10.2026
- Anthropic: Data residency, abgerufen am 16.10.2026
- Google: Gemini API Additional Terms of Service, abgerufen am 16.10.2026
- Verordnung (EU) 2016/679 (DSGVO), Art. 28: EUR-Lex, abgerufen am 16.10.2026
Stand der Angaben: 16.10.2026. Modellnamen und Bedingungen der Anbieter ändern sich häufig, maßgeblich sind deren aktuelle Seiten. Dieser Beitrag ist keine Rechtsberatung.