Large Language Model (LLM)

Ausführliche Erklärung

Large Language Models sind eine Form von Deep-Learning-Modellen, die durch das Training auf Milliarden von Texten Sprachmuster, Grammatik und komplexe Kontexte erlernen. Die meisten modernen LLMs basieren auf der Transformer-Architektur, die 2017 im bahnbrechenden Paper „Attention Is All You Need" von Google-Forschern eingeführt wurde und seitdem den Standard für natürliche Sprachverarbeitung bildet. Im Gegensatz zu älteren sequenziellen Modellen wie RNNs, die Texte Wort für Wort verarbeiten, können Transformer ganze Sätze parallel analysieren und durch sogenannte Self-Attention-Mechanismen komplexe Beziehungen zwischen Wörtern unabhängig von deren Position im Text erfassen.

Das Besondere an LLMs ist ihre Fähigkeit zum selbstüberwachten Lernen: Sie erlernen Sprache nicht durch explizite Programmierung einzelner Regeln, sondern durch die statistische Analyse von Mustern in riesigen Textkorpora. Moderne Modelle wie GPT-4, Claude oder Gemini wurden auf Hunderten Milliarden bis Billionen von Wörtern trainiert und entwickeln dadurch ein umfassendes „Verständnis" für sprachliche Strukturen, semantische Zusammenhänge und sogar implizites Weltwissen. Dabei arbeiten sie token-basiert: Texte werden in kleine Einheiten (Tokens) zerlegt, die das Modell verarbeitet und deren wahrscheinlichste Fortsetzung es berechnet.

Für Unternehmen erschließen LLMs vielfältige Einsatzmöglichkeiten: von der Automatisierung der Kundenkommunikation über die Erstellung und Zusammenfassung von Dokumenten bis hin zur Unterstützung bei der Wissensorganisation. Die Modelle können Anfragen in natürlicher Sprache beantworten, Verträge und Berichte analysieren, mehrsprachige Übersetzungen erstellen, Code generieren oder strukturierte Daten aus unstrukturierten Texten extrahieren. Anders als klassische Software müssen sie nicht für jede spezifische Aufgabe neu programmiert werden, sondern können durch geeignete Anweisungen – sogenannte Prompts – flexibel gesteuert werden.

Varianten und Einsatzmodelle für KMU

Für KMU sind LLMs in unterschiedlichen Varianten verfügbar, die sich in Kontrolle, Kosten und Datenschutz deutlich unterscheiden. Cloudbasierte Dienste großer Anbieter wie OpenAI (GPT-4), Anthropic (Claude) oder Google (Gemini) bieten über APIs oder Web-Interfaces sofortigen Zugang zu leistungsstarken Modellen. Sie sind einfach zu integrieren, skalieren automatisch und erfordern keine eigene Infrastruktur. Allerdings werden Daten an externe Server übertragen, was bei vertraulichen Informationen kritisch sein kann.

Open-Source-Modelle wie Llama von Meta, Mistral oder Falcon können lokal auf eigenen Servern betrieben werden. Dies bietet maximale Datenkontrolle und ermöglicht Anpassungen an spezifische Fachdomänen. Der Nachteil: höhere Infrastrukturkosten, technisches Know-how für Betrieb und Wartung sowie oft geringere Leistung im Vergleich zu proprietären Spitzenmodellen. Für KMU mit strengen Datenschutzanforderungen oder hochspezialisiertem Vokabular kann sich dieser Aufwand jedoch lohnen.

Eine Mittelposition bilden spezialisierte Branchenlösungen und europäische Anbieter, die LLMs als DSGVO-konforme Dienste mit Serverstandort in der EU anbieten. Diese kombinieren die Einfachheit von Cloud-Services mit höheren Datenschutzstandards und oft vertraglichen Garantien zur Nicht-Nutzung von Kundendaten für das Modelltraining (Zero Data Retention). Die Wahl hängt von Faktoren wie Datenschutzanforderungen, Budget, technischer Expertise und gewünschter Kontrolle ab.

LLMs in der Praxis: Einsatz im DACH-Raum

Im DACH-Raum stehen Unternehmen beim Einsatz von LLMs vor spezifischen Herausforderungen. Jeder KI-Einsatz, bei dem personenbezogene Daten verarbeitet werden, unterliegt den strengen Regeln der DSGVO, und der EU AI Act tritt mit seinen Transparenzpflichten im August 2026 vollständig in Kraft. Für österreichische KMU bedeutet dies eine doppelte Compliance-Anforderung: Datenschutz nach DSGVO und Risikoklassifizierung nach KI-Verordnung.

Typische Stolpersteine in der Praxis sind die unkontrollierte Nutzung öffentlicher Tools durch Mitarbeitende (Shadow AI), bei der vertrauliche Daten in externe Systeme eingegeben werden, mangelnde Dokumentation der Datenverarbeitung sowie fehlende Auftragsverarbeitungsverträge mit Cloud-Anbietern. Viele Unternehmen unterschätzen zudem das Phänomen der Halluzinationen, das die Zuverlässigkeit der Modelle gefährdet und besonders in regulierten Bereichen wie Steuerberatung, Medizin oder Rechtsauskünften kritisch ist.

Praktische Anhaltspunkte für einen rechtskonformen Einsatz umfassen: zentrale Bereitstellung von datenschutzkonformen Tools anstelle wilder individueller Lösungen, Verwendung von RAG-Systemen, die LLMs mit internem, verifiziertem Unternehmenswissen kombinieren, klare Nutzungsrichtlinien für Mitarbeitende, regelmäßige Validierung kritischer Ausgaben durch Fachpersonal sowie Dokumentation aller KI-gestützten Entscheidungsprozesse. Bei der Verarbeitung sensibler Kategorien personenbezogener Daten ist eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO erforderlich.

Grenzen und Risiken: Was LLMs nicht können

LLMs arbeiten auf Basis statistischer Wahrscheinlichkeiten, nicht auf logischer Schlussfolgerung oder echtem Verständnis. Sie neigen dazu, Informationen zu erzeugen, die nicht auf der Realität basieren – von falschen Fakten über inkorrekte Details bis hin zu komplett erfundenen Geschichten. Diese Halluzinationen entstehen hauptsächlich durch unzureichende oder fehlerhafte Trainingsdaten, mangelnde Kontextualisierung und die übermäßige Kreativität der Modelle.

Weitere Limitierungen betreffen den Wissensstand: LLMs haben einen festen Trainingsstichtag und kennen keine aktuelleren Ereignisse, es sei denn, sie werden durch externe Datenquellen ergänzt. Sie können keine echten Berechnungen durchführen, haben Schwierigkeiten mit präzisen quantitativen Analysen und neigen bei komplexen logischen Ketten zu Fehlern. Zudem können Trainingsdaten Verzerrungen (Bias) enthalten, die sich in den Ausgaben widerspiegeln und zu diskriminierenden Ergebnissen führen können.

Für geschäftskritische Anwendungen ist daher immer eine menschliche Validierung erforderlich. Wenn KI-generierte Informationen als Grundlage für operative Entscheidungen dienen, können Halluzinationen zu gravierenden Fehlern führen – etwa falsche Marktanalysen zu falschen Investitionen, ungenaue rechtliche Auskünfte zu Compliance-Problemen oder fehlerhafte technische Anleitungen zu Produktionsausfällen. LLMs sind leistungsstarke Assistenzsysteme, aber keine autonomen Entscheider.

Abgrenzung zu verwandten Begriffen

Large Language Models unterscheiden sich von General Purpose AI dadurch, dass LLMs speziell auf Sprachverarbeitung und -generierung fokussiert sind, während General Purpose AI breiter angelegt ist und verschiedene Modalitäten und Aufgabentypen umfassen kann. Allerdings werden moderne LLMs zunehmend multimodal und damit selbst zu General Purpose AI-Systemen.

Im Gegensatz zu RAG (Retrieval Augmented Generation) verfügen reine LLMs nur über das Wissen aus ihrem Training. RAG kombiniert LLMs mit externen Wissensdatenbanken, um aktuellere und unternehmensspezifische Informationen abrufen zu können. RAG ist also eine Erweiterungstechnik, die die Grenzen von LLMs überwindet.

Autonome KI-Agenten nutzen LLMs als zentrale Komponente für Planung und Kommunikation, gehen aber darüber hinaus: Sie können selbstständig Aufgaben in mehreren Schritten bearbeiten, Werkzeuge nutzen, mit externen Systemen interagieren und aus Feedback lernen. Ein LLM ist das „Sprachzentrum" eines Agenten, nicht der Agent selbst.