Offene Modelle

Ausführliche Erklärung

Der Begriff „offene Modelle“ wird in der Praxis für zwei unterschiedlich weitreichende Konzepte verwendet: Open-Weight-Modelle und vollständig Open-Source-konforme Modelle. Open-Weight-Modelle stellen lediglich die trainierten Modellgewichte bereit, nicht aber Trainingsdaten oder Trainingscode. Bekannte Beispiele sind Llama von Meta, Mistral von Mistral AI oder Qwen von Alibaba. Diese Modelle lassen sich herunterladen und auf eigener Hardware ausführen, erfüllen jedoch nicht die strenge Definition von Open Source nach der Open Source Initiative. Vollständig offene Modelle wie OLMo vom Allen Institute veröffentlichen zusätzlich Trainingsdaten, Trainingscode und Evaluierungsmethoden und ermöglichen damit echte Reproduzierbarkeit.

Für Unternehmen liegt der zentrale Wert offener Modelle in der Datensouveränität und Unabhängigkeit. Während Cloud-basierte KI-Dienste wie ChatGPT Eingaben auf fremden Servern verarbeiten, können offene Modelle als lokal betriebene Modelle vollständig im eigenen Rechenzentrum oder auf österreichischer Infrastruktur laufen. Das ermöglicht DSGVO-konformen Umgang mit personenbezogenen Daten, schützt Geschäftsgeheimnisse und vermeidet Vendor Lock-in. Unternehmen behalten die Kontrolle über Modellverfügbarkeit, Versionsstabilität und Kosten.

Die Lizenzmodelle variieren erheblich. Apache-2.0- oder MIT-lizenzierte Modelle wie Mistral 7B oder Phi von Microsoft erlauben uneingeschränkte kommerzielle Nutzung. Llama-Modelle unterliegen der Llama Community License, die für Unternehmen mit unter 700 Millionen monatlich aktiven Nutzern kommerzielle Nutzung erlaubt, darüber hinaus jedoch eine separate Vereinbarung mit Meta erfordert. Vor dem Einsatz sollte daher die Lizenz des jeweiligen Modells in der spezifischen Version geprüft werden.

Technisch benötigen kleinere Modelle bis 14 Milliarden Parameter etwa 8 bis 16 GB Speicher bei üblicher Quantisierung. Größere Modelle ab 32 Milliarden Parametern erfordern deutlich mehr Ressourcen oder Systeme mit Unified Memory. Für viele Unternehmensanwendungen wie Dokumentenverarbeitung oder RAG-Systeme reichen jedoch kleinere, spezialisierte Modelle aus, die auch auf moderater Büro-Hardware lauffähig sind.