12 · Grundlagen & Modelle

Open-Weight-Modell

Modell, dessen Gewichte frei verfügbar sind.

Die Gewichte stehen zum Download, das Modell läuft auf eigener Hardware: volle Datenhoheit, keine API-Abhängigkeit, anpassbar per Fine-Tuning. Offen heißt aber nicht automatisch transparent — die Trainingsdaten bleiben meist geheim, und die Lizenz kann Nutzung einschränken. Für sensible Daten und kalkulierbare Kosten ist Open Weight oft die nüchternste Wahl.

Ein Beispiel

Eine Anwaltskanzlei will Schriftsätze zusammenfassen lassen. Mandatsdaten dürfen die Kanzlei nicht verlassen, ein Cloud-Dienst kommt also nicht infrage. Mit einem Open-Weight-Modell läuft die Auswertung auf einem Rechner im eigenen Serverraum: Die Daten bleiben, wo sie sind, es gibt keinen Auftragsverarbeiter, keine Drittlandübermittlung und keine Frage nach Trainingsnutzung. Der Preis dafür ist Betriebsaufwand — jemand muss die Maschine pflegen, das Modell aktuell halten und die Qualität messen.

Genauer betrachtet

Frei verfügbar heißt herunterladbar und lokal ausführbar, meist unter einer Lizenz mit Auflagen: Nutzungsgrenzen ab einer bestimmten Unternehmensgröße, Verbote für einzelne Einsatzzwecke. Die Lizenz zu lesen lohnt sich, sie unterscheidet sich von Anbieter zu Anbieter erheblich.

Warum das zählt

„Open Weight“ ist nicht dasselbe wie Open Source. Veröffentlicht wird meist nur das Ergebnis, nicht der Trainingsdatensatz und nicht der Trainingscode; nachbauen oder vollständig prüfen lässt sich das Modell damit nicht. Auch die Lizenzen sind unterschiedlich streng — manche verbieten kommerzielle Nutzung oder bestimmte Anwendungen. Wer aus Compliance-Gründen auf offene Gewichte setzt, sollte die Lizenz genauso sorgfältig lesen wie einen Cloud-Vertrag. Die Freiheit ist real, aber sie ist nicht unbegrenzt.

Häufig missverstanden

Selbst betreiben ist nicht automatisch billiger. Unterhalb einer gewissen Auslastung kostet eine reservierte Grafikkarte mehr als dieselbe Menge Anfragen über eine Schnittstelle.

Nachbarschaft

Verwandte Begriffe

Der Brief.