Preis-Leistung optimieren – mit gehosteten Open-Weight-Modellen

Es gibt kein einzelnes bestes Modell für jede Softwareentwicklungsaufgabe. Eine neue Funktion implementieren, eine fehlgeschlagene Pipeline diagnostizieren und Sicherheitslücken beheben – all das stellt unterschiedliche Anforderungen an das jeweils zuständige Modell. GitLab Duo Agent Platform erweitert die Auswahl an GitLab-verwalteten Modellen um drei gehostete Open-Weight-Modelle: Kimi K3, GLM 5.3 und MiniMax M3.

Zusammen mit den bereits verfügbaren Frontier-Modellen in GitLab lässt sich jetzt genauer steuern, wie Qualität, Latenz und Kosten optimiert werden, abgestimmt auf die Anforderungen jedes einzelnen Workloads. Eine anspruchsvolle Aufgabe geht an Kimi K3 oder GLM 5.3, die in internen Tests vergleichbare Frontier-Modelle übertrafen und pro Aufruf weniger kosten, während sich Routinearbeit mit hohem Volumen an MiniMax M3 delegieren lässt. So oder so stehen bis zu 4-mal mehr Aufrufe pro GitLab Credit zur Verfügung als bei manchen vergleichbaren Frontier-Modellen, mit mehr KI-Modelloptionen, um Kosten an die Aufgabenkomplexität anzupassen.

GitLab Transcend ist im Oktober zurück

Coding-Agenten beschleunigen die Entwicklung, doch Reviews, Sicherheitsrichtlinien und Release-Zyklen müssen mithalten können. Das Transcend-Event am 6. Oktober zeigt, wie GitLab Teams dabei hilft, diese Lücke zu schließen, und beleuchtet, was nötig ist, um das Tempo agentischer KI über den gesamten Software-Lebenszyklus hinweg mitzugehen.

Jetzt für den Livestream registrieren!

Warum ein einziges Modell lange der bequeme Ausweg war

Unterschiedliche Aufgaben in der agentischen Entwicklung brauchen Unterschiedliches von einem KI-Modell. Ein lang laufendes Refactoring braucht ein großes Kontextfenster und tieferes Reasoning, während eine routinemäßige Aufgabe mit hohem Volumen oft besser von einem schnelleren, kosteneffizienteren Modell bedient wird. Wer für den einen Aufgabentyp optimiert, gibt beim anderen etwas auf.

Während Teams diesen technischen Kompromiss durchdenken, kommt als weitere Governance-Herausforderung hinzu, ob sich ein neues Modell überhaupt nutzen lässt. In regulierten Umgebungen müssen jedes Modell und die Infrastruktur, auf der es läuft, Sicherheits-, Compliance- und interne Prüfungen bestehen, bevor ein Team es einsetzen kann. Reviews und Freigaben dauern oft so lange, dass sich viele Teams auf ein einziges freigegebenes Modell festlegen, selbst wenn es nicht für jede Aufgabe die beste Wahl ist.

Die Kosten dieses Kompromisses summieren sich. Legt sich ein Team auf ein teureres Modell fest, um dessen schwierigste Aufgaben abzudecken, übernimmt dasselbe Modell am Ende auch Routinearbeit, die ein schnelleres, günstigeres Modell hätte erledigen können. Je mehr Agenten-Workloads wiederholte Modellaufrufe über lang laufende, mehrstufige Arbeit hinweg auslösen, desto stärker wächst die Lücke zwischen Kosten und Leistung.

Der Kosten-Leistungs-Vorteil von Open-Weight-Modellen

Open-Weight-Modelle machen die Modellwahl zu einem Hebel für die Balance zwischen Kosten und Leistung. Sie können die Inferenzkosten vieler agentischer Aufgaben potenziell senken, bei einer Leistung, die mit manchen Frontier-Modellen mithält.

Die neuen, in GitLab gehosteten Open-Weight-Modelle bieten deutlich mehr Aufrufe pro Credit als viele vergleichbare Frontier-Modelle, die bereits auf Duo Agent Platform verfügbar sind. Ein Aufruf ist eine einzelne Anfrage, die GitLab Duo Agent Platform an ein Modell sendet, und eine Agenten-Aktion oder Chat-Nachricht kann mehrere Aufrufe auslösen.

Kimi K3 übertrifft in unseren internen Tests das Standardmodell hinter den meisten Funktionen von GitLab Duo Agent Platform, mit 1,82 Aufrufen pro Credit, knapp unter den 2 Aufrufen pro Credit des Standardmodells. GLM 5.3 erreicht 5 Aufrufe pro Credit und liefert dabei ebenfalls starke Leistung in internen Tests. MiniMax M3 baut auf dieser Kosteneffizienz auf, mit 8 Aufrufen pro Credit.

Zusammen bieten sie einen weiteren Hebel, um Kosten und Leistung aufgabenweise auszubalancieren. Weitere Informationen zu Credit-Multiplikatoren und eine Aufschlüsselung des Credit-Verbrauchs pro Modell gibt es auf der Seite zu den GitLab Credits.

Jedes der jetzt in GitLab Duo Agent Platform gehosteten Open-Weight-Modelle bringt eigene Stärken mit.

• Kimi K3 (Moonshot AI) ist das neueste Flaggschiffmodell des Unternehmens und gibt Teams Raum, um über große Codebasen oder lang laufende Agenten-Sessions hinweg zu arbeiten.
• GLM 5.3 (Z.ai) ist für Coding-Aufgaben mit langem Zeithorizont gebaut und gibt Teams ein Modell, das Kontext und Genauigkeit über ausgedehnte Agenten-Sessions hinweg hält.
• MiniMax M3 (MiniMax) ist darauf ausgelegt, die Rechenkosten bei lang laufender Arbeit niedrig zu halten, und auf hochvolumige, mehrstufige Agentenarbeit abgestimmt – eine starke Option, wenn Kosteneffizienz im großen Maßstab zählt.

Diese Demonstration zeigt die verfügbaren Open-Weight-Modelle:

Modellwahl mit eingebauter Kontrolle

Mit einer breiten Auswahl aus Open-Weight- und Frontier-Modellen von GitLab hat die eigene Duo-Agent-Platform-Implementierung jetzt mehr Freiheit, die Modellwahl für jede Aufgabe zu optimieren.

Die eigene Administration behält die zentrale Kontrolle darüber, welche Modelle Teams nutzen können, fest verankert in den eigenen Software-Entwicklungsworkflows. GitLab wählt zwar Standardmodelle auf Basis der Leistung aus, doch der Group Owner der eigenen Top-Level-Gruppe kann für jede Funktion ein anderes Standardmodell festlegen und kuratieren, aus welchen Modellen Teams wählen können – Einstellungen, die konsistent für jede untergeordnete Gruppe und jedes Projekt gelten.

Die Modellwahl lässt sich über GitLab-verwaltete, Self-Hosted- oder hybride KI-Deployment-Optionen an die eigenen Sicherheits-, Compliance- und Infrastrukturanforderungen anpassen. GitLab-verwaltete Modelle laufen vollständig innerhalb der Umgebung von GitLab, ohne dass eine eigene Infrastruktur aufgebaut oder gepflegt werden muss. Self-Hosted-Modelle laufen auf selbst verwalteter Infrastruktur, sodass der Modell-Traffic im eigenen Netzwerk bleibt. Hybride Deployments erlauben eine Mischung aus beidem: manche Modelle laufen über GitLab, andere auf der eigenen Infrastruktur, je nachdem, was der jeweilige Workload braucht.

Bevor ein neues Modell in die Auswahl von GitLab Duo Agent Platform aufgenommen wird, prüfen wir es gegen interne Leistungs- und Qualitätsanforderungen. GitLab-verwaltete Modelle bringen ihre eigene, eingebaute Absicherung mit. Bevor GitLab einen Anbieter auswählt, um Modelle für Funktionen von Duo Agent Platform zu hosten, durchläuft dieser einen Prozess zum Risikomanagement bei Drittanbietern, um zu prüfen, ob er eine festgelegte Sicherheitsschwelle erreicht. Das umfasst eine Prüfung des Sicherheitsprogramms und der Kontrollen des Anbieters, etwa Zugriffsverwaltung, Daten-Governance und Risikomanagement-Praktiken, dazu Sicherheitsnachweise von Drittanbietern wie einen SOC-2-Type-2-Bericht oder eine aktive ISO-27001-Zertifizierung, sowie regelmäßige Penetrationstests mit risikobasierter Behebung von Schwachstellen.

Alle vier gehosteten Open-Weight-Modelle laufen über Fireworks AI, das diese Schwelle erreicht. Für Anfragen an GitLab Duo Agent Platform pflegt GitLab mit Fireworks eine Zero-Data-Retention-Richtlinie: Eingabe- und Ausgabedaten der Modelle werden unmittelbar nach jeder Antwort gelöscht und nicht zur Missbrauchsüberwachung gespeichert.

Mit dieser Grundlage aus Governance und Sicherheit lassen sich Open-Weight-Modelle mit demselben Vertrauen in die eigenen Workflows einbinden, das auch für jedes GitLab-verwaltete Modell gilt.

Jetzt mit Open-Weight-Modellen loslegen

Kimi K3, GLM 5.3 und MiniMax M3 lassen sich jetzt als optionale Modelle in GitLab Duo Agent Platform auswählen, oder eines davon als Standardmodell für eine Funktion festlegen, sodass das eigene Team es automatisch nutzt. Für einen tieferen Einblick in die Modellunterstützung von Duo Agent Platform und Hinweise zur Modellwahl: die GitLab-KI-Modelldokumentation lesen.

Neu bei Duo Agent Platform? Kostenlose Testversion starten. Bereits auf Premium oder Ultimate? Duo Agent Platform aktivieren.