Ein neues sparsames Schwergewicht
Das jüngste Update der führenden Open-Weight-Modelle für den Unternehmenseinsatz offenbart einen spannenden Wandel in der Architektur. Arcee AI hat Trinity Large veröffentlicht, ein sparsames Mixture-of-Experts-Modell mit insgesamt rund 400 Milliarden Parametern, von denen jedoch nur 13 Milliarden pro Token aktiv sind. Laut Layer3 Labs wurde das Modell auf 2.048 Nvidia-Blackwell-B300-Chips für rund 20 Millionen Dollar trainiert – ein Bruchteil der Kosten vergleichbarer geschlossener Modelle.
Warum MoE die Spielregeln beim Hosting ändert
Für einen europäischen Hosting-Anbieter ist diese Art von Mixture-of-Experts-Architektur von großer Bedeutung. Bisher erforderten Modelle mit Frontier-Fähigkeiten enorme Hardware, um effizient zu laufen. Mit Trinity Large erhält man eine Kapazität, die einem massiven Modell entspricht, jedoch zu Inferenzkosten, die an ein deutlich kleineres Modell erinnern. Das macht es realistisch, fortschrittliche KI auf eigener Infrastruktur in Europa anzubieten, ohne das Budget zu sprengen.
Wie Davies Meyer hervorhebt, ist einer der wichtigsten Vorteile von Open-Weight-Modellen genau die Möglichkeit des Self-Hostings. Das gibt volle Kontrolle über die Daten und erleichtert die Einhaltung von Vorschriften wie dem EU AI Act erheblich. Da das Modell zur Laufzeit nur einen Bruchteil seiner Parameter aktiviert, sinken sowohl Stromverbrauch als auch Latenz.
- Geringerer Hardwarebedarf pro Anfrage
- Niedrigere Inferenzkosten
- Volle Einhaltung der europäischen Datensouveränität
Der Weg nach vorn
Arcee AIs Trinity Large ist ein hervorragendes Beispiel dafür, wie die Open-Weight-Bewegung praktisch anwendbarer wird. Modelle, die auf Effizienz zur Laufzeit ausgelegt sind, statt nur mit roher Parameterzahl zu beeindrucken, sind genau das, was für den Aufbau einer nachhaltigen europäischen KI-Infrastruktur gebraucht wird. Bei Liviate behalten wir diese effizienten Architekturen im Blick, damit unsere Kunden stets die neueste KI-Technologie sicher und wirtschaftlich in Dänemark betreiben können.