GLM-5: scheda tecnica, prezzi API e dati

Wie viel Text das Modell in einer einzigen Anfrage im Blick behält, Frage und Antwort eingeschlossen. Das zählt bei langen Dokumenten und ganzen Code-Projekten. Ein Token ist ein Wortfragment.

Die längste Antwort, die es in einem Zug schreiben kann: nützlich für Berichte, langen Code oder Übersetzungen ganzer Dokumente.

Was es kostet, das Modell eine Million Token lesen zu lassen (deine Frage, die Dokumente, den Code). Es ist der offizielle Listenpreis, vor Rabatten.

Der reduzierte Preis, wenn ein Teil der Anfrage mit einer kürzlich gesendeten identisch ist, etwa dieselben Anweisungen oder dasselbe Dokument: Der Anbieter hält ihn im Speicher und berechnet weniger dafür.

Was eine Million vom Modell geschriebene Token kosten. Das ist meist mehr als beim Input und die Zahl, auf die man bei langen Antworten achten sollte.

Die Größe des Netzes: aus wie vielen Milliarden gelernter Werte es besteht. Größer heißt nicht unbedingt besser, sagt aber, wie viel Hardware nötig ist, um es selbst zu betreiben.

Bei „Mixture-of-Experts“-Modellen arbeitet nur ein Teil des Netzes an jedem Wort: Das sind die tatsächlich pro Token genutzten Parameter, die für Geschwindigkeit und Betriebskosten zählen.

Die Gewichte des Modells sind herunterladbar: Du kannst es auf eigenen Servern betreiben, anpassen und entscheiden, wo die Daten bleiben, im Rahmen der Lizenz.