Kimi K3.1 Pro mit offenen Gewichten: 2,8 Billionen Parameter, Kontextfenster mit 1 Mio. Tokens – selbst hosten oder die API für $2/$10 nutzen? Eine Entscheidungstabelle schafft Klarheit
Anmerkung des Autors: Kimi K3.1 Pro im Hardware- und Kostencheck: 2.8T Parameter, 104B aktiv, MXFP4 und 1M Kontext. Dazu API-Preise von $2/$10, Entscheidungstabelle und Checkliste. Das Wichtigste vorweg: Kimi K3.1 Pro ist ein MoE-Modell mit insgesamt 2.8T Parametern und lässt sich nicht auf einer einzelnen Maschine betreiben. Bei MXFP4-Quantisierung liegen allein die Modellgewichte schätzungsweise im … Weiterlesen