セルフホスティング

Kimi K3.1 Proの重みが公開：2.8兆パラメータ、コンテキストウィンドウ100万。自前でデプロイするか、$2/$10でAPIを利用するか？判断表1枚で徹底比較

by
img-87d9d54f65329425200205c1

作者注：Kimi K3.1 Pro の 2.8T パラメータ、104B の活性化パラメータ、MXFP4 量子化、1M コンテキストを解説します。重みの容量と必要なハードウェアを見積もり、$2/$10 の API 価格と比 … 続きを読む