Kimi K3.1 Pro 가중치 공개: 2.8T 파라미터, 1M 컨텍스트. 직접 배포할까, $2/$10에 API를 호출할까? 결정표 하나로 명확히 따져보기
저자 주: Kimi K3.1 Pro의 2.8T 파라미터, 104B 활성 파라미터, MXFP4 양자화와 1M 컨텍스트를 살펴보고, 가중치 크기와 필요한 하드웨어를 추정해요. 또한 $2/$10 API 가격과 비교해 ‘직접 배포할지 API를 쓸지’ 결정할 수 있는 표와 체크리스트를 제공합니다. 결론부터 말하면, Kimi K3.1 Pro는 총 2.8T 파라미터를 가진 MoE 모델로, 단일 서버에서는 실행하기 어려워요. MXFP4 기준으로 추정해도 가중치만 TB … 더 읽기