Kimi K3.1 Pro en poids ouverts : 2 800 milliards de paramètres, fenêtre de contexte de 1 million de tokens. Auto-hébergement ou appel à l’API à 2 $/10 $ ? Un tableau pour faire le calcul et décider
Note de l’auteur : analyse des 2.8T de paramètres de Kimi K3.1 Pro, dont 104B activés, de sa quantification MXFP4 et de sa fenêtre de contexte de 1M. Nous estimons la taille des poids et les exigences matérielles, puis les comparons au tarif API de $2/$10, avec un tableau de décision et une liste de … Lire la suite