1

Kimi K3.1 Pro abriu os pesos: quanto custa rodar um modelo de 2,8 trilhões de parâmetros?

A Moonshot AI disponibilizou os pesos do Kimi K3.1 Pro, um modelo Mixture-of-Experts (MoE) com 2,8 trilhões de parâmetros e uma janela de contexto de mais de 1 milhão de tokens.

O lançamento chamou minha atenção por dois motivos: o tamanho da infraestrutura necessária para executar o modelo e o preço relativamente competitivo da API oficial.

A pergunta que fica é: para um desenvolvedor independente ou uma pequena startup, vale a pena hospedar um modelo desse tamanho ou continuar usando APIs?

Fui conferir a documentação oficial, as receitas de implantação do vLLM e os preços publicados pela Moonshot.

1. O que há de diferente no Kimi K3.1 Pro?

Segundo o model card oficial no Hugging Face, estas são as principais características:

CaracterísticaKimi K3.1 Pro
ArquiteturaMixture-of-Experts (MoE)
Parâmetros totais2,8 trilhões
Parâmetros ativados104 bilhões
Contexto máximo1.048.576 tokens
ModalidadesTexto e imagem
PesosMXFP4, com precisão mista
Mecanismo de atençãoKDA + Gated DSA
DisponibilidadePesos públicos no Hugging Face

O ponto interessante é a arquitetura MoE.

Em vez de utilizar todos os 2,8 trilhões de parâmetros durante cada etapa da inferência, o modelo ativa apenas uma parte dos especialistas.

Isso ajuda a reduzir a quantidade de computação necessária por token.

Mas existe uma diferença importante:

Ativar 104 bilhões de parâmetros não significa que basta ter memória para armazenar 104 bilhões de parâmetros.

Os demais pesos também precisam estar disponíveis na infraestrutura de inferência.

É por isso que executar o modelo completo continua sendo uma tarefa muito diferente de instalar um modelo pequeno no Ollama.

Outro detalhe: pesos abertos não significam necessariamente software livre sem restrições. O Kimi K3.1 Pro utiliza uma licença própria, que deve ser consultada antes de redistribuir ou oferecer serviços comerciais.

2. Quanto hardware é necessário para executar o modelo?

O checkpoint oficial ocupa aproximadamente 1,5 TB de armazenamento.

Além dos pesos, a execução exige memória adicional para cache KV, buffers de processamento e requisições simultâneas.

A documentação do vLLM para Kimi K3.1 Pro apresenta configurações específicas para diferentes aceleradores.

Entre elas:

HardwareConfiguração documentada
NVIDIA B3001 nó com 8 GPUs
NVIDIA GB3002 trays, com 8 GPUs no total
AMD MI355X1 nó com 8 GPUs
Zhenwu M8904 nós com 8 PPUs cada
Zhenwu 810E2 nós com 16 PPUs cada

Essas configurações não são equivalentes em custo, latência ou desempenho.

O vLLM também documenta diferentes estratégias de paralelismo, cache e otimização para cargas com contexto longo.

Já a documentação do SGLang diferencia configurações para baixa latência, alta concorrência e agentes que mantêm conversas longas.

Portanto, o problema não é apenas conseguir carregar os pesos na memória.

Também precisamos considerar:

  • Quantos tokens por segundo a infraestrutura consegue gerar.
  • Quantas requisições simultâneas ela suporta.
  • Qual será a latência percebida pelo usuário.
  • Quanto custa manter os aceleradores disponíveis quando não há tráfego.
  • Quanto tempo será gasto com manutenção e atualização.

Para quem está construindo um SaaS, esses detalhes podem ser mais importantes do que o tamanho do modelo.

3. O custo real de hospedar um modelo de 2,8 trilhões de parâmetros

É comum encontrar estimativas de milhões de yuans para clusters de aceleradores desse porte.

Mas é importante separar estimativas de mercado de cotações oficiais.

A Moonshot não publicou um preço universal para montar uma infraestrutura própria de Kimi K3.1 Pro.

Mesmo quando um conjunto de servidores oferece memória suficiente, isso não garante que a topologia seja oficialmente validada ou economicamente viável.

Na prática, o custo total inclui:

Custo total = GPUs ou aceleradores + armazenamento + rede + energia + operação + capacidade ociosa

Para uma empresa com demanda constante e equipe especializada, hospedar o modelo pode fazer sentido.

Para um projeto novo, ainda tentando encontrar clientes, a situação é muito diferente.

Comprar infraestrutura antes de medir o uso real pode transformar um custo variável relativamente pequeno em uma grande despesa fixa.

4. Quanto custa usar a API oficial?

Aqui está a parte mais interessante.

A plataforma oficial da Kimi publica os seguintes preços:

ModeloEntrada / 1M tokensSaída / 1M tokens
Kimi K3US$ 3,00US$ 15,00
Kimi K3.1 ProUS$ 2,00US$ 10,00
Kimi K3.1 Pro HighspeedUS$ 4,00US$ 20,00

Valores em dólares, consultados em 5 de novembro de 2026. São preços padrão, sem considerar descontos por cache ou eventuais impostos.

O K3.1 Pro apresenta uma redução de aproximadamente 33% no preço padrão de entrada e saída em relação ao K3.

A variante Highspeed oferece maior velocidade, mas cobra o dobro pelos tokens padrão de entrada e saída.

Um exemplo de custo mensal

Imagine um SaaS que consome mensalmente:

  • 20 milhões de tokens de entrada.
  • 5 milhões de tokens de saída.

Usando Kimi K3.1 Pro:

Entrada: 20 × US$ 2 = US$ 40

Saída: 5 × US$ 10 = US$ 50

Total estimado: US$ 90 por mês.

Esse cálculo não considera benefícios de cache nem custos de outras partes da aplicação.

Mas ele demonstra um ponto importante.

Em uma aplicação com esse volume, montar uma infraestrutura especializada com várias GPUs de alto desempenho seria difícil de justificar apenas pelo custo da inferência.

Naturalmente, a comparação muda quando estamos falando de milhões de requisições, utilização constante e exigências específicas de controle dos dados.

Por isso, considero mais útil calcular o custo por tarefa concluída do que comparar somente o preço por milhão de tokens.

5. Como acessar o Kimi K3.1 Pro pela API?

A Moonshot oferece uma API compatível com a interface da OpenAI.

O identificador oficial do modelo é:

kimi-k3.1-pro

Um exemplo básico usando cURL:

curl https://api.moonshot.ai/v1/chat/completions \
  -H "Authorization: Bearer ${MOONSHOT_API_KEY}" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "kimi-k3.1-pro",
    "reasoning_effort": "low",
    "messages": [
      {
        "role": "user",
        "content": "Explique a arquitetura MoE em português."
      }
    ]
  }'

O exemplo utiliza diretamente a API oficial da Moonshot e requer uma chave válida.

O modelo oferece três níveis de esforço de raciocínio:

low, high e max.

O padrão documentado é max.

Em integrações com ferramentas e conversas de múltiplas etapas, também é importante preservar as mensagens completas retornadas pelo modelo, incluindo os campos relacionados ao raciocínio e às chamadas de ferramentas.

A compatibilidade com a API OpenAI facilita a integração, mas não elimina a necessidade de verificar esses comportamentos específicos.

6. E se a aplicação precisar de vários modelos?

Na minha opinião, nem toda tarefa precisa de um modelo de 2,8 trilhões de parâmetros.

Um agente de programação complexo pode justificar um modelo mais poderoso.

Já tarefas como classificação, extração de dados, respostas simples de suporte ou automações rotineiras podem utilizar modelos mais econômicos.

Uma arquitetura interessante é selecionar o modelo de acordo com a complexidade da tarefa.

Também é possível manter um provedor secundário para reduzir a dependência de uma única API.

É justamente uma das questões que estamos explorando no MandAPI, um gateway de APIs de IA com integração compatível com OpenAI e preços publicados em reais.

A ideia é trabalhar com diferentes modelos por meio de uma interface comum, simplificando integrações e permitindo comparar custos.

Na prática, porém, é importante verificar a disponibilidade de cada modelo.

Em 5 de novembro de 2026, Kimi K3.1 Pro ainda não constava no catálogo público do MandAPI. O modelo estava disponível diretamente pela Moonshot.

Para consultar os modelos efetivamente publicados, existe a tabela de preços e modelos do MandAPI.

Também publicamos um guia de integração de API compatível com OpenAI, mostrando a criação de chaves, a consulta aos modelos disponíveis e o envio de uma requisição.

O objetivo dessa abordagem é evitar que toda a arquitetura de uma aplicação fique rigidamente dependente de um único fornecedor.

7. Os benchmarks justificam a infraestrutura?

A Moonshot também divulgou melhorias em programação e tarefas executadas por agentes.

No Terminal-Bench 4.0, o Kimi K3.1 Pro alcançou 65,7% na avaliação publicada pelo próprio fornecedor.

O resultado é relevante, mas benchmarks precisam ser interpretados considerando as configurações utilizadas, o acesso às ferramentas e a metodologia da avaliação.

Para uma aplicação real, eu analisaria principalmente:

MétricaPergunta importante
Sucesso da tarefaO modelo consegue concluir o trabalho?
Custo por tarefaQuanto custa cada execução bem-sucedida?
LatênciaQuanto tempo o usuário espera?
EstabilidadeQuantas requisições falham ou precisam ser repetidas?
Consumo de tokensQuanto raciocínio e contexto cada operação utiliza?

Um modelo que custa menos por token pode acabar custando mais por tarefa, dependendo da quantidade de tentativas e da qualidade dos resultados.

8. Então vale mais a pena usar API ou hospedar?

Minha conclusão é que depende principalmente do volume real de utilização.

SituaçãoAlternativa a avaliar primeiro
Projeto pessoalAPI hospedada
SaaS em fase inicialAPI hospedada
Tráfego imprevisívelAPI hospedada
Processamento contínuo em alto volumeComparar hospedagem própria
Requisitos rígidos de infraestruturaHospedagem própria ou dedicada
Orçamento limitadoAPI ou modelo menor

Não existe um ponto de equilíbrio universal.

Antes de investir em servidores, é necessário medir a quantidade de tokens, a concorrência, o desempenho e a taxa de utilização esperada.

O lançamento de pesos abertos amplia as possibilidades técnicas, mas não elimina os custos de infraestrutura.

Conclusão

A disponibilização dos pesos do Kimi K3.1 Pro é um avanço interessante para quem trabalha com modelos de IA.

Agora temos um modelo MoE de 2,8 trilhões de parâmetros, contexto de mais de um milhão de tokens e opções de implantação documentadas publicamente.

Mas a principal lição, para mim, é outra:

Ter acesso aos pesos de um modelo não significa que hospedar esse modelo seja a opção mais econômica.

Para pequenos desenvolvedores e startups, começar com uma API e medir o custo real de cada tarefa provavelmente continua sendo a decisão mais prática.

A hospedagem própria pode se tornar interessante quando existe demanda suficiente para justificar a infraestrutura.


Fontes e leitura complementar

Transparência: participo do projeto MandAPI, mencionado neste artigo como exemplo de integração de múltiplos modelos. Os preços da Moonshot apresentados acima são os da API oficial, não preços do MandAPI.

E vocês? Para um projeto com agentes de IA, preferem manter vários provedores de API ou investir em infraestrutura própria quando o volume aumenta?

Carregando publicação patrocinada...