9

O Claude Code consome muito no contexto inicial (>30k tokens), mas dá para reduzir para <10k tokens

Tem surgido alguns debates sobre o Claude Code consumir muitos tokens logo de início por causa do "harness" dele (system prompt, memória, ferramentas, MCPs etc., exemplo aqui), e que outros concorrentes são mais eficientes. Isso pode ser verdade, principalmente se você usar algo como o Pi, onde você configura exatamente apenas o que você precisa, e será o auge da eficiência para o seu caso. Mas o Claude Code pode ser melhor para você do que o "padrão" que a Anthropic entrega.

E já adianto: talvez reduzir para menos de 10k tokens não seja o ideal para o seu fluxo de trabalho, assim como os 30k iniciais (ou o valor que aparecer para você). O objetivo aqui é você encontrar o seu ponto ideal.

Investigando o contexto inicial e desabilitando o que não é útil

O Andrei compartilhou com a equipe um tweet do Matt Pocock que leva para o artigo How To Kill The Bloat In Claude Code's System Prompt. Em resumo, o artigo ensina a:

  1. Medir o contexto inicial e ver o que tem nele: todas as ferramentas, memórias, MCPs, system prompt, e várias outras coisas que podem ou não ser úteis para você.
  2. Identificar o que não é útil pra você.
  3. Desabilitar e remover do contexto.

Exemplo de configuração final do artigo:

{
  "permissions": {
    "deny": [
      "EnterPlanMode",
      "ExitPlanMode",
      "DesignSync",
      "NotebookEdit",
      "SendMessage",
      "PushNotification",
      "RemoteTrigger",
      "ReportFindings",
      "ScheduleWakeup",
      "AskUserQuestion",
      "CronCreate",
      "CronDelete",
      "CronList"
    ]
  },
  "disableBundledSkills": true,
  "disableWorkflows": true,
  "disableRemoteControl": true,
  "disableClaudeAiConnectors": true,
  "disableArtifact": true
}

Se você apenas copiar e colar as configurações acima, provavelmente vai sentir melhorias, mas sugiro ler o artigo e entender de fato cada etapa para "remover" do Claude Code apenas o que não é útil para você. Por exemplo, se você usa Cron, a configuração acima não funcionará para você, precisa adaptar.

Os ganhos vão variar caso a caso, mas o Andrei mostrou que o dele caiu de 23.9k tokens para 8.8k, o Matt Pocock de 25k para 13k, mas teve até casos mais absurdos no X falando de 61k para 15k. O meu foi 33k para 18k.

Mais configurações do Claude Code

Recomendo também ver a documentação de configurações do Claude Code, pode encontrar mais coisas para desativar. Mesmo que não ajude na limpeza de contexto, pode melhorar sua experiência.

Use /checkup (ou /doctor)

Outra coisa que o Andrei compartilhou foi o tweet do Boris Cherny falando para usar o comando /checkup (alias do /doctor). Não sei se o /doctor sempre foi assim, ou se foi uma melhoria recente, mas a ferramenta pode listar alguns pontos de atenção, como skills que você nunca usou, sugestão de limpeza no CLAUDE.md etc.

Carregando publicação patrocinada...
2

Meus 2 cents,

Parabens pelo post !

Trabalhar com IA e agentes eh uma disciplina em construcao - parafraseando o ditado antigo, eh bem cansativo ficar ajustando o motor enquanto estamos embarcados, o carro esta andando a toda e bebe combustivel como se nao houvesse amanha.

Toda semana tem uma novidade, seja um modelo ou um harness com algum pentelhesimo de modificacao. Enfim, por enquanto o jogo eh esse.

Uma recomendacao recorrente (que inclusive esta no tweet do Pocock citado acima) eh usar um proxy: no meu caso tenho usado o OmniRoute

Obrigado por compartilhar !

Saude e Sucesso !


Este post foi favoritado via extensão TABNEWS FAVORITOS

Tem curiosidade sobre IA ? Da uma olhada no meu LIVRO: IA PARA ENGENHEIROS