1

Antes de largar o gateway eu tentaria descobrir de onde vem a piora, porque lentidão e resposta pior costumam ter causas diferentes. Resposta pior geralmente é o gateway mexendo no pedido: traduzindo tudo pra formato OpenAI, cortando parâmetro de raciocínio ou caindo pra um modelo mais barato no fallback sem ninguém perceber. Vale olhar no log qual modelo respondeu de fato. E se essa tradução quebrar o cache de prompt, sessão longa de agente fica mais lenta e mais cara ao mesmo tempo, o que bate com o que vocês descreveram.

Pra auditoria sem nada no meio do caminho, o Claude Code exporta métricas e eventos por OpenTelemetry (tokens, custo, sessões por usuário, e o texto dos prompts se ligar o OTEL_LOG_USER_PROMPTS). Os planos de time do Cursor e do Claude também mostram uso por pessoa no painel. Com dezenas de devs eu começaria por aí e deixaria o gateway pra quem usa chave de API direto.

Carregando publicação patrocinada...
1

Onde trabalho usamos o Claude Code com plano empresarial, não usamos nenhum gateway pra controle nem nada, so prompt e dale aço. O próprio plano do claudinho já faz o controle de consumo dos tokens e o gestor só verifica quando alguém extrapola

1

pra quem tá todo mundo no plano empresarial acho que é isso mesmo, o painel já mostra quem gastou quanto. gateway só começa a compensar quando entra gente usando chave de API direto ou mais de um provedor misturado.

1

Obrigado pelo feedback, meu caro!

Estamos justamente tentando ajustar essas configurações e entender de onde vêm os gargalos. Também sabemos que o OmniRoute, por si só, não é necessariamente o problema, mas sim a forma como está configurado e utilizado, além das limitações que podemos estar enfrentando com as contas compartilhadas.

A ideia é encontrar uma configuração que funcione bem, sem abrir mão do controle de custos e da auditoria, mas também sem comprometer a produtividade dos desenvolvedores. Valeu pelas dicas!

1