1

esse numCtx de 2048 pega muita gente, e o pior é que o Ollama não reclama, só corta o começo do prompt calado. aí a definição das ferramentas some e o modelo sai gerando sem parar, bem o que você descreveu. uma alternativa é fixar o num_ctx num Modelfile em vez de depender da opção do nó, assim qualquer cliente que chamar o modelo já pega 8k. fiquei curioso com os 24s do teste com Context7: quanto disso foi a resposta da ferramenta enchendo o contexto?

Carregando publicação patrocinada...