Eu acredito que ele tenha tokens infinitos. Então pra ele não faz diferença ler todo repositório em cada sessão. Pra mim em projetos grandes funcionou o sistema de atalhos. Deixar uma espécie de sitemap de cada função. E faz sentido porque um repositório que lançaram agora, graphify(acho que assim que escreve) faz algo parecido e promete economizar mais de 90% dos tokens. Portanto o que você puder deixar para facilitar para a IA não ficar pesquisando coisas inuteis acredito ser melhor do ponto de vista econômico.
1