1

Se quiser remover custo da api LLM para zero da llm use Groq Cloud e Google Studio juntas, elas tem limite bem alto, e ainda para evitar chamadas iguais e desperdiça chamadas, use Redis para salvar cache semanticamente, daria mais trabalho, mais só o trabalho que já tiveram para tira leite de pedra, um desse a mais não seria grande coisa, recentemente consegui pegar uma máquina VPS 4CPU e 24gb de ram free da Oracle rsrsrs, depois de 12 dias tentando pegar, finalmente consegui, vou usala para lança um mvp e estarei usando, tudo grátis haha só vou pagar quando for precisar escalar, até quando o servidor aguentar ele vai ser o grátis, quem sabe não crie um post aqui sobre isso, o seu post me motivou a documentar isso

Carregando publicação patrocinada...
1

Pessoal continua falando do Groq Cloud mas ainda não testei. onde fala desse free tier robusto? Ainda não é minha preocupação os custos de LLMs mas o AI Gateway ajuda com observabilidade. Vou colocar no kanban pra ver.

E Legal, cara que bom que o conteúdo te incentivou. Me pinga quando for postar.