Ué mas ja existe o ollama para rodar llms localmente free faz tempo 0.o tem os projetos que usam ollama: openclaw e n8n para automações e bots agenticos
1
1
Meus 2 cents extendidos,
Sim, ja existem.
Mas o Cookbook (LLMFit) eh um item especifico que analisa o teu hardware e identifica quais os modelos no HF podem rodar localmente e com que velocidade, alem de automatizar/facilitar fazer o download, colocar para testes, benchmark, etc.
Saude e Sucesso !
Este post foi favoritado via extensão TABNEWS FAVORITOS
Tem curiosidade sobre IA ? Da uma olhada no meu LIVRO: IA PARA ENGENHEIROS