Opa bão?

Introdução

Recentemente eu estava mexendo com llama.cpp apenas para brincar, depois eu iria usar wllama. etc..

Então eu pensei..

Hm... Eu poderia rodar um modelo pequeno em memória e fazer ele raciocinar o projeto, quebrar em micro-tasks, analisar.. e efetuar task a task.

Então notei que poderia fazer a estrutura, uma simples few-shot para criar as pastas e depois popular os arquivos com código, já que ele teoricamente tem a base do projeto elaborada.

Como o modelo que usei é pequeno (1.5B), então usar um historico de conversa acabaria criando alucinações...

A solução?

"Criar um historico fake para servir como embeddings" E FUNCIONOU!

Então eu pensei..

Agora seria legal o modelo rodar em contêineres, instalar dependencias e depois só servir um zip.

Foi ai que desenvolvi este projeto: TempFS.

Este projeto se trata simplesmente de um playground para agentes poderem rodar códigos num contêiner temporario.

Pode notar que tem dois exemplo...

O primeiro sendo rodando llama.cpp com llama-server e o segundo um ubuntu em memória.

Conclusão

Resolvi deixar disponivel essa solução simples, apenas como registro.. não se trata de "waaw um projeto". É só mais uma das minhas ideias saindo do papel...

Obrigado pela Atenção