Ollama-chat: Projetinho de Chat para IA pelo Terminal
Fala rede, tudo bem?
Eu tenho percebido que a conta da IA ficou muito cara. Por exemplo, para o Claude tornar-se melhor, está exigindo muitos recursos (energia e livros). E para movimentar sempre essa roda de inovação, acaba que aumentam o custo para o cliente.
Tanto que Elon Musk comentou que usar o Claude é bom, por enquanto melhor que o Grok, mas que as pessoas estão usando para coisas que micro modelos poderiam resolver com a mesma eficiência e menos custosos.
Desde então os influenciadores de IA deram um jeito de tentar confirmar ou refutá-lo. Até o Mano Deyvin fez vídeo sobre caso.
Então eu pensei: cara, sou pobre. Não tenho como ter uma IA que gerencia outras IAs, como o Deyvin exibiu. Contudo, sempre gostei de máquinas de estados.
E como máquinas de estados são os neandertais do mundo dos softwares inteligentes, acabei criando um scprit pyhton para chat com modelos do Ollama.
Não é uma conversa por modelo, mas uma conversa que permite trocar o modelo e o novo modelo ler o cache e está apto para continuar o trabalho que outro modelo não pode fazer.
Você pode trocar entre modelos offline e online durante a conversa. Optar por continuar uma conversa anterior ou não.
Consegue gerenciar diretórios, lendo, criando ou editando arquivos e pastas.
Usuário sempre na frente, ele só edita, remove ou alterar arquivos e pastas se o usuário permitir antes de executar.
Link para baixar o Ollama Chat