1 min de leitura ·

🤖 Uma alternativa open-source ao LangChain [QUERO FEEDBACK]

Fala pessoal! 👋🏻

Eu e meu amigo Abdul criamos um projeto para deixar a integração de IAs no seu projeto mais plug and play.

Com apenas algumas linhas de código você consegue:

Trocar de LLM com um click
Trocar seu prompt
Adicionar conhecimento pra IA (arquivos e links)
Centralizar os custos de vários providers (OpenAI, Anthropic, Google...)
E muito mais...

O projeto se chama Itzam, temos um plano free bem legal e uma doc bem intuitiva para integrar.

Qualquer feedback é bem-vindo!

🐢

Fonte: https://itz.am

Oletros

2 dias atrás

Meus 2 cents,

Atualmente utilizo o LMStudio e o AnythingLLM como wrappers (em docker) para acesso aos modelos (com a vantagem de manter minhas chaves privadas, sem precisar compartilha-las com terceiros)

Qual seria o diferencial da tua ferramenta quando comparado com os casos acima ?

gustavofior

Autor

2 dias atrás

Opa!

Pelo que entendi, essas ferramentas são focadas mais no usuário (no caso você) usar LLMs localmente pra ele mesmo.

A ideia do Itzam é você integrar ele em um projeto que outras pessoas vão usar. A gente fornece uma API (e SDK de TS) que deixa bem simples você implementar features de IA.

Fez sentido?

Oletros

2 dias atrás

Mais ou menos,

Tanto o LMStudio quanto o AnythingLLM tambem sao plataformas opensource e podem rodar em docker (ou em cloud paga) e fornecer API (atuando como wrappers) para conexao com modelos, verificacao de consumo de tokens, troca de modelo em funcao de custo, etc.

Alem disso, o AnythingLLM ja permite a criacao de colecoes e RAG direto nele.

Por isso a pergunta.