Executando verificação de segurança...
11
mozartdev
1 min de leitura ·

Pitch: Flow API: Uma interface unificada e gratuita para múltiplos modelos de IA (Groq, Llama 3.3, OpenAI OSS)

Fala, pessoal!

Gostaria de compartilhar com a comunidade o Flow API, um projeto que desenvolvi com o objetivo de simplificar o acesso a modelos de linguagem de alta performance.

A ideia central é oferecer uma camada de abstração gratuita e sem complicações. Muitas vezes, para testar um modelo novo ou integrar uma IA simples em um projeto hobby,lidar com SDKs pesados acaba desanimando. O Flow resolve isso com uma única chamada POST.

🚀 O que o Flow oferece hoje:

  • Múltiplos Modelos: Acesso ao Llama 3.1 (Instant), Llama 3.3 (Versatile), modelos OpenAI OSS e Groq Compound.
  • Seleção Inteligente: Suporte ao mode: "auto", que escolhe o melhor modelo para a sua necessidade.
  • Interface Amigável: Um Playground integrado para testes rápidos e visualização de tokens/tempo de resposta.
  • Multi-linguagem: Exemplos prontos para cURL, Python, JS, Go, Rust, e mais de 10 outras linguagens.

🛠️ Stack Técnica:

O projeto está hospedado na Square Cloud, aproveitando a baixa latência para o Brasil. No backend, utilizo Python com foco em performance assíncrona para garantir que a velocidade do Groq chegue sem gargalos ao usuário final.

🔗 Link para testar:

https://flow.squareweb.app

Adoraria receber o feedback de vocês sobre a estabilidade, a interface (fiz alguns ajustes finos no CSS dos blocos de código recentemente) e quais outros modelos vocês gostariam de ver por lá.

Espero que seja útil para os seus próximos projetos!

Fonte: https://github.com/FlowTemperature/flowapi

Carregando publicação patrocinada...
1
1
mozartdev
  • Autor
    Autor

Feito! ✅

Adicionamos login, limite de 20k mensagens/dia e liberamos 200 APIs com endpoints prontos para uso. Obrigado pelo feedback! Se tiver mais sugestões de melhorias, sinta-se à vontade para compartilhar.

1
1
1
0
1
1
0
0
1
1
2
1
mozartdev
  • Autor
    Autor

Pergunta justa! Atualmente, o Flow API utiliza a camada gratuita e os créditos de desenvolvedor do Groq, que são bem generosos para o volume atual. Como o projeto está em BETA e rodando na infraestrutura da Square Cloud (que tem um custo fixo baixo para o que oferece), o gasto hoje é praticamente zero.
Para o futuro, o plano é:

Sistema de API Keys: Para monitorar o uso e evitar abusos que queimem créditos desnecessariamente.

Modelo Freemium: Manter uma camada gratuita para a comunidade e, se o volume escalar muito, oferecer planos pagos para uso comercial intenso, o que financiaria a infraestrutura para todos.

O objetivo agora é validar a ferramenta e ajudar a comunidade. Se o projeto crescer, a monetização virá para sustentar o crescimento, não para lucrar em cima de devs hobbyistas!

3
IvanPSG

Bacana, achei válido.

Mas pra ser sincero, bate um leve medo de começar a usar e do nada só desaparecer. Não que isso ofereça qualquer tipo de risco, mas seria desagradável kkkkkk

Enfim, boa sorte com o projeto

1
mozartdev
  • Autor
    Autor

Entendo perfeitamente o receio! No mundo das APIs, a continuidade é tudo. O Flow API nasceu justamente para ser uma camada de estabilidade, não de incerteza.
Para mitigar esse risco, meu compromisso com o projeto inclui:
Transparência Total: Se em algum momento o projeto precisar mudar de rumo ou ser descontinuado (o que não está nos planos), haverá um aviso prévio generoso para que ninguém fique na mão.
Padronização: A API segue padrões REST comuns, então mesmo que você precise migrar no futuro, o esforço de refatoração seria mínimo.
Foco em Sustentabilidade: Como mencionei, o roadmap de API Keys e o modelo Freemium são justamente para garantir que o Flow não seja um 'vôo de galinha', mas sim um serviço perene.
Valeu pelo feedback e pela sorte! Espero que o Flow seja útil nos seus testes e projetos. 🚀

1
1
flavioalb

Quando chegar o momento de cobrar pelo teu app fala comigo. Eu acabei de criar um app com a proposta de ser o 1° canal de aquisição de clientes para apps recém lançados no Brasil, de forma 100% gratuita.

Estou convidando alguns founders que têm projetos legais como o seu para montar o feed inicial antes de abrir pro público. Só que precisa já estar cobrando. Se você quiser, cria uma oferta pelo stripe ou mercado pago, aí a gente posta teu app para testar, quem sabe você já consegue usuários pagantes.

1
mozartdev
  • Autor
    Autor

Eu não vou criar nada que precisa pagar no meu app gostei da proposta mas o meu app o sentido e ser exatamente gratís e bom então gostei mas não posso obrigado pella proposta.

1
mozartdev
  • Autor
    Autor

Para detalhar melhor: como o projeto está em BETA, o foco é manter a disponibilidade máxima. O time-out entre 4h e 6h da manhã é para manutenções preventivas e atualização de modelos. O limite de 20s por hora é uma medida de segurança para evitar abusos de scripts automatizados (bots) e garantir que todos os usuários tenham uma resposta rápida. Conforme o projeto escalar esses limites serão flexibilizados!

1
0
0
2
mozartdev
  • Autor
    Autor

não armazenamos dados.
e não oferecemos armazenamento de dados tipo armazenamento de chats tudo deve estar na sua aplicação nos apenas fornecemos a api de ia.

1
mayconvm

bacana, mas como vcs são uma api todos os dados serão descriptografados no servidor antes do proxy para o provider. Ou seja mesmo que seja transitório os dados estão abertos em texto para leitura. Quais são as politicas para tratar esse caso?

0
1
mozartdev
  • Autor
    Autor

Entendo o ceticismo, o famoso 'Trust me bro' é um clássico! Mas para ser bem sincero e técnico com vocês: a Flow API sequer possui um banco de dados.
O backend foi construído para ser totalmente stateless (sem estado). O fluxo é puramente em memória RAM: a requisição chega via HTTPS, o Python formata o JSON, faz o proxy para o provedor (Groq/OpenAI) e entrega a resposta. Assim que o ciclo termina, o Garbage Collector limpa a memória e o dado deixa de existir no nosso servidor.
Não temos persistência em disco, não temos logs de prompt e, como eu disse, não temos banco de dados para armazenar nada mesmo que quiséssemos. Se alguém tiver dúvida técnica sobre como esse proxy funciona, eu posso até colar o trecho do código da rota de geração aqui para vocês auditarem.
O foco é performance e simplicidade, e privacidade acaba sendo uma consequência natural dessa arquitetura

1