1

[Pitch] Criei um gateway de APIs de IA para o Brasil e descobri que o maior problema não era a IA

Quando comecei a desenvolver a MandAPI, minha ideia parecia simples: reunir diferentes modelos de inteligência artificial em uma única API, com preços acessíveis para desenvolvedores brasileiros.

DeepSeek, Claude, Gemini, GPT... Hoje existem muitas opções. O problema é que integrar e pagar por esses serviços nem sempre é tão simples quanto parece.

Depois de colocar o projeto no ar e conversar com os primeiros usuários, percebi uma coisa:

O modelo de IA era apenas uma parte do problema. Pagamentos, infraestrutura e confiabilidade davam muito mais trabalho do que eu imaginava.

Quero compartilhar algumas coisas que aprendi construindo esse projeto.

  1. O problema dos pagamentos no Brasil

Muitos serviços de IA são pensados primeiro para usuários dos Estados Unidos.

Isso pode significar cobrança em dólar, necessidade de cartão internacional e dificuldades para quem prefere pagar com Pix.

Por isso, uma das primeiras decisões foi trabalhar com preços em reais e aceitar pagamentos locais.

Mas integrar Pix não resolveu tudo.

Precisamos lidar com provedores de pagamento, taxas, conciliação de transações e confirmação de créditos na plataforma.

Em alguns momentos, tivemos problemas justamente nessa integração e precisamos conferir pagamentos manualmente.

Foi uma boa lição: não adianta ter uma API funcionando se o usuário não consegue adicionar saldo com facilidade.

  1. Uma API, vários fornecedores — e vários problemas

A ideia técnica da MandAPI é oferecer uma interface compatível com OpenAI para acessar diferentes modelos.

Isso simplifica a integração para quem já utiliza ferramentas e bibliotecas compatíveis com esse padrão.

Mas trabalhar com múltiplos fornecedores traz desafios próprios:

Um fornecedor pode apresentar instabilidade enquanto outro continua funcionando.

O mesmo modelo pode ter preços diferentes dependendo do canal.

Streaming, timeouts e parâmetros nem sempre se comportam da mesma maneira.

Uma requisição pode funcionar em um teste simples e falhar com um contexto maior.

Aprendi que ter vários canais disponíveis não é sinônimo de ter uma infraestrutura confiável.

É necessário testar os cenários reais dos usuários, monitorar erros e entender quando uma falha vem da aplicação, do gateway ou do fornecedor.

  1. O problema das falhas intermitentes

Recentemente, investigamos um caso curioso.

Algumas requisições de um usuário falhavam de forma intermitente, mas os mesmos canais respondiam normalmente em nossos testes.

Testamos diferentes formatos de requisição, streaming, respostas sem streaming, contextos longos e chamadas de ferramentas.

Não conseguimos reproduzir exatamente o mesmo comportamento.

Isso me lembrou que uma mensagem de erro isolada raramente conta a história inteira.

Hoje considero especialmente importantes:

Registrar identificadores de requisição.

Separar erros do cliente e do fornecedor.

Monitorar latência e timeouts.

Testar diferentes tamanhos de contexto.

Evitar assumir que um teste bem-sucedido significa que tudo está estável.

Ainda estamos melhorando essa parte.

  1. Preço baixo não é suficiente

Uma das vantagens de trabalhar com diferentes fornecedores é conseguir oferecer modelos com custos menores.

Mas também aprendemos que o preço não é tudo.

Em conversas com usuários, apareceram preferências bem diferentes: alguns priorizam a qualidade do Claude, outros gostam do Gemini para aplicações conversacionais, enquanto outros procuram modelos como DeepSeek pelo custo.

Não existe uma escolha universal.

Por isso, acredito que o desenvolvedor deveria ter liberdade para escolher o modelo conforme a tarefa, sem precisar reconstruir toda a integração.

  1. O que estamos construindo

O projeto se chama MandAPI.

Começamos com foco no Brasil, oferecendo uma API compatível com OpenAI, acesso a diferentes modelos, preços em reais e opções de pagamento locais.

Agora também estamos expandindo a interface para inglês e espanhol, pensando em outros países da América Latina.

Ainda temos bastante trabalho pela frente, principalmente em estabilidade, transparência de consumo e automação dos pagamentos.

Se alguém quiser conhecer a implementação do ponto de vista do usuário, o site é:

https://mandapi.com

  1. Gostaria de ouvir a comunidade

Queria aproveitar para fazer três perguntas:

Vocês preferem integrar diretamente com cada fornecedor ou utilizar um gateway com vários modelos?

O que pesa mais na escolha de uma API: preço, estabilidade, latência ou qualidade do modelo?

Para quem desenvolve no Brasil, Pix realmente faz diferença na hora de contratar serviços de IA?

Estou especialmente interessado em ouvir quem já enfrentou problemas de pagamento, timeout ou troca de fornecedores.

Ainda estamos aprendendo e qualquer experiência técnica compartilhada aqui será muito útil.

Carregando publicação patrocinada...
1

Sobre a falha intermitente que vocês não conseguiram reproduzir: vale olhar se tem algum proxy no caminho cortando por inatividade. Sem streaming e com contexto grande, o fornecedor pode demorar bastante até mandar o primeiro byte, e load balancer ou CDN com timeout de ociosidade derruba a conexão só nas requisições mais pesadas daquele usuário (no Cloudflare com proxy ligado, por exemplo, é 100 segundos e volta um 524). Em teste curto isso nunca aparece.

Logar o tempo até o primeiro byte junto do request id ajuda a ver se as falhas se concentram perto de um número redondo.

1

Fui revisar os logs e encontrei duas requisições não streaming que falharam com HTTP 524, ambas exatamente após 125 segundos, usando o mesmo modelo e canal upstream.

Também encontrei erros 502 em outro provedor, mas esses aconteceram em apenas 2–4 segundos, então parecem ser problemas diferentes.

0

Agora estamos investigando em qual ponto da cadeia ocorre esse timeout de 125 segundos, além de revisar os logs dos proxies e fornecedores.

Sua dica ajudou bastante. Muito obrigado!

1

o 524 é código do próprio Cloudflare, então tem um Cloudflare em algum ponto dessa cadeia. como 125s não bate com os 100 do padrão, pode ser até o do fornecedor upstream, com timeout configurado diferente, e o gateway só repassando o status. vale ver se a resposta de erro traz header cf-ray e de qual host ela vem.

se for do lado do fornecedor, o jeito é usar streaming nessas requisições longas, porque aí os bytes começam a chegar antes do corte.

1

Boa observação! Ainda não tínhamos considerado que o 524 poderia estar vindo do Cloudflare do próprio fornecedor upstream.

Vamos verificar o header cf-ray e a origem da resposta para identificar em qual camada ocorre o timeout.

Também vamos avaliar o uso de streaming nas requisições mais longas.

Muito obrigado pela ajuda e pela análise detalhada!

1