Meus 2 cents,
Parabens pelo post !
Eh sempre interessante acompanhar projetos reais usando tecnologia para atingir seus objetivos.
Foi uma forma diferente de implementacao, o que chama bastante a atencao.
Se nao for segredo industrial, fiquei curioso sobre qual AI Gateway estao usando - por exemplo tenho usado o OmniRoute para alguns projetos, mas ja usei o LiteLLM no passado.
Saude e Sucesso !
Este post foi favoritado via extensão TABNEWS FAVORITOS
Tem curiosidade sobre IA ? Da uma olhada no meu LIVRO: IA PARA ENGENHEIROS