Meus 2 cents,
Parabens pelo post !
Esta questao de "FinOps de IA" (primeira vez que vejo este termo usando desta maneira) eh um diferencial importante neste momento onde o custo tokens tem aumentado e creio que anda junto com a questao de testar/homologar o uso modelos locais para determinadas tarefas, ou mesmo a possibiliade de alugar Cloud GPU para rodar privado para alguns usos.
No meu caso tenho usado o OmniRoute para monitorar isso, mas tem o 9router entre outras opcoes (comparacao entre IA Gateways em https://krouter.kodelyth.com/compare)
Obrigado por compartilhar !
Saude e Sucesso !
Este post foi favoritado via extensão TABNEWS FAVORITOS
Tem curiosidade sobre IA ? Da uma olhada no meu LIVRO: IA PARA ENGENHEIROS