Meus 2 cents,
Parabens pela iniciativa !
Tenho usado o OmniRoute para este tipo de atividade, que eh bem completo.
Disto isto, gostei do teu projeto: eh bem simples de implementar e manter (noves fora gosto muito do PHP), o que eh um ponto bem positivo.
Vou baixar e testar, mas um ponto que devo modificar (e indico como sugestao) eh: ele analisar a primeira linha do prompt para ver se eh um "comando" para o router.
Explicando: p.ex. no prompt mando na primeira linha "!CMD;modelo X" para indicar que para aquele prompt especifico ele deve usar o "modelo X", "!CMD;status" para ele so retornar o status/quotas do modelos atuais, "!CMD;info" para ele trazer quais os modelos cadastrados/disponiveis, "!CMD;default modelo X" para mudar o modelo como default, "!CMD;think" para ativar (ou desabilitar) CoT naquele prompt, "!CMD;raw" para retornar o RAW JSON da reposta original e assim por diante.
Desta forma nao preciso checar na linha de comando estes pontos e faco direto na propria interface que esteja trabalhando. Tem mais alguns detalhes, mas acho que voce pegou a ideia - tenho feito isso aqui e as vezes facilita meu trabalho.
Repositorio devidamente starreado e forkeado - obrigado por compartilhar !
Saude e Sucesso !
Este post foi favoritado via extensão TABNEWS FAVORITOS
Tem curiosidade sobre IA ? Da uma olhada no meu LIVRO: IA PARA ENGENHEIROS