Meus 2 cents,

Humm, voce sai do "vendor lock-in" do provedor de IA e cai no "lock-in" do provedor de servicos via AWS.

Dependendo do objetivo, acho mais interessante usar o OpenRouter, LiteLLM ou OmmitRoute.

Mas dou o braco a torcer que em certas situacoes, para escalar rapido, o AWS ajuda com o ecosistema integrado: o problema eh que o custo escala junto.

Saude e Sucesso !

Boa isso mesmo.

Mas quando vc precisa usar LLMs seguras sem usar seus dados para treinamento, Essa seria a melhor solucão. 

Possuo dados extretamente confideciais e a AWS garante que nem um outro projeto tem acesso a sua llm.

Mas o custo realmente é alto. Mas no final das contas as assinaturas do sistema paga fácil a AWS

Meus 2 cents, Humm, voce sai do "vendor lock-in" do provedor de IA e cai no "lock-in" do provedor de servicos via AWS. Dependendo do objetivo, acho mais interessante usar o OpenRouter, Li...