Boa isso mesmo.
Mas quando vc precisa usar LLMs seguras sem usar seus dados para treinamento, Essa seria a melhor solucão.
Possuo dados extretamente confideciais e a AWS garante que nem um outro projeto tem acesso a sua llm.
Mas o custo realmente é alto. Mas no final das contas as assinaturas do sistema paga fácil a AWS