Claro!

Rodei local usando um modelo llama 7B, só que as respostas não estavam tendo tanta consistência que eu gostaria - sendo que o retorno da busca vetorial estava aceitável.

Então decidimos usar a API da OpenAI, para isso marcamos uma reunião com o setor de SI sobre fazer essas requisições para lá enviando informações da empresa. E foi aí que deu ruim.
Deu nem tempo para explicar como a OpenAI trata os dados de quem usa a API kk.