Para essa questão de RAG eu precisaria colocar um novo componente na minha aplicação que faria os chunck com os embedings e salvaria no banco é isso??
E na hora da resposta o agente faria o embeding da pergunta e encontraria o chunck que mais se aproxima?? Fazendo assim não precisaria estruturar a proposta em JSON deixaria o texto completo da proposta??? Não fiz nada com RAG ainda.

Não conhecia o DuckDB vou dar uma estudada e testar já que também é um banco de dados embedded, assim como o SQLite eu conseguria rodar aqui sem precisar de infra do TI.