Percebo que muitos dos problemas atribuídos ao RAG, na verdade, surgem de uma visão equivocada sobre o que ele pode, ou deveria, fazer.
Essa ideia de que você vai despejar um monte de documentos e, milagrosamente, extrair respostas corretas para cenários diferentes… não parece meio exagerada?
Já parou pra pensar que o problema pode não estar no RAG, e sim na qualidade, estrutura ou até no formato da base de conhecimento que você está entregando para ele trabalhar?