Meus 2 cents,

Parabens pelo post !

Confesso que o RAG eh o tipo de solucao que ainda me deixa desconfortavel.

Algumas alternativas que venho observando:

• Destilacao com modelos pequenos/base quando a base de dados eh estavel: o finetuning por si so eh complexo e caro de fazer, mas estao surgindo frameworks para destilacao, que eh um processo mais simples de treinamento. Se voce tem uma base de dados estavel, usar esta tecnica pode ser interessante, principalmente em modelos pequenos que podem ser executados localmente ou em uma estrutura barata (p.ex. Google Colab para testes)

• JEV/Typesafe/System One: este nasceu ontem praticamente, mas ja estao aparecendo frameworks que uso o JEV como classificador (muito barato) para pipelines RAG. Como ainda eh muito recente, ainda vamos ver exatamente o que isso permite.

Obrigado por compartilhar !

Saude e Sucesso !

Este post foi favoritado via extensão TABNEWS FAVORITOS

Tem curiosidade sobre IA ? Da uma olhada no meu LIVRO: IA PARA ENGENHEIROS