Bom dia comunidade TabNews, espero que estejam todos bem!
Temos um SaaS para gestão financeira e recentemente recebemos a oportunidade de implementar um chatbot que responde a perguntas sobre cobranças emitidas.
Logo pensei que desenvolver em público e disponibilizar num screencast seria uma boa e o resultado está no link abaixo!
Um forte abraço,
Vedovelli
x.com/vedovelli74
Meus 2 cents:
Assisti o video, e devo dizer: PQP, que codigo legal ! Normalmente vejo este tipo de solucao implementada via python ou chamadas via API, mas trazendo o codigo para dentro do laravel foi muito interessante.
Confesso que fiquei com uma duvida: como voce vai acrescentando o 'messages' - em algum ponto do tempo ele nao estourar o contexto e a IA comecar a alucinar ?
Outro ponto: se voce puder compartilhar o codigo nao sigiloso (especifico da tua aplicacao) - seria bem util para dar uma olhada direto.
Mas ficam meus parabens pela iniciativa - ficou muito bom !!!
Obrigado pelo comentário, Oletros!
E nossa solução atual, que está mais desenvolvida e complexa do que a apresentada no vídeo, não temos qualquer dispositivo de segurança contra alucinações provocadas por tamanho do contexto além de um aviso na UI: "Conversas muito extensas tendem a se tornar ineficientes". De qualquer forma, a natureza dos chats é sempre perguntas diretas, pequenas e POUCAS. Nenhum caso de alucinação foi até agora relatado.
Segue o código fonte: https://gist.github.com/vedovelli/36458a3978c205d56b8e33a828723bdc
Obrigado pela pronta resposta - codigo devidamente baixado, vou agora dar uma olhada com calma.
Valeu !!!