"É verdade, a máquina precisa ter uma placa de vídeo dedicada. Uma Nvidia com 3GB consegue rodar os modelos menores com um desempenho satisfatório. Mas muito do desempenho depende de como é configurado o modelo para responder."1 tabcoin · 1 comentário · racascao · 2 anos atrás
"Atualmente é possível rodar localmente diversos modelos, como Llama3, Gemma2 e Phi3. Caso tenha interesse, tenho alguns repositórios no github com exemplos."1 tabcoin · 3 comentários · racascao · 2 anos atrás