Meus 2 cents,

Rodar um LLM hoje precisa de GPU com muita memoria, sem isso voce fica limitado a modelos muito simples.

Uma sugestao eh usar o GOOGLE COLAB, que eh gratuito e te da uma VM com TPU Tesla de 16Gb VRAM e mais 16GB de RAM - vale a pena para brincar com LLMs.

Falo um pouco disto aqui:

- [CAPÍTULO 9: RODANDO LLM COM GOOGLE COLAB, OPENROUTER, CLOUD GPU E SOBRE A QUANTIZAÇÃO](https://www.youtube.com/watch?v=vgCT5kV2E9U)

- [CAPÍTULO 8: ECOSSISTEMA DA IA, HUGGINGFACE, OPENROUTER & CLOUD GPU](https://www.youtube.com/watch?v=tDkc99nf2r8)

- [CAPÍTULO 2: ABRINDO A CAIXA PRETA DA IA](https://www.youtube.com/watch?v=zyoztn7VsWg)

- [APÊNDICE 3: O QUE É MACHINE LEARNING ?](https://www.youtube.com/watch?v=HnMtiKjbt_8)

Saude e Sucesso !

---

Este post foi favoritado via extensão [TABNEWS FAVORITOS](https://www.tabnews.com.br/Oletros/tabnews-favoritos-agora-voce-ja-pode-favoritar-seus-posts-preferidos)

Tem curiosidade sobre IA ? Da uma olhada no meu [LIVRO: IA PARA ENGENHEIROS](https://www.tabnews.com.br/Oletros/livro-ia-para-engenheiros-um-guia-com-mais-de-500-paginas-sobre-o-mundo-da-ia-e-llms)

Meus 2 cents, Rodar um LLM hoje precisa de GPU com muita memoria, sem isso voce fica limitado a modelos muito simples. Uma sugestao eh usar o GOOGLE COLAB, que eh gratuito e te da uma VM...