CanIRunAI - Descubra se seu PC roda IA local
Faz um tempo que eu venho testando modelos de IA localmente e sempre esbarrava na mesma dúvida: será que minha máquina aguenta rodar tal modelo?
Já existem alguns sites com essa proposta, mas a maioria não é muito intuitiva ou não te dá a informação que realmente importa de forma clara. Pensei que poderia fazer algo mais direto e legal, então montei essa POC.
**Sim, sei que existe o https://github.com/pavelevich/llm-checker mas como disse, era uma POC e intuito de ser na web.
O que é?
O CanIRunAI é um site onde você coloca as specs do seu PC e ele te mostra:
- Quais modelos de IA você consegue rodar localmente
- O tempo de resposta estimado de cada modelo
Simples e direto.
O que ainda falta?
Sendo transparente, ainda é uma POC e tem bastante coisa pra evoluir:
- Deixar os modelos dinâmicos com uma fonte atualizada
- Resolver algumas pontas soltas na estimativa
- Melhorar a base de dados de hardware
Mas já dá pra ter uma ideia base de quais modelos funcionariam na sua máquina.
Link
Se tiver feedback ou sugestão, manda aí nos comentários. Qualquer contribuição é bem-vinda.