Desenvolvedor cria modelo funcional do ChatGPT dentro do Minecraft

O usuário conhecido como Sammyuri desenvolveu um modelo de linguagem funcional que roda inteiramente em um computador construído dentro do Minecraft, batizado de CraftGPT.

Treinado em Python com o conjunto de dados TinyChat, que contém conversas simples em inglês, o modelo possui um vocabulário de 1.920 tokens e uma janela de contexto de 64 tokens, adequada apenas para diálogos curtos.

O CraftGPT, com 5 milhões de parâmetros, ocupa um total de 439 milhões de blocos e é funcional, embora seja necessário aguardar algumas horas para que as respostas sejam geradas. De acordo com Sammyuri, o sistema leva cerca de duas horas para responder a um comando simples.

O desenvolvedor alerta que os testadores devem moderar suas expectativas, já que o modelo pode se desviar do assunto, produzir respostas gramaticalmente incorretas ou gerar informações irrelevantes.

O projeto foi construído utilizando redstones no Minecraft, com dimensões de 1.020 x 260 x 1.656 blocos. No jogo, a Redstone fornece componentes eletrônicos básicos, e o computador foi montado peça por peça, incluindo elementos como tokenizadores e multiplicadores de matrizes.

O projeto pode ser conferido no repositório sammyuri/craftgpt no GitHub.