🔄 A IA melhorou diretamente os pesos de outra IA - REA foi só um experimento - Ideia pra pesquisadores brasileiros 🔁 · MrJ

A fronteira entre "usar" uma IA e "entender" o que se passa dentro dela está sendo cruzada. Um experimento recente do MIT CSAIL mostrou que um modelo de linguagem de fronteira, o GPT-6 Astra, foi capaz de ler e editar diretamente os pesos de outro modelo menor, o Qwen3.5-0.8B, sem passar por treinamento tradicional, ajuste fino ou descida de gradiente. O feito, chamado de Weight-Space Programming (Programação no Espaço de Pesos), foi o tema central de um vídeo do canal iabro, que destacou o marco: uma IA melhorando outra sem treiná-la.

Marco do MIT: uma IA melhorou outra sem precisar treiná-la

https://www.youtube.com/watch?v=ea4cyoDURvc

🔬 O que o experimento do MIT realmente fez

A intervenção no Qwen3.5-0.8B foi cirúrgica. O modelo da Alibaba tem 800 milhões de parâmetros (pesos). O GPT-6 Astra modificou apenas 0,016% deles — cerca de 131.072 pesos. O alvo foi um problema específico: o Qwen entrando em loops de raciocínio durante tarefas matemáticas, repetindo o mesmo caminho sem chegar a uma resposta.

Astra identificou que o loop estava ligado a direções específicas nas camadas 15 e 19 da rede. Ao remover esses "caminhos viciosos" nos pesos, o resultado foi expressivo:

MATH-500 (benchmark de matemática): salto de 7,9% para 48,1% de acerto.
GSM8K (outro benchmark matemático): de 13,8% para 67,1%.
IFEval (seguimento de instruções): quase triplicou, de 21,0% para 62,3%.

O ponto crucial é o método. Não houve um ciclo de forward pass, backpropagation e atualização de pesos por um otimizador como o Adam. O que aconteceu foi: o GPT-6 Astra raciocinou sobre o que cada parte da rede deveria estar computando e, com base nisso, reescreveu os valores numéricos diretamente.

O time do MIT foi além e testou se Astra conseguiria escrever pesos do zero. Para jogos simples como o Breakout, a rede de política gerada pela IA, sem nenhum treinamento, superou uma rede treinada com 500 milhões de passos de PPO (um algoritmo de aprendizado por reforço). A analogia usada pelos próprios pesquisadores é forte: seria como "edição de genes para redes neurais" — em vez de criar um novo organismo do zero (treinar), você edita o DNA existente (os pesos) para corrigir uma disfunção.

🛠️ O REA: a mesma lógica aplicada a binários

O REA (Reverse Engineer Anything) é um projeto open-source que virou febre no GitHub em outubro de 2026, ultrapassando 330 mil estrelas. Sua função é dar a agentes de IA (como Claude Code ou Codex) a capacidade de investigar software compilado sem o código-fonte.

Ele funciona como um servidor MCP (Model Context Protocol). O agente de IA se conecta ao REA, e o REA, por sua vez, aciona ferramentas clássicas de engenharia reversa — Ghidra, Hopper, IDA — para desmontar e descompilar binários. O agente então recebe pseudocódigo, instruções de assembly, grafos de módulos e strings, e pode interpretar e explicar como uma função ou característica do software funciona.

A grande virada do REA é a mesma do experimento do MIT: a IA não está apenas "usando" uma ferramenta; ela está orquestrando a inspeção da estrutura interna de um sistema para entender sua lógica e, potencialmente, modificá-la ou replicá-la.

🔗 Pesos e binários como "matéria-prima" da IA

A analogia é precisa. O paralelo entre o REA e a Programação no Espaço de Pesos é direto:

Aspecto	REA (para Software)	Weight-Space Programming (para IA)
Objeto da análise	Um binário (código de máquina compilado)	Um conjunto de pesos (parâmetros numéricos)
O que a IA "lê"	Instruções de assembly, pseudocódigo, símbolos, via Ghidra/IDA	Os valores numéricos que determinam as ativações da rede neural
O que a IA "escreve"	Um patch de código ou uma reimplementação da lógica descoberta	Uma edição direta nos pesos para corrigir um comportamento
Processo convencional	Engenharia reversa manual, feita por um especialista humano	Treinamento ou ajuste fino com dados e gradientes
Papel da IA	Orquestra ferramentas e interpreta evidências para entender a regra	Interpreta os pesos e calcula a edição necessária para alterar a função

Em ambos os casos, a IA atua como um cirurgião que opera diretamente no interior do sistema — seja um executável ou uma rede neural —, em vez de apenas interagir com sua camada externa (a interface do software ou o output do modelo).

⚠️ O que essa analogia revela e esconde

A comparação é poderosa para entender a mudança de paradigma, mas é importante notar as diferenças de maturidade e escopo:

O REA é uma ferramenta de propósito geral e já disponível. Ele analisa binários, aplicativos Electron, .NET, APKs e até capturas de rede. A Programação no Espaço de Pesos, por outro lado, é uma demonstração de pesquisa com limitações claras.
A edição de pesos corrige falhas, mas não cria capacidades inteiramente novas. O experimento do MIT teve sucesso ao remover um vício (o loop de raciocínio) que impedia o Qwen de acessar um conhecimento matemático que, de alguma forma, já estava latente em seus pesos. Quando tentaram aplicar a mesma técnica a um modelo Gemma 3 270M que não apresentava esse loop específico, a melhoria foi insignificante. A técnica desbloqueia o que já existe; ela ainda não adiciona o que falta.
O ceticismo é parte do processo. Críticos argumentaram que o resultado principal do MIT pode ter se beneficiado de um processo de engenharia de ML padrão (com acesso a forward passes e feedback de benchmarks) e que a "cirurgia" se assemelha a técnicas já conhecidas de steering de modelos. Isso não invalida o feito, mas o coloca em uma perspectiva mais realista: é um passo importante, não uma revolução instantânea.

💭 Uma ideia para quem quiser levar adiante

O experimento do MIT mostra que editar pesos cirurgicamente funciona — mas de forma pontual, para corrigir um vício específico. A pergunta que fica é se dá para ir além: em vez de intervir em pontos isolados, seria possível mapear com uma IA cada parte do modelo — camadas, circuitos, direções de ativação — e analisar as diferenças que cada uma produz para convertê-las em algo como "funções" compreensíveis?

A intuição é que, informando o contexto das bases usadas no treinamento, o tokenizador e uma forma de organizar tudo isso, daria para mapear a inteligência do modelo sem refazer o treinamento inteiro. A meta seria construir algo como um MCP-tool-model em que uma IA melhora outra — ou a própria próxima versão — sem o custo de um retreino completo, mas ainda passando por todos os testes.

Essa é uma ideia que vale ser repassada adiante. A barreira financeira para treinar LLMs é real, mas a barreira para entender, analisar e documentar como eles funcionam é muito menor. O código e os logs do experimento do MIT estão públicos no GitHub e no Hugging Face, e o REA é open-source e gratuito. Ferramentas existem; falta quem as conecte com uma hipótese nova. Se este artigo plantar essa semente em alguém, já terá cumprido seu papel.

Eu estou enfrentendo problemas financeiros e correndo atrás para tentar sobreviver aqui. E falei que ia dá uma pausa em treinamento de IA, mas necessito passar isso adiante. Espero realmente que alcance quem irá ajudar a resolver esse enigma.

Apoie a crom: https://crom.run/apoio