O caminho para uma IA superinteligente

Talvez você já tenha ouvido falar em “scaling laws”: a ideia de que modelos maiores (com mais parâmetros) tendem a ser mais inteligentes. Ou seja, quanto maior o “cérebro” (rede neural) da IA, melhor.

Mas isso é mesmo verdade ou já estamos num platô? O custo computacional de modelos de IA maiores justifica o ganho de inteligência obtido, ou estamos num cenário de “diminishing returns”? Fable e Astra são modelos maiores (e mais caros) que seus antecessores… mas quão mais inteligentes eles são?

Para entender, vamos começar com um exemplo simples.

Por mais “overkill” que pareça, podemos treinar uma rede neural para aprender a somar dois números. Para isso, precisamos de um conjunto de dados com exemplos do que é uma soma correta:

2 + 2 = 4

14 + 10 = 24

234 + 11 = 245

47282 + 1233 = 48515

…e assim por diante. Idealmente, essa lista de exemplos deve ser bem grande.

Agora, uma rede neural que aprende a somar dois números olhando pra essa lista poderia aprender a fazer isso de duas formas:

• Aprender o real conceito de soma;

• Criar internamente uma “tabela” que mapeia todos os valores de entrada que ela viu na lista pro resultado que ela também viu na lista. Seria o equivalente a “decorar” a lista.

Se o modelo aprender a decorar a lista, quando pedirmos para ele somar dois números que não estavam na lista usada no treinamento, ele provavelmente vai somar errado. Aqui, diz-se que aconteceu um “overfitting”: o modelo ficou muito bom em aprender os dados que ele viu no treinamento, mas não consegue “generalizar” o conhecimento para fora daqueles dados.

Agora, qual o tamanho ideal de uma rede neural (quantos parâmetros) para ela realmente aprender a somar dois números, sem decorar? Quão grande precisa ser o “cérebro” dessa IA?

Aqui, observa-se um comportamento interessante: a resposta não é “quanto maior, melhor”. Existe um tamanho ideal para a rede. Depois desse tamanho ideal, se apenas adicionarmos mais parâmetros, o desempenho para generalização fica pior!

E o motivo intuitivo para isso é mais ou menos assim: quanto maior for a rede, mais “espaço dentro do cérebro dela” ela tem para aprender a abordagem que nós não queremos, que é decorar a lista do treinamento.

Em outras palavras, forçando a rede a ser menor, menos chance ela tem de aprender a abordagem “burra” (decorar) e mais ela é forçada a achar a solução inteligente e genérica para o problema.

A teoria é clara: o modelo mais simples é o melhor generalizador (grave essa frase).

É por esse motivo que, se antes de 2019 você perguntasse para um pesquisador de IA “Você acha que treinar uma rede neural gigante, com trilhões de parâmetros, usando todo o texto disponível na internet, é uma boa ideia para termos uma IA superinteligente?”, provavelmente a resposta seria: “Não! Esse modelo vai com certeza aprender os dados de treinamento, mas não será inteligente. Será apenas um papagaio estatístico, vítima de um inevitável overfitting”.

Porém, em 2019, um novo artigo https://arxiv.org/abs/1812.11118 demonstrou algo interessante: nos experimentos, os autores seguiram aumentando o tamanho da rede neural e, inicialmente, a rede ficou, sim, pior para generalizar com dados não vistos no treinamento. Contudo, ao seguir aumentando o número de parâmetros, eles observaram que a rede voltou a ter resultados melhores… até o ponto de superar as capacidades de generalização da rede mais simples!

Esse resultado foi surpreendente e abriu uma nova avenida para melhorar a IA: bastaria fazer modelos maiores!

Entretanto, esse resultado também contrariava tudo que se sabia de estatística e redes neurais. A verdade teórica era: “o modelo mais simples é o melhor generalizador”. Não se entendia o mecanismo que fazia com que isso não fosse verdade. O que estava acontecendo? Por que modelos maiores estão generalizando melhor?

Por volta da mesma época surgiu outro artigo https://arxiv.org/abs/1803.03635 que observou que, em grandes redes neurais, a vasta maioria dos parâmetros da rede são, na verdade, inúteis… simplesmente não são utilizados! O artigo mostrou que era possível encontrar, dentro das redes estudadas, sub-redes muito menores que, quando treinadas com os valores iniciais certos, atingiam um desempenho parecido com o da rede maior.

Para fazer a conexão entre esses dois artigos e entender o que está acontecendo, é preciso entender um pouco de como essas redes são treinadas.

Uma rede começa com valores aleatórios nos seus parâmetros e tenta-se gradualmente, ao longo do treinamento, ir mudando esses valores para fazer a rede gerar melhores resultados para o conjunto de dados de treinamento. É a técnica chamada de “gradiente descendente” (e é muito mais fácil entender isso com imagens).

Mas o importante é notar o seguinte: na técnica de gradiente descendente, os valores iniciais (aleatórios) dos parâmetros importam! Alguns conjuntos iniciais de valores podem fazer o treinamento conseguir chegar num bom resultado. Já outros podem fazer a rede ficar presa em um “ótimo local”, sem nunca poder testar possibilidades melhores.

Agora a sacada: o que se está fazendo ao treinar uma grande rede neural é, na verdade, treinar várias redes menores em paralelo. A hipótese é que redes maiores ofereçam mais chances de encontrar uma dessas sub-redes com uma inicialização muito boa (que generalizam melhor). Esse é o link entre os dois artigos anteriores.

Então, o que se acreditava antes do artigo de 2019 continua sendo verdade: “o modelo mais simples é o melhor generalizador”. Redes maiores parecem performar melhor, mas na verdade é uma otimização de treinamento… no final do treinamento, a maioria dos parâmetros será inútil, mas é mais provável que uma sub-rede eficiente tenha surgido dentro dessa rede maior.

Então, fica a pergunta: vamos conseguir atingir inteligência de nível humano (AGI) ou além (ASI) apenas aumentando o tamanho de LLMs e melhorando nossas técnicas de treinamento?

Não sou especialista da área, apenas curioso. E esse texto foi inteiramente baseado neste vídeo https://youtu.be/UKcWu1l_UNw?is=QDbh9SaRy-HA90bf que, se você leu até aqui, recomendo fortemente assistir.

O autor do vídeo acredita que, apenas aumentando o tamanho das LLMs, não parece ser possível chegar à AGI. E o motivo é porque o ganho em inteligência obtido apenas tornando os modelos atuais maiores é modesto, e o aumento de computação necessária é proibitivamente custoso. Contudo, o autor também fala que acredita que LLMs são, sim, capazes de produzir inteligência de nível humano. Mesmo que a capacidade de escalar o tamanho desses modelos atinja um platô, na opinião dele, não existem motivos para acreditar que melhores algoritmos de treinamento, ou novas arquiteturas de rede neural, não sejam capazes de atingir inteligência humana apenas prevendo a próxima palavra (token) quando treinados com uma quantidade infinita de texto. Em teoria e no limite, isso parece um caminho possível para a AGI.

Agora, se você quiser um papo bem mais inicial do que esse, para ser introduzido no mundo de redes neurais, sugiro assistir ao meu vídeo: https://youtu.be/Dlx_VuyXrBg?is=KwUCFy0NcnbTbfy1

Obrigado por ler até aqui! Deixe suas dúvidas e contribuições nos comentários.