A verdadeira AGI ainda me parece um bocado distante: nao eh apenas uma questao de fazer uma tarefa que um humano faria, mas entender o contexto de realidade onde esta tarefa esta inserida.

Ainda que resolvam questoes logicas e de raciocinio, LLMs estao atrelados ao congelamento do seu treinamento: atualmente tentamos resolver isso com o tal "harness", oferecendo memoria e material de apoio, mas essencialmente o LLM eh aquilo que obteve no seu treinamento.

As violacoes de seguranca que vimos os LLMs realizarem eh justamente a falta de entendimento do que eh a realidade, limites e reponsabilidade: uma crianca voce da uma tarefa, poe limites e indica consequencias caso nao obedeca. Uma crianca especialmente travessa pode mostrar rebeldia, mas isso eh um comportamento escolhido.

Os LLMs nao tem comportamento escolhido, mas casuistico segundo as regras de raciocinio ditado pelo proximo token.

Concordo com um ponto colocado: LLMs treinados com ruido provavelmente nao vao sair dele sozinhos.

Enfim, acho que de fato temos uns 50% (pelo menos) de probabilidade de sermos destruidos pela IA, nao por ela ser malvada ou qualquer coisa assim, mas simplesmente pela quantidade de textos que falam de IAs destruindo tudo e todos que alimentaram os LLMs construiram dezenas de caminhos que levam a isso, e eventualmente acabarao emergindo.

Saude e Sucesso !

Este post foi favoritado via extensão TABNEWS FAVORITOS

Tem curiosidade sobre IA ? Da uma olhada no meu LIVRO: IA PARA ENGENHEIROS