Pesquisadores propõem que modelos de linguagem também precisam “dormir“ para melhorarem raciocínio em tarefas difíceis

Os LLMs podem ficar “exaustos” e piorar seu desempenho ao processar contextos extensos sem pausas. A inspiração vem do cérebro humano, que durante o sono consolida memórias de curto prazo em conhecimento de longo prazo. O mecanismo estudado consiste em pausar o recebimento de novos tokens quando a janela de contexto está quase cheia, comprimir a informação, limpar o cache e retomar o trabalho. Segundo a equipe, o gargalo atual não é a falta de capacidade para armazenar informação, mas a dificuldade de acompanhar cadeias lógicas longas e raciocínio profundo.