Pelo que eu entendi, você está dizendo que linguagem é uma forma de, a partir de dados brutos, adquirir conhecimento aplicando interpretação.
Não sou eu que estou dizendo isso, mas um dos maiores pensadores da humanidade!!! Não apenas isso a linguagem é o que define a própria realidade.
LLMs não podem executar experimentos (você e eu sabemos disso). Se você se refere a analisar dados brutos de experimentos feitos em massa (ou em simulações computadorizadas), sim, eles podem aplicar interpretações padrão nesses dados.
LLMs sozinhos não.. LLMs como parte de um sistema maior sim. Isso já está acontecendo. Tem muito paper sobre o assunto. Nosso cerebro também é uma máquina estatistica (também tem experimento sobre isso) que comete erros (todo mundo sabe disso)!!!