Não sei se este pensamento é seu, pois o post parece inteiramente escrito por IA, mas há diversos problemas nele. Irei ser direto.
Se não faz sentido criar uma linguagem de programação para IAs, como podemos otimizar o processo?
Se capacitando, e não delegando para um modelo probabilistico. Quem produz mais é quem entende o que faz. É capacitado. Entende o fluxo e usa as ferramentas certas no momento certo. IA é mais uma ferramenta que esta impulsionando pessoas, seja para cenários positivos, ou negativo... Depende inteiramente da sua mentalidade.
IA criando código de máquina - elminaria a camada de programação em alto nível e Sistema Operactional, diminuindo significativamente a interpretabilidade do código gerado
Já temos compiladores que gera código de máquina. Além disso, temos diversas outras ferramentas importantes que fazem isso melhor que humanos, e não é inteligência artificial.
Não sei o que você entende por linguagem de alto nível, mas assumindo que é C, Rust, Zig ou C++, eu DUVIDO que elas deixaram de existir. Talvez o Zig desapareça, mas não por causa de IA (fora do escopo a discussão). Manutenção é a parte mais complicada de um software e a mais necessária. Deve haver dizenas de milhares de linhas de código em C no mundo que precisam ser mantido, senão teremos um catastrófe.
Alguns pensam que IA é protagonista... mas calma, é mesmo, na bolha do momento. Ainda não temos resultado concretos do impacto real de inteligência artifical. É muito diferente por exemplo, quando surgiu os compiladores, onde perdemos a necessidade de escrever código em assembly (lembrando que ainda há necessidade em alguns cenários) e passamos a escrever código em C. Isso foi um ganho real. Ainda não vi esse ganho real utilizando IA, além de uma ajuda extra em redução de trabalho "braçal" em cenários de nicho.
Não sou especialista em inteligência artificial. Provavelmente posso estar falando besteira, mas no momento, ainda precisamos de muito tempo até existir ganhos reais com esta ferramenta. Algo que vá de fato justificar todo esse custo computacional massivo.