Eu vou usar meu chutometro, pois não conheço a fundo como funciona por trás a construção e funcionamento da IA atual.

Até onde sei, as IAs elas são máquinas de probabilidades. Elas recebem dados, e a cada dado recebido, ela é "treinada" para que essas probabilidades criem esses "neuronios". É igual aquele troço de auto completar frase de teclado, q qndo vc digita algo, ele recomenda uma possível palavra q vc esteja escrevendo.

Então seguindo isso, o motivo q acho q ela tem essas "ideias", é por causa exatamente dos vícios dos dados de treinamento. Pode ser q por ela ter sido treinada com dados q focam em otimização, e não de outras formas. Por isso em primeiro lugar ela busca o óbvio, em outras palavras, o mais popular q possivelmente o pessoal pensava em otimização num projeto inicial.

No fundo é, a IA não pensa. Ela consegue resolver coisas com dados q ela foi treinada. Talvez ela até aprenda algo, sei q os devs q constrõem essas IAs estão melhorando isso, mas duvido mto q isso mude, pois isso, ao meu ver, depende de manipular as probabilidades dentro dela e mudar pra vários cenários é meio q impossível, pois ela meio q sempre irá sugerir a probabilidade mais "ótima".

Mas assim, isso é baseado no q sei, posso estar errado e se alguém ler e quiser me corrigir, por favor, faça isso.