Não tenho mto conhecimento da parte como é feita a IA, mas eu percebo q IA não foi feita pra "pensar" e sim analisar as coisas com base nos dados q foram dados para o treinamento dela.

Por exemplo, se vc ensina ele a usar um plugin na versão X, ai depois de um tempo esse plugin muda pra versão x+1, ele não vai conseguir fazer isso direito.
Eu parei de usar a IA qndo se trata de alguns packages q uso no Flutter exatamente por causa disso, da incapacidade de buscar e reestruturar uma melhor análise com base na nova versão. Ele sempre persiste em me dar o caso antigo, mesmo vc indicando o site e a versão nova, a merda da IA insiste apenas usar como base principal o código antigo, o q simplesmente faz ele gerar um monte de código nada haver.

Então imagino q esse problema sempre irá existir, a diferença q não sabíamos o q a IA é incapaz, pois estávamos no início, mas hj em dia, cada vez mais percebemos q a IA generativa tem um grande limitante, e ao meu ver é exatamente os dados de treinos utilizados, pois qnto mais dados ruins for oferecido pra ele, mais ele irá persistir naqueles dados ruins, não importa o q vc tente mudar depois. A não ser q o pessoal já esteja conseguindo criar uma IA q ela readeque com novas aprendizagens, mas tem todo problema de permissão de uso de dados privados, tals e tals.

Bem, essas conversas de IA ainda vai mto longe.