Do meu humilde ponto de vista.....
Usar a IA para gerar um protótipo, é super aceito, são testes, não geram prejuízo se alguma coisa der errado, o único problema é o próprio "criador" ficar ajustando e corrigindo a IA, que realmente tem que tá numa "VIBE", porque é um saco servir de psicologo pelo menos pra mim.
Usar pra automatizar uma documentação, escrever os testes, é perfeito, IA foi criada pra isso e faz com uma certa excelência.
O "PROBLEMA" é colocar o prototipo em produção, expor contas de usuários, dasdos financeiros, dados de contato porque a IA cometeu um erro.
O problema, não é a IA, é a base atual de "projetos" que ela foi treinada, IA não prevê código seguro e altamente escalável porque as bases de treino dela são respostas a dúvidas pontuais, projetos de código massivamente problemático e abandonado. Se as bases de treino forem cada vez mais escritas pela IA, a cada volta fica pior.... entre código mediocre -> sai código ruim. Se entrar código ruim não tem como sair nada melhor. O problema do uso indiscriminado é que esse conteúdo ruim produzido vai tetro alimentar a propria máquina.