O que acontece quando a IA começar a: moldar opiniões, fornecer conhecimento, corrigir visões de mundo e guiar decisões ativamente ao invés de apenas aprender passivamente com dados humanos?
já está acontecendo? só que de forma tão gradual que a maioria das pessoas ainda não está percebendo a inversão de papéis? Ou isso é apenas achismo meu?
Já está fazendo isso. Em nenhum momento desde a popularização da IA ela não conseguia fazer isso. Lembre-se que temos uma IA generativa, então ela te "ensina" há anos já. Claro, apenas os idiotas confiam na IA para isso, os demais, adoraria que fossem muitos, usam ela como uma ferramenta de automação de tarefas e obtenção de informação que demoraria mais feito sem a IA, mas sempre em cima do que é mecânico e repetitivo, usando a IA com uma referência para depois procurar informação por conta própria.
Não acho que podemos falar em inversão de papéis. É verdade que hoje boa parte do conteúdo, alguns falam que já é maioria, é gerado pela IA e ela já está gerando conteúdo baseado no que ela mesma gerou, o que é um problemaço. As pessoas desprovidas de sensatez vão confiar na IA da mesma forma que ela confia em influenciadores que estão fazendo algo que agrade as pessoas apenas para ganhar dinheiro. Lembre-se que a IA é treina para agradar as pessoas, por isso não se deve pedir muito a opinião dela para nada, e se fizer isso peça para não tentar te agradar e procure outras fontes.
De modo geral, as pessoas sempre vão procurar o que é mais fácil, mesmo que seja o pior. Por exemplo jo9gar na loteria, tem 99,999995% (se não me engano) chance de você perder o seu dinheiro, mas a pessoa joga assim mesmo. Todo mundo sabe que certas drogas, como cocaína, opioides, etc. viciam, estragam o corpo e a mente e te torna um misto de zumbi e escravo. Ainda assim todo dia milhares de pessoas experimentam 1 vez e já iniciam o vício. Nem vou falar de outro delírio coletivo que as pessoas fazem, porque treinaram o erro desde crianças, já que seus pais expuseram esta esponja humana sem capacidade de raciocínio adequado e dadas opções. Se eu falar vou arrumar muita encrenca, por isso sempre falo que se você treina o erro você vai brigar por ele como se fosse a coisa mais importante da sua vida.
As pessoas já passaram depender do Google, do Stack Overflow. Entregavam bem menos que a IA pode entregar e com mais qualidade. Olhe o padrão. Não parece certo que as pessoas vão usar e abusar da IA para fazer algo, parecer que é melhor do que é, ganhar tempo que depois vai cobrar um preço e além de ensinar muita coisa errada, vai te viciar pelo menos psicologicamente, mas tem estudos sendo conduzidos se não chega alterar a química. As bets por exemplo viciam quimicamente, apesar do processo ser mais lento que uma droga que você cheira ou injeta ou até mesmo que ingere, o psicológico é mais rápido. Qualquer pessoa que eu vejo fazendo propaganda de bets despenca no meu conceito. O mesmo vale para as pessoas que tornaram isso possível legalmente e claro, as pessoas que são donas ou trabalham de forma para prejudicar as pessoas, entre elas programadores e psicólogos.
Se você acha que IA vai ter consciência um dia, melhor começar estudar o que é IA de verdade. Não tem como ela ser mais burra, um rato tem absurdamente mais consciência que IA jamais terá. Mas ela é convincente para grande parte dos humanos, até os "vacinados". No modelo atual, como exemplo, dificilmente ela consegue fazer a mesma coisa que ela acabou fazer alterando apenas um ponto específico de forma correta, especialmente quando o volume de dados envolvidos é maior. Pode por processamento à vontade, o problema não está aí.
Então se esse "ativamente" for isso, esquece, ela sempre será passiva até para te ensinar, e vamos ver quanto os resultados vão apodrecer e em que velocidade com a predominância de dados gerados por IA para treinar novos modelos.
S2
Farei algo que muitos pedem para aprender a programar corretamente, gratuitamente (não vendo nada, é retribuição na minha aposentadoria) (links aqui).
Eu acho que as pessoas por trás de uma possível super IA com certeza irão utilizá-la da pior maneira sem se preocupar com as consequências, e aí pode recair no que tu falou sobre a IA moldar opiniões, forçar ideologias dos bilionários, etc. A Grokipedia, por exemplo, é uma aberração que segue essa linha.
Mas sempre haverá a luta dos revolucionários, como os movimentos free-software e o open-source que enfrentaram empresas como IBM, Microsoft e Apple a partir dos anos 70. Quando cada computador puder rodar sua IA sem qualquer influência das big-techs, teremos modelos de conhecimento que irão nos auxiliar em muitas tarefas; e se estarão ensinando ou aprendendo não irá impactar tanto na sociedade.