AI e o problema da responsabilidade · evertonruan

Muitas são as preocupações de que a AI irá substituir os humanos. Bem, o mesmo aconteceu com outras tecnologias no passado.

Porém, as preocupações de agora são até validas. Porque a AI consegue fazer coisas no nível humano, e até melhor! É diferente de qualquer outra coisa antiga, em que era só uma ferramenta e o ser humano no controle é quem dava a forma. Sabe, agora a AI consegue fazer coisas no nível humano quando um humano dá um comando a ela. Ops… peraí. Quando um humano dá um comando a ela? Sim e aí o humano não precisa pensar, ele delega a AI, que vai tomar todas as decisões por ele, e quando algo dá errado, a culpa é dela. Ops.. como é? Pois é, parece que estamos vivendo em um momento delicado.

Uma AI consegue fazer coisas no nível humano quando um humano dá um comando a ela

Ao mesmo tempo, a AI, consegue nos substituir, mas ao mesmo tempo não consegue. Parece que falta alguma coisa. E parece que a palavra é “decisão”. Essa palavra tem peso. Afinal, se algo existe, é porque houve alguma decisão, pequena ou grande, mas houve. E se houve uma decisão, houve um responsável. Se alguém é responsável, então a ação parte dele. Pensar assim é interessante. Por exemplo, a AI desenha uma linda “pintura” onde há uma casa e uma linda paisagem, e você vê em uma rede social. Quem fez isso? Alguém diz: a AI. Porém ela não faria isso se não tivesse alguém que tomou uma decisão de propositalmente transformar uma onda cerebral (ou seja, um pensamento) em uma ação. E por mais ínfima que pareça, essa é uma decisão interessante. Passou por:

Ter um entendimento do que é uma AI;
Escolher uma dentre tantas;
Formular um prompt;
Por fim, clicar em “Enviar";

Mas o fim está longe de terminar. Foi preciso:

Escolher propositalmente uma rede social;
Fazer o upload do arquivo, talvez (6.1) escrever alguma legenda e então
Clicar em “Postar”.

Você viu? E ainda tem gente que diz que foi a AI que fez.

Mas claro que tudo parece muito óbvio. Teve mesmo que ter um humano por trás. O humano é que é o problema, não a tecnologia. E aí podemos ampliar esse exemplo para qualquer outra coisa que foi a AI que fez. Se algo existe é porque houve uma decisão. Se houve uma decisão, alguém foi responsável. Desde uma função em algum programa a um vídeo de gatinho tomando leite. E o que será que podemos dizer dos agentes de IA, que tomamam incontáveis decisões "sem um responsável"?

A IA não faria algo se não tivesse alguém que tomou uma decisão de propositalmente transformar um pensamento em uma ação

Mas talvez estamos só divagando aqui. Pois não chegamos em lugar algum. Às vezes, só o fato de pensar e analisar algo, já é melhor do que um resultado concreto. Afinal qualquer ação começa no pensamento.

Mas a pergunta é:

A AI pode substituir humanos? Olha, depende.

Veja só… é na questão da responsabilidade.

É claro que com a evolução da tecnologia, muitas funções acabam sendo centralizadas em uma pessoa. Isso é algo natural.

Imagine quantas tarefas cotidianas do seu trabalho ou vida pessoal a AI está agilizando. Talvez você antes demorava horas para fazer algo. Agora leva minutos. Isso é algo natural. Não escrevemos mais tanto a mão, nós digitamos e agora pedimos pra IA escrever. Levamos menos tempo. (Embora nesse texto, IA nenhuma tocou)

Mas veja o seguinte cenário: uma empresa pode até reduzir seu pessoal, afinal a AI reduz o tempo das coisas.

Porém, veja essa situação: um designer pede pra AI fazer uma função de um sistema complexo. A AI implementou, ele testou e tudo funcionou. Perfeito! Não precisamos mais de um programador! Bem, uma semana depois aquela função começa a bugar e o sistema quebra. O designer vai lá, faz outro prompt. A AI conserta. Tudo funcionando. E isso acontece algumas vezes. Dali uns dias, o sistema até não quebrou mais, porém algumas coisas não estão funcionando como antes. Alguns comportamentos estão estranhos. Outras coisas estão sendo salvas, mas o banco de dados está com bugs. Alguns dispositivos dão erro, enquanto em outros aparentemente está certo.. Parece que está tudo meio “mexido”. E agora? quem vai arrumar essa bagunça? (parece que o agente inteligente artificial tomou algumas liberdades)

Bem, chegamos numa das extremidades da AI. Ela até faz. Mas quem deu o comando é responsável. Quem deu o comando sabia o que estava fazendo? Ele tinha em mente as limitações e detalhes? Nesse caso, não. Apenas um conhecimento superficial. E de quem é a responsabilidade? Da AI, ou “ai” de quem fez?

Se fosse um programador com conhecimento de causa, tudo seria diferente. Poderia dar problemas? Com certeza. (e sempre tem bugs de todas as espécies). Mas ele saberia usar um log para investigar, e ir até a causa raiz do problema.

Poderíamos inverter essa situação para um programador backend que pede à AI fazer um design de uma landing page. Mas ele não sabe nada sobre branding ou CTA, ou como se deve estruturar uma página.

Novamente, isso tudo poderia ser concentrado em uma pessoa — desde que saiba o que está fazendo. Pois a AI não sabe. Ela só obedece o que alguém pede. E alguém sim pediu.

Então, a AI pode substituir humanos? Depende. Eu acredito fortemente que os que tomam decisão (pequena ou grande) sem saber, serão substituídos por aqueles que entendem do assunto e usam AI para fazer o trabalho braçal