IA não é oráculo: Já estão percebendo
Será que é por coisas como essa que contarei abaixo que já descobriram que trocar pessoas por IA não vai dar certo?
Recentemente, fiz um teste com um LLM que me lembrou por que ainda somos o filtro essencial de tudo o que essas máquinas cospem. Joguei na mesa um caso real: um processo seletivo em que bati na trave. Detalhei o contexto, a abordagem do recrutador e a entrevista técnica.
O papo fluía bem, até que a IA resolveu encarnar o "coach de carreira". Com a audácia de quem nunca precisou pagar um boleto, ela sentenciou: "Você não está sabendo se vender nas etapas finais".
A analogia que quebrou a lógica da máquina
Para ilustrar a subjetividade brutal de processos seletivos, usei uma analogia tipicamente brasileira:
"Entendi. Sou nota 9.9 onde os outros são nota 10. No Carnaval do Rio, isso me rebaixaria enquanto os outros 11 dividiriam o título."
Para qualquer brasileiro que entende o peso de uma apuração na Sapucaí, a lógica é clara. Mas para quem só lê código, a resposta foi um delírio técnico. O chatbot resolveu me "corrigir" afirmando que no Carnaval existe um "ranking claro e critérios definidos" que impediriam tal cenário.
O erro aqui é pedagógico: A IA ignorou (ou desconhece) como o regulamento do Carnaval funciona na prática — onde notas máximas são frequentes e décimos isolados definem rebaixamentos, enquanto grupos inteiros dividem o topo. Ela vendeu uma "verdade" lógica que passou longe da realidade cultural.
O perigo do "Palpite Confiante"
Se um exemplo sobre Carnaval gera esse ruído, o estrago em decisões estratégicas ou análise de dados sensíveis pode ser catastrófico. O problema central não é a ferramenta, mas a falha de estofo.
A IA não "sabe" nada por conta própria; ela processa padrões probabilísticos com base no que você entrega. Se eu tivesse alimentado o prompt com o mapa de justificativas e o regulamento da LIESA, o resultado seria outro.
O ouro é o contexto (e o seu repertório)
Para tirar valor real dessas ferramentas, o discernimento humano é inegociável. Sem repertório para filtrar a "alucinação bem escrita", você deixa de ser um usuário e vira refém de um gerador de palpites.
O aprendizado é simples:
Contexto é tudo: A IA é um meio, não um fim.
Filtro humano: Sem estofo para questionar a máquina, você está apenas comprando terreno no metaverso com dinheiro de Banco Imobiliário.
Sem contexto e sem um humano crítico no comando, a IA é apenas um gerador de palpites extremamente confiantes.