Realmente, os trade offs estão sempre por aí.
Sobre a i.a ser não deterministica, portanto inevitavelmente uma hora irá errar... N vejo como um problema, nos humanos também erramos o tempo todo. A questão será, quem ira errar menos? E quem vai aceitar mais rápido?
Você não pede uma LLM para fazer conta. E não pede uma calculadora para resumir texto. Não temos que aceitar o contrário. Só temos que entender para que serve cada ferramenta.
A LLM (e nem falo da IA de modo geral) virou um santo graal para todo tipo de problema. Ela simlesmente não é uma solução para todo tipo de problema. Atividades que podem ser resolvidas através de lógica booleana não deveriam ser delegadas à um modelo probabilístico. Mas as pessoas estão insistindo que ela vai conseguir seguir regras de sim/não com base em prompts...
E realmente, eu também tive aqui minha primeira grande desilusão, pois não só ela não segue regras de sim/não, como sua qualidade degrada "exponencialmente" a medida que o contexto aumenta.
Isso é um fato. Basta ver pessoas usando llms para fazer várias contas de somas/multiplicação etc e depois reclama "o llm alucina com coisas básicas", mas mais básico é saber q é um desperdício de tokens e energia usar llm invés de calculadora em casos assim.
O problema é quase sempre é o próprio ser humano.
Quanto a questão de janela de contexto, sim, um problema crônico, mas q tem evoluído bastante com agentes, técnicas de RAG e llms como Gemini com janelas maiores.
Na verdade o que vai manter empresas "abertas" é quem vai absorver o erro gerado? O suporte? O RH, nos hospitais o cemitério?
Concordo, esta discussão de ética ocorre bastante no meio acadêmico. Quando der mer$a, quem vai pagar por isso? openai? o programador q delegou tudo? a empresa? o usuário ficará a mercê?
Sinceramente, a minha visão é pessimista. Acho q o elo da corrente mais fraco vai quebrar como de costume.
O exército q tiver melhor I.A para pilotar seus drones/caças vai subjulgar seu inimigo.
A elite q dominar a tecnologia irá ganhar a corrida social, econômica, militar etc etc.
Por outro lado já existe algumas legislações criadas e sendo aplicadas pelos governos...
Agora como programador, usar i.a para codar ou como search virou cotidiano, infelizmente e felizmente!