Como vocês orquestram e escalam agentes de IA? Meu desafio em fazer algo útil com IA
A pergunta é genuína mesmo: como vocês desenvolvem agentes de IA?
Eu comecei um desafio para desenvolver um script para envio de e-mails marketing ultrapersonalizados para prospecção ativa e automática B2B. E para desenvolver, eu resolvi utilizar o Agent SDK da OpenAI para Python.
O grande defeito da IA generativa (LLMs): A Falta de Determinismo
Prompts iguais não geram resultados iguais e prompts parecidos não geram resultados parecidos.
E isso é um grande problema quando se tenta utilizar os grandes modelos de linguagem natural para resolver problemas recorrentes e automatizar processos. Não tem como confiar nas grandes IAs comerciais para resolver problemas corporativos (e a questão aqui não é nem de privacidade).
Para validar a ideia eu utilizei o Modo Agente da OpenAI e... na primeira vez rodou de forma incrivelmente mágica e assertiva. Com um prompt extremamente simples, a IA respondeu assertivamente a todos os passos, entregando exatamente o que eu queria.
Na segunda e terceira iteração, o mesmo propmt começou a engasgar e precisando de cada vez mais interferência externa. Na quinta iteração já estava descrevendo a história do surgimento da humanidade para conseguir fazer o mínimo do mínimo.
No fim, para o script de envio de e-mails marketing ultrapersonalizados em massa, eu resolvi fazer tudo na unha, utilizando o agente ou falta dele somente para analise dos dados e geração dos e-mails.
Talvez eu esteja naquela história de quando se tem o martelo, todo problema é prego. As IAs generativas como temos hoje eu vejo com bastante utilidade para analise de grandes bases de dados, ou estruturação e interpretação de dados bagunçados ou abstratos de mais.
Mas ainda peca gravemente em automatização de processos incrivelmente simples, como acessar um cliente de e-mail e enviar mensagens para vários remetentes. A automatização na unha utilizando Python, conceitos de RPA, e outras ferramentas, ainda vai prevalecer por bastante tempo.
Então não, não acho que a IA vá roubar os nossos empregos. Não que ela não tenha valor, ela é muito boa com analise de dados. Mas incrivelmente ruim em trabalhos manuais e criativos (no sentido mais puro da palavra, criar coisas nunca vistas antes).
E vocês? Estão utilizando agentes de IA no dia-a-dia para resolver problemas de verdade? Se sim, como? Ou só vê isso como algo curioso?