Solicitar caricatura própria para chatbots pode expor usuários e empresas a ataques

Uma tendência recente nas redes sociais incentiva usuários a pedirem que chatbots criem uma caricatura deles com base em tudo o que a IA sabe a seu respeito. Até 8 de fevereiro, 2,6 milhões dessas imagens já haviam sido publicadas no Instagram.

Segundo analistas de segurança, as caricaturas frequentemente revelam profissão, setor de atuação e outros detalhes ligados ao trabalho, o que pode indicar a potenciais cibercriminosos que aquela pessoa utiliza modelos de linguagem no ambiente profissional e possivelmente insere dados corporativos em plataformas públicas.

A partir do nome de usuário, das informações do perfil e de pistas visuais presentes na imagem, invasores podem empregar buscas comuns e técnicas de inteligência de fontes abertas para identificar o e-mail da vítima.

Com o e-mail em mãos, o próximo passo pode envolver ataques de phishing direcionado, roubo de credenciais ou golpes de intermediário com o objetivo de assumir o controle da conta no chatbot.

Ao obter acesso, o invasor pode visualizar o histórico de prompts, onde eventualmente estejam armazenadas informações corporativas sensíveis, que podem ser vendidas, utilizadas em fraudes ou até exploradas em tentativas de extorsão.