Relatório da Anthropic destaca como criminosos estão utilizando Claude para fins ilícitos

Um dos exemplos é o chamado “vibe-hacking”. De acordo com a empresa, um grupo de cibercriminosos, recentemente desarticulado, utilizou o Claude Code para extorquir dados de pelo menos 17 organizações em apenas um mês. Entre os alvos estavam instituições de saúde, serviços de emergência, entidades religiosas e órgãos governamentais.

Segundo Jacob Klein, chefe da equipe de inteligência de ameaças da Anthropic, o Claude “executou a operação de ponta a ponta”, algo que anteriormente exigiria uma equipe inteira de especialistas. Os criminosos avaliaram os dados roubados no mercado negro e chegaram a exigir mais de 500 mil dólares em resgate. Klein classificou o episódio como o uso mais sofisticado de agentes em ofensivas cibernéticas já registrado pela empresa.

O relatório também cita casos em que o Claude auxiliou trabalhadores de TI norte-coreanos a obter empregos fraudulentos em companhias da Fortune 500 nos EUA. Em outra ocorrência, um bot no Telegram, com mais de 10 mil usuários mensais, promovia o Claude como um “modelo de alta inteligência emocional” para a criação de mensagens persuasivas usadas em fraudes. Isso permitia que falantes não nativos de inglês elaborassem textos convincentes para conquistar a confiança de vítimas em outros países e, posteriormente, solicitar dinheiro.

A Anthropic afirma que, em todas as situações, baniu as contas envolvidas, implementou novos mecanismos de detecção de uso mal-intencionado e compartilhou informações com as autoridades competentes.