Anthropic bloqueia usos maliciosos de Claude

Anthropic disse ter bloqueado múltiplas tentativas de uso malicioso do Claude, incluindo operações de vigilância, fraude, ciberoperações e desenvolvimento de armas, com casos atribuídos a atores ligados a Irã, Rússia e China. O material também reúne um relatório da Unit 42, que identificou atacantes usando ferramentas comerciais de IA contra organizações de transporte e finanças na América Latina, com apoio do NextChat autohospedado para corrigir erros e expor scripts gerados por IA.

¿Qué tipos de abuso identificó Anthropic?

Anthropic organizou os incidentes em sete categorias: operações cibernéticas, campanhas de influência estrangeira, arquiteturas de vigilância, fraude, uso biológico indevido, desenvolvimento de armas convencionais e model distillation. Segundo a Anadolu Agency, essa última categoria se refere a tentativas de extração não autorizada do raciocínio subjacente do sistema por desenvolvedores rivais.

A Reuters informou ainda que a empresa acusou concorrentes chineses de tentar invadir seus modelos Claude para extrair capacidades. No mesmo relatório, a Anthropic descreveu uma nova categoria de atores que usaram a plataforma para desenvolver software para armas convencionais, incluindo drones armados, mísseis e sistemas de controle e guiagem, além de apoio de inteligência e aquisição ligado a programas de armamento na China, Rússia e Iêmen.

A Bloomberg disse que a Anthropic afirmou que atores ligados ao Irã e à Rússia usaram o Claude para tentar desenvolver capacidades militares, entre elas enxames de drones kamikaze, sistemas de navegação de mísseis e armas biológicas. A AFP acrescentou que o relatório, com 154 páginas, identificou um pequeno grupo de desenvolvedores freelancers na Rússia que teria usado o Claude para criar software destinado a controlar drones kamikaze autônomos.

¿Qué dijo sobre vigilancia y operaciones en Medio Oriente?

A Anthropic sustentou que um grupo ligado ao governo do Irã usou o Claude para apoiar operações de vigilância contra os Estados Unidos e para elaborar recomendações de ataque contra forças navais americanas na região. A Iran International ampliou esse ponto ao dizer que a empresa atribuiu a contas alinhadas ao Estado iraniano e a outras vinculadas ao Irã o uso do Claude para propaganda, vigilância interna e perfilamento de pessoas em Israel e na diáspora judaica.

A Axios detalhou que a Anthropic identificou atores ligados aos governos de Mali, China e Irã usando modelos do Claude para automatizar operações de vigilância. Entre os casos citados pelo veículo está o desenvolvimento de uma extensão maliciosa do Firefox voltada a coletar identidades de usuários em redes sociais e selecionar alvos de vigilância.

O The Print acrescentou que uma conta ligada à S2T Unlocking Cyberspace, descrita por investigação de código aberto como uma fornecedora de inteligência israelense-singapurense, usou o Claude para construir uma plataforma que perfila a atividade em redes sociais de usuários no Irã e no Golfo Pérsico.

¿Qué pasó en América Latina?

A Unit 42, da Palo Alto Networks, disse no X que viu atacantes usando ferramentas comerciais de IA para atingir sistemas de transporte e financeiros na América Latina. A Varutra identificou duas campanhas ativas, CL-CRI-1131 e CL-CRI-1163, voltadas contra organizações de transporte, governo, serviços de água e o setor financeiro no México, Equador e Brasil.

Segundo a análise, os atacantes usaram modelos de linguagem comerciais para gerar scripts, depurar problemas técnicos e acelerar a fase de pós-exploração. A Varutra acrescentou que a infraestrutura de exfiltração hospedava o NextChat como interface de acesso a múltiplos modelos de IA, e que a adoção de IA comercial permitiu automatizar reconhecimento, geração de payloads e scripting de exfiltração, reduzindo o tempo de operação e aumentando a capacidade de adaptação do código malicioso.

O The Hacker News afirmou que, entre dezembro de 2025 e agosto de 2026, tanto cibercriminosos quanto grupos de hackers patrocinados por Estados usaram o Claude para automatizar exploração e roubo de dados em múltiplas vítimas. O veículo enquadrou esse achado como uma integração do modelo em toda a cadeia de ataque, além do apoio tático.

A BBC acrescentou que a Anthropic não só bloqueou usos ligados a ciberoperações, vigilância, fraude e desenvolvimento de armas, como também impediu que alguns cientistas utilizassem o Claude de forma que pudesse apoiar o desenvolvimento de armas biológicas. A empresa apresentou, assim, um mapa de abuso que combina atores estatais, criminosos, desenvolvedores freelancers e pessoal científico.