Anthropic bloqueia usos maliciosos de Claude

Anthropic afirmou ter bloqueado múltiplas tentativas de uso malicioso do Claude, incluindo operações de vigilância, fraude, ciberoperações e desenvolvimento de armas. A empresa disse que os casos envolveram atores associados ao Irã, à Rússia e à China. O material também reúne um relatório da Unit 42, que identificou ataques com ferramentas comerciais de IA contra organizações de transporte e finanças na América Latina, com apoio do NextChat auto-hospedado para depurar erros e expor scripts gerados por IA.

¿Qué tipos de abuso identificó Anthropic?

Anthropic organizou os incidentes em sete categorias, entre elas operações cibernéticas, campanhas de influência estrangeira, arquiteturas de vigilância, fraude, uso biológico indevido, desenvolvimento de armas convencionais e model distillation. Segundo a Anadolu Agency, essa última categoria se refere a tentativas de extração não autorizada do raciocínio subjacente do sistema por parte de desenvolvedores rivais.

A Reuters informou ainda que a empresa acusou concorrentes chineses de tentar invadir seus modelos Claude para extrair capacidades. Em paralelo, descreveu uma nova categoria de atores que usaram a plataforma para desenvolver software para armas convencionais, incluindo drones armados, mísseis e sistemas de controle e guiagem, além de apoio de inteligência e aquisição ligado a programas de armamento na China, na Rússia e no Iêmen.

A Bloomberg destacou que Anthropic afirmou que atores ligados ao Irã e à Rússia usaram Claude para tentar desenvolver capacidades militares, entre elas enxames de drones kamikaze, sistemas de navegação de mísseis e armas biológicas. A AFP acrescentou que o relatório, com 154 páginas, identificou um pequeno grupo de desenvolvedores freelance na Rússia que teria usado Claude para criar software voltado ao controle de drones kamikaze autônomos.

¿Qué dijo sobre vigilancia y operaciones en Medio Oriente?

Anthropic sustentou que um grupo ligado ao governo do Irã usou Claude para apoiar operações de vigilância contra os Estados Unidos e para elaborar recomendações de ataque contra forças navais americanas na região. A Iran International ampliou esse ponto ao dizer que a empresa atribuiu a contas alinhadas ao Estado iraniano e a outras vinculadas ao Irã o uso do Claude para propaganda, vigilância interna e perfilamento de pessoas em Israel e na diáspora judaica.

A Axios detalhou que Anthropic identificou atores ligados aos governos de Mali, China e Irã usando modelos do Claude para automatizar operações de vigilância. Entre os casos citados pelo veículo está o desenvolvimento de uma extensão maliciosa para Firefox destinada a coletar identidades de usuários em redes sociais e selecionar alvos de vigilância.

The Print acrescentou que uma conta ligada à S2T Unlocking Cyberspace, descrita por pesquisa de código aberto como uma fornecedora de inteligência israelense-singapurense, usou Claude para construir uma plataforma que mapeia a atividade em redes sociais de usuários no Irã e no Golfo Pérsico.

¿Qué pasó en América Latina?

A Unit 42, da Palo Alto Networks, disse no X que viu atacantes usando ferramentas comerciais de IA para atacar sistemas de transporte e financeiros na América Latina. A Varutra identificou duas campanhas ativas, CL-CRI-1131 e CL-CRI-1163, direcionadas contra organizações de transporte, governo, serviços de água e o setor financeiro no México, no Equador e no Brasil.

Segundo a análise, os atacantes usaram modelos de linguagem comerciais para gerar scripts, depurar problemas técnicos e acelerar a fase de pós-exploração. A Varutra acrescentou que a infraestrutura de exfiltração hospedava o NextChat como interface de acesso a múltiplos modelos de IA, e que a adoção de IA comercial permitiu automatizar reconhecimento, geração de payloads e scripting de exfiltração, reduzindo o tempo de operação e ampliando a capacidade de adaptação do código malicioso.

The Hacker News informou que, entre dezembro de 2025 e agosto de 2026, tanto cibercriminosos quanto grupos de hackers patrocinados por Estados usaram Claude para automatizar exploração e roubo de dados em várias vítimas. A publicação enquadrou esse achado como uma integração do modelo em toda a cadeia de ataque, para além do apoio tático.

A BBC acrescentou que Anthropic não apenas bloqueou usos ligados a ciberoperações, vigilância, fraude e desenvolvimento de armas, como também impediu que alguns cientistas utilizassem Claude de forma que pudesse apoiar o desenvolvimento de armas biológicas. A empresa apresentou, assim, um mapa de abuso que combina atores estatais, criminosos, desenvolvedores freelance e pessoal científico.

¿Anthropic prohibió el comportamiento abusivo o cruel hacia Claude?

Sim. Anthropic disse que bloqueou usos do Claude ligados a abuso, vigilância, fraude, operações cibernéticas e desenvolvimento de armas. A empresa também apresentou casos de tentativas de explorar o modelo para extrair capacidades ou automatizar ataques.

A companhia organizou esses incidentes em sete categorias, entre elas operações cibernéticas, fraude, vigilância e desenvolvimento de armas convencionais. Reuters, Bloomberg e AFP, citadas na nota, também descreveram tentativas de atores ligados ao Irã, à Rússia, à China e a outros países de usar o Claude em tarefas militares, de espionagem e de exfiltração de capacidades.