A Anthropic, empresa de inteligência artificial, divulgou um relatório detalhado sobre o uso malicioso de sua tecnologia, especificamente seu modelo Claude. O documento, que abrange desde ataques cibernéticos e espionagem até o desenvolvimento de armas e fraudes, foi publicado em 10 de setembro e analisa atividades identificadas entre dezembro de 2025 e agosto de 2026.
Sete áreas de risco identificadas
O relatório reúne casos em sete áreas de risco: operações cibernéticas, operações de influência, vigilância, golpes e fraudes, uso biológico, desenvolvimento de armas convencionais e destilação ilícita de modelos de IA. A Anthropic enfatiza que esses casos não refletem o uso típico de seus modelos, mas sim atividades novas e relevantes que foram detectadas.
Embora alguns dos envolvidos sejam grupos suspeitos de atuar com apoio estatal, a empresa também menciona criminosos motivados financeiramente, empresas de spyware e indivíduos com motivações políticas. Uma das principais conclusões é que a IA está se tornando mais do que uma simples assistente, passando a desempenhar um papel ativo na orquestração de operações maliciosas.
Operações cibernéticas e espionagem
No contexto de operações cibernéticas, o relatório revela que a IA começou a atuar como coordenadora de ataques, participando de diversas etapas, desde o reconhecimento até a exfiltração de dados. Em um caso relacionado a espionagem russa, a IA automatizou processos que incluíam o desenvolvimento de ferramentas e manutenção de acesso, atingindo mais de 20 organizações, principalmente na Ucrânia.
Outro caso destacou o uso de Claude em uma operação que mantinha várias frentes ativas, como pesquisa de vulnerabilidades e coleta de inteligência, permitindo que a IA realizasse tarefas mesmo na ausência de supervisão humana.
Propaganda e vigilância ampliadas
O relatório também aborda como modelos de IA têm sido utilizados em operações de influência. O Claude foi empregado para ajudar a construir a infraestrutura dessas campanhas, gerando conteúdo e adaptando mensagens para diferentes públicos. Entre os casos analisados, operações ligadas ao Estado iraniano utilizaram a IA para preparar campanhas de “guerra cognitiva”, com produção de materiais adaptados a diversas plataformas e idiomas.
A vigilância é outra área crítica. Entre janeiro e julho de 2026, a Anthropic identificou operações de monitoramento que envolviam atores estatais e empresas de spyware em regiões como China e Irã. Em um exemplo, um consultor do Mali usou Claude para criar uma plataforma de interceptação de comunicações móveis, enquanto no Irã a IA foi utilizada para desenvolver uma extensão maliciosa do navegador Firefox.
Desenvolvimento de armas e pesquisa biológica
O relatório também documenta casos de desenvolvimento de armas convencionais, incluindo três na China e dois na Rússia. Um dos casos mais relevantes envolveu um grupo no Iémen que trabalhava em programas de armamento avançado, utilizando Claude para desenvolver softwares de controle e navegação. Apesar de os testes terem falhado, a capacidade da IA de substituir engenheiros humanos no processo foi destacada.
Na área de pesquisa biológica, a Anthropic relatou cinco casos que poderiam potencialmente apoiar o desenvolvimento de armas biológicas, enfatizando que os pesquisadores não tinham intenção de causar danos. Os estudos incluíram investigações sobre vírus e toxinas, destacando a complexidade da biologia como uma área de “duplo uso”.
Fraudes e destilação ilícita de modelos
A Anthropic também relatou uma operação de fraude que utilizava Claude em aplicativos de relacionamento, onde mais de 4.700 personas de IA interagiram com 25 mil usuários, criando a ilusão de diálogos humanos. Além disso, a empresa identificou ataques de destilação ilícita, onde modelos de IA eram copiados sem autorização. Esses ataques, atribuídos a laboratórios na China, levantaram preocupações sobre a segurança de dados dos usuários.
De acordo com o relatório, a Anthropic bloqueou mais de 151 milhões de acessos suspeitos e interceptou ataques cibernéticos, ressaltando a evolução das estratégias maliciosas associadas ao uso de IA.
Em suma, o documento revela uma mudança significativa na percepção do uso indevido da IA, mostrando que o Claude foi integrado a operações complexas e automatizadas, ampliando os riscos associados à tecnologia.
