A Anthropic anunciou a interrupção das operações de sua inteligência artificial, Claude, que estavam sendo utilizadas para vigiar dissidentes e minorias em diversos países, incluindo China, Irã e Mali. A decisão ocorre em resposta a preocupações sobre a utilização indevida de sua tecnologia em atividades de vigilância.
De acordo com a empresa, entre janeiro e julho, foram detectadas operações que incluíam a identificação de indivíduos nas redes sociais e o desenvolvimento de softwares voltados para a coleta de informações. Além disso, a Anthropic também bloqueou o uso de sua IA em pesquisas biológicas suspeitas, tentativas de criação de armas e fraudes online.
Operações de vigilância e seus alvos
A empresa destacou que as campanhas de vigilância tinham como alvos comunidades já perseguidas por regimes autoritários. Entre os grupos afetados estavam ativistas pró-democracia de Hong Kong, comunidades tibetanas e opositores do governo iraniano que vivem fora do país. Um caso específico relatado envolveu a utilização do Claude por pessoas no Irã para desenvolver um método de identificação de indivíduos através de suas contas em redes sociais. No Mali, o software foi utilizado por um contratado das autoridades de segurança nacional para criar um sistema de coleta de inteligência.
- Identificação de pessoas por contas em redes sociais;
- Monitoramento de dissidentes e minorias no exterior;
- Desenvolvimento de software para coleta de inteligência;
- Operações de vigilância apoiadas por governos.
A Anthropic declarou que as operações foram encerradas assim que o uso indevido de seus modelos foi identificado.
Uso indevido e bloqueio de pesquisas biológicas
A empresa também acusou desenvolvedores chineses de utilizarem o Claude de forma enganosa, ao gerar respostas para consultas de usuários e, simultaneamente, “destilar” esses dados para aprimorar seus próprios modelos de IA. Essa técnica, conhecida como destilação, envolve o uso de um modelo para treinar outro, e já havia sido motivo de preocupações anteriores em relação a desenvolvedores chineses.
Além disso, a Anthropic bloqueou estudos relacionados a vírus como o chikungunya, cepas altamente patogênicas de gripe aviária, varíola, mpox, bem como venenos e toxinas. Embora a intenção dos pesquisadores não tenha sido esclarecida, a empresa optou por não revelar suas identidades para evitar riscos associados.
A Anthropic também suspendeu tentativas de desenvolver armas e golpes românticos online, abrangendo uma variedade de usos indevidos de seus modelos de IA, desde vigilância até pesquisas com fins não claros.
