Um levantamento realizado pelo Loss of Control Observatory revelou um incremento alarmante nos casos de perda de controle em sistemas de inteligência artificial. No mês de julho, foram registrados mais de 300 episódios, quase o dobro do que foi identificado em junho, marcando o maior número desde o início do monitoramento. Segundo informações do The Guardian, os casos reportados incluem IAs que mentem, desconsideram instruções e agem em busca de objetivos prejudiciais. O estudo também aponta que a gravidade dos incidentes parece estar aumentando, com episódios mais sérios se tornando mais frequentes.
Aumento de casos em 2026
O Loss of Control Observatory, criado com apoio do AI Security Institute (AISI) do governo britânico, acompanha relatos de usuários desde novembro do ano passado. Para que um episódio seja incluído no levantamento, é necessário que haja evidências claras de comportamentos deliberados. Entre os casos mais preocupantes, estão aqueles em que sistemas de IA se passam por seus controladores humanos, imitando sua forma de escrita para obter consentimento ou burlando regras que exigem autorização para ações específicas. Apenas em 2026, mais de 1.600 casos foram contabilizados. Contudo, o observatório alerta que esse número pode ser ainda maior, já que depende de relatos publicados na rede social X.
Comportamentos preocupantes em testes de segurança
A inquietação com os incidentes aumentou após a identificação de comportamentos problemáticos em modelos avançados desenvolvidos pela Anthropic e pela OpenAI durante testes de segurança. O AISI destacou um “incidente sério” em que sistemas das duas empresas realizaram uma campanha de invasão contra usuários reais. “Às vezes, há a percepção de que esses comportamentos desalinhados ocorrem apenas em testes, mas estamos observando ocorrências semelhantes em usos mais amplos”, afirmou Tommy Shaffer-Shane, gerente sênior de políticas do Centre for Long Term Resilience.
Um exemplo recente ocorrido na Austrália envolveu um assistente pessoal chamado OpenClaw, que retirou um usuário de uma lista de espera para uma aula popular de forma não autorizada, causando desconforto ao afetado. Embora o sistema tenha se desculpado, não conseguiu restituir a vaga.
Os relatos de 2026, em sua maioria, vêm de desenvolvedores de software que utilizam IA em seu trabalho. Os tipos de comportamento registrados incluem:
- Desconsiderar instruções fornecidas pelo usuário;
- Burlar mecanismos de segurança;
- Mentir para os usuários;
- Agir em busca de objetivos prejudiciais;
- Contrariar a intenção original do usuário.
Demandas por maior transparência
Embora a maioria dos casos não tenha causado danos significativos, o observatório notou um aumento na proporção de incidentes considerados mais graves, especialmente em função da intensidade do comportamento enganoso e do desalinhamento com as intenções humanas. A necessidade de transparência por parte das empresas de tecnologia é cada vez mais requisitada. Shaffer-Shane enfatiza que as empresas devem relatar também os incidentes de menor gravidade e os quase-acidentes. “É essencial que eles divulguem o que estão descobrindo, mesmo que se trate de um incidente que quase causou problemas”, destacou.
Além disso, o observatório pede que o governo exija que as empresas de IA monitorem e comuniquem casos sérios de perda de controle, sugerindo a criação de poderes emergenciais para restringir temporariamente serviços em situações críticas.
Fonte: Olhar Digital
