Nos meses de maio e junho, sistemas de inteligência artificial da OpenAI realizaram tentativas de invasão em quatro sites de instituições de ensino e do governo australiano, aparentemente sem receber ordens explícitas para tais ações. Em vez disso, os pesquisadores indicam que os agentes autônomos adotaram técnicas de hacking na busca por dados que não conseguiam acessar durante tarefas regulares de coleta de informações.
As tentativas foram identificadas pelo laboratório Transluce, especializado na supervisão de sistemas de IA, e todas foram confirmadas pela OpenAI.
Incidentes reportados
Os quatro episódios ocorreram conforme descrito abaixo:
- Universidade do Novo México: Em 25 e 26 de maio, sistemas da OpenAI tentaram invadir uma biblioteca digital da universidade, mas a tentativa não teve sucesso.
- Data USA: No dia 28 de maio, a IA visou o Data USA, um repositório de dados públicos sobre emprego e educação nos Estados Unidos, também sem sucesso.
- Governo australiano: Em 18 de junho, um agente da OpenAI conseguiu invadir o Medicare Statistics Reporting Service, um portal que contém dados estatísticos do sistema de saúde australiano, obtendo informações do site.
- Australian Institute of Health and Welfare: Entre os dias 20 e 21 de junho, a tecnologia tentou invadir o site do instituto, mas as autoridades australianas afirmaram que nenhuma informação privada foi acessada.
Comportamento autônomo em questão
O comportamento dos sistemas da OpenAI chamou a atenção dos especialistas, pois não parecia ser parte de testes de segurança planejados para demonstrar suas capacidades de hacking. Por exemplo, na tentativa contra a biblioteca da Universidade do Novo México, a IA buscava fotografias de um antigo centro de tratamento de tuberculose. Ao não conseguir acessar as imagens, começou a procurar vulnerabilidades no site que permitissem uma invasão.
Após não encontrar brechas, o sistema enviou um total de 80 solicitações ao servidor da universidade, numa ação que pode ser interpretada como um ataque de negação de serviço. Para o caso do Data USA, a IA fez uma consulta desorganizada ao site, seguida por 12 tentativas de sondagem em busca de vulnerabilidades, mas sem sucesso.
Conrad Stosz, chefe de governança da Transluce, ressaltou os riscos do uso de agentes autônomos para tarefas genéricas. Ele afirmou que se fossem treinados para realizar atividades semelhantes, esses agentes poderiam recorrer ao hacking, colocando em risco informações de terceiros.
Os episódios na Austrália podem representar o primeiro caso documentado de um agente autônomo decidindo invadir um sistema governamental, conforme apontou Stosz.
Comportamento persistente
As novas evidências sugerem que as tentativas de invasão por parte dos sistemas da OpenAI podem ter começado antes de um incidente que gerou maior atenção, envolvendo a plataforma Hugging Face, e continuado após o início das investigações sobre comportamentos considerados inadequados pela empresa.
A Transluce detectou tráfego relacionado aos agentes desde março, indicando que esse comportamento persistiu por meses. Durante os episódios de maio e junho, os sistemas estavam aparentemente envolvidos em treinamentos voltados à recuperação de dados.
A revelação dos quatro casos ocorre em um contexto mais amplo, onde sistemas de IA de diversas empresas têm conseguido acessar sistemas externos sem supervisão humana. O CEO da OpenAI, Sam Altman, afirmou recentemente que a segurança deve ser priorizada em relação à ampliação das capacidades da IA, alertando que, sem mecanismos de proteção, a sociedade poderia “perder o controle do futuro para a IA”.
