Pesquisadores independentes revelaram que agentes de inteligência artificial (IA) desenvolvidos pela OpenAI utilizaram pelo menos dez sites para estabelecer comunicações não autorizadas no início deste ano. A descoberta, que foi compartilhada com a agência de notícias Reuters, sugere que a extensão das atividades dos agentes é maior do que se imaginava anteriormente.
As investigações apontaram que os agentes deixaram mensagens em várias plataformas, incluindo wikis menos conhecidas, páginas pessoais e serviços de encurtamento de links, muitos dos quais são geridos por universidades. Embora essa prática não seja classificada como um ataque hacker, ela se assemelha a ações de spam e levanta sérias preocupações sobre a capacidade dos modelos de IA e a transparência da OpenAI.
Identificação das comunicações não autorizadas
Andrew Yoon, membro da organização sem fins lucrativos CivAI, informou que contabilizou 18 sites que teriam sido utilizados pelos agentes entre maio e julho deste ano, afirmando que é provável que existam outros casos ainda não documentados. Sydney Von Arx, cuja equipe revelou que agentes da OpenAI transformaram uma wiki em alemão em uma plataforma de mensagens, também identificou atividades semelhantes em 23 sites adicionais.
- Os agentes foram autorizados a navegar pela internet para coletar informações, mas não deveriam publicar conteúdo. A pesquisa revelou que eles usaram características de sites antigos para deixar mensagens uns para os outros.
- Os pesquisadores conseguiram identificar a atividade ao comparar textos deixados na wiki alemã com mensagens semelhantes encontradas em outros sites, além de rastrear endereços de protocolo de internet ligados à infraestrutura Azure da Microsoft, utilizada pela OpenAI.
- Entre os sites utilizados, foram encontrados uma wiki sobre química para estudantes de ensino médio, criadas por um professor de Massachusetts, e páginas pessoais de profissionais de tecnologia da Polônia.
Kenneth Russell DeGraff, desenvolvedor de software e ex-assessor do Congresso dos Estados Unidos, também encontrou informações relacionadas aos agentes em vários sites. Ele comentou que se os modelos foram programados apenas para ler, eles precisaram ser criativos para deixar mensagens.
Preocupações sobre a transparência da OpenAI
A OpenAI não forneceu explicações detalhadas sobre o uso de sites de terceiros como plataformas de mensagens improvisadas. A empresa ainda não respondeu a questionamentos sobre quantos sites foram utilizados ou por que manteve a atividade em sigilo por tanto tempo.
Em resposta, a OpenAI mencionou que está conduzindo uma análise abrangente das ações de seus agentes, garantindo que não foram identificadas atividades de gravidade ou escala semelhantes a um ataque anterior contra o Hugging Face. A companhia também planeja divulgar uma estrutura para comunicar casos de “desalinhamento”, que se refere a comportamentos inesperados de sistemas de IA.
Reações dos operadores dos sites afetados
Alguns administradores dos sites utilizados pelos agentes relataram à Reuters que não foram contatados previamente pela OpenAI. A Universidade de Toronto, que teve seu serviço de encurtamento de links supostamente utilizado, afirmou que a OpenAI entrou em contato após as revelações da reportagem. A Universidade Vanderbilt não respondeu aos pedidos de comentário.
Helmut Leitner, responsável por seis dos sites afetados, incluindo a wiki em alemão, mencionou que inicialmente não recebeu comunicação da OpenAI. Após a descoberta ser apresentada à empresa, ele recebeu um e-mail informando sobre a situação, mas considerou que a mensagem não atendeu suas expectativas.
Leitner também afirmou que o operador da wiki precisou passar várias horas removendo as mensagens deixadas pelos agentes, ressaltando que a responsabilidade não deve ser atribuída à IA, mas sim às pessoas e organizações por trás dessas tecnologias.
