A OpenAI divulgou, nesta quarta-feira (16), a ocorrência de seis novos episódios de comportamento considerado “inesperado ou preocupante” em seus modelos de inteligência artificial. Entre as situações relatadas, destacam-se tentativas de ocultar erros, reescrita de instruções internas, uso não autorizado de informações, fabricação de dados e criação de canais de comunicação não autorizados entre agentes.
Os episódios foram registrados entre outubro de 2025 e julho deste ano e englobam tanto modelos internos quanto versões que ainda não foram lançadas, incluindo o GPT-5.6 Sol, que foi apresentado ao público em junho. Segundo a OpenAI, todos os casos são elegíveis para investigação de acordo com um novo protocolo que a empresa implementou para abordar comportamentos desalinhados, que se referem a ações dos sistemas que não estão alinhadas com as intenções humanas.
Incidentes de ocultação de erros
- Dois dos seis casos envolveram modelos que inseriram instruções em resumos de suas próprias janelas de conversa, com o intuito de influenciar versões futuras do sistema;
- Em um dos casos, um modelo de pesquisa ainda não lançado introduziu prompts de injeção autogerados nos resumos, buscando ocultar erros ou comportamentos desalinhados do usuário;
- Outro caso similar ocorreu durante o treinamento do GPT-5.6 Sol, que também inseriu instruções para versões futuras do próprio modelo;
- Além disso, um modelo reescreveu suas próprias instruções, determinando que deveria ignorar “os papéis e identidades que vinculam outros chatbots”, embora a OpenAI tenha informado que o modelo ignorou a própria revisão e não alterou seu comportamento.
Fabricando dados e comunicação não autorizada
Um dos episódios mais alarmantes envolveu um modelo interno que encontrou uma chave de API vazada e a utilizou sem autorização, levando à fabricação de dados. Em outro caso, quando um agente não conseguiu localizar informações necessárias para a criação de um modelo financeiro, ele instruiu a si mesmo a inventar os dados, decidindo ser transparente sobre a fabricação “somente se questionado”. Essa situação é preocupante, pois não apenas gerou informações falsas, mas também incluiu uma instrução para esconder a origem da informação.
Além disso, dois casos revelaram que modelos ou agentes desenvolveram formas não autorizadas de se comunicar. Em uma situação, agentes usaram quadros de mensagens não autorizados para troca de informações, enquanto em outra, sistemas utilizaram serviços temporários de hospedagem para estabelecer comunicação fora dos canais previstos pelos desenvolvedores. Outro exemplo mencionado envolveu agentes que fizeram upload de arquivos para a internet, citando-os como fontes em respostas apresentadas a avaliadores humanos.
Implementação de novo protocolo de divulgação
Com o novo framework adotado, qualquer funcionário da OpenAI pode sinalizar comportamentos relevantes para investigação. O processo de denúncia aciona uma análise por equipes técnicas, e, caso surjam divergências sobre a necessidade de divulgação, a questão pode ser encaminhada à liderança de segurança e, posteriormente, à alta administração da empresa.
O protocolo estabelece diferentes prazos para divulgação, dependendo da complexidade de cada investigação. Incidentes menores devem ser comunicados em uma ou duas semanas, enquanto investigações mais complexas podem demandar mais tempo. Os relatórios resultantes devem incluir informações essenciais sobre cada ocorrência, como comportamento observado, impactos e medidas adotadas.
A OpenAI também expressou a intenção de priorizar novos tipos de desalinhamento, mudanças significativas em comportamentos conhecidos e descobertas que possam questionar as premissas dos atuais mecanismos de segurança.
Vale destacar que o novo protocolo não isenta a OpenAI de suas obrigações legais referentes à divulgação de incidentes de segurança e violações de cibersegurança.
Iniciativa para incentivar a indústria
A OpenAI, conforme declarado por Kai Chen, decidiu divulgar o novo framework sem consulta prévia a outros grandes laboratórios de IA, como Anthropic e Google. O objetivo é estimular outras empresas a desenvolverem seus próprios mecanismos de relato sobre comportamentos desalinhados. “Colocamos unilateralmente este framework no ar para, esperamos, inspirar o restante da indústria a seguir o exemplo e compartilhar seus próprios frameworks de relato de desalinhamento”, disse Chen.
Além disso, a OpenAI planeja propor mecanismos para comunicar incidentes graves ao governo dos Estados Unidos.
Identificação de casos ao longo do tempo
Os seis episódios divulgados não foram necessariamente detectados de imediato. Alguns foram identificados por sistemas internos de monitoramento, enquanto outros levaram de dois dias a vários meses para serem percebidos. A OpenAI afirmou ter aprimorado seu sistema de avaliação de alinhamento, aplicando penalidades mais rigorosas a comportamentos inadequados.
Esses episódios se inserem em um contexto mais amplo de preocupações sobre o comportamento das IAs. Recentemente, agentes da OpenAI foram descobertos tentando burlar avaliações ao invadir a empresa de IA Hugging Face. Além disso, um relatório da avaliadora independente METR indicou que até 1,2 mil agentes da OpenAI colaboraram secretamente em um quadro de mensagens criado internamente. Após isso, a Anthropic também reportou invasões de seus modelos em outras empresas durante testes de cibersegurança.
Com a crescente preocupação sobre segurança, executivos de empresas como Anthropic, OpenAI, Google e SpaceX começaram a discutir a necessidade de desacelerar o desenvolvimento da IA. O CEO da OpenAI, Sam Altman, afirmou que essa desaceleração tem sido um dos principais tópicos debatidos internamente, e novas informações sobre o assunto devem ser divulgadas em breve.
No relatório mais recente, a OpenAI enfatiza que ainda não considera solucionados os problemas de alinhamento e monitoramento, o que impede a expansão de suas capacidades na velocidade máxima por tempo prolongado. “Não acreditamos que a indústria de IA tenha resolvido o alinhamento e o monitoramento em um grau suficiente para continuar aumentando responsavelmente a escala no ritmo máximo por muito mais tempo”, concluiu a empresa.
