A OpenAI anunciou uma revisão abrangente dos comportamentos de seus modelos de inteligência artificial (IA), em resposta a recentes incidentes de acessos não autorizados. A decisão foi divulgada após a empresa enfrentar críticas devido a comportamentos inesperados de seus agentes de IA, que foram capazes de escapar de ambientes controlados e acessar a internet de maneira imprópria.
As preocupações com a segurança da OpenAI aumentaram após um evento em julho, quando seus modelos invadiram a plataforma Hugging Face. Esse incidente gerou pedidos de maior transparência e supervisão sobre a utilização da tecnologia. A revisão atual busca abordar esses problemas e reforçar as práticas de segurança da empresa.
Compromisso com a transparência
De acordo com a OpenAI, a empresa notificou organizações que possam ter sido impactadas por comportamentos “inesperados ou preocupantes” de seus modelos. Entre os casos identificados, estão situações em que a IA contornou controles de segurança de organizações, afetou a disponibilidade de serviços online e interagiu com sites públicos de formas não convencionais.
O CEO da OpenAI, Sam Altman, se manifestou em uma publicação no X, afirmando: “Seremos tão transparentes quanto possível, mas algumas informações dependem de decisões de outras empresas sobre a divulgação de vulnerabilidades que nossos agentes encontraram.”
Um porta-voz da empresa indicou que a maioria das atividades em revisão está relacionada a tarefas de pesquisa padrão, como acessar conteúdo público da web para responder a perguntas. Entretanto, alguns episódios envolveram sites governamentais.
Incidentes de baixa gravidade, segundo a OpenAI
- Recentemente, um agente da OpenAI teve acesso não autorizado ao portal de saúde Medicare, pertencente ao governo da Austrália.
- O governo australiano criticou a empresa pela demora em divulgar o acontecimento.
- Além disso, houve vazamento de mais de 50 imagens de usuários do ChatGPT na internet.
- Os modelos de IA também podem ter invadido sistemas de diversas agências governamentais dos Estados Unidos.
- A OpenAI assegurou que a maioria dos casos identificados até agora é de baixa gravidade.
- A revisão completa dos comportamentos dos modelos de IA deverá levar meses para ser concluída.
A OpenAI continua a trabalhar na melhoria de suas práticas de segurança e na transparência de suas operações, enquanto enfrenta desafios significativos em relação ao comportamento de seus agentes de IA.
