As empresas Google, OpenAI e Anthropic estão avançando na formação de uma organização independente com o objetivo de estabelecer padrões de segurança para sistemas de inteligência artificial (IA) de ponta. A iniciativa surge em um contexto de crescente debate sobre a necessidade de regulamentação para tecnologias cada vez mais complexas e potencialmente arriscadas.
Conforme informado pelo The Information, a nova entidade está sendo inicialmente chamada de Standards Authority for Frontier AI (SAFA). A proposta visa criar uma estrutura que funcione de forma autônoma, ajudando a preencher lacunas na supervisão governamental sobre a IA.
Colaboração em segurança entre as empresas
- A iniciativa representa uma aproximação entre algumas das principais desenvolvedoras de IA do mundo, buscando ir além de seus próprios programas de segurança;
- OpenAI e Anthropic também têm discutido um acordo que permitiria a cada empresa testar os modelos comerciais de IA da outra, em busca de vulnerabilidades e comportamentos inesperados;
- Neste modelo de colaboração, as empresas teriam acesso aos modelos umas das outras para realizar testes independentes de estresse, com a condição de que os dados obtidos não seriam retidos.
A ideia de estabelecer padrões de segurança mais amplos ganhou destaque na última semana, quando os CEOs da OpenAI, Sam Altman, e da Anthropic, Dario Amodei, abordaram questões de segurança em uma reunião do Conselho de Segurança das Nações Unidas (ONU). Durante essa sessão, Altman enfatizou a necessidade de que decisões significativas relacionadas à IA sejam moldadas por instituições democráticas e governos. Amodei, por sua vez, defendeu a criação de acordos internacionais e a definição de padrões globais para a avaliação de novos modelos de IA.
A OpenAI já havia solicitado anteriormente que os Estados Unidos liderassem esforços internacionais para estabelecer normas técnicas para sistemas avançados de IA, incluindo tecnologias com a capacidade de realizar autoaperfeiçoamento recursivo.
Desafios na regulamentação da IA
A proposta da SAFA surge em um momento de crescente divergência sobre como a IA deve ser regulamentada. De um lado, há defensores de regulamentações mais rigorosas para mitigar riscos associados a sistemas cada vez mais poderosos. Por outro lado, existem aqueles que acreditam que as leis existentes e os mecanismos de mercado seriam suficientes para lidar com essas ameaças.
O governo dos Estados Unidos também está inserido nesse debate. O presidente Donald Trump se manifestou contra a implementação de novas barreiras regulatórias para a IA, defendendo que tanto os EUA quanto a China devem continuar o desenvolvimento tecnológico sem interrupções.
Nesse cenário, a criação do órgão proposto por Google, OpenAI e Anthropic representa uma tentativa das principais empresas de IA de estabelecer padrões comuns de segurança, enquanto os governos discutem o nível de supervisão necessário para sistemas cada vez mais sofisticados.
