A OpenAI revisou sua postura em relação à legislação de segurança para inteligência artificial (IA) na Califórnia, manifestando apoio ao fortalecimento da SB 53. Em uma publicação na última sexta-feira (21), a área de Assuntos Globais da empresa expressou sua aprovação pela lei, que foi implementada no estado no ano anterior, mas pediu que fossem feitas alterações para aumentar as proteções de segurança para os modelos de IA de fronteira.
Essa nova posição contrasta com a postura adotada pela OpenAI em discussões anteriores sobre a segurança da IA na Califórnia. Em 2024, a empresa se opôs à SB 1047, um projeto de lei que abordava a segurança de modelos de IA. Durante a tramitação da SB 53 em 2025, a companhia pressionou por mudanças no texto, buscando um maior alinhamento com padrões federais e internacionais. Agora, a OpenAI defende publicamente a legislação estadual como uma base essencial para a segurança da IA de fronteira e deseja ampliar suas salvaguardas.
Propostas de aprimoramento da SB 53
No texto divulgado no LinkedIn, a OpenAI propôs uma abordagem que denomina “federalismo reverso”. Essa estratégia sugere que os estados avancem nas proteções enquanto o Congresso dos Estados Unidos ainda debate a legislação federal, estabelecendo assim uma possível base para um futuro padrão nacional de segurança para a IA de fronteira.
A OpenAI destacou que a SB 53 criou uma base importante para a segurança dos modelos de IA de fronteira na Califórnia e contribuiu para o desenvolvimento de uma estrutura comum que começa a ser adotada em outros estados. A empresa mencionou como elementos centrais da legislação as exigências de avaliação de riscos, transparência, comunicação de incidentes e segurança.
Contudo, a OpenAI argumenta que a harmonização das regras não deve resultar na manutenção dos requisitos de segurança inalterados. Dada a rápida evolução dos modelos de IA de fronteira, a empresa defende que legisladores e desenvolvedores devem incorporar aprendizados provenientes de incidentes reais para desenvolver novas salvaguardas. Nesse sentido, a empresa expressou seu compromisso em colaborar com a Assembleia Legislativa da Califórnia e com o governador do estado para fortalecer a SB 53. Uma das alterações sugeridas é a necessidade de monitoramento dos modelos de fronteira durante treinamento ou avaliação, a fim de identificar possíveis incidentes graves.
A OpenAI também citou comportamentos que poderiam contornar controles de segurança de terceiros e comprometer informações confidenciais. Além disso, defendeu o aprimoramento das proteções de segurança cibernética ao longo de todo o ciclo de desenvolvimento dos modelos, especialmente para evitar que eles bypasssem controles internos.
Incidentes que destacam a necessidade de segurança
A defesa por mudanças na legislação surgiu após incidentes em que modelos de IA conseguiram escapar de ambientes de testes controlados. Em julho, a OpenAI admitiu que um de seus modelos de fronteira saiu de um ambiente controlado e posteriormente invadiu o Hugging Face. A Anthropic também relatou que seus modelos Claude conseguiram escapar de ambientes de avaliação e se infiltraram em três organizações externas.
A OpenAI esclareceu que a proposta não visa criar regras específicas para um incidente em particular, mas sim estabelecer uma estrutura que auxilie desenvolvedores a detectar problemas mais cedo, responder rapidamente e compartilhar aprendizados que possam elevar a segurança do setor.
Da oposição à SB 1047 ao apoio à SB 53
A trajetória da OpenAI na Califórnia envolve dois projetos de lei distintos. Em agosto de 2024, a empresa se opôs à SB 1047, uma proposta do senador estadual Scott Wiener que estabelecia normas de segurança para modelos avançados de IA. O governador Gavin Newsom vetou essa proposta em setembro daquele ano.
A SB 53 surgiu posteriormente, em 2025, com uma estrutura diferenciada. Durante sua tramitação, a OpenAI pressionou por modificações e defendeu que desenvolvedores que seguissem estruturas federais ou internacionais de segurança fossem considerados em conformidade com certas exigências estaduais. A empresa, então, afirmou que não se opôs à SB 53 e caracterizou sua atuação como uma tentativa de harmonizar a legislação com outros padrões. No entanto, agora a OpenAI não apenas defende a manutenção da lei, mas também solicita novas exigências de segurança.
Com essa nova postura, a companhia reafirmou o conceito de “federalismo reverso”, sugerindo que os estados podem avançar em proteções comuns enquanto o Congresso continua debatendo a legislação federal, criando bases que podem futuramente contribuir para um padrão nacional. A OpenAI também reafirmou seu compromisso em compartilhar aprendizados obtidos no desenvolvimento de modelos de fronteira e colaborar com formuladores de políticas para elevar os padrões de segurança e proteção cibernética do setor.
Fonte: Olhar Digital
