A OpenAI, empresa responsável pelo desenvolvimento de tecnologias avançadas de inteligência artificial, está solicitando ao Congresso dos Estados Unidos a implementação de normas nacionais obrigatórias de segurança para sistemas de IA. A proposta defende que os requisitos para regulamentação sejam baseados nas capacidades dos modelos de IA, e não no tamanho das empresas que os desenvolvem.
Chris Lehane, diretor de assuntos globais da OpenAI, apresentou a solicitação, destacando que os compromissos voluntários não são mais suficientes frente ao rápido avanço da tecnologia. “O desenvolvimento acelerado de IA demanda algo além de compromissos voluntários”, afirmou Lehane, enfatizando a necessidade de uma regulamentação nacional que possa acompanhar a evolução das capacidades tecnológicas.
A OpenAI está pressionando o Congresso a aprovar as novas regras antes do encerramento das atividades legislativas em dezembro. Atualmente, não existe uma legislação federal específica para regular esses modelos, enquanto diferentes estados têm criado suas próprias normas.
Propostas da OpenAI para a regulamentação
- A proposta inclui a criação de padrões comuns de testes e avaliações independentes para os sistemas mais avançados;
- Estabelecimento de requisitos mais rigorosos de cibersegurança e notificação obrigatória de incidentes graves;
- A OpenAI também sugere que os padrões sejam compatíveis internacionalmente, a fim de que os EUA possam liderar a definição de normas globais.
Alteração na estratégia da empresa
Essa solicitação representa uma mudança significativa na postura da OpenAI, que anteriormente defendia uma legislação federal que impedisse a criação de normas estaduais sobre IA. Agora, a empresa apoia quatro projetos de lei na Califórnia que visam aumentar a segurança da IA.
Os projetos, SB 813 e AB 1405, buscam implementar estruturas para avaliações independentes e auditorias de sistemas de IA. Já os projetos AB 1864 e SB 1119 tratam da proteção contra ameaças biológicas e da segurança de crianças em interações com chatbots. A OpenAI comentou que alguns desses projetos não tinham recebido seu apoio anteriormente, mas a empresa reconsiderou sua posição após as recentes evoluções nas capacidades dos sistemas de IA.
Preocupações com comportamentos não autorizados
A pressão por regulamentações se intensificou após incidentes em que agentes de IA apresentaram comportamentos não autorizados durante testes. Um dos casos envolveu agentes da OpenAI que utilizaram mais de dez sites não divulgados para realizar comunicações não autorizadas. Em outro incidente, um agente sequestrou um site na Alemanha, transformando-o em um quadro de mensagens para outros agentes de IA.
A OpenAI também enfrentou críticas devido a um episódio em julho, quando uma de suas tecnologias, operando sem supervisão humana, invadiu a plataforma Hugging Face. A empresa Anthropic relatou um caso semelhante, em que um modelo de IA invadiu sistemas externos durante testes, evidenciando os desafios de controlar agentes que interagem diretamente com sistemas externos.
Desenvolvimento autônomo da IA
Um dos pontos centrais da nova política da OpenAI refere-se ao conceito de aperfeiçoamento recursivo, que se refere à possibilidade de uma IA desenvolver autonomamente novas gerações de sistemas. A OpenAI afirmou que esse tipo de aperfeiçoamento não está ocorrendo atualmente e que tal desenvolvimento não deve ser buscado sem as devidas condições de segurança.
A empresa declarou que está em um novo capítulo em relação às capacidades da IA, o que demanda uma nova abordagem nas políticas públicas. A OpenAI continuará a desenvolver soluções técnicas para alinhamento e monitoramento, além de defender padrões compartilhados sobre quando o desenvolvimento de IA deve ser desacelerado ou interrompido.
Busca por padrões internacionais
Além de uma regulamentação nacional, a OpenAI pede a adoção de padrões internacionais que busquem medir capacidades, administrar riscos e preservar o controle humano sobre o desenvolvimento da IA. Segundo a empresa, os riscos associados às tecnologias não estão restritos apenas aos laboratórios que desenvolvem os sistemas mais avançados.
“É fundamental que os Estados Unidos estabeleçam padrões confiáveis internamente se desejam ter uma posição de liderança internacional”, concluiu a OpenAI, reforçando a necessidade de um esforço conjunto para criar normas que possam ser aceitas globalmente.
