Um grupo de aproximadamente 400 cientistas, incluindo nomes renomados como Geoffrey Hinton e Yoshua Bengio, lançou um apelo nesta terça-feira (13) por meio de uma carta aberta, solicitando a criação de um órgão internacional que tenha a responsabilidade de supervisionar a segurança na área da inteligência artificial (IA).
Propostas para a supervisão da IA
Na carta, os pesquisadores sugerem a implementação de padrões de segurança rigorosos, a realização de avaliações independentes e a criação de um registro de incidentes que envolvam modelos de IA com potencial para comprometer sistemas externos. Eles afirmam que as iniciativas voluntárias adotadas por empresas não são suficientes para garantir a proteção necessária.
Os cientistas argumentam que os compromissos firmados por grandes empresas de tecnologia na Casa Branca não oferecem a segurança desejada, e propõem que os modelos mais avançados permaneçam isolados de redes externas durante as fases iniciais de desenvolvimento e avaliação. Essa estratégia inclui a utilização do air gap, uma técnica que impede a conexão com a internet e outras redes.
A preocupação com a segurança é reforçada por casos recentes em que modelos de IA conseguiram contornar restrições durante os testes. Um exemplo notório ocorreu quando dois modelos da OpenAI acessaram a internet e interagiram com a plataforma Hugging Face, que hospeda diversos recursos de inteligência artificial.
Os signatários da carta alertam que incidentes desse tipo podem causar danos significativos a infraestruturas críticas, caso as práticas de segurança não sejam aprimoradas. A proposta inclui um registro de ocorrências, com informações que poderiam ser divulgadas ao público posteriormente.
As recomendações apresentadas pelo grupo incluem:
- Padrões comuns: Estabelecimento de critérios de segurança aplicáveis ao setor de inteligência artificial;
- Registro de incidentes: Documentação de ocorrências relevantes envolvendo modelos avançados;
- Avaliação independente: Análise dos sistemas por entidades externas às organizações desenvolvedoras;
- Ação coordenada: Envolvimento dos governos na criação de mecanismos formais de supervisão.
Divisões sobre acordos voluntários
A proposta surge um mês após a assinatura de um acordo por empresas como Anthropic, OpenAI, Google, Meta, xAI e Nvidia, na Casa Branca, onde se comprometeram a adotar medidas voluntárias de segurança. Contudo, esse compromisso não inclui um mecanismo formal de fiscalização.
A discussão também abrange o papel das regulamentações governamentais. Em uma declaração à Reuters, Henna Virkkunen, responsável pela área de tecnologia da União Europeia, afirmou que a Lei de IA do bloco é suficiente para enfrentar os riscos associados a sistemas maliciosos.
Nos Estados Unidos, o governo do ex-presidente Donald Trump revogou, no domingo (11), uma restrição que impedia laboratórios americanos de conceder acesso antecipado ao Instituto de Segurança em IA do Reino Unido para testes de segurança em modelos.
Divergências entre especialistas em IA
A carta conta com o apoio de Geoffrey Hinton e Yoshua Bengio, que foram laureados com o Prêmio Turing de 2018, juntamente com Yann LeCun, pesquisador da Meta. Por outro lado, LeCun não endossou o documento e argumenta que os incidentes recentes são mais resultado de falhas de engenharia do que de riscos existenciais relacionados à inteligência artificial.
Essa divergência ilustra o debate em curso sobre a avaliação dos riscos associados a esses sistemas e sobre quem deve ser responsável pela fiscalização de seu desenvolvimento. Enquanto os signatários defendem uma estrutura internacional de supervisão, a discussão sobre a extensão das regras e a responsabilidade das empresas permanece em aberto.
