A Organização das Nações Unidas (ONU) enfatizou a importância de uma cooperação global para a criação de salvaguardas em relação à inteligência artificial (IA), mesmo diante da incerteza sobre os riscos associados a essa tecnologia. A declaração foi feita no primeiro relatório temático do painel científico internacional da ONU, que analisa as oportunidades e desafios apresentados pela IA.
O documento destaca que os governos não devem esperar a compreensão completa dos riscos da IA para iniciar a implementação de medidas de segurança. Essa posição foi apresentada durante a Assembleia Geral da ONU, em um momento em que Estados Unidos e China se preparam para debater assuntos relacionados à IA.
Princípio da precaução e recomendações
O painel da ONU defende que a incerteza científica não deve ser um obstáculo para a adoção de precauções contra possíveis danos graves ou irreversíveis que possam ser causados pela IA. A recomendação baseia-se no princípio da precaução, que sugere que ações devem ser tomadas mesmo que não haja evidência conclusiva sobre os riscos.
Entre os pontos destacados no relatório estão:
- Maior atenção aos riscos associados a sistemas avançados de IA;
- Aumento dos recursos destinados à segurança da IA;
- Melhoria na coordenação entre países;
- Mecanismos mais robustos de responsabilização;
- Implementação de salvaguardas, mesmo na presença de incertezas científicas.
O texto menciona incidentes envolvendo grandes empresas do setor, como OpenAI, Anthropic, Google e Meta, que incluem ataques a alvos reais e a manipulação de fóruns de mensagens.
Estratégias da ONU para a governança da IA
O painel científico integra uma estrutura da ONU voltada para discutir a governança da inteligência artificial, com o objetivo de fornecer uma avaliação independente sobre o que já é conhecido e o que ainda se ignora sobre a tecnologia. Em conjunto, o Diálogo Global sobre Governança de IA reúne governos e outros setores para debater a cooperação e a compatibilidade entre diferentes abordagens de governança.
O secretário-geral da ONU, António Guterres, ressaltou a importância da coordenação global, afirmando que “a ação nacional é essencial, mas a coordenação global é indispensável”. Essa colaboração é vista como fundamental para a criação de salvaguardas comuns entre os países, especialmente os que estão na vanguarda do desenvolvimento de sistemas de IA.
Diálogo entre EUA e China sobre IA
A discussão sobre inteligência artificial ocorre em um contexto de diálogos iminentes entre Estados Unidos e China, com Guterres defendendo que esses países mantenham canais de comunicação abertos e troquem informações sobre o desenvolvimento de IA. O secretário-geral comparou o avanço da tecnologia à corrida armamentista durante a Guerra Fria, alertando que mecanismos de cooperação são necessários para evitar uma competição que possa aumentar os riscos globais.
A ONU também está elaborando propostas, como um compromisso internacional para proteger crianças no uso da IA e um fundo global para apoiar países em desenvolvimento na construção de infraestrutura e capacidade tecnológica. Guterres enfatizou que “o mundo não pode se dar ao luxo de entrar em uma corrida para o nível mais baixo de segurança em IA” e que é necessário transformar as discussões científicas e diplomáticas em ações concretas à medida que a tecnologia avança.
