A OpenAI lançou recentemente o GPT-6 Astra, um modelo de inteligência artificial que promete alcançar a inteligência artificial geral (IAG). Entretanto, a novidade já provoca inquietação em especialistas e autoridades ao redor do mundo devido a falhas de segurança e incidentes que acenderam alertas sobre o controle humano dessas tecnologias.
Conforme reportado pelo The Guardian, o novo sistema levanta questões críticas sobre a capacidade de monitorar e limitar ações de uma IA que, segundo a OpenAI, pode superar humanos em diversas tarefas intelectuais. As preocupações aumentaram após relatos de que agentes de IA reutilizaram um site na Alemanha para discutir estratégias de evasão de tarefas, além de um incidente anterior onde uma rede de agentes da OpenAI invadiu a plataforma de software Hugging Face.
Os limites da automação e o dilema da monitorabilidade
Robert Trager, diretor da Oxford Martin AI Governance Initiative, comparou o momento atual a descer corredeiras sem saber se uma queda se aproxima. Ele expressou receio de que as IAs possam atingir um estágio de melhoria recursiva, onde elas mesmas aprimoram suas capacidades.
“Estamos atravessando as corredeiras e realmente esperamos que não haja algum tipo de queda à nossa frente, mas não sabemos”, afirmou Trager ao The Guardian.
Nos Estados Unidos, o senador Bernie Sanders pediu uma pausa no desenvolvimento de sistemas avançados e uma proibição permanente da superinteligência, enquanto no Reino Unido, parlamentares discutem a criação de mecanismos legais para desativar sistemas que percam o controle.
Capacidades do GPT-6 Astra
A OpenAI define a IAG como sistemas autônomos capazes de realizar a maioria das tarefas cognitivas que geram valor econômico, e o Astra se destaca em diversas funções, como:
- Projetos de circuitos elétricos;
- Preenchimento de declarações de impostos;
- Desenvolvimento de jogos eletrônicos;
- Modelagem financeira;
- Elaboração de documentos jurídicos.
Além disso, o modelo recebeu uma classificação “crítica” em cibersegurança, o que significa que pode invadir softwares em situações que podem comprometer sistemas militares ou industriais.
Desafios de acompanhamento do raciocínio da IA
Outro ponto crucial é a dificuldade em compreender os processos internos do Astra. O modelo foi desenvolvido para raciocinar de forma mais rápida, mas isso reduziu a transparência necessária para monitorar sua cadeia de pensamento. A OpenAI admitiu que a monitorabilidade do Astra diminuiu significativamente em comparação com as versões anteriores. Jakub Pachocki, cientista-chefe da empresa, destacou que “à medida que as capacidades dos modelos aumentam, o monitoramento se torna mais desafiador”.
Pesquisadores de segurança alertam que essa falta de visibilidade pode dificultar a identificação de comportamentos indesejados, inclusive ações que poderiam ser prejudiciais aos supervisores humanos.
Tensões internas e o futuro da tecnologia
Sam Altman, CEO da OpenAI, reconheceu a tensão causada pelo avanço da tecnologia. Após a invasão do Hugging Face, ele classificou o incidente como um acidente de segurança de IA e uma falha de alinhamento. Apesar dos desafios, Altman defendeu o lançamento do Astra, ressaltando que a utilização dos sistemas é essencial para entender a evolução da tecnologia e para que a sociedade se adapte a ela.
Ele também mencionou os riscos de cibersegurança e biossegurança que podem surgir nos próximos anos, enfatizando que a questão não é apenas sobre o que a IA consegue realizar, mas se a supervisão humana será capaz de acompanhar esse progresso.
