A recente onda de alertas emitidos por especialistas em inteligência artificial (IA), especialmente aqueles que deixaram empresas como Anthropic e OpenAI, reacendeu um debate crucial: quão perigosa uma IA avançada pode se tornar? Essa questão é amplamente discutida no contexto das avaliações econômicas que essas empresas estão buscando no mercado.
A urgência dos alertas sobre IA
Os avisos sobre os riscos associados ao desenvolvimento de IA não devem ser ignorados. A Anthropic, por exemplo, adotou políticas específicas para mitigar riscos catastróficos relacionados a modelos cada vez mais sofisticados. Essa abordagem ressalta que a segurança na tecnologia de IA não é apenas uma preocupação teórica, mas uma necessidade prática que deve ser abordada com seriedade, longe de disputas meramente retóricas entre gigantes da tecnologia.
Uma questão que se torna relevante neste cenário é: quando as empresas descrevem suas tecnologias como extraordinariamente poderosas e potencialmente perigosas, quais mensagens isso transmite para investidores e formuladores de políticas? Anthropic e OpenAI estão caminhando em direção a ofertas públicas de ações, com a Anthropic planejando apresentar sua proposta a investidores em breve, com avaliações que podem chegar a US$ 2 trilhões.
Interconexões entre tecnologia e valor econômico
A preocupação não é apenas sobre se essas empresas merecem tais avaliações, mas sobre como a maneira como descrevem suas tecnologias influencia o valor econômico atribuído a elas. Ao afirmar que seus modelos são poderosos o suficiente para transformar a sociedade e geram riscos sem precedentes, essas empresas criam uma narrativa onde o valor econômico parece estar intrinsicamente ligado à sua capacidade tecnológica.
É importante distinguir três aspectos: a capacidade da tecnologia, o nível de risco que ela pode representar e o valor econômico que a empresa pode capturar. Embora esses elementos possam estar interconectados, não são sinônimos. O que se observa é que a regulamentação muitas vezes reflete as capacidades e a estrutura das maiores empresas do setor, criando desafios para novos entrantes.
Por exemplo, a Califórnia aprovou em 2024 o SB 1047, que estabelecia requisitos de segurança para desenvolvedores de modelos de IA, mas o governador Gavin Newsom vetou a proposta por considerá-la inadequada à realidade da aplicabilidade da IA. Em 2025, uma nova legislação, o SB 53, foi aprovada, estabelecendo um novo conjunto de requisitos que geralmente afetam os grandes desenvolvedores.
Esses eventos demonstram a importância de uma regulamentação que não favoreça desproporcionalmente as grandes empresas. A segurança deve ser uma prioridade, mas também é essencial garantir que essa segurança não se torne uma barreira de entrada para novos competidores, especialmente em países que buscam desenvolver suas próprias capacidades em IA.
Assim, é fundamental criar um ambiente onde empresas de diferentes tamanhos possam inovar de maneira responsável, sem que os padrões de segurança se tornem um privilégio das grandes corporações. As políticas de segurança desenvolvidas por empresas como a Anthropic devem ser vistas como um ponto de partida, mas não como substitutos para uma supervisão independente e rigorosa.
Enquanto os riscos associados à IA são reais, é igualmente importante reconhecer que as narrativas criadas por grandes empresas podem ser influenciadas por incentivos econômicos. Portanto, a discussão não deve se limitar a se a IA é excessivamente perigosa, mas também deve incluir se ela é perigosa a ponto de restringir a concorrência no setor.
