Jack Clark, cofundador da Anthropic, apresentou uma proposta que visa transformar o desligamento de sistemas de inteligência artificial (IA) em uma exigência regulatória. A proposta sugere a implementação de mecanismos que permitam interromper ferramentas consideradas perigosas, além de prever a necessidade de verificação independente de seu funcionamento.
A proposta surge em um contexto de crescente preocupação entre pesquisadores sobre os riscos associados ao desenvolvimento de sistemas de IA cada vez mais avançados. Clark enfatiza a necessidade de que governos discutam regras que assegurem às empresas uma forma eficaz de desativar suas IAs, conforme relatado pela BBC.
O conceito do “botão de desligamento”
De acordo com Clark, muitos laboratórios de IA já possuem meios para desligar seus sistemas, mas a questão central é se essa funcionalidade deve ser obrigatória por lei. “Deveríamos exigir que as empresas tivessem um botão de desligamento automático? Esse botão pode ser verificado por terceiros?”, questionou Clark em entrevista.
Ele também destacou a importância de discutir como a fiscalização desse mecanismo seria realizada, sugerindo que organizações independentes deveriam ser autorizadas a verificar se o sistema de desligamento realmente funciona.
Os principais pontos da proposta incluem:
- Exigir mecanismos automáticos de desligamento;
- Permitir a verificação por terceiros;
- Autorizar órgãos governamentais a exigir a desativação de sistemas problemáticos;
- Criar regras para monitorar os riscos associados ao avanço da IA.
Proposta semelhante no Congresso dos EUA
Nos Estados Unidos, um projeto de lei conhecido como “Kill Switch Act” está em tramitação no Congresso, que exige das empresas a implementação de uma forma de desativar ferramentas de IA consideradas problemáticas. Essa proposta também confere a certas agências governamentais a autoridade para determinar que uma ferramenta seja desligada ou tenha seu funcionamento restrito.
No entanto, a iniciativa enfrenta resistência. O ex-presidente Donald Trump se opôs a tentativas de desacelerar o desenvolvimento da IA, descrevendo tais preocupações como uma “farsa” e negando a possibilidade de que a tecnologia possa dominar o mundo ou ameaçar a humanidade.
Recentemente, o governo britânico também rejeitou a ideia de criar um mecanismo de desligamento, argumentando que tal medida não impediria o desenvolvimento ou o uso inadequado de sistemas em outros países.
Preocupações sobre riscos extremos
A discussão em torno da regulamentação da IA ganhou força após uma série de declarações de pesquisadores da área. Evan Hubinger, da Anthropic, expressou sua preocupação, afirmando que há uma probabilidade de 10% de que a IA cause a extinção da humanidade na próxima década. Essa estimativa foi considerada plausível por Geoffrey Hinton em uma entrevista à BBC.
Além disso, Bilal Chughtai, ex-pesquisador da Google DeepMind, alertou que a IA pode representar uma ameaça à humanidade e que o tempo para prevenir esse cenário pode estar se esgotando. Ele defendeu um desenvolvimento mais cauteloso da tecnologia, que permita identificar e mitigar riscos antes que danos irreparáveis ocorram.
O debate sobre a segurança da IA envolve uma ampla gama de opiniões, com governos, empresas e pesquisadores apresentando visões divergentes sobre os riscos associados a essa tecnologia.
Visões divergentes sobre os riscos da IA
Entretanto, nem todos os executivos do setor compartilham das preocupações sobre os riscos extremos da IA. Clement Delangue, da Hugging Face, e George Arison, do Grindr, questionaram a gravidade atribuída aos riscos, sugerindo que interesses comerciais podem estar por trás de parte desses alertas.
Clark, por outro lado, considera perigoso deixar a indústria sem regulamentação, afirmando que “estamos jogando dados com riscos imensos”. Ele ressalta a necessidade de uma mudança de rumo na indústria de IA.
A proposta levanta uma questão central no debate sobre a segurança da IA: se uma empresa for obrigada a desligar um sistema considerado perigoso, como será verificado se esse mecanismo realmente funciona?
