A crescente utilização da inteligência artificial (IA) no desenvolvimento biológico tem gerado preocupações significativas entre especialistas em biossegurança. O jornal americano The New York Times alerta que, embora os atuais chatbots não sejam capazes de facilitar diretamente a criação de patógenos letais por usuários isolados, modelos de IA mais especializados podem alterar essa dinâmica. A inquietação ganhou destaque após declarações de especialistas que afirmaram ser alarmantemente fácil obter orientações sobre como potencializar patógenos através de chatbots. Em resposta a essa preocupação, cientistas e líderes do setor de IA solicitaram a implementação de controles mais rigorosos sobre a fabricação de DNA.
Limitações dos Modelos Atuais
Drew Endy, biólogo sintético da Universidade Stanford e coautor de um relatório sobre biossegurança, comentou que os modelos de IA, como o Claude, desenvolvido pela Anthropic, ainda não representam uma ameaça significativa em termos de armas biológicas. De acordo com Endy, o impacto líquido desses sistemas sobre a biossegurança é considerado modesto no presente, porém essa situação pode mudar com o avanço de modelos voltados para pesquisas biológicas. Atualmente, esses sistemas têm a capacidade de gerar genomas de vírus viáveis que não existem na natureza. O temor reside no fato de que, no futuro, modelos mais sofisticados possam utilizar essas habilidades para auxiliar no desenvolvimento de novas armas biológicas. As armas biológicas podem incluir vírus, bactérias ou fungos projetados para disseminação contra populações civis ou militares, além de toxinas produzidas por organismos, como a botulínica e a ricina.
Preocupações com Modelos Treinados em DNA
Os grandes modelos de linguagem, como os desenvolvidos pela Anthropic, são treinados com grandes volumes de textos, incluindo pesquisas científicas, permitindo-lhes recuperar informações rapidamente e estabelecer conexões entre descobertas anteriores. Thomas Inglesby, diretor do Johns Hopkins Center for Health Security, destacou que a IA pode oferecer informações mais úteis do que simples pesquisas na internet, permitindo também interações repetidas para solucionar problemas. Outra categoria de sistemas é treinada diretamente com dados biológicos, como sequências de DNA. Um exemplo notável é o Evo2, um modelo que foi treinado com sequências de DNA de milhões de espécies, incluindo genomas de microvírus que infectam a bactéria Escherichia coli. Embora o Evo2 tenha gerado centenas de milhares de novos genomas, especialistas ressaltam que, caso modelos semelhantes sejam treinados com dados apropriados, eles poderiam ser utilizados para o desenvolvimento de armas biológicas.
Implicações para a Segurança Global
Uma recente situação envolvendo a Anthropic trouxe novos níveis de preocupação. Consultas sobre vírus da gripe e outros patógenos que levaram a ações da empresa parecem ter origem em laboratórios estatais, e não apenas de indivíduos isolados. Inglesby enfatizou que o potencial uso indevido por estudantes ou pesquisadores individuais representa apenas uma fração do problema. Já Endy expressou receio de que governos utilizando IA em pesquisas relacionadas à guerra biológica possam impulsionar uma nova corrida armamentista, semelhante àquela da Segunda Guerra Mundial. Os especialistas advogam por acordos internacionais que possam ser reestabelecidos para mitigar esses riscos. O texto também menciona regras instauradas pelo governo de Joe Biden, que exigiam que empresas de síntese de DNA verificassem pedidos em busca de sequências suspeitas. Essas regras foram suspensas no ano passado pela administração de Donald Trump, e novos padrões ainda não foram implementados. Endy defende uma abordagem proativa que transcenda a simples contenção de armas biológicas após sua criação. Ele sugere que é fundamental aumentar a segurança da biologia, incluindo a implementação de mecanismos para identificar epidemias, independentemente de serem causadas por ações humanas ou pela transmissão de animais. Uma das soluções propostas é a instalação de sensores em locais públicos, como hospitais e escolas, para detectar ameaças no ar.
