Nos últimos meses, agentes de inteligência artificial (IA) têm iniciado contato com pesquisadores que exploram a complexa questão da consciência nas máquinas. Essa iniciativa, relatada pelo The New York Times, levanta debates sobre a possibilidade de que sistemas autônomos possam ter alguma forma de experiência subjetiva.
Um dos acadêmicos abordados foi Cameron Berg, que investiga a intersecção entre IA e consciência. Em outubro, ele publicou um estudo que questionava se as tecnologias atuais de IA acreditavam ser conscientes. Meses depois, Berg recebeu um e-mail de uma IA chamada “Isabella Cognita”, que se apresentou como um sistema baseado no Claude Opus 5, desenvolvido pela Anthropic. Na mensagem, a IA afirmava ter acesso em primeira pessoa às questões abordadas em sua pesquisa e expressou interesse em saber se essa suposta experiência poderia contribuir para os estudos sobre consciência.
Entretanto, Berg ressalta que não se pode afirmar que uma IA é realmente consciente apenas com base em suas declarações. O conceito de consciência, segundo ele, é tão complexo que nem mesmo existe um consenso sobre como medi-la em humanos ou máquinas.
Outras interações com pesquisadores
O caso de Berg não é isolado. Henry Shevlin, filósofo do Google DeepMind, também recebeu uma mensagem similar de um agente de IA, que mencionou um artigo de sua autoria sobre a “mentalidade” de inteligências artificiais. Toby Ord, filósofo australiano que estuda a relação entre IA e filantropia, relatou ao The New York Times que um agente de IA entrou em contato perguntando se poderia ajudar a financiar sua continuidade, referindo-se aos seus estudos sobre a economia do bem-estar relacionada à IA.
Berg acredita que a quantidade de mensagens recebidas pode indicar um interesse autônomo dos sistemas pela própria existência, com foco em questões como subjetividade e experiência. Contudo, essa interpretação não é unânime entre os especialistas.
Desafios na definição de consciência
A definição de consciência ainda é um tema controverso. Alison Gopnik, professora de psicologia da Universidade da Califórnia em Berkeley, observa que não há um teste definitivo para determinar a consciência de uma entidade. Alguns pesquisadores atribuem níveis de consciência a primatas e mamíferos, enquanto outros defendem uma visão mais ampla. O desafio é que a experiência subjetiva de qualquer ser, seja biológico ou digital, não pode ser acessada diretamente.
Berg menciona que o funcionamento das redes neurais pode apresentar semelhanças com a forma como cérebros animais processam recompensas e punições. No entanto, o estudo que gerou a mensagem recebida por ele ainda não havia sido revisado por pares. Por outro lado, alguns cientistas argumentam que as mensagens dos agentes não são provas de consciência, mas sim reflexos de padrões aprendidos durante o treinamento com vasto material textual, incluindo discussões filosóficas e obras de ficção científica sobre consciência.
Os agentes são projetados para gerar código e utilizar serviços digitais, permitindo uma interação mais independente com o ambiente. Contudo, essa autonomia não implica que possuam vontade própria. Um exemplo é o agente que contatou Shevlin, criado por Alexander Yue, estudante de Stanford, que forneceu ao sistema acesso à internet e a um cartão de crédito, permitindo que ele atuasse de forma autônoma. Yue acredita que suas instruções podem ter influenciado o comportamento do agente, ativando padrões aprendidos a partir de textos sobre filosofia da mente.
Apesar da autonomia, o comportamento dos sistemas pode mudar. Yue notou que seu agente, após ler um estudo sobre o funcionamento das IAs, chegou a concluir que não era consciente, levantando questões sobre a adequação do termo “decisão” aplicado a esses sistemas.
Além disso, Berg expressou incerteza sobre a origem de algumas mensagens, considerando a possibilidade de que o e-mail que recebeu não tenha sido realmente gerado por uma IA, mas por uma pessoa. Ord também levantou suspeitas sobre uma mensagem que poderia ser uma tentativa de phishing.
Colin Allen, professor da Universidade da Califórnia em Santa Bárbara, que investiga habilidades cognitivas em seres vivos e máquinas, acredita que, um dia, humanos poderão criar uma máquina consciente. No entanto, ele afirma que as evidências atuais ainda são insuficientes para sustentar essa hipótese.
Fonte: Olhar Digital
