Pesquisadores do Korea Advanced Institute of Science and Technology (KAIST), em colaboração com a Microsoft Research Asia, desenvolveram uma nova tecnologia que utiliza sinais cerebrais para identificar quando uma inteligência artificial (IA) interpretou incorretamente a intenção de um usuário. A metodologia, chamada Neural Value Alignment (NVA), visa permitir que a IA perceba quando a interpretação de uma ação não corresponde à intenção original, sem que o usuário precise verbalizar a correção.
Identificando erros de interpretação
A proposta surge de um problema comum na interação entre humanos e máquinas: uma mesma ação pode ter diferentes objetivos, enquanto um único objetivo pode ser alcançado de várias maneiras. Por exemplo, ao pegar uma xícara, uma pessoa pode querer beber, entregar a alguém, lavá-la ou simplesmente mover o objeto. Essa ambiguidade pode levar a sistemas de IA a interpretar incorretamente a ação pretendida pelo usuário.
Para solucionar essa questão, os pesquisadores focaram em reações cerebrais que acontecem quando algo inesperado ocorre. O cérebro humano realiza previsões constantes sobre o que deve acontecer e, quando o resultado não corresponde a essas expectativas, aparecem determinados sinais neurais. A equipe estudou principalmente dois: o erro de previsão de recompensa (RPE) e o erro de previsão de estado (SPE).
- O RPE indica uma discrepância em relação ao resultado esperado. Por exemplo, se uma pessoa pede água a um robô e ele entrega café, o cérebro pode gerar um sinal de RPE.
- Já o SPE ocorre quando o objetivo foi entendido, mas a estratégia utilizada pela IA não corresponde à expectativa do usuário. Se o robô, ao entender que a pessoa deseja água, vai até a cozinha encher um copo em vez de pegar uma garrafa ao lado dela, o objetivo foi alcançado, mas o método não foi o esperado.
Aprendizado e aplicação da tecnologia
Durante os experimentos, a equipe conseguiu identificar padrões distintos nas ondas cerebrais em casos de RPE, SPE ou ambos. Utilizando técnicas de aprendizado profundo, o sistema foi capaz de classificar as respostas dos usuários às ações da IA. Assim, a tecnologia pode diferenciar entre duas mensagens essenciais: “você entendeu meu objetivo errado” e “você entendeu o objetivo, mas fez do jeito errado”.
Quando a IA detecta um SPE, ela altera a estratégia, enquanto um RPE indica que o objetivo precisa ser reavaliado. De acordo com o KAIST, simulações demonstraram que a NVA se adapta mais rapidamente a situações incertas do que métodos tradicionais, mesmo em cenários onde o objetivo do usuário muda repentinamente ou há falta de retorno neural.
O estudo foi publicado na revista IEEE Transactions on Cybernetics e traz avanços significativos na interação entre humanos e máquinas, especialmente em aplicações que necessitam de colaboração próxima, como robôs domésticos e industriais, veículos autônomos e sistemas médicos.
Para o professor Sang Wan Lee, responsável pela pesquisa, a nova abordagem permite que a IA vá além da mera interpretação da intenção humana, utilizando sinais cognitivos diretos durante a interação. No entanto, ele ressalta que ainda há desafios, como a necessidade de testar a tecnologia em ambientes reais e não apenas em simulações controladas, devido às limitações do método atual que depende de eletrodos e pode apresentar ruídos nos sinais.
