Inteligência Artificial identifica falhas de compreensão a partir da atividade cerebral

Nova tecnologia permite que IA entenda erros de intenção humana através de sinais cerebrais.

Pesquisadores desenvolveram uma tecnologia inovadora que utiliza sinais cerebrais para identificar quando uma inteligência artificial (IA) interpretou incorretamente a intenção de uma pessoa. Essa inovação tem como objetivo permitir que sistemas de IA reconheçam uma espécie de “isso não era o que eu quis dizer” sem que o usuário precise expressar verbalmente a correção.

O projeto foi realizado por especialistas do Korea Advanced Institute of Science and Technology (KAIST) em colaboração com a Microsoft Research Asia. A tecnologia, chamada Neural Value Alignment (NVA), faz uso de uma interface cérebro-computador que analisa sinais obtidos por eletroencefalografia (EEG), permitindo que a IA ajuste seu comportamento em tempo real.

A proposta surge de um desafio comum nas interações entre humanos e máquinas: uma mesma ação pode representar diferentes objetivos, enquanto um mesmo objetivo pode ser alcançado de várias maneiras. Por exemplo, pegar uma xícara pode significar querer beber, entregar, lavar ou simplesmente mover o objeto.

Essa ambiguidade entre objetivo e ação pode levar a erros na interpretação da IA, resultando em uma compreensão equivocada do que a pessoa realmente deseja. Assim, a tecnologia busca resolver essa questão, permitindo uma comunicação mais eficaz entre humanos e máquinas.

O cérebro entrega o erro

Para abordar esse problema, os pesquisadores se concentraram em reações do cérebro que ocorrem quando algo inesperado acontece. O cérebro humano faz previsões constantes sobre resultados esperados. Quando esses resultados não correspondem às expectativas, surgem determinados sinais neurais.

A equipe focou em dois tipos de sinais: o erro de previsão de recompensa (RPE) e o erro de previsão de estado (SPE). O RPE indica uma discrepância em relação ao resultado ou objetivo, sugerindo que a IA não entendeu corretamente o que a pessoa queria. Por exemplo, se alguém pede água a um robô e recebe café, o cérebro pode produzir um sinal de RPE.

O SPE, por outro lado, indica que o objetivo foi compreendido, mas o método utilizado pela IA não corresponde ao esperado. Se a pessoa quer água e o robô entende isso, mas vai até a cozinha encher um copo em vez de pegar a garrafa ao lado, isso gera um SPE.

IA aprende a diferenciar objetivo e método

Durante os experimentos, os pesquisadores identificaram padrões distintos nas ondas cerebrais relacionados a RPE, SPE ou ambos simultaneamente. Utilizando técnicas de aprendizado profundo, o sistema foi capaz de classificar a resposta da pessoa em relação à atuação da IA.

Com isso, a tecnologia pode diferenciar entre duas situações: “você entendeu meu objetivo errado” e “você entendeu o objetivo, mas fez do jeito errado”. Os sinais decodificados são utilizados como feedback para o processo de decisão da IA.

Quando um SPE é identificado, o sistema entende que o objetivo está correto, mas a estratégia precisa ser ajustada. Já um RPE indica que o objetivo foi mal compreendido e que a IA deve tentar novamente descobrir a intenção da pessoa.

Simulações demonstraram que o método se adapta mais rapidamente do que abordagens existentes, mesmo em situações de incerteza, como mudanças repentinas nos objetivos ou a ausência de parte do retorno neural.

Tecnologia pode chegar aos robôs

Os pesquisadores acreditam que essa tecnologia pode ser aplicada em sistemas que operam próximos aos seres humanos. Um exemplo é o robô doméstico, que poderia identificar, por meio da resposta cerebral do usuário, quando interpretou uma instrução de maneira incorreta e mudar seu comportamento sem esperar uma nova ordem verbal.

A mesma abordagem pode ser útil em robôs industriais, veículos autônomos, sistemas médicos e de reabilitação, além de ferramentas educacionais que se adaptam ao estado cognitivo do estudante.

Para o professor Sang Wan Lee, responsável pela pesquisa, o trabalho demonstra que a IA pode ir além da interpretação das intenções humanas baseadas apenas em comportamentos observáveis. O sistema permite o uso direto de sinais cognitivos produzidos durante a interação entre humanos e IA.

No entanto, a tecnologia ainda está distante de permitir