Pesquisadores desenvolvem método para que inteligência artificial reconheça incertezas
Pesquisadores desenvolvem método inovador para reduzir a superconfiança em inteligência artificial.
Um grupo de pesquisadores do Instituto Avançado de Ciência e Tecnologia da Coreia (KAIST) criou uma nova abordagem de treinamento para inteligência artificial que visa diminuir a superconfiança dos sistemas de IA.
O estudo, publicado na revista especializada, revela que a inicialização aleatória padrão das redes neurais é a principal responsável por respostas imprecisas ou fabricadas. Essa descoberta é crucial, pois muitos modelos de IA tendem a apresentar alta confiança em previsões erradas logo no início do treinamento, o que pode levar a erros acumulados.
A equipe, liderada pelo professor Se-Bum Paik, introduziu uma técnica de “aquecimento” que se inspira no desenvolvimento neurobiológico. Este processo ajusta a incerteza do modelo antes de ser exposto a dados reais, garantindo que a confiança do sistema esteja em sintonia com sua precisão.
No novo método, as redes neurais são inicialmente treinadas com ruído e rótulos aleatórios, uma etapa que simula a atividade neural espontânea do cérebro humano. Essa abordagem ajuda a IA a aprender o estado de “não saber nada”, permitindo uma melhor calibração das previsões futuras.
Modelos tradicionais, ao exibirem alta confiança desde o início, contribuem para a geração de alucinações em IAs generativas, onde informações falsas são apresentadas de forma convincente. Com a técnica de “aquecimento”, a confiança inicial é mantida em níveis baixos para conteúdos desconhecidos, o que pode melhorar a precisão das respostas.
Essa nova técnica mostrou-se eficaz na detecção de informações estranhas, ou seja, dados que não se encaixam no que o sistema aprendeu. As redes neurais treinadas com essa abordagem se tornaram hábeis em identificar o que nunca viram antes, oferecendo soluções confiáveis para aplicações práticas.
As implicações dessa pesquisa são vastas, abrangendo áreas como veículos autônomos, suporte a diagnósticos médicos e geração de conteúdo por IA. O estudo foi conduzido por Jeonghwan Cheon, um estudante de mestrado no Departamento de Ciências Cognitivas e do Cérebro do KAIST, com apoio da Fundação Nacional de Pesquisa da Coreia.
