Especialistas alertam sobre riscos de crianças nascidas com inteligência artificial que podem não questionar respostas
A crescente dificuldade em admitir a falta de conhecimento diante da IA
Com o avanço da inteligência artificial, a habilidade de afirmar “eu não sei” está se tornando cada vez mais rara nas interações humanas. A facilidade de acesso a informações, mesmo que imprecisas, tem levado as pessoas a se sentirem mais seguras sobre seus conhecimentos.
Um estudo realizado por pesquisadores de várias universidades europeias analisou essa questão ao entrevistar 3.100 participantes. A pesquisa revelou que, mesmo quando a IA fornece respostas erradas, o acesso a essas informações pode fazer com que as pessoas deixem de reconhecer suas próprias limitações cognitivas.
Reconhecendo a ignorância
Admitir que não sabemos algo é uma habilidade valiosa, pois nos protege de agir com base em informações incorretas. Os pesquisadores chamam isso de “suspensão do julgamento”, que é a capacidade de pausar antes de responder quando não temos certeza.
Com a crescente presença de assistentes de IA em nossas vidas, o estudo buscou entender se a simples disponibilidade desses sistemas altera a forma como decidimos que temos conhecimento suficiente para responder a perguntas.
Metodologia do experimento
Para investigar essa dinâmica, os pesquisadores formularam perguntas que eram quase impossíveis de serem respondidas corretamente por uma IA, utilizando detalhes visuais muito específicos de filmes. Esses detalhes, como a cor do uniforme em “Bend It Like Beckham”, raramente estão disponíveis online, resultando em falhas frequentes do modelo de IA utilizado no experimento.
Os participantes tinham a opção de consultar a IA, mas também podiam optar por deixar a pergunta em branco ou admitir que não sabiam a resposta.
Resultados e estatísticas
Entre os participantes que não tiveram acesso a assistentes de IA, 44% admitiram não saber a resposta. Em contraste, entre aqueles que podiam consultar a IA, essa porcentagem caiu para apenas 3%. Além disso, a taxa de respostas corretas diminuiu de 27% para 9%, o que indica que, embora mais pessoas tenham respondido, a precisão das respostas foi significativamente reduzida.
Surpreendentemente, mesmo com um aumento nos erros, a confiança dos participantes em suas respostas aumentou drasticamente, passando de 30% para 76%.
Impacto de incentivos financeiros
Os pesquisadores exploraram a hipótese de que oferecer recompensas financeiras por respostas corretas poderia mitigar o problema. Embora tenha havido uma leve melhora, com a disposição para admitir desconhecimento aumentando de 3% para 8%, e as respostas corretas subindo de 9% para 16%, o efeito da IA sobre a confiança permaneceu quase inalterado, independentemente dos incentivos financeiros.
Reflexões sobre o futuro
Um dos coautores do estudo destacou que o desempenho dos participantes caiu drasticamente, atingindo apenas um terço da precisão do grupo sem acesso à IA, enquanto a confiança em suas respostas dobrou. Para ele, a habilidade de dizer “eu não sei” é fundamental para reconhecer os limites do conhecimento humano.
Além disso, o pesquisador expressou preocupação com o impacto desse fenômeno nas crianças, que, ao crescerem utilizando IA, podem nunca desenvolver a capacidade crítica necessária para questionar as respostas que recebem.
