Inep e Petrobras apoiam a necessidade de supervisão humana na utilização de inteligência artificial

Instituto e Petrobras destacam a importância da supervisão humana na inteligência artificial.

O Instituto Nacional de Estudos e Pesquisas Educacionais Anísio Teixeira (Inep) e a Petrobras enfatizam a necessidade de supervisão humana em aplicações de inteligência artificial (IA), mesmo com a crescente adoção dessa tecnologia.

Durante o evento SAS Innovate on Tour, em São Paulo, executivos das duas organizações apresentaram suas experiências. No Inep, a IA já é empregada em diversas etapas do Exame Nacional do Ensino Médio (Enem), como elaboração, correção e pré-testagem de itens. Contudo, a decisão final continua sendo de responsabilidade humana, especialmente em questões que impactam diretamente o acesso dos estudantes ao ensino superior.

Fernando Szimanski, diretor de tecnologia da informação do Inep, afirmou que a IA é utilizada para acelerar tarefas complexas e ampliar a capacidade de análise. Ele ressaltou que todas as aplicações relacionadas às atividades do instituto devem passar por revisão humana.

Na fase de pré-testagem, os itens do Enem são avaliados para estimar parâmetros de dificuldade, permitindo a construção de provas comparáveis ao longo dos anos. Szimanski destacou que o uso de IA pode enriquecer esse processo e contribuir para a formação de um banco maior de questões.

A cautela é ainda mais intensa em atividades que afetam diretamente a trajetória dos candidatos. Um exemplo é a correção das redações do Enem, onde a tecnologia pode fornecer informações úteis aos avaliadores, mas não pode tomar a decisão final.

O executivo enfatiza que as decisões relacionadas ao exame precisam ser auditáveis e compreensíveis, dada a sua relevância para o ingresso de estudantes nas universidades. Para Szimanski, a IA deve ser uma ferramenta de apoio, enquanto a responsabilidade pela decisão continua a ser dos seres humanos.

Além disso, a gestão de informações em larga escala pelo Inep, que abrange cerca de 50 milhões de matrículas no Censo Escolar, impõe limitações à implementação de novas tecnologias em grande escala. Szimanski afirmou que a instituição inicia testes em ambientes menores antes de expandir as aplicações.

Outro aspecto destacado pelo CIO é o desafio de equilibrar inovação e responsabilidade no setor público. Ele acredita que os gestores devem continuar responsáveis pelas decisões baseadas em análises de sistemas de IA.

“A responsabilidade sempre será da instituição e do gestor que tomou a decisão. Delegar essa responsabilidade não pode ocorrer”, concluiu Szimanski.

Petrobras reformula processos para integrar a IA de forma segura.

Na Petrobras, a ênfase na responsabilidade humana está atrelada a um redesenho de processos. André Santos, executivo-chefe de auditoria global da companhia, observou que a expansão da IA requer uma definição clara dos limites entre a atuação da tecnologia e a decisão humana.

Segundo Santos, a IA deve atuar como assistente, enquanto os profissionais são responsáveis por revisar as informações geradas e pelas decisões que delas derivam. A introdução da tecnologia transforma o papel das equipes, que passam de executoras a supervisoras dos sistemas.

Na área de auditoria da Petrobras, composta por cerca de 200 profissionais com média de 49 anos, foi criado um laboratório para experimentar com IA em um ambiente controlado, permitindo que erros façam parte do processo de aprendizado.

Essa iniciativa visa reduzir a insegurança dos profissionais em relação à tecnologia e criar um espaço para testar novas aplicações antes de implementá-las em outros contextos da organização.

Para Santos, a ampliação do uso da IA não depende apenas do avanço tecnológico, mas também da capacidade das empresas de adaptar seus processos e preparar os profissionais para novas formas de trabalho.

“A tecnologia não transforma as organizações sozinha. As pessoas transformam”, afirma.