Governos precisam expandir estruturas de TrustOps para combater deepfakes e desinformação
Governos devem intensificar segurança digital frente ao avanço de deepfakes e desinformação.
O crescimento dos deepfakes e das campanhas de desinformação alimentadas por inteligência artificial está forçando governos em todo o mundo a aprimorar suas estratégias de segurança digital. Projeções indicam que, até 2028, 40% das instituições públicas criarão funções específicas de TrustOps para lidar com as ameaças relacionadas à falsificação de identidade digital e à desinformação como serviço (DaaS).
Esse aumento no uso de conteúdos gerados por IA eleva os riscos para a comunicação pública e para os sistemas internos das instituições. Entre os principais desafios estão as campanhas de desinformação que podem falsificar declarações de autoridades, além de ataques que visam manipular funcionários por meio de engenharia social, incluindo clonagem de voz e imagem.
Especialistas alertam que os deepfakes podem desestabilizar a noção de identidade digital, comprometendo a credibilidade das instituições. Se os cidadãos não conseguirem diferenciar entre comunicações legítimas e falsificações, a confiança nas informações oficiais pode entrar em colapso, afetando a estrutura da verdade na sociedade.
Com o avanço das ferramentas de IA generativa, é essencial que as áreas de tecnologia no setor público adotem uma postura proativa. Os Chief Information Officers (CIOs) devem ir além da simples reação a informações falsas, implementando estruturas permanentes que garantam a confiança digital e a autenticação.
A consultoria destaca que o impacto dos deepfakes pode ameaçar os progressos feitos na transformação digital, especialmente em serviços públicos que se tornaram digitais e automatizados. O fenômeno pode levar a uma regressão digital, forçando o retorno a processos presenciais e em papel, o que gera maior atrito e diminui a eficiência.
O combate à desinformação deve ser visto como uma questão abrangente, que vai além do âmbito técnico ou das equipes de TI. É necessário envolver áreas como jurídica, comunicação institucional, recursos humanos e segurança da informação em uma abordagem integrada.
Para o curto prazo, recomenda-se a criação de conselhos de confiança digital que supervisionem políticas relacionadas à identidade digital e monitorem atividades de desinformação. Essa supervisão é crucial para garantir a integridade das informações e a segurança das interações digitais.
Além disso, os governos devem revisar os fluxos administrativos críticos, especialmente aqueles relacionados a transferências financeiras e aprovações sensíveis. A adoção de múltiplos níveis de autenticação e validação pode ajudar a mitigar vulnerabilidades que são frequentemente exploradas por ataques baseados em IA.
Por último, é fundamental desenvolver procedimentos específicos para a identificação de deepfakes e conteúdos sintéticos. A implementação de ferramentas tecnológicas e protocolos operacionais que possam validar interações digitais suspeitas é uma medida essencial para proteger a integridade das informações e a confiança do público.
