Inteligência artificial e a nova fronteira da inovação: a confiança como chave para uma oportunidade de 20 trilhões de dólares

A inteligência artificial está transformando a economia e trazendo novos desafios de segurança.

A inteligência artificial (IA) está alterando a maneira como diversos setores da economia operam, competem e criam valor, e essa transformação acontece em um ritmo sem precedentes. Projeções indicam que, até 2030, a IA poderá adicionar quase US$ 20 trilhões ao PIB global, solidificando sua posição como uma das principais forças econômicas do século XXI. Entretanto, com a crescente integração da IA nas operações empresariais, surgem novos riscos, especialmente relacionados à compreensão limitada que as máquinas têm da linguagem humana.

A IA generativa e os grandes modelos de linguagem (LLMs) estão se tornando fundamentais em fluxos de trabalho críticos em diferentes setores. Instituições financeiras os utilizam para realizar análises de mercado e prever volatilidade. Indústrias integram essas tecnologias para gerenciar cadeias de suprimentos complexas, enquanto organizações de saúde as aplicam para triagem de informações e aceleração de pesquisas.

Contudo, à medida que a dependência de sistemas de IA generativa aumenta, também emergem novas ameaças que exploram a comunicação, ao invés do código. Esses ataques se concentram na interpretação que a IA faz da linguagem, e não em suas operações. A velocidade com que essas ameaças surgem supera a capacidade de muitas organizações de detectá-las e se defender.

LLMs e o cenário emergente de ameaças

Tradicionalmente, a cibersegurança focava no fortalecimento da infraestrutura, como a proteção de redes e a correção de vulnerabilidades. No entanto, o cenário atual de ameaças está se tornando mais sutil e difícil de identificar. Cibercriminosos não precisam mais explorar falhas de software ou invadir redes para causar danos; eles podem manipular a forma como os sistemas de IA interpretam a linguagem, transformando a semântica em uma superfície de ataque.

Instruções maliciosas podem estar ocultas em dados públicos, materiais de treinamento, entradas de clientes ou documentação de código aberto. Essas manipulações têm o potencial de desviar o raciocínio de um modelo, distorcer resultados ou comprometer insights críticos para a tomada de decisão. Como esses ataques ocorrem em linguagem natural, as ferramentas tradicionais de segurança frequentemente falham em identificá-los. O envenenamento do modelo acontece na origem, muito antes que alguém perceba que algo está errado, representando um risco significativo e invisível para organizações despreparadas.

Essa não é uma ameaça hipotética. À medida que mais organizações adotam sistemas de IA autônomos e semiautônomos, o incentivo para que adversários ataquem a camada da linguagem tende a aumentar. O custo de entrada para esses atacantes é baixo, enquanto o potencial de dano é imenso.

A ameaça silenciosa do insider

Quando um modelo de IA é comprometido, ele pode agir como uma ameaça interna. Isso pode resultar no vazamento silencioso de propriedade intelectual, na alteração de recomendações estratégicas ou na geração de resultados que favoreçam terceiros. O desafio reside em sua invisibilidade: o modelo continua a operar normalmente, respondendo a perguntas, resumindo documentos e processando dados, mas de forma sutilmente desalinhada.

Estamos testemunhando uma mudança no risco corporativo, que agora não se limita apenas à proteção de dados, mas também abrange a proteção do conhecimento. Para os líderes de segurança, a questão central não é apenas quem possui direitos de acesso, mas também o que seus modelos absorveram e de onde esse conhecimento se origina.

A lacuna de governança

Apesar da gravidade da ameaça, muitas organizações ainda se concentram em quem está utilizando a IA, em vez de no que seus sistemas estão ingerindo. Essa lacuna se amplia à medida que a adoção da IA acelera e a autonomia aumenta. Para construir ecossistemas de IA confiáveis e resilientes, as empresas precisam verificar a integridade e a autenticidade de cada conjunto de dados, instrução e fonte de conteúdo que alimenta seus modelos.

Esse desafio se alinha a um tema central que será discutido no Fórum Econômico Mundial de 2026 em Davos: o vasto potencial econômico da IA depende de uma implementação responsável e de confiança verificável. A IA não pode ser uma caixa-preta, nem deve consumir dados sem controle. Os sistemas que gerarão maior valor econômico e social serão aqueles projetados com rastreabilidade, transparência e responsabilidade em seu núcleo.

Construindo confiança no centro da IA