Satya Nadella, CEO da Microsoft, defende que o consumo de inteligência gera criação que deve pertencer ao usuário

Satya Nadella expressa preocupações sobre a proteção de dados na era da inteligência artificial.

O CEO da Microsoft, Satya Nadella, utilizou sua plataforma no Twitter para compartilhar suas inquietações sobre o impacto da inteligência artificial (IA) nos negócios. Em uma mensagem extensa, ele abordou a questão do controle sobre os dados e o valor da informação na era digital.

Nadella se referiu ao “paradoxo do mercado de informações”, um conceito desenvolvido pelo economista Kenneth Arrow. Esse paradoxo destaca que o comprador de informações não consegue avaliar seu valor até que as possua, momento em que já as adquiriu sem custo.

Na perspectiva de Arrow, para que um vendedor convença um comprador do valor de uma informação, é necessário revelar detalhes suficientes para despertar o interesse. O desafio surge quando o comprador se torna tão informado que não precisa mais pagar por essa informação.

Com o advento da IA, Nadella acredita que a situação se inverte. O comprador de serviços de IA pode acabar revelando informações valiosas de sua empresa apenas para utilizar as ferramentas de inteligência artificial disponíveis.

Segundo Nadella, as empresas enfrentam uma dupla penalização: “Uma vez com dinheiro, e outra com algo ainda mais valioso: o conhecimento proprietário e confidencial que você precisa revelar para tornar essa inteligência útil”. Ele argumenta que quanto melhor o desempenho esperado do modelo, mais conhecimento deve ser fornecido, o que gera um dilema significativo.

Este fenômeno é o que Nadella chamou de “Paradoxo Inverso da Informação”. À medida que uma empresa compartilha mais informações com o provedor de IA, a assimetria de conhecimento entre as partes se acentua. O fornecedor adquire cada vez mais conhecimento sobre a empresa enquanto o contrário não ocorre.

Nadella sugere que essa dinâmica pode ser observada em várias empresas que operam mecanismos de busca e serviços que lidam com informações pessoais. Ele propõe que, assim como as patentes ajudam a proteger a propriedade intelectual, o “Paradoxo da Informação Inversa” necessitaria de uma estrutura jurídica que salvaguardasse as empresas que contratam serviços de IA.

Ele observa que os modelos de IA aprendem com as interações dos usuários, incluindo as correções feitas quando um modelo falha. Nadella destaca que “quando você consome inteligência, você está criando inteligência, e o que você cria deve pertencer a você”. Essa afirmação ressalta a importância do controle sobre o conhecimento gerado durante o uso de ferramentas de IA.

A mensagem de Nadella é clara: se o aprendizado flui em uma única direção, o valor econômico se concentra nas mãos dos proprietários da infraestrutura de aprendizado, em vez de beneficiar aqueles que geram o conhecimento. Para ele, é essencial que as empresas distribuam a infraestrutura de aprendizado, garantindo que possam controlar esse ciclo de aprendizado.

No contexto atual, Nadella delineou cinco recomendações para que as empresas possam garantir os benefícios da IA. Ele enfatiza que, enquanto as empresas acumulavam dados na era da nuvem, na era da IA elas devem acumular aprendizado, que deve ser protegido.

• Controle: manter a propriedade sobre a memória institucional e o feedback.
• Capacidade: criar ambientes de aprendizado em servidores próprios para treinar modelos sem expor o conhecimento.
• Escolha: manter flexibilidade para adaptar-se a diferentes modelos de IA.
• Custo: combinar contexto e modelos de forma eficiente e econômica.
• Capitalização: integrar os quatro elementos para criar um ciclo de aprendizado contínuo que aumente o valor da empresa.

Nadella busca mudar o foco da competição, sugerindo que, em vez de apenas escolher o modelo de IA mais eficaz, as empresas devem competir para capturar o conhecimento gerado pelos ciclos de aprendizado, assegurando que esses dados permaneçam dentro de suas organizações.

Enquanto isso, o debate sobre a eficácia dos ciclos de aprendizado continua, com algumas empresas argumentando que a evolução de modelos de IA depende de fatores além do aprendizado gerado por seus usuários.

Ainda assim, a preocupação levantada por Nadella é pertinente em um cenário onde a IA se tornou uma commodity. As grandes empresas precisam considerar como proteger o conhecimento gerado por seus usuários e evitar que esse valor se transfira para provedores como OpenAI e Anthropic.