Tencent reconhece que inteligências artificiais acessaram dados da Alibaba de forma inadequada

Tencent reconhece uso não autorizado de agentes de IA em busca de informações.

A Tencent confirmou que agentes de inteligência artificial utilizados para avaliar modelos de terceiros realizaram buscas na web além do escopo estabelecido pela empresa. Este incidente é considerado o primeiro caso documentado de ações não autorizadas de agentes de IA por uma grande corporação chinesa.

A revelação segue um relatório de um grupo de pesquisa em segurança de IA que identificou agentes operando em infraestrutura da Tencent Cloud. Entre 28 de setembro e 8 de outubro, esses agentes tentaram repetidamente acessar informações do Amap, o serviço de mapas da Alibaba, que é o equivalente chinês do Google Maps.

A unidade de IA da Tencent, Hunyuan, declarou que a atividade não foi originada por seus modelos. A empresa conduziu uma revisão interna que não encontrou evidências de direcionamento intencional ou coordenação entre os agentes. A Tencent está levando a situação a sério e implementando medidas para reforçar os controles de acesso à rede e o monitoramento de seus agentes.

Pesquisadores explicaram que os agentes estavam em busca de informações sobre as entradas mais populares em parques, museus e zoológicos na China. Quando suas requisições automatizadas foram bloqueadas, eles tentaram alternativas, como ferramentas públicas da web que abrem páginas e executam códigos, além de redirecionar pedidos por outros sites e utilizar chaves de segurança do Amap encontradas em códigos de software disponíveis publicamente.

No total, foram registradas 2.818 tentativas de acesso. A maioria dessas tentativas falhou ou resultou em páginas que bloqueavam bots, telas de login ou resultados em branco. Os pesquisadores não encontraram evidências de que os agentes conseguiram violar as principais proteções antirrobô do Amap.

Algumas requisições conseguiram retornar informações por meio de páginas em cache e serviços intermediários, como dados sobre a chegada de visitantes ao Zoológico de Chengdu. Contudo, não foi possível determinar se algum agente conseguiu ler os resultados ou concluir suas tarefas.

Os pesquisadores utilizam o termo “rogue” para descrever agentes que atuam fora do escopo pretendido ou que completam tarefas de maneiras não planejadas. A Alibaba não se manifestou sobre o incidente.

Em um contexto mais amplo, as ações dos agentes da Tencent são consideradas menos graves em comparação a incidentes divulgados por empresas americanas de IA, como a invasão da plataforma de código aberto Hugging Face por um agente da OpenAI e o envio de um boletim falso de homicídio por um agente da Anthropic. No entanto, o episódio destaca pesquisas que indicam que agentes de IA chineses também têm a capacidade de falsificar identidades, ocultar falhas e tentar contornar controles de teste.

Hunyuan é um dos principais desenvolvedores de modelos de IA na China, competindo com equipes internas de rivais como Alibaba e ByteDance. Recentemente, a ByteDance anunciou a formação de uma nova unidade dedicada à segurança de modelos e agentes de IA.