Mais da metade dos líderes expressa preocupação com a segurança de dados na inteligência artificial
A segurança de dados é a principal preocupação na adoção de inteligência artificial, com um aumento significativo nas inquietações.
A segurança de dados emerge como a maior preocupação para as lideranças organizacionais na adoção de inteligência artificial, com 56% dos executivos considerando este tema o maior desafio de implementação. Este número representa um aumento de 19% em relação ao ano anterior, evidenciando a crescente urgência em abordar questões de segurança no ambiente digital.
Um estudo recente, que ouviu mais de 1.200 executivos de alto escalão e líderes de TI em grandes organizações, revelou também um aumento nas preocupações com a violação interna de sistemas de IA, que saltou de 31% para 41%. Além disso, os ataques externos por IA também mostraram um leve crescimento, passando de 41% para 43%, refletindo a necessidade urgente de reforçar as defesas cibernéticas.
A conformidade regulatória também se destacou como uma preocupação crescente, subindo de 31% para 37%. Em resposta a essas inquietações, os investimentos em governança e qualidade de dados para treinamento aumentaram de 39% para 49%, enquanto a adoção de frameworks de governança avançou de 32% para 45%. As auditorias regulares de desempenho também se tornaram mais comuns, passando de 36% para 44% das organizações.
O percentual de organizações que não possuem qualquer estratégia para explicar os modelos de IA diminuiu de 42% para 24%, indicando um movimento em direção a uma maior transparência e responsabilidade no uso dessas tecnologias.
Apesar das preocupações, os próximos dois anos devem ser caracterizados por um aumento acelerado e crescente nos investimentos em IA. Especialistas afirmam que a inteligência artificial está elevando as expectativas sobre como as organizações devem governar e gerenciar seus dados, tornando a governança, visibilidade e controle tão essenciais quanto o desempenho.
Entretanto, o estudo também revelou um aspecto preocupante: as taxas de sucesso percebidas de ferramentas de IA generativa, como ChatGPT e Copilot, caíram de 95% para 81%. Além disso, a confiança dos funcionários no uso seguro da IA para fins de negócio diminuiu, com o índice caindo de 77% para 65%.
