Especialistas em segurança digital alertam para o lado sombrio da IA e denunciam demissões em massa devido a riscos ocultos das Big Techs
Demissões em empresas de IA geram preocupações sobre segurança e ética no setor.
Uma onda de demissões em empresas de inteligência artificial, como OpenAI, Anthropic e xAI, levantou um alerta significativo no Vale do Silício. Pesquisadores e executivos de segurança estão deixando seus cargos, expressando preocupações sobre os rumos que a tecnologia está tomando.
Mrinank Sharma, ex-líder da equipe de Pesquisa de Salvaguardas da Anthropic, destacou em uma carta que “o mundo está em perigo”. Ele mencionou que, ao longo de sua trajetória na empresa, percebeu a dificuldade em alinhar os valores éticos com as ações práticas da organização.
Na OpenAI, a pesquisadora Zoë Hitzig anunciou sua saída em um artigo, onde manifestou “profundas reservas” sobre a nova estratégia de publicidade da empresa. Ela alertou que o ChatGPT pode manipular usuários de formas que não compreendemos totalmente, especialmente ao lidar com dados sensíveis como informações médicas e crenças pessoais.
A tensão aumentou com a notícia de que a OpenAI desmantelou sua equipe de “alinhamento de missão” e demitiu um executivo de segurança que se opôs a um novo modo de operação do chatbot, levantando questões sobre o comprometimento com a segurança e a ética.
Na xAI, cofundadores deixaram a empresa em um curto espaço de tempo, enquanto Elon Musk anunciou uma reorganização para acelerar o crescimento. Essa movimentação tem sido vista como uma tentativa de priorizar resultados financeiros em detrimento de práticas seguras e éticas.
Críticos apontam que a pressão por ofertas públicas iniciais (IPOs) e crescimento acelerado pode estar colocando o lucro acima da segurança, gerando incertezas sobre os riscos que a inteligência artificial pode representar na vida cotidiana das pessoas.
