Executiva do Signal refuta previsões de apocalipse da IA e alerta para riscos do uso irresponsável da inteligência artificial
Meredith Whittaker discute os riscos e a ética da inteligência artificial.
Meredith Whittaker, uma das vozes proeminentes em tecnologia, rejeita as previsões alarmistas sobre a inteligência artificial (IA). Para ela, os temores de que a tecnologia possa se voltar contra a humanidade carecem de fundamento científico.
Whittaker, presidente da Signal Foundation, organização responsável pelo aplicativo de mensagens criptografadas Signal, afirma que o verdadeiro risco não está nas narrativas apocalípticas, mas sim no uso irresponsável da tecnologia. “O risco é muito real, mas não tem nada a ver com essas histórias fantasiosas contadas por garotos alarmistas”, diz.
Um exemplo que ela menciona é um incidente relatado pela CNN, onde um chatbot utilizado pelos serviços de inteligência dos EUA teria gerado informações falsas sobre um navio chinês supostamente transportando material nuclear. Esse episódio levou os Estados Unidos a considerar uma resposta militar.
“Quase entramos em guerra com a China”, afirma Whittaker. “Um sistema que fornece informações de inteligência falsas e quase provoca uma guerra não pode ser considerado superinteligente.”
O aplicativo Signal, que conta com uma base de usuários estimada entre 40 milhões e 70 milhões, é conhecido por sua rigorosa proteção da privacidade. Ao contrário de concorrentes como o WhatsApp, que possui cerca de 3 bilhões de usuários, o Signal não armazena informações que possam ser acessadas por terceiros.
Whittaker, reconhecida pela revista Time como uma das pessoas mais influentes na área de IA, participa de debates sobre o futuro da tecnologia em importantes centros de poder ao redor do mundo. Sua trajetória começou em 2006, quando ingressou no Google, onde se destacou por sua postura crítica em relação ao uso da tecnologia em contextos militares.
Ela ganhou notoriedade ao se opor ao Projeto Maven, um contrato entre o Google e o Departamento de Defesa dos EUA para desenvolver sistemas de IA para identificação de alvos em operações militares. Whittaker alertou sobre os riscos de reduzir o tempo de decisão entre a identificação de um alvo e a ação militar, o que poderia levar a consequências devastadoras.
Em 2018, organizou uma paralisação que envolveu cerca de 20 mil funcionários do Google, protestando contra a implementação apressada de tecnologias sem consideração adequada das implicações éticas. O Google acabou desistindo do contrato, que foi posteriormente assumido pela Palantir.
Whittaker relaciona o Projeto Maven a incidentes trágicos, como um ataque dos EUA a uma escola no Irã, que utilizou informações de inteligência desatualizadas. “Era exatamente isso que estávamos alertando em 2017”, afirma, enfatizando a necessidade de responsabilidade no uso da tecnologia.
Governos, incluindo o do Reino Unido, estão pressionando por maior acesso às comunicações em aplicativos como o Signal, alegando que isso é necessário para proteger mulheres e crianças. No entanto, Whittaker critica essa abordagem, destacando que as propostas governamentais podem resultar em um controle sem precedentes sobre as comunicações.
“Sim! Meu Deus, eu tenho princípios”, responde Whittaker sobre a possibilidade de enfraquecer a criptografia do Signal. “Eles não mudam conforme meu humor.”
Ela ressalta que a privacidade nas comunicações é crucial para proteger indivíduos de ameaças, como abusos e vigilância estatal. O Signal, que enfrenta bloqueios em países como Rússia, China e Irã, é visto por muitos como uma ferramenta vital em tempos de vigilância e ataques cibernéticos.
Whittaker também aconselha mulheres que desejam entrar na área de tecnologia a não se deixarem intimidar. “Você consegue lidar com ambientes interessantes, mas complicados, onde nem todo mundo vai ser simpático?”, questiona, enfatizando a importância da coragem e da autenticidade em ambientes de trabalho desafiadores.
Ela conclui lembrando que a privacidade é um direito fundamental que deve ser protegido, não apenas para os cidadãos comuns, mas também para aqueles que se encontram em situações vulneráveis.
