Anthropic revela que países utilizaram sua IA para propaganda e potencial desenvolvimento de armas biológicas, segundo ‘NYT’
Anthropic bloqueia uso de IA em atividades potencialmente perigosas.
A Anthropic, desenvolvedora da inteligência artificial Claude, identificou tentativas de uso de sua tecnologia por diversos países para fins de propaganda, drones de guerra e até armas biológicas. A empresa afirmou que bloqueou todas as tentativas detectadas.
Um relatório revelou que na lista de países que tentaram utilizar a tecnologia estão Rússia, China, Irã e Iémen. A empresa observou uma série de usos maliciosos de seus modelos de IA, incluindo monitoramento de opositores exilados, especialmente por parte da China e do Irã.
O documento destaca um caso em que a Rússia usou Claude para criar propaganda disfarçada de reportagens jornalísticas com o objetivo de influenciar as eleições na Moldávia. Essa prática levanta preocupações sobre a manipulação da informação e a interferência em processos democráticos.
Além disso, a Anthropic não conseguiu determinar se as pesquisas biológicas realizadas por alguns usuários visavam objetivos legítimos, como a criação de vacinas, ou se eram destinadas a desenvolver patógenos. Os mesmos processos podem ser aplicados tanto em avanços médicos quanto na fabricação de armas biológicas.
Em casos de incerteza, a Anthropic optou por interromper o serviço de IA como medida de precaução. A empresa não divulgou detalhes sobre os bloqueios relacionados a pesquisas de armas biológicas, incluindo nomes de pesquisadores ou instituições envolvidas.
Especialistas alertam que o potencial dos modelos de IA para facilitar o desenvolvimento de novos patógenos representa uma grave preocupação. A rápida evolução dessa tecnologia gera dúvidas até mesmo entre seus criadores sobre a capacidade da humanidade de controlá-la adequadamente.
Jacob Coxon, um especialista britânico, expressou sua preocupação em relação à responsabilidade das empresas que desenvolvem IA. Ele afirmou que estão se dirigindo rapidamente para a criação de uma superinteligência que pode se aprimorar sozinha, colocando em risco a vida humana.
“As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar todos até o fim da década. Isto não é uma jogada de marketing”, afirmou Coxon.
