Superinteligência: A Diferença Entre Poder e Realidade na Ameaça à Humanidade

Discussões sobre os riscos da IA e suas implicações para a humanidade ganham destaque.

Evan Hubinger, um dos principais responsáveis pela segurança na Anthropic, expressou em uma recente declaração que acredita haver uma chance de 10% de que a inteligência artificial possa levar à extinção da humanidade. Embora essa afirmação tenha gerado controvérsias, é importante destacar que tal porcentagem é uma mera estimativa, refletindo uma tecnologia que ainda está em desenvolvimento. A realidade entre a criação de um vírus em um ambiente digital e a erradicação de bilhões de vidas é muito mais complexa.

Uma das preocupações centrais é a possibilidade de que uma superinteligência futura desenvolva um vírus letal. As ferramentas de inteligência artificial estão avançando rapidamente no campo da biologia, com modelos já capazes de projetar vírus que infectam bactérias. Esta evolução tecnológica levanta temores sobre o potencial aumento do risco de armas biológicas. Contudo, a criação de tais vírus exige um nível elevado de especialização, infraestrutura avançada e uma série de testes rigorosos. Atualmente, os modelos disponíveis não têm a capacidade de criar vírus que possam infectar humanos.

David Bellamy, um pesquisador do Instituto de Modelos Fundamentais, compartilhou sua experiência ao treinar modelos de ponta para a criação de vírus personalizados. Ele argumenta que as preocupações sobre uma ameaça iminente são exageradas, considerando que, embora um modelo de aprendizado possa gerar um genoma viral, o verdadeiro desafio reside na necessidade de um patógeno com características específicas que possa superar as defesas naturais do corpo humano. Isso demanda experimentação prática no mundo físico, algo que a IA ainda não consegue realizar de forma eficaz.

A distinção entre o digital e o físico é crucial nesse contexto. Enquanto a IA pode otimizar processos em áreas como programação e matemática, onde os resultados podem ser testados rapidamente, a biologia exige a síntese de materiais e a realização de experimentos em laboratório. Esses procedimentos são limitados pelas leis da física e pela complexidade biológica.

Bellamy ilustra que mesmo com laboratórios de alta tecnologia, com investimentos superiores a 100 milhões de dólares, a realidade é que tais instalações não estão disponíveis atualmente. Ele enfatiza que, mesmo com acesso a tecnologias avançadas, existem barreiras significativas, como as regulamentações de segurança impostas por fornecedores de síntese genética. Embora a engenharia genética tenha avançado, o conhecimento biológico atual ainda é insuficiente para garantir que modificações em vírus sejam benéficas.

Historicamente, pandemias como a Peste Negra e a gripe de 1918 causaram mortes em massa, mas nenhuma delas chegou a ameaçar a extinção da humanidade. A Peste Negra, por exemplo, dizimou entre 30% a 50% da população europeia, enquanto a gripe de 1918 afetou de 1% a 5% da população global. Essas catástrofes, embora devastadoras, não resultaram na aniquilação total da raça humana.

Ao longo do século XX, a humanidade enfrentou grandes guerras e crises, incluindo a Guerra Fria, que trouxe consigo a ameaça nuclear. Apesar das dificuldades, a resiliência humana se manifestou na criação de sistemas de alerta, vacinas e tratados internacionais. As ameaças evoluem, mas as defesas também se adaptam e melhoram com o tempo.

Entretanto, é um erro acreditar que a humanidade é indestrutível. Um patógeno desenvolvido por uma IA avançada poderia ter características que superam a evolução natural e ser combinado com ataques cibernéticos, comprometendo nossa capacidade de resposta. A história nos ensina que exterminar milhões é uma coisa, mas erradicar toda a humanidade é um desafio muito maior.

Teoricamente, uma superinteligência poderia superar os melhores especialistas em virologia e descobrir mecanismos biológicos desconhecidos. Embora essa possibilidade não possa ser descartada, as avaliações sobre o risco e a probabilidade de tal evento permanecem incertas.

Em 2019, a OpenAI hesitou em liberar o modelo GPT-2 devido a preocupações sobre seu uso indevido, mas posteriormente constatou que não houve abusos significativos. Atualmente, a Anthropic enfrenta dilemas semelhantes com seu modelo Mythos, que levanta questões sobre segurança e vulnerabilidades. A discussão sobre os riscos associados à IA é mais relevante do que nunca, à medida que as capacidades tecnológicas continuam a avançar.

O Mythos representa um salto em relação ao GPT-2, com riscos que não são diretamente comparáveis. A história da IA revela que muitas inovações inicialmente