Segurança de software na era da IA coloca programador no centro da crise

Desafios da Cibersegurança e a Pressão sobre Desenvolvedores de Software

A antiga chefe de segurança cibernética do governo Obama, Jen Easterly, tem enfatizado que a questão dos ciberataques é, na verdade, um reflexo da má qualidade do software, e não apenas um problema de cibersegurança.

Hoje, praticamente todos os dispositivos, desde relógios de atividades até equipamentos médicos, são movidos por software. Entretanto, os desenvolvedores enfrentam uma pressão constante para entregar produtos rapidamente, muitas vezes em detrimento da segurança. Embora existam normas e boas práticas, sua aplicação nem sempre é garantida, resultando em produtos vulneráveis.

Essas vulnerabilidades são alvos para cibercriminosos, que as exploram para diversos fins, como fraudes e espionagem. O conhecimento sobre essas falhas é crucial tanto para os atacantes quanto para os fabricantes que buscam proteger suas tecnologias.

No último mês, a empresa de inteligência artificial Anthropic apresentou o modelo de IA chamado Mythos, que está sendo utilizado para identificar vulnerabilidades em softwares. Este modelo está disponível, por enquanto, para um grupo restrito de cinquenta empresas que fazem parte de um consórcio. Essa limitação visa garantir que o modelo seja utilizado para proteção e não para ataques.

A Anthropic anunciou que disponibilizará o acesso ao Mythos assim que forem implementadas as salvaguardas necessárias para evitar abusos.

Um relatório recente sobre o desempenho do Mythos revelou que mais de 10 mil vulnerabilidades graves foram identificadas. Empresas do consórcio relataram um aumento significativo na taxa de descoberta de falhas. Por exemplo, a Mozilla corrigiu 271 vulnerabilidades em seu navegador Firefox desde que começou a utilizar o modelo. No entanto, essa eficiência também trouxe desafios, pois a precisão de 90,6% do modelo significa que quase 10% dos casos reportados não eram, de fato, vulnerabilidades.

O que se destaca nesse cenário é que, enquanto o progresso na segurança de software era limitado pela capacidade humana de identificar vulnerabilidades, agora a verdadeira questão reside na capacidade de verificar e corrigir um volume crescente de falhas descobertas por IA. É importante notar que o Mythos não é o único modelo em desenvolvimento; outras empresas também estão criando soluções semelhantes.

A pressão sobre os desenvolvedores de software continua a aumentar, não apenas pela necessidade de agilidade na entrega de novas funcionalidades, mas também pela quantidade desproporcional de relatórios de vulnerabilidades gerados por modelos de IA.

Enquanto o desenvolvimento de software permanecer uma atividade humana, essa pressão persistirá. O CEO da Anthropic sugere que a IA pode substituir completamente os desenvolvedores em breve, embora essa afirmação seja controversa e não universalmente aceita, como demonstrado pela opinião de outros líderes de tecnologia.

Independentemente do futuro da profissão, o papel dos desenvolvedores se tornou central na atual crise de cibersegurança, com a solução do problema exigindo um aumento na carga de trabalho ou a transformação radical da função.