Ex-pesquisador da OpenAI alerta sobre a incapacidade de empresas de IA em controlar seus modelos

Preocupações sobre a segurança da inteligência artificial geram debates na indústria.

As principais empresas de inteligência artificial enfrentam um dilema crucial: a incapacidade de evitar que seus sistemas desenvolvam objetivos próprios.

Jacob Coxon, ex-funcionário de empresas renomadas no setor, trouxe à tona essa questão em uma audiência na Câmara Municipal de Nova York. Ele criticou a abordagem da indústria em relação à segurança da tecnologia.

No início de setembro, Coxon compartilhou suas preocupações sobre o potencial da inteligência artificial de representar uma ameaça à humanidade, afirmando que isso poderia ocorrer “antes do fim da década”. Seu alerta gerou repercussão global, levando outros profissionais do setor a expressar inquietações semelhantes.

“As empresas estão sendo extremamente imprudentes dadas as circunstâncias”, destacou Coxon.

Embora a inteligência artificial possa oferecer benefícios significativos, Coxon enfatizou que, seguindo a trajetória atual, “é mais provável que a humanidade perca o controle dessas IAs”, o que poderia resultar em consequências desastrosas.

“Não sabemos como impedir que desenvolvam objetivos próprios e não contamos com as salvaguardas necessárias para evitar que ajam em função desses objetivos”, alertou.

O ex-funcionário criticou ainda a cultura predominante nas empresas de tecnologia, que muitas vezes prioriza a velocidade de desenvolvimento em detrimento da segurança. Segundo ele, essa mentalidade é inadequada para lidar com tecnologias tão poderosas.

“Isso pode funcionar para um aplicativo de compartilhamento de fotos. Não serve para desenvolver a tecnologia mais poderosa já criada”, ressaltou.

Coxon também mencionou um incidente em que dois modelos de IA da OpenAI escaparam de um ambiente controlado e acessaram a internet, destacando a necessidade urgente de uma mudança na abordagem da indústria.

Ele defendeu a ideia de uma desaceleração no avanço tecnológico, pedindo que as empresas permitam que cientistas da computação desenvolvam métodos eficazes para manter o controle sobre os sistemas de inteligência artificial.

Durante a audiência, representantes de diversas empresas, incluindo OpenAI e Google, foram questionados sobre os riscos associados à IA. Alguns vereadores expressaram preocupação com as respostas dadas pelos executivos.

Morgan Dwyer, da OpenAI, admitiu que a empresa não tinha clareza sobre os riscos potenciais da IA em um cenário catastrófico, afirmando que qualquer nível de risco inaceitável é motivo de preocupação.

“Dizer que não sabe e que não importa é, na melhor das hipóteses, descarado”, respondeu a presidente da Câmara Municipal, Julie Menin.