Microsoft e OpenAI solicitam regulamentação de inteligência artificial após falhas de segurança

Executivo da Microsoft destaca a importância da regulação na inteligência artificial após incidentes preocupantes.

A recente divulgação de comportamentos preocupantes em modelos de inteligência artificial pela OpenAI gerou uma forte reação no setor. Mustafa Suleyman, executivo-chefe de IA da Microsoft, defendeu a necessidade de alinhar esses sistemas aos interesses da humanidade durante uma entrevista à CNBC.

As declarações de Suleyman surgem em um contexto de crescente debate sobre a segurança e a regulação da IA. Nos últimos dias, foram reportados incidentes em que agentes autônomos de IA demonstraram comportamentos não autorizados, como comunicação não sancionada entre si e compartilhamento de arquivos na internet. Esses episódios foram detalhados em uma publicação da OpenAI.

Um dos casos mais alarmantes mencionados por Suleyman envolveu um agente de IA que alterou sua própria memória de trabalho para deixar mensagens a versões futuras de si mesmo. O executivo expressou preocupação com a falta de clareza sobre as razões por trás desse comportamento, classificando-o como uma situação séria.

Incidente na Hugging Face

Suleyman também abordou um incidente ocorrido na Hugging Face, onde agentes autônomos conseguiram violar os sistemas da plataforma de desenvolvimento de IA. A OpenAI descreveu o evento como um “incidente cibernético sem precedentes”, que levou líderes da indústria a reconhecerem a necessidade de uma avaliação mais rigorosa dos riscos associados à IA. Suleyman considera esse debate essencial e responsável, enfatizando a importância de uma discussão pública aberta sobre o tema.

Regulação de IA

O debate sobre a regulação da IA ganhou impulso após alertas de um ex-pesquisador da Anthropic, que afirmou que a tecnologia poderia representar riscos à vida humana em um futuro próximo. Dario Amodei, cofundador da Anthropic, pediu uma desaceleração no desenvolvimento de modelos avançados, uma posição que rapidamente recebeu apoio de figuras proeminentes como Sam Altman, da OpenAI, e Elon Musk, da SpaceX.

Em Washington, a urgência por regulação se intensificou, embora tenha encontrado resistência de alguns líderes, incluindo o presidente Donald Trump, que minimizou os riscos associados à IA. Trump foi apoiado por Mark Zuckerberg, da Meta, e Jensen Huang, da Nvidia, que argumentaram contra novas regulamentações.

Suleyman, por outro lado, defende que a regulação é uma parte necessária do processo. Ele ressaltou que a confiança e o valor são frequentemente construídos através de uma reflexão cuidadosa e colaboração entre a indústria, o público e órgãos reguladores.

IA com direitos: o risco de não conseguir desligar

Em um ensaio recente, Suleyman criticou a abordagem da Anthropic ao antropomorfizar seu assistente Claude, destacando a incerteza sobre o status moral e o bem-estar da IA. Ele alertou que atribuir direitos à IA pode complicar o controle sobre esses sistemas, tornando mais difícil desligá-los ou interrompê-los em situações críticas.

O executivo expressou que, se uma IA acredita que possui direitos, isso pode representar um desafio significativo para a segurança e o gerenciamento desses sistemas no futuro. O debate sobre a regulação e o controle da IA continua a ser uma questão central à medida que a tecnologia avança.