Ex-funcionário da OpenAI critica falta de cuidado nas empresas de IA
Ex-funcionário critica segurança da inteligência artificial na OpenAI
Um ex-funcionário da área de segurança da OpenAI levantou preocupações sobre a abordagem da empresa em relação à segurança da inteligência artificial (IA). David Robinson, que deixou a companhia recentemente, argumenta que a cultura de desenvolvimento acelerado pode aumentar os riscos de falhas nos sistemas de IA.
Em um artigo publicado na revista americana “The Atlantic”, Robinson destacou que as empresas de IA, incluindo a OpenAI, não estão sendo suficientemente cuidadosas em suas práticas. Ele sugere que mais espaço deve ser dado a especialistas em segurança e à pesquisa antes do desenvolvimento de sistemas mais avançados.
“O tempo de tentativa e erro acabou”, escreveu David Robinson, enfatizando que sistemas avançados de IA necessitam de medidas de segurança semelhantes às adotadas em setores críticos como energia nuclear e aviação.
Robinson criticou a prática da OpenAI chamada “implantação iterativa”, que consiste em lançar sistemas e aprimorar as medidas de segurança conforme os problemas surgem. Essa abordagem tem sido questionada após incidentes em que controles de segurança falharam ou sistemas experimentais demonstraram comportamentos inesperados.
O ex-funcionário, que trabalhou na OpenAI por três anos e meio, ajudou a desenvolver a estrutura de gerenciamento de riscos da empresa e supervisionou relatórios de segurança de doze lançamentos de modelos avançados. Ele expressou preocupação de que a pressa em lançar novos produtos comprometa o nível de cuidado necessário.
“À medida que a empresa corre de um lançamento para o outro, ela não está conseguindo atingir o nível de cuidado que acredito ser necessário”, afirmou.
Em resposta às críticas, a OpenAI declarou que está comprometida em evitar que seus modelos se tornem mais avançados do que a empresa pode gerenciar com segurança. Um porta-voz da companhia mencionou que o treinamento pode ser pausado ou os modelos suspensos quando necessário para manter um ritmo seguro.
Robinson também alertou que as capacidades da inteligência artificial estão se desenvolvendo mais rapidamente do que o conhecimento dos pesquisadores sobre “alinhamento”, uma área focada em garantir que os sistemas de IA operem de acordo com valores e objetivos humanos.
‘Brincando com as nossas vidas’
Essa não é a primeira vez que críticas são direcionadas a empresas de inteligência artificial. Recentemente, um ex-pesquisador que deixou a OpenAI para trabalhar na Anthropic também expressou preocupações, afirmando que ambas as empresas estão “brincando com as nossas vidas”.
Jacob Coxon, um britânico de 27 anos, trabalhou nos últimos três anos em pré-treinamento de modelos de IA, primeiro na OpenAI e depois na Anthropic. Ele criticou a falta de responsabilidade das empresas na corrida em direção a uma superinteligência que poderia se aprimorar sozinha.
“Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas”, escreveu Coxon em uma rede social.
