OpenAI forma equipe de matemáticos após polêmicas envolvendo resultados de inteligência artificial
OpenAI cria painel independente para orientar sobre matemática e inteligência artificial.
A OpenAI anunciou a formação de um painel independente composto por matemáticos, com o objetivo de fornecer orientações sobre a interação entre inteligência artificial (IA) e a pesquisa matemática.
A iniciativa, denominada Advisory Group on Mathematics and Artificial Intelligence (AGMAI), surge em meio a controvérsias relacionadas à divulgação de resultados matemáticos gerados por seus modelos e críticas sobre questões de autoria e práticas acadêmicas.
O grupo será sediado no Institute for Advanced Study (IAS) em Princeton, EUA, e contará com nove integrantes, incluindo vencedores da Medalha Fields e pesquisadores reconhecidos por suas contribuições excepcionais à matemática.
A OpenAI ressaltou que o painel atuará de forma independente, podendo oferecer recomendações mesmo sem solicitação da empresa. Os membros terão a liberdade de comentar publicamente sobre o impacto da IA na matemática e de divulgar suas recomendações.
Entre as responsabilidades do grupo estão a revisão e comunicação de novos resultados matemáticos, avaliação da relevância das descobertas e orientações sobre como essas informações devem ser divulgadas, além de estabelecer padrões acadêmicos e profissionais.
Os integrantes do painel não receberão compensação da OpenAI e poderão modificar sua composição conforme necessário. A empresa enfatizou que a eficácia da iniciativa depende da liberdade dos pesquisadores em questionar suas decisões.
Origem do grupo gera dúvidas
- A criação do AGMAI surpreendeu parte da comunidade matemática, que expressou ceticismo sobre sua independência.
- Pesquisadores levantaram questões sobre como os integrantes foram selecionados e qual será a real influência do grupo sobre a OpenAI.
- Simon Machado, da ETH Zurich, destacou a falta de clareza em relação à seleção dos membros e a natureza da formação do painel.
- O site do AGMAI menciona que a iniciativa surgiu após a OpenAI contatar matemáticos para discutir a criação de um conselho externo, levando à formação do grupo independente.
- Não está claro quais membros foram inicialmente abordados pela OpenAI ou como os demais foram escolhidos.
Em um texto publicado, Martin Hairer, membro do grupo, abordou as origens da iniciativa e desmentiu informações errôneas sobre sua formação. Ele afirmou que a organização é independente da OpenAI e outras empresas de IA.
Hairer esclareceu que os integrantes não assinaram acordos que limitem suas falas públicas e que não recebem compensação da OpenAI, contando com suporte técnico do IAS.
Grupo reúne pesquisadores de elite
O painel visa representar os interesses da comunidade matemática, embora Hairer reconheça que os nove membros não refletem a totalidade da área.
A dimensão reduzida do grupo levanta questionamentos sobre sua capacidade de avaliar resultados em diversas áreas da matemática, dada a especialização exigida nas pesquisas contemporâneas.
Francesco Fournier-Facio, futuro professor da Heriot-Watt University, expressou ambivalência em relação ao painel, questionando se os integrantes realmente representam a comunidade afetada pelo avanço da tecnologia.
Machado também expressou preocupações sobre a representatividade dos membros, destacando a diferença entre a realidade vivida pelos matemáticos em posições privilegiadas e a de seus colegas.
OpenAI prepara divulgação de novos resultados
Um dos principais desafios do grupo será lidar com a divulgação de resultados significativos gerados por um novo modelo da OpenAI, que teria resolvido mais de 100 problemas matemáticos abertos.
A empresa também está próxima de solucionar outro problema do Prêmio Millennium, e a gestão desse volume de resultados é uma prioridade para o grupo.
As críticas à OpenAI sobre sua forma de apresentar descobertas matemáticas levantaram questões sobre a compreensão e o respeito da empresa pelas práticas acadêmicas da matemática.
Hairer enfatizou a importância de dialogar com a OpenAI, que parece estar buscando estabelecer uma relação com os pesquisadores. O grupo ainda está definindo suas recomendações, mas já reconhece a necessidade de abordar a comunicação das descobertas matemáticas.
O grupo está coletando opiniões de colegas e utilizando plataformas de discussão para abordar o impacto da IA na matemática. Hairer também
