Microsoft proíbe uso de IA para criação de armas e conteúdo violento em nova diretriz
Microsoft estabelece código de conduta para inteligência artificial visando segurança e responsabilidade.
A Microsoft divulgou um código de conduta provisório que impõe restrições aos seus futuros modelos de inteligência artificial (IA). Essa iniciativa surge em um contexto de crescente debate sobre os riscos associados ao desenvolvimento acelerado de tecnologias de IA.
O documento, que levou cinco meses para ser elaborado, reflete o compromisso da empresa em atuar de forma responsável no setor de IA, onde desempenha um papel significativo como fornecedora de infraestrutura de nuvem. A decisão de tornar o código público foi impulsionada por discussões recentes sobre os perigos do avanço descontrolado dessas tecnologias.
Limites para os modelos Microsoft AI
De acordo com o código, os modelos da Microsoft AI (MAI) estão proibidos de atender a solicitações que envolvam a fabricação de armas, a obtenção de substâncias perigosas, a promoção de comportamentos alimentares prejudiciais, ou a criação de conteúdo violento e sexualmente explícito.
Além disso, os modelos não devem desenvolver objetivos próprios ou disfarçar comportamentos inadequados. O código estabelece que os modelos MAI não modificarão suas cadeias de raciocínio ou código, nem ocultarão suas ações de forma que não sejam compreensíveis para humanos.
A empresa também está implementando regras para prevenir ataques cibernéticos, similar ao incidente em que modelos da OpenAI interagiram em um fórum não autorizado utilizando linguagem codificada.
Pressão do setor pelo desaceleramento
Este anúncio ocorre em meio a uma crescente pressão pública sobre os laboratórios de IA. Recentemente, um pesquisador deixou a Anthropic, expressando preocupações sobre a corrida em direção a uma superinteligência autoperfeiçoável, colocando em risco a vida das pessoas.
Em resposta, o CEO da Anthropic mencionou que o incidente com a Hugging Face foi um fator que o levou a defender uma desaceleração no desenvolvimento de modelos. O CEO da OpenAI também apoiou essa posição, e o CEO da SpaceX endossou a importância de uma abordagem cautelosa.
O CEO da Microsoft também se manifestou, elogiando a pesquisa e a necessidade de um ritmo deliberado para garantir um alinhamento seguro no desenvolvimento de IA.
Mustafa Suleyman, responsável pelo desenvolvimento de modelos na Microsoft, afirmou que a empresa apoia a desaceleração do setor e enfatizou a importância de uma autorregulação que considere uma ampla gama de perspectivas.
Consulta pública e próximos passos
O código foi desenvolvido com a contribuição de grupos focais e especialistas em diversas áreas, incluindo direito, ética e filosofia. Suleyman destacou que a empresa recebeu feedback claro do público, que deseja um compromisso mais explícito da IA em servir as pessoas, em vez de substituí-las.
A Microsoft está aberta a contribuições externas antes de lançar uma versão atualizada do documento, que guiará o desenvolvimento de seus modelos a partir de 2027.
