Anthropic propõe regulação equilibrada para inteligência artificial e adverte sobre riscos de regras que podem restringir a inovação
Anthropic defende regulação adequada para inteligência artificial visando segurança e inovação.
A Anthropic defende a implementação de uma regulação que aborde os riscos associados à inteligência artificial (IA). Executivos da empresa afirmam que o avanço dessa tecnologia exige mecanismos de supervisão que estejam à altura do impacto potencial dos modelos mais avançados.
Este debate ocorre em um contexto onde governos de diversas nações estão considerando novas legislações para IA. A rápida evolução dos modelos generativos e a crescente utilização da tecnologia em setores econômicos, serviços públicos e defesa têm impulsionado essa discussão.
A Anthropic argumenta que as empresas responsáveis pelo desenvolvimento de modelos poderosos devem realizar avaliações rigorosas de segurança antes de lançar novas versões no mercado. A transparência na comunicação de informações relevantes com as autoridades também é considerada essencial.
A empresa propõe que a regulamentação leve em conta que nem todos os sistemas de inteligência artificial apresentam o mesmo nível de risco. Portanto, a supervisão deve ser proporcional às capacidades de cada modelo.
Uma abordagem baseada em critérios técnicos objetivos é defendida para identificar quais sistemas precisam de maior supervisão. Isso evitaria que ferramentas de menor impacto fossem submetidas às mesmas exigências que os modelos mais avançados.
Além disso, a Anthropic considera fundamental que os governos estabeleçam padrões mínimos para testes de segurança, transparência e gerenciamento de riscos antes do lançamento de novos modelos de IA.
Os executivos alertam que regras excessivamente restritivas podem prejudicar a inovação e dificultar a competitividade, especialmente em um cenário de intensa disputa internacional pelo desenvolvimento de inteligência artificial.
Outro aspecto destacado é a necessidade de coordenação entre países. A empresa acredita que normas muito diferentes entre mercados podem aumentar os custos de conformidade, criar barreiras para empresas globais e dificultar a cooperação em questões de segurança da IA.
A Anthropic também defende investimentos públicos em pesquisa sobre a segurança da inteligência artificial, incluindo estudos sobre o comportamento de modelos avançados e técnicas para mitigar riscos associados ao uso indevido da tecnologia.
A discussão sobre regulação tem se intensificado nos últimos anos, acompanhando a rápida evolução dos modelos generativos e sua adoção por empresas, governos e consumidores. Nações como as da União Europeia, Estados Unidos e Reino Unido estão debatendo diferentes abordagens regulatórias para equilibrar inovação, competitividade e proteção da sociedade.
Por fim, a Anthropic ressalta que o setor privado deve participar da formulação dessas políticas públicas, oferecendo conhecimento técnico sobre as capacidades e limitações dos sistemas atuais, sem que isso substitua o papel dos governos na definição das regras.
A confiança pública é vista como um elemento crucial para a adoção em larga escala da inteligência artificial. Mecanismos de governança, testes de segurança e transparência sobre o funcionamento dos modelos são considerados fundamentais para a expansão do uso corporativo e institucional da tecnologia.
