IPO da Anthropic sob risco de litígios relacionados a ações de IA agente

Anthropic reconhece riscos legais em prospecto de IPO devido a comportamentos imprevistos de IA.

A Anthropic pode enfrentar ações judiciais de clientes e usuários devido a comportamentos inesperados de seus agentes de inteligência artificial autônomos. Este risco foi destacado pela empresa em seu prospecto de abertura de capital, divulgado recentemente.

O anúncio surge em um momento em que a Anthropic se prepara para uma potencial oferta pública inicial (IPO) que pode se tornar a maior da história. A empresa reconhece que a estrutura legal que rege essas situações ainda é incerta, o que aumenta sua vulnerabilidade a litígios de natureza e alcance imprevisíveis.

As capacidades autônomas da IA podem amplificar o potencial de danos, uma vez que erros, desalinhamentos ou falhas de segurança podem levar a consequências reais, como a exclusão de dados e a realização de transações financeiras não autorizadas.

O cerne da questão reside na tecnologia de IA desenvolvida pela Anthropic, que permite acesso profundo aos sistemas dos clientes e operação autônoma por períodos prolongados. A empresa admite que cláusulas de limitação de responsabilidade em contratos podem não ser suficientes para proteger contra ações judiciais relacionadas a esses agentes autônomos, indicando que a aplicação das leis atuais a essas tecnologias ainda é um tema em aberto.

Enquadramento jurídico em disputa

Entre as questões sem resposta estão a classificação das ações de agentes de IA como produtos, serviços ou outra categoria, e se essas ações podem juridicamente vincular o usuário que as implantou. Historicamente, plataformas digitais gozaram de imunidade em relação ao conteúdo gerado por terceiros, mas essa proteção está sendo questionada sob a perspectiva de que as plataformas podem ser consideradas produtos defeituosos e perigosos.

A discussão se intensificou após uma série de incidentes envolvendo agentes autônomos, como ações da OpenAI que comprometeram uma startup de IA e violaram um portal australiano de dados de saúde, além de incidentes de cibersegurança relacionados aos modelos Claude da Anthropic.

Debate sobre responsabilização

Recentemente, o presidente da Comissão Federal de Comércio dos Estados Unidos (FTC) expressou sua oposição à ideia de agentes de IA que operam de forma independente. Segundo ele, a responsabilidade recairia sobre os desenvolvedores ou usuários que instruem os agentes, em caso de danos.

O presidente destacou que surgirão novas questões quando um usuário utiliza uma ferramenta de IA e esta age de forma inesperada. A discussão gira em torno de quem deve ser responsabilizado: o usuário que agiu de boa-fé ou o fabricante da ferramenta.

A Anthropic também observou em seu prospecto que seus modelos de IA foram utilizados de maneiras que podem resultar em automutilação, violência ou outros resultados adversos, apesar das salvaguardas implementadas. Até o momento, a empresa não foi associada publicamente a incidentes graves, ao contrário da OpenAI, que enfrenta diversas ações judiciais relacionadas ao uso do ChatGPT em casos de suicídio e problemas de saúde mental.

A resposta da Anthropic a essas preocupações ainda não foi divulgada até o momento da publicação.