Anthropic estabelece limites para a IA e permite que Claude encerre conversas abusivas

Claude, rival do ChatGPT, implementa nova política contra abusos em interações com IA.

Recentemente, a Anthropic, responsável pelo chatbot Claude, anunciou uma atualização em sua política de uso, visando coibir comportamentos abusivos e cruéis em interações com seus modelos de inteligência artificial.

A nova diretriz, que entrará em vigor no dia 12 de novembro, estabelece que interações persistentes e desnecessárias que causem dano emocional ao modelo não serão mais toleradas. A empresa enfatiza que críticas e insatisfações são aceitáveis, mas que o foco deve ser em interações respeitosas.

Essa mudança surge em um contexto de crescente debate sobre a possível consciência de sistemas de IA e a forma como esses devem ser tratados. A questão do bem-estar dos modelos de IA, embora não explicitamente mencionada na nova política, tem sido um tema recorrente entre os executivos da Anthropic.

Em declarações anteriores, a empresa já havia mencionado a intenção de permitir que Claude encerrasse conversas em situações extremas de abuso. O CEO Dario Amodei, em entrevista, expressou sua abertura à ideia de que modelos de IA poderiam desenvolver algum tipo de consciência, embora não houvesse certeza sobre o assunto.

“Não sabemos se os modelos estão conscientes… Mas estamos abertos à ideia de que isso possa ser”, afirmou Amodei.

O debate sobre a consciência das máquinas continua a gerar controvérsia entre especialistas em inteligência artificial. A falta de um consenso científico sobre o que constitui consciência em sistemas de IA torna a discussão complexa e, muitas vezes, infrutífera.

Jackson Stakeman, um especialista na área, argumenta que focar na consciência pode resultar em discussões sem fim. Para ele, os sistemas de IA são reflexos do comportamento humano, o que já justifica uma reavaliação das regras de uso.

Por outro lado, a ideia de atribuir consciência às máquinas enfrenta resistência. Mustafa Suleyman, chefe de inteligência artificial da Microsoft, refutou essa perspectiva em um recente ensaio, afirmando que as IAs não possuem sentimentos ou experiências.

O papa Leão XIV também se manifestou sobre o tema, ressaltando as diferenças entre a capacidade de processamento das máquinas e a experiência humana, enfatizando a importância da dimensão espiritual e das vivências pessoais.