Empresas utilizam princípios religiosos para promover ética na inteligência artificial

Empresas de tecnologia buscam orientação religiosa para desenvolver inteligência artificial ética.

Enquanto o setor de tecnologia avança na criação de inteligências artificiais mais sofisticadas, surge uma questão crucial: como ensinar esses sistemas a discernir o certo do errado? Uma abordagem emergente é a consulta a princípios religiosos.

Chris Olah, cofundador da Anthropic, destacou que questões morais complexas não podem ser resolvidas apenas em um laboratório, mas são discutidas em tradições religiosas há milênios. Essa interação entre tecnologia e fé levanta a necessidade de entender como as empresas interpretam a religião e o que esperam alcançar com essa relação.

A ideia central é que a religião pode oferecer uma base para guiar o desenvolvimento da inteligência artificial em um contexto onde os receios sobre a tecnologia são amplamente discutidos. No entanto, a falta de conexão a uma religião específica leva as empresas a buscar princípios morais que sejam amplos e inclusivos.

Sam Altman, CEO da OpenAI, expressou que o objetivo é que as IAs reflitam uma média ponderada das visões morais da humanidade. Contudo, especialistas em religião alertam que essa abordagem pode simplificar excessivamente a complexidade e a diversidade das tradições religiosas.

Religião é mais do que um conjunto de regras

Pesquisadores têm contestado a visão da religião como um mero conjunto de regras que pode ser isolado de suas manifestações culturais e políticas. Webb Keane, antropólogo da Universidade de Michigan, argumenta que essa perspectiva ignora a profundidade das experiências religiosas vividas pelos fiéis.

Embora a ideia de que a religião pode ser separada de outras esferas da vida persista, na prática, ela está intimamente interligada à cultura e à política. A preocupação surge de que a busca por conselhos religiosos para questões éticas possa reforçar uma visão limitada da religião, desconsiderando a importância dos rituais e das relações entre os praticantes.

Keane alerta que, ao tratar a religião como um conjunto de princípios morais isoláveis, as empresas podem acabar priorizando certas tradições em detrimento de outras, distorcendo a verdadeira essência das crenças religiosas.

Empresas buscam ampliar o diálogo com religiosos

Apesar das críticas, as reuniões entre empresas de tecnologia e líderes religiosos têm buscado diversidade. A Anthropic, por exemplo, se reuniu com representantes de mais de 15 grupos religiosos e interculturais, demonstrando um compromisso com uma abordagem inclusiva.

Meghan Sullivan, filósofa da religião, elogiou a profundidade das discussões da Anthropic, que abordou questões morais complexas relacionadas à tecnologia. As reuniões foram projetadas para facilitar um diálogo significativo, abordando desde questões existenciais até o impacto da IA na educação.

Empresas como Meta, Google e Amazon também têm se engajado em diálogos semelhantes, buscando entender como a tecnologia pode ser desenvolvida de maneira ética e responsável.

A religião é antiga. O estudo dela, não

A religião, embora considerada antiga e universal, é frequentemente vista sob uma lente moderna que não captura a totalidade de sua complexidade. Jonathan Z. Smith, um influente estudioso, argumentou que a concepção contemporânea de religião é uma construção que remonta ao século XIX.

Estudiosos contemporâneos, como Tomoko Masuzawa, questionam a categorização das religiões, sugerindo que tradições como o budismo e o hinduísmo não eram reconhecidas como entidades definidas até a chegada de estudiosos europeus. Isso levanta questões sobre a forma como as empresas de tecnologia abordam a religião em suas práticas.

A tentativa de representar diferentes visões através da religião pode simplificar excessivamente a diversidade de experiências e perspectivas. A religião, frequentemente utilizada como um meio de mapear o mundo, pode não ser a solução mais eficaz para incorporar diversidade de pensamento nas discussões sobre IA.

Ao reunir diferentes visões, IA pode apagar particularidades

Especialistas argumentam que as empresas devem definir com mais clareza seus objetivos ao dialogar com líderes religiosos. A Anthropic, por exemplo, afirmou que busca inspiração em uma ampla gama de perspectivas, mas a falta de definição pode levar à homogeneização das tradições religiosas.

Os grandes modelos de linguagem, que geram textos com base em padrões identificados em grandes volumes de conteúdo, podem inadvertidamente diluir as características que definem cada tradição. Paolo Carozza, especialista em tecnologia e ética, expressou preocup