IA e a possibilidade de reforço de preconceitos: compreenda a violência algorítmica

Christian Gonzatti denuncia a violência algorítmica em conteúdos LGBTQIA+

Há uma década, o influenciador digital e cientista da comunicação Christian Gonzatti, de 33 anos, levanta questões sobre a violência algorítmica, apontando que os algoritmos das redes sociais frequentemente reduzem a visibilidade de conteúdos LGBTQIA+ sem fornecer clareza sobre os critérios que determinam essa suposta “proibição”.

Gonzatti, que também é professor na Universidade do Vale do Rio dos Sinos (Unisinos), iniciou sua trajetória publicando conteúdos culturais com foco no universo “nerd” dentro da temática LGBTQIA+ em um canal denominado Viado Nerd.

Ele destaca que o algoritmo não interpreta o contexto, não reconhecendo termos como “viado” como uma ressignificação, conforme a prática histórica do movimento. Isso levou a sua página a ser denunciada, resultando em ações da plataforma que a tratou como um espaço de discursos de ódio.

Apesar de ter renomeado seu projeto para Diversidade Nerd, Gonzatti continua enfrentando problemas de classificação incorreta e acredita que suas postagens são frequentemente despriorizadas com base em certas palavras-chave. “Quando utilizo termos como gay ou lésbica nas legendas, o alcance diminui”, observa.

A violência algorítmica não é um fenômeno isolado. Ela se manifesta quando sistemas de reconhecimento facial rotulam negativamente características associadas a etnias não brancas, quando a inteligência artificial (IA) gera e dissemina deep fakes para prejudicar a reputação de indivíduos e até mesmo quando modelos automatizados tentam influenciar o comportamento humano.

Um motorista de aplicativo em São Paulo compartilha sua experiência, relatando que frequentemente trabalha por longas horas sem pausas, impulsionado por notificações que o incentivam a aceitar mais corridas. “Já dirigi por 12 horas seguidas e, quando penso em parar, recebo uma mensagem que me motiva a continuar”, conta, preferindo permanecer anônimo.

O cientista da computação e jornalista Alexandre Gonçalves ressalta que algoritmos forçam os trabalhadores a aumentar sua produtividade de maneira que ignora os limites humanos, caracterizando essa situação como violência.

Agressão automatizada

O conceito de violência algorítmica, segundo Daniel Trielli, professor de mídia e democracia na Universidade de Maryland, refere-se a um tipo de agressão que se integra a sistemas automatizados. Essa violência inclui não apenas algoritmos de redes sociais, mas também plataformas de vigilância digital e ferramentas de IA, que podem amplificar formas tradicionais de violência e criar novas.

Um exemplo comum é a propagação de fake news nas redes sociais, onde algoritmos aumentam o alcance de mensagens emocionalmente carregadas.

O termo “violência algorítmica” começou a ser utilizado na última década por acadêmicos e artistas que se preocupam com essa questão. Pesquisadores da Unisinos, como a jurista Haide Maria Hupffer e o advogado Gabriel Cemin Petry, fundamentaram o termo com base em obras que discutem as interações entre tecnologia e violência.

A assistente social Bruna Irineu, professora na Universidade Federal de Mato Grosso, explica que a expressão não foi criada por uma única pessoa, mas é parte de um debate mais amplo sobre discriminação algorítmica e injustiça automatizada.

Os algoritmos, que não são neutros, refletem os preconceitos de seus criadores, perpetuando desigualdades sociais. As ferramentas de IA são treinadas por meio de dados coletados de interações humanas, o que pode resultar em decisões enviesadas.

Larissa Pelúcio, antropóloga e professora na Universidade Estadual Paulista (Unesp), define violência algorítmica como a produção e amplificação de desigualdades sociais por sistemas automatizados. Ela explica que essa violência se manifesta em decisões sobre quem é visto, quem é silenciado e quem tem acesso a oportunidades.

Irineu complementa que a violência algorítmica não cria desigualdades, mas as organiza e amplifica, dando mais relevância a disparidades já existentes na sociedade.

Discriminação digital

No Brasil, a situação é agravada por diversas razões. Pelúcio aponta que a sociedade já é marcada por formas de violência institucional, e a combinação de uma intensa presença digital com profundas desigualdades sociais torna o problema ainda mais grave.

A antropóloga destaca a centralidade da violência contra populações negras, indígenas, periféricas e LGBTQIA