Portal da UFC - Universidade Federal do Ceará

Quarta, 19 Novembro 2025 09:16

Escrito por UFC Informa

Seguindo a tendência da internet daquele momento, uma deputada do Rio de Janeiro pediu para a inteligência artificial (IA) produzir um desenho no estilo de animação do estúdio Pixar. No comando, solicitou a imagem de uma mulher negra, com cabelos afro e roupas de estampa africana, em um cenário de favela. Como resultado, contudo, a IA gerou a imagem de uma mulher negra com uma arma de fogo na mão. O fato virou notícia na época e ampliou a discussão sobre o chamado racismo algorítmico.

O episódio ocorreu com a deputada Renata Souza, em outubro de 2023, e a parlamentar utilizou as mídias sociais para expor o ocorrido. Diferentemente de uma acusação de racismo praticada por uma outra pessoa, ação que é crime no Brasil, a denúncia se dirigia a um conjunto matemático de instruções utilizado por computadores, ou seja, ao algoritmo, elemento considerado por muitos como neutro. Muitos estudiosos, porém, têm provado que essa ideia de neutralidade não passaria de uma grande farsa.

“As plataformas não são espaços neutros na medida em que elas operam a partir de sistemas algorítmicos que filtram e hierarquizam conteúdos, priorizam algumas vozes e silenciam outras”, afirma o professor Júlio Araújo, do Departamento de Letras Vernáculas da Universidade Federal do Ceará (UFC), que tem demonstrado em suas pesquisas como os algoritmos reforçam o racismo na sociedade.

O professor nomina essa ação realizada por algoritmos de necroalgoritmização, termo que ele esclarece no livro lançado em agosto deste ano, intitulado Necroalgoritmização: notas para definir o racismo algorítmico. “É a organização algorítmica da exclusão, do silenciamento e, muitas vezes, da morte social”, elucida.

Como os algoritmos se tornaram mediadores centrais da linguagem, da circulação de sentidos e da visibilidade dos discursos na era digital, estudá-los no campo da Linguística, defende Araújo, coloca-se como um esforço essencial. “Defendo que o algoritmo é um texto. Isso significa que ele não é apenas um conjunto de comandos técnicos, mas uma forma de linguagem que organiza sentidos, produz efeitos discursivos e participa ativamente da vida social”, conceitua.

O estudo do professor mostra de que maneiras o algoritmo atua de forma a perpetuar e amplificar o racismo, como por meio de bases de dados enviesadas e modelos de crédito automatizado, que associam território, raça e pobreza a “risco financeiro”; sistemas de recrutamento, que excluem perfis que fogem do padrão hegemônico (homem branco e de classe média); e ranqueamentos e recomendações, que priorizam conteúdos que geram engajamento, incluindo o racista e o misógino.

A pesquisa é tema de reportagem da Agência UFC, que exemplifica esses mecanismos, apresenta as dificuldades de se contestar o racismo praticado por algoritmos e aponta ações necessárias para modificar essa realidade.

Fonte: Júlio Araújo, professor do Departamento de Letras Vernáculas da UFC - e-mail: Este endereço de email está sendo protegido de spambots. Você precisa do JavaScript ativado para vê-lo.