Sesc SP

Racismo algorítmico: inteligência artificial e discriminação nas redes digitais, de Tarcízio Silva, traz à tona o fenômeno do racismo em tecnologias como mídias sociais, buscadores, visão computacional e reconhecimento facial

“O que acontece quando as máquinas e programas apresentam resultados discriminatórios? Seriam os algoritmos racistas? Ou trata-se apenas de erros inevitáveis? De quem é a responsabilidade entre humanos e máquinas? E o que podemos fazer para combater os impactos tóxicos e racistas de tecnologias que automatizam o preconceito?”. Essas são algumas questões levantadas pelo pesquisador e mestre em Comunicação Tarcízio Silva no livro Racismo algorítmico: Inteligência artificial e discriminação nas redes digitais, lançado primeiro em formato digital e agora em versão impressa, acrescido de um posfácio do autor, pelas Edições Sesc. 

Quando algoritmos recebem o poder de decidir – a partir dos critérios de seus criadores – o que é belo, o que é tóxico ou o que é mérito, os potenciais discriminatórios se multiplicam. A obra de Silva lança luz sobre a incorporação de hierarquias raciais nas tecnologias digitais, apoiada em autores de referência e exemplos práticos, como Hasan Chowdhury, Laura Guimarães Corrêa, Lisa Nakamura, Luiz Valério, Raquel Recuero e Timnit Gebrum. 

O volume faz parte da coleção Democracia Digital, organizada pelo sociólogo e pesquisador do campo da cultura digital Sergio Amadeu da Silveira e lançada no formato ebook pelas Edições Sesc. A coleção reúne livros em que especialistas abordam diferentes perspectivas do tema, como propriedade intelectual, cultura hacker e o uso de algoritmos. São eles: A democracia no mundo digital: história, problemas e temas, de Wilson Gomes; Para além das máquinas de adorável graça: cultura hacker, cibernética e democracia, de Rafael Evangelista; O comum entre nós: da cultura digital à democracia do século XXI, de Rodrigo Savazoni; Acesso negado: propriedade intelectual e democracia na era digital, de Maria Caramez Carlotto; e Democracia e os códigos invisíveis: como os algoritmos estão modulando comportamentos e escolhas políticas, do próprio Amadeu da Silveira - que nesta obra escreve um dos prefácios ao lado de Danilo Santos de Miranda (1943 - 2023).

No prefácio do livro, Amadeu da Silveira relata que a inteligência artificial pode alimentar sistemas que reproduzem o preconceito e executam a discriminação. “Fica evidente que raça, gênero e classe não desapareceram dos embates nas redes digitais e no emaranhado das tecnologias de informação [...] O que Tarcízio Silva nos mostra é que a população negra e os segmentos pauperizados e fragilizados da sociedade são muito mais afetados pelas operações discriminatórias dos sistemas algorítmicos que atuam nesse contexto”, afirma.

Discursos racistas na web e nas mídias sociais 

Ao longo das 268 páginas, o pesquisador busca observar o racismo algorítmico, que se tornou um conceito relevante para entender como a implementação acelerada de tecnologias digitais emergentes, que priorizam ideais de lucro e de escala, impactam negativamente minorias raciais em torno do mundo.

Em seis capítulos, Silva investiga de forma interdisciplinar o fenômeno do racismo algorítmico em tecnologias como mídias sociais, buscadores, visão computacional e reconhecimento facial. O livro gera debates acerca de diversos temas importantes como as concepções da inteligência artificial, robôs racistas, vigilância, hipervigilância e necropolítica.

Segundo Silva, a obra busca colaborar com o crescente corpo de investigações intelectuais sobre como o colonialismo e a supremacia branca moldaram os últimos séculos – inclusive na definição dos limites imaginativos e produtivos do fazer tecnológico.

“Revisamos noções sobre o racismo online, em especial suas facetas particularmente presentes no Brasil. Indo além da noção do racismo online como materialização explícita de discurso de ódio em texto e imagens, percorremos modalidades que abarcam também desinformação, gestão das plataformas de mídias sociais e moderação e apresentamos a ideia de 'microagressões algorítmicas', diz o professor.

Circulando entre hipervisibilidade e invisibilidade de grupos racializados, o livro também traz para o debate as tecnologias de visão computacional. “Entre imagens e vídeos, os erros explícitos da inteligência artificial e algoritmos que só conseguem ‘ver’ pessoas e objetos através das lentes da branquitude nos dizem e mostram muito sobre a algoritmização das representações historicamente racistas nas culturas ocidentais”, explica.

Trecho do livro