Usuários e pesquisadores escancaram a perpetuação do racismo nos algoritmos das principais redes sociais
O racismo algorítmico é um dispositivo inserido nas redes sociais que prioriza o compartilhamento de imagens de pessoas brancas no lugar de pessoas negras, e limita o engajamento desses usuários baseado na cor da pele, segundo definição apresentada pelo professor, doutor em Sociologia e pesquisador Luiz Carlos Pinto. Segundo o educador, “esses serviços são opacos, e o entendimento sobre o funcionamento dos algoritmos é confuso na hora de identificar os critérios desses códigos, afinal, são segredos corporativos”. Os riscos são claros: redução da pluralidade de pessoas e ideias. Esse tipo de filtro que o algoritmo “introduz aos usuários carrega um prejuízo de ordem política e pode naturalizar a violência contra as pessoas negras, por exemplo”, afirma o professor. Além disso, ele torna a convivência na internet uma terra composta por bolhas sociais, algumas políticas, outras identitárias e muitas estéticas.
“Isso acontece porque existe um imaginário que condiciona os outros [usuários] a verem pessoas negras como ‘coisas’ de menor poder, menor alcance”
critica o professor Luiz Carlos ao refletir sobre a presença massiva de funcionário brancos nas equipes responsáveis pelas linhas de código das principais redes sociais, julgadas recentemente por pesquisadores e constatações bizarras de usuários, como racistas em seus algoritmos. O que acontece nessas plataformas é que o algoritmo – responsável por grande parte do funcionamento de uma rede social – automatizou o ranço estrutural do racismo nas sociedades modernas. Neste cenário, o Brasil não fica de fora.
Entre os exemplos mais comuns estão o reconhecimento facial de negros em filtros do instagram para primatas, a redução do engajamento de pessoas não-brancas nas redes sociais, e especificamente no caso do Twitter, a ocultação dos rostos negros nas miniaturas das imagens compartilhadas no feed. O professor Luiz Carlos é pesquisador na área da tecnologia, racismo e comunicação. Ele explica que usuários não-brancos que utilizam as redes sociais para trabalhar, seja no marketing digital, vendas ou como influenciadores, também são prejudicados, e têm seus números inferiores ao que um usuário branco teria nas mesmas condições. Luiz detalha que esses algoritmos funcionam por aprendizado de máquina. Ou seja, padrões determinados por um programador ou engenheiro, localizam o que gera ou não resultado nas redes sociais. Dessa forma a imagem negra é substituída automaticamente pela imagem branca, ou simplesmente invisibilizada.
(arraste para o lado)
A representatividade nas big techs
Um levantamento feito pela revista Exame com base em dados divulgados pelas principais empresas de tecnologia do mundo -Facebook (agora, Meta), Twitter, Google, Apple e Microsoft- mostrou que apenas 23% dos funcionários são negros. O estudo foi feito em comparação ao ano de 2020. Os números assustam mais ainda quando comparados às outras etnias. Apenas 1% dos funcionários são indígenas, juntando todas essas empresas. No caso do Facebook, o volume de colaboradores é tão grande que os indígenas mostram menos de 1% na pesquisa. Outro dado que espanta é a presença e latinos. Por mais que essas big techs estejam baseadas em países com população hispânica/latina expressiva, a que possui a maior quantidade é a Apple, com 11%, seis pontos percentuais a mais que os segundos lugares, a Microsoft e o Google.
A única etnia que dispara nos gráficos e fica logo atrás dos funcionários brancos, são os asiáticos, que tradicionalmente exportam mão de obra para diversos lugares do mundo, sobretudo no mercado da tecnologia. É a chamada “fuga de cérebros”.
#AlgoritmoRacista
No ano passado, o tema do racismo algorítmico ganhou os trending topics mundiais do Twitter. Os usuários descobriram um comportamento racista da plataforma, quando a foto de uma pessoa negra era postada no feed da rede. O Twitter ocultava o rosto negro e dava preferencia a pessoa branca na imagem para estampar a miniatura da postagem, quando mais de uma foto era publicada. A descoberta revoltou os usuários da plataforma dando origem a hashtag #AlgoritmoRacista, usada pelos usuários nas postagens que testavam o funcionamento da plataforma.
Uma das publicações mais famosas foi a dos posters do seriado da Disney, Falcão e o Soldado Invernal. Na publicação é possível ver que o cartaz de um dos protagonistas da série -e que dá nome à produção-, o Falcão, interpretado por um ator negro, tem o rosto do personagem ocultado, enquanto os demais atores brancos não passam pela mesma situação. Na época, o Twitter chegou até a dizer que não existia nada tendencioso no comportamento do algoritmo e só meses depois corrigiu o problema.
Escolhendo a pílula vermelha
No primeiro filme da trilogia Matrix (1999) o personagem principal, Neo, precisa escolher entre duas pílulas. A azul deixa ele no mundo dominado pela matrix, dentro da ilusão que ele sempre viveu. Já a vermelha mostra a verdade, o que está de fato situado no mundo real. O algoritmo pode funcionar com uma pílula azul. Coloca o usuário em uma bolha de interesses próprios de uma espécie de ecossistema alimentado pela ignorância materializada no feed das suas redes. Claro, os algoritmos não são só vilões. Eles personalizam a nossa experiência com as redes e afinam nossa passagem diária pela internet, tornando-a prática e inteligente. A questão é o algoritmo com um segregador programado para ler a cor do usuário e ditar a forma que seu conteúdo atravessa a plataforma. Nesse caso, “uma pílula vermelha, por favor”.
“Assim como o mercado financeiro é regulado pelo poder público, os algoritmos também podem”, sugere o professor Luiz, como uma saída para o cenário. A palavra utilizada foi “regularizar”. Mas o pesquisador valoriza as pesquisas acadêmicas como uma alternativa “vigilante” ao processo de funcionamento das redes. A intenção, como ele descreve, é produzir conhecimento e cada vez mais elucidar o usuário da realidade por trás de onde navegamos.
A blogueira de moda e maquiagem Bia Veloso conta que é prejudicada pelo algoritmo e não se enxerga no conteúdo das redes
Beatriz Veloso, de 20 anos, é um menina preta e LGBT+, estudante de psicologia e trabalha com redes sociais há cinco anos.
Deslize as imagens para ler a conversa.
