Racismo algorítmico é um conceito desenvolvido pelo pesquisador Tarcízio Silva. No estudo, ele trata com profundidade a estrutura do sistema, reconhecendo que o problema não está necessariamente ligado aos algoritmos em si, mas, na formação colonialista de quem cria estes algoritmos.
Para Nin La Croix, tecnologista nas áreas de criação, pesquisa e inovação, a inteligência artificial é uma ferramenta que reflete os valores de quem as cria. “São recursos utilizados para apoiar e potencializar os interesses de quem está no poder de desenvolve-las e isso pode trazer benefícios para um grupo e malefícios para outros, principalmente quando esse monopólio estar nas mãos de pessoas com os mesmos valores, brancos, patriarcais, cis, heteronormativos de alto poder aquisitivo e que defende uma lógica de exploração do outro”, afirma Nin.
Em 2019, o assunto foi pautado após denúncias de racismo algoritmo envolvendo resultados de pesquisas feitas no buscador Google. Na época, ao digitar o termo “tranças feias” o usuário era direcionado à imagens de tranças em cabelos crespos e cacheados, já ao buscar por “tranças bonitas”, o buscador mostrava tranças em cabelos lisos de pessoas brancas.
Outro caso mais recente foi denunciado pela Deputada Federal Renata Souza ao participar da trend que transforma fotografias em ilustrações estilo Disney. Em suas redes sociais a deputada informou que ao dar comandos como, “uma mulher negra, de cabelos afro, com roupas de estampa africana num cenário de favela”, o aplicativo gerou a imagem de uma mulher negra em uma favela, mas com uma arma na mão.
Desenvolvendo tecnologia de quebrada
No Recife e Região Metropolitana, várias iniciativas são desenvolvidas coletivamente para resgatar valores ancestrais, democratizar o acesso às tecnologias e promover a diversidade no meio tecnológico, sobretudo em um ambiente em que a inteligência artificial está cada vez mais presente.
É o caso do trabalho realizado pelo Laboratório de Tecnologia para Promoção da Identidade Negra, Indígena e de Periferia, o LABCoco, em Olinda. O projeto é idealizado pela ialorixá, musicista, mestra coquista, comunicadora popular e Patrimônio Vivo de Pernambuco, Mãe Beth de Oxum.
Desde 2015, o LABCoco qualifica jovens para atuar profissionalmente em diversas áreas do conhecimento tecnológico, como roteiro, game design, design gráfico, sound design e programação. Para Nin La Croix, que atua na criação, pesquisa e inovação do projeto, a atuação visa, primeiramente, o resgate das tecnologias ancestrais, combatendo uma estratégia de apagamento.
“Nós atuamos desenvolvendo ações, metodologias, formações, articulações políticas para fortalecer o pertencimento e identidade de um lugar, da população negra, indígena, de matriz africana, periférica, de diferentes gêneros e sexualidades dentro da tecnologia, com pensamento crítico, protagonizando valores que não são encontrados dentro da estrutura hegemônica”, explica.
O jovem indígena Kaburé Kaete, morador do bairro de Santo Amaro, periferia na zona norte do Recife, começou no LABCoco como professor do módulo de empreendedorismo e logo passou a integrar a equipe de tecnologia, desenvolvendo jogos e criando através da inteligência artificial.
Ele se interessa por tecnologia desde criança. “Não sei exatamente quando, mas sei como: através da leitura de histórias de ficção científica”, afirma Kaburé. Para ele, tecnologia é tudo aquilo que auxilia no desenvolvimento de um povo. “Aprendi muito sobre isso com a minha família e no terreiro”.
Na adolescência, Kaburé estagiou desenvolvendo tecnologia associada ao marketing. Hoje, aos 28 anos, é artista, empreendedor, programador, copywriter e game design. No LABCoco integra a equipe que vem estudando o uso crítico e responsável das inteligências artificiais, inclusive para utilização no novo projeto chamado Tecnologia de Quebrada, lançado no início de novembro, em parceria com o Consulado Britânico.
Oportunidade surge através da necessidade
Recentemente, em uma visita virtual à comissão do TECH HUB, do Reino Unido, a equipe do LABCoco pôde apresentar o primeiro resultado desses estudos. O avatar de Mãe Beth conduziu em língua inglesa uma apresentação.
A inteligência artificial realizou a direção, montagem, texto e voz clonada, mas a animação e dublagem é de Nin La Croix. A imagem do avatar, também gerada por inteligência artificial, foi desenvolvida por Kaburé Kaete.
Ele conta que “nós tínhamos a necessidade de ter o domínio de uma ferramenta que estava nas mãos apenas do colonizador. O processo de desenvolvimento começa através de criar o avatar de uma figura marcante, que é Mãe Beth”.
Preconceito e exclusão tecnológicas
Pesquisa realizada no ano passado sobre diversidade e mercado tecnológico pela PretaLab constatou que 33% das empresas do setor de tecnologia não têm uma pessoa negra. Nos outros 67%, não chega a 10% dessa população. Estes dados não surpreendem o artista visual pernambucano Anderson Oliveira, que também é cofundador do Science Studio.
A iniciativa realiza experimentação de novas tecnologias na produção artística, focando na pesquisa da representatividade de estéticas locais em contextos virtuais globais e nas influências geográficas e antropológicas na Web3.
Recentemente, durante o Festival Recplay Recife, em um debate sobre os limites do acesso à tecnologia no Brasil, Anderson Oliveira defendeu que “a inteligência artificial, como nos foi apresentada e está posta, continua servindo como instrumento colonialista e as problemáticas causadas por ela são reflexos potencializados”.
Reflexos do quê? “De quem está no topo e por trás da criação e desenvolvimento dessas tecnologias. De quem não está preocupado com inclusão e diversidade, mas interessado na manutenção de privilégios e poder”, alerta o artista.
Assista a reportagem abaixo para entender mais sobre o assunto.