A cada dia que passa, adultos, jovens, crianças e idosos estão mais imersos nas inovações tecnológicas. No entanto, alguns pesquisadores estão preocupados com a maneira como os algoritmos e a inteligência artificial podem contribuir para problemas sociais já existentes em nossa sociedade, como o racismo.
Uma das manifestações mais preocupantes dessa tendência é o chamado “racismo algorítmico”, que tem contribuído significativamente para a segregação da população negra em diversas esferas da sociedade.
Nos últimos anos, a utilização das novas tecnologias pela população tem duplicado.
O Que é Racismo Algorítmico?
O racismo algorítmico se refere à prática de algoritmos e sistemas de inteligência artificial reproduzirem vieses discriminatórios, ocasionando em consequências prejudiciais para grupos racialmente minoritários. Isso acontece quando os algoritmos são treinados com conjuntos de dados que refletem preconceitos e desigualdades existentes na sociedade.
O Pesquisador sênior de Políticas de Tecnologia, Fundação Mozilla, autor do livro Racismo Algorítmico: mídia, inteligência artificial e discriminação nas redes digitais (2022). Conceitua o racismo algorítmico como “Um modo pelo qual as tecnologias digitais podem incorporar dinâmicas de opressão e discriminação. Em um mundo moldado pela supremacia branca de um modo que pode não só aprofundar ou até apresentar novos tipos de discriminação.”
Como o racismo algorítmico afeta a população negra
Apesar de ser um racismo presente apenas no mundo digital, o racismo algorítmico contribui ativamente para inúmeras ações que servem para aumentar a segregação da população negra. Dentre todas as consequências, iremos citar apenas quatro:
Reforço de preconceitos
Um dos exemplos mais alarmantes de racismo algorítmico é o uso de algoritmos para prever atividades criminosas, o que frequentemente resulta na representação de comunidades negras como alvos de policiamento. Os dados históricos utilizados para treinar esses algoritmos refletem o viés racial dos sistemas de justiça criminal, levando a um ciclo de criminalização e vigilância desproporcional da população negra.
Para evidenciar essa premissa, podemos verificar os dados da população carcerária do Brasil, segundo a Rádio Brasil mais de 68% do total de pessoas presas são negras, o que representa mais de 442 mil pessoas.
Decisões de Emprego e Crédito
Algoritmos também são cada vez mais utilizados em processos de seleção de emprego e concessão de crédito. Estudos têm demonstrado que esses algoritmos podem reproduzir preconceitos ao favorecer candidatos brancos em detrimento de candidatos negros, perpetuando assim disparidades socioeconômicas e contribuindo para a segregação ocupacional e financeira.
Assistência Médica e Educação
Algoritmos também são empregados em sistemas de saúde e educação, onde podem influenciar a alocação de recursos e oportunidades. No entanto, quando não são devidamente regulados, esses algoritmos podem resultar em disparidades no acesso a serviços essenciais, prejudicando especialmente comunidades negras que já enfrentam barreiras estruturais significativas.
Invisibilidade no universo digital
Os algoritmos são responsáveis por mediar o conteúdo presente na internet, por esse motivo, ele é responsável por filtrar os conteúdos para os usuários com base no comportamento dos indivíduos. No entanto, esse tipo de desempenho se torna um problema quando sua função exacerbam a invisibilidade de produtores de conteúdos negros dentro das redes sociais que perdem a visibilidade de seus perfis. Caso queira se aprofundar no assunto, visite a grande reportagem multimidia criada para minha pesquisa do Trabalho de Conclusão do Curso de Jornalismo (TCC) sobre Racismo Algorítmico, influencers negros e a inivisibilidade no universo digital.
Como podemos enfrentar o Racismo Algorítmico?
Para enfrentar o racismo algorítmico, precisamos juntar inúmeras ações como: regulamentação, transparência e diversificação dos profissionais de tecnologia. Pois, é essencial que os desenvolvedores de algoritmos sejam conscientizados sobre os impactos sociais de seus produtos e adotem práticas de desenvolvimento ético que levem em consideração a equidade racial. Além disso, políticas públicas e legislações devem ser implementadas para garantir a igualdade e a transparência no uso de algoritmos em todos os setores da sociedade
