Leia o trecho de uma entrevista concedida por Tarcízio Silva, autor do livro Racismo Algorítmico: mídia, inteligência artificial e discriminação nas redes digitais.
Quais os impactos do racismo algorítmico, principalmente em relação a minorias raciais no Brasil e no mundo?
— As tecnologias digitais possuem dualidades que podem pender para a opressão em sociedades marcadas pelas desigualdades. Manifestações mais individualizadas do racismo algorítmico podem acontecer em quase todas as esferas da vida e são cada vez mais mediadas por tecnologias digitais como plataformas, aplicativos e sistemas de classificação e ranqueamento. Assim, a mediação algorítmica de decisões em áreas como serviços públicos, liberdade de expressão, trabalho, remuneração, segurança e até acesso à saúde pode aumentar as disparidades já conhecidas socialmente.
Seria o racismo algorítmico apenas uma consequência do racismo estrutural?
— O racismo algorítmico é uma espécie de atualização do racismo estrutural. Nesse contexto, o desenvolvimento de tecnologias algorítmicas se alimenta do histórico social para oferecer uma pretensa inteligência artificial, ou seja, que, na verdade, é comprometida com o patriarcado e o colonialismo. Essa desinteligência artificial atualiza opressões como o racismo estrutural.
(Daiane Batista. “Tarcízio Silva: ‘O racismo algorítmico é uma espécie de atualização do racismo estrutural’”. https://cee.fiocruz.br, 30.03.2023. Adaptado.)
Com base nas respostas de Tarcízio Silva, compreender o racismo algorítmico como uma forma atualizada de racismo estrutural implica reconhecer que
a falta de domínio técnico sobre algoritmos justifica efeitos desiguais.
os dados imparciais podem corrigir desigualdades históricas.
os vieses algorítmicos são falhas técnicas facilmente ajustáveis.
o avanço tecnológico auxilia na superação dos conflitos sociais.
as estruturas de dominação são preservadas sob aparência neutra.
Resolução
O racismo estrutural não se limita a atitudes preconceituosas de indivíduos: ele está presente no funcionamento das instituições e nas relações sociais, reproduzindo desigualdades raciais. Por isso, pode continuar existindo mesmo quando uma decisão não é apresentada como explicitamente racista.
Ao afirmar que as tecnologias algorítmicas “se alimentam do histórico social”, Tarcízio Silva indica que elas utilizam informações de uma sociedade já marcada por desigualdades. Assim, sistemas usados para classificar pessoas e orientar decisões podem incorporar e reproduzir essas desigualdades, em vez de eliminá-las. É nesse sentido que o racismo algorítmico atualiza o racismo estrutural: formas históricas de discriminação passam a operar também por meios digitais.
A aparência de neutralidade vem do fato de essas decisões serem apresentadas como resultados técnicos de uma inteligência artificial, supostamente imparcial. Entretanto, segundo o entrevistado, elas podem manter relações de poder ligadas ao patriarcado e ao colonialismo, ampliando desigualdades no trabalho, na segurança e no acesso à saúde. Portanto, está correta a afirmação de que “as estruturas de dominação são preservadas sob aparência neutra”.