Racismo algorítmico em iinteligências artificiais: o enviesamento tecnológico a serviço da discriminação

Abstract

O presente trabalho investiga a presença do racismo algorítmico nas inteligências artificiais e seu papel a serviço da discriminação. Tem como objetivo geral investigar como o racismo algorítmico se manifesta nas inteligências artificiais contribuindo para a perpetuação da discriminação racial e como objetivos específicos identificar como o racismo algorítmico tem se apresentado nas inteligências artificiais; verificar as maneiras pelas quais as tecnologias podem reproduzir o racismo e investigar como as falha éticas em algoritmos de Inteligência Artificial, especialmente relacionadas ao racismo algorítmico, estão sendo tratadas por legislações nacionais.. A metodologia escolhida foi uma pesquisa de cunho bibliográfico, com abordagem qualitativa, utilizando como banco de dados os periódicos Biblioteca Digital de Teses e Dissertações (BDTD); Google Acadêmico; Portal de Periódicos da CAPES e Scielo Brasil, onde levantou-se artigos, dissertações e teses. Os resultados demonstram que o racismo algorítmico ocorre de forma sistematizada, sendo impulsionado por vieses discriminatórios presentes nos dados. Isso impacta negativamente em áreas como reconhecimento facial, onde algoritmos reforçam preconceitos históricos e marginalizam minorias. Destaca-se a importância de princípios éticos nas inteligências artificiais e a necessidade de legislações robustas para combater essas práticas discriminatórias, promovendo equidade e justiça social.