NEUTRALIDADE ALGORÍTMICA: QUESTÕES DE GÊNERO E TECNOLOGIAS DIGITAIS

NEUTRALIDADE ALGORÍTMICA: QUESTÕES DE GÊNERO E TECNOLOGIAS DIGITAIS INTRODUÇÃO Atualmente, o uso das Tecnologias Digitais (TD) permeia muitos aspectos da vida em sociedade, perpassando as interações cotidianas de toda ordem. Os algoritmos desempenham um papel fundamental, ao direcionar buscas e sugerir conteúdos, por exemplo. É perceptível que as buscas que realizamos na internet geram cada vez mais informações relacionadas àquela determinada pesquisa. É papel dos algoritmos alimentarem os usuários, tendo em vista que eles são programados para detectar padrões, sobretudo de consumo. Mas será que atingem apenas a questão do marketing ou há discriminação de gênero por meio deles? A problemática pode ser exemplificada pela presença do viés de gênero em plataformas de recrutamento e seleção de pessoal. Em 2018, foi amplamente divulgada a ferramenta desenvolvida pela Amazon (empresa multinacional norte-americana de tecnologia) que, ao analisar currículos, favorecia candidatos homens, dado que o sistema foi programado/treinado com dados de predominância masculina no setor de tecnologia (Dastin, 2018). Examinar as questões de gênero e suas implicações nas escolhas de carreira por parte dos jovens é objeto das investigações às quais este trabalho se vincula, buscando compreender em que medida os estereótipos de gênero influenciam essas escolhas profissionais. Considerando a Cultura Digital (CD), o presente estudo se propõe a analisar como o viés algorítmico, no escopo das TD, pode refletir e perpetuar estereótipos de gênero, evidenciando as formas pelas quais ele contribui para a manutenção de desigualdades estruturais na sociedade, o que possivelmente causará efeitos na percepção das juventudes, como sobre quais ofícios supostamente seriam para mulheres ou para homens. ALGORITMOS, NEUTRALIDADE E GÊNERO Gere (2008) afirma que a CD caracteriza o tempo presente, mas que, potencialmente, o termo corre o risco de se tornar lógico e naturalizado, perdendo seu potencial crítico. Esse risco emerge da integração acentuada das TD em nossa rotina, tornando-as tão onipresentes e invisíveis que deixam de ser percebidas como elementos distintos ou como aspectos a serem marcados na caracterização. Uma espécie de naturalização também ocorre com a programação dos algoritmos utilizados pelas diversas inteligências artificiais. Assim, “os algoritmos são alimentados com dados, com o intuito de ensinar a máquina a executar certa ação de maneira automática” (Rodrigues; Chai, 2023, p.95). É possível citar os algoritmos de Machine Learning, usados na identificação de spams: são fornecidos e-mails rotulados como spams e, a partir disso, o software anti-spam identifica padrões para classificar se um e-mail é ou não spam (Rodrigues; Chai, 2023). Com um recorte para a questão racial, Rodrigues e Chai (2023, p.97) abordam o caso do experimento ocorrido no Twitter, no ano de 2020, demonstrando que o algoritmo da rede privilegiava a exibição de fotos de pessoas brancas mesmo que houvesse, nas publicações da rede, “maior quantidade de fotos de pessoas negras, a imagem em destaque era sempre a da pessoa branca”. Trata-se de algo a ser destacado quanto aos rumos da navegação das pessoas em meio à CD. Diante do exposto, é possível evidenciar que os artefatos tecnológicos “não são neutros, ou seja, eles incorporam características da cultura ou do pensamento de quem os projetou e, desta forma, reforçam padrões sociais” (Cafezeiro; Fornazin, 2020, p. 70). Nesse cenário, os algoritmos atuam como mediadores invisíveis nas interações digitais, direcionando os usuários sobre o que acessar, consumir e até mesmo influenciando como se conectam socialmente. Considerando tais implicações, Schuler e Montardo (2018), ao explorarem o conceito de Algoritmos de Relevância Pública (ARP), enfatizam a importância de compreender o papel desses sistemas na CD, especialmente devido à influência nas opiniões das pessoas e nas dinâmicas sociais. Os mesmos autores destacam que, embora os ARP sejam projetados para otimizar o acesso à informação, eles podem incorporar vieses que distorcem conteúdos, reforçando preconceitos e estigmas já existentes na sociedade. Schuler e Montardo (2018, p. 308) destacam, então, que “é imprescindível que os procedimentos seletivos desses agentes, que estão invisíveis e, na maioria, inacessíveis para os usuários das plataformas em geral, sejam questionados”, evidenciando a urgência de uma análise crítica sobre os mecanismos de filtragem e priorização de informações. Essa crítica se torna mais aguda com a evidência de que esses sistemas perpetuam desigualdades estruturais, como o viés de gênero. Ao caracterizar a Ciência, nota-se haver uma noção discriminatória de que ela seja “masculina”. Talvez o que seja muito mais complexo, seja “explicar–ou pelo menos aceitar–o porquê dessa situação” (Chassot, 2013, p. 12). Em um cenário nos quais as TD permeiam muitos aspectos da vida cotidiana, discutir gênero e tecnologia se torna essencial. Historicamente, o campo científico e tecnológico tem sido majoritariamente dominado por homens, o que contribuiu para ambientes de desenvolvimento marcados por vieses implícitos e explícitos, com efeitos diretos na representatividade feminina e perpetuação de estereótipos. Schuler e Montardo (2020) evidenciam que os ARP podem reproduzir preconceitos relacionados a gênero e raça, criando “espécies de públicos calculados com base em critérios ocultos, mesmo quando programados com parâmetros considerados neutros”. Ademais, Schuler e Montardo (2020, p. 306) destacam o estudo de Buolamwini e Gebru (2018), que revelou que os algoritmos de reconhecimento facial da Amazon “apresentaram mais de 30% de erro ao classificar o gênero de mulheres negras”, expondo como se perpetuam desigualdades e reforçam estigmas, especialmente em contextos de segurança pública. No entanto, a responsabilidade por esses vieses não recai exclusivamente sobre as TD. Schuler e Montardo (2020, p. 308), ressaltam que “não é correto afirmar que a tecnologia é a responsável pela condução de todo esse discurso, mas sim a ação humana na criação desses agentes, - os algoritmos - e nos dados os quais são interpretados através deles”, torna-se relevante estabelecer regulamentações que responsabilizem as plataformas digitais pelas ações de seus algoritmos e tornem suas lógicas mais acessíveis ao público que consome os dados gerados por meio de suas escolhas. Nessa perspectiva, Rossetti e Angeluci (2021) chamam a atenção para o impacto da opacidade algorítmica na integridade dos sistemas de IA destacando que a falta de transparência compromete a equidade e amplia o risco de perpetuar vieses e desigualdades, muitas vezes invisível aos usuários, o que pode influenciar decisões críticas, resultando em práticas discriminatórias. Sena (2023) considera o preconceito persistente na IA um problema ético e social. Os impactos do viés algorítmico são evidenciados quando analisamos casos concretos que ilustram como a tecnologia, longe de ser neutra, pode reproduzir e intensificar desigualdades. Um exemplo emblemático é o caso do Apple Card, em que o algoritmo estabelecia limites de crédito mais baixos para mulheres, mesmo quando apresentavam condições financeiras equivalentes às dos homens, evidenciando um viés de gênero claro e alarmante (Sena, 2023). Sob a mesma perspectiva analítica, Wu (2024), em publicação recente na CNN Brasil, provoca uma reflexão pertinente ao questionar: “A Inteligência Artificial (IA) é machista?”. Em sua análise, a autora revisita o caso da Tay, chatbot desenvolvido pela Microsoft e lançado no Twitter (atual X), que, em poucas horas, passou a replicar discursos racistas, misóginos e transfóbicos. A rápida assimilação e amplificação desses conteúdos evidenciaram como os sistemas de IA reproduzem preconceitos estruturalmente presentes nos ambientes digitais em que são treinados. Pensar em uma IA ética implica não apenas reconhecer seu caráter socialmente construído, mas também refletir sobre as relações de poder, as disputas políticas e os interesses econômicos (Wu, 2024). Nessa perspectiva, mesmo com os avanços proporcionados pela IA em áreas como saúde, educação e justiça, as falhas éticas identificadas fragilizam a confiança pública e evidenciam a necessidade de mecanismos de regulação e fiscalização que garantam que “estejam presentes os princípios da segurança, transparência, dignidade da pessoa humana, não discriminação, liberdade de escolha, proteção da privacidade e responsabilidade”, prevenindo que decisões automatizadas violem direitos fundamentais (Rossetti; Angeluci, 2021, p. 15). Logo, a ética algorítmica, nesse contexto, não deve ser tratada como um elemento externo ou secundário, mas como parte intrínseca do desenvolvimento tecnológico. Para mitigar os riscos de discriminação e desigualdade, é imprescindível que princípios éticos orientem todas as etapas do ciclo de vida dos sistemas algorítmicos, promovendo uma governança robusta que assegure segurança, justiça e respeito à dignidade humana (Rossetti; Angeluci, 2021). A customização dos sistemas algorítmicos, então, está acompanhada de dilemas éticos, e a linha entre divulgação e manipulação é desafiada no processo de direcionamento das experiências dos usuários. Por outro lado, Castells (2013) aborda possibilidades de formação de grupos de resistência em rede, devido ao certo poder midiático nas mãos dos cidadãos. É fundamental que essas questões sejam mais discutidas no campo educacional, pois as juventudes podem estar muito suscetíveis às mensagens, linguagem, titulagem, padrões e preconceitos por meio do direcionamento dos sistemas algorítmicos. Por isso, parece importante como nunca que a Educação, como Ciência, aproprie-se dos estudos de como operam tais sistemas, como modo de defesa de uma abordagem crítica e reflexiva nos ambientes e currículos escolares. CONSIDERAÇÕES FINAIS Os algoritmos, cujo objetivo é otimizar processos e simplificar tarefas cotidianas, não operam de forma neutra. Alimentados por vastos conjuntos de dados, que refletem a realidade social, eles carregam consigo preconceitos e desigualdades existentes. De maneira, muitas vezes, imperceptível, os algoritmos absorvem e reproduzem os valores e vieses presentes nos dados e nas decisões de seus desenvolvedores, perpetuando desigualdades estruturais. Apesar das possibilidades de articulação oferecidas pelas redes de conexão na CD, não é possível desprezar que a questão se torna crítica ao observarmos os efeitos dos sistemas algorítmicos nas relações de gênero, evidenciando como esses sistemas podem reforçar estereótipos e ampliar disparidades, afetando diretamente a visibilidade, as oportunidades e o reconhecimento de mulheres e outros grupos discriminados. A CD é marcada pela forte presença das TD e revela um cenário preocupante, em que as decisões automatizadas de programação/treinamento dos algoritmos podem afetar diretamente as oportunidades, representações sociais e direitos fundamentais. Exemplos práticos, como o Apple Card e o sistema de RH da Amazon, revelam como esses vieses impactam diretamente a vida das mulheres. O que vai reverberar no público jovem, de modo geral, participativo on-line. Parece urgente que a ética algorítmica seja tratada como algo central e que seja mais debatida no campo educacional, como modo de formar juventudes críticas e que sejam capazes de refletir sobre a potência e os limites das TD. Não apenas a programação dos algoritmos, mas demais aspectos relativos ao universo em rede (on-line) devem ser problematizados, discutidos, isto é, tudo o que possa reforçar preconceitos e estereótipos. Consideramos isso como central para garantir justiça e equidade nos ambientes digitais. O combate aos vieses discriminatórios não é apenas uma responsabilidade técnica, mas também social e política, essencial para a construção de TD mais ética, e, consequentemente, uma sociedade mais humana e justa. REFERÊNCIAS BUOLAMWINI, Joy Adowaa; GEBRU, Timnit. Gender shades: intersectional accuracy disparities in commercial gender classification. In: Conference on Fairness, Accountability and Transparency (FAT), Nova York. Anais […]. Proceedings of Machine Learning Research, v. 81, p. 77-91. PMLR, 2018. Disponível em: https://proceedings.mlr.press/v81/buolamwini18a.html. Acesso em: 2 mar. 2025. CAFEZEIRO, Isabel Leite; FORNAZIN, Marcelo. Computação e interdisciplinaridade: estágio atual e possibilidades de diálogo. In: MACIEL, Cristino; VITERBO, José (Org.). Computação e Sociedade. 1ª Ed. Cuiabá-MT: EdUFMT Digital, 2020. p. 67-103. Disponível em: https://rafaelescalfoni.github.io/disciplinas/fund_si/livros/computacao…. Acesso em: 2 mar. 2025. CASTELLS, Manuel. Redes de indignação e esperança. São Paulo: Zahar Editores, 2013. CHASSOT, Attico. A Ciência é masculina? É, sim senhora! Revista Contexto & Educação, v. 19, n. 71-72, p. 9-28, 2013. Disponível em: https://www.revistas.unijui.edu.br/index.php/contextoeducacao/article/v…. Acesso em: 05 mar. 2025. GERE, Charlie. Digital Culture. 2. ed. Londres: Reaktion Book, 2008. DASTIN, Jeffrey. Amazon scraps secret AI recruiting tool that showed bias against women. Reuters, 2018. Disponível em: https://www.reuters.com/article/us-amazon-com-jobs-automation-insight-i…. Acesso em: 05 mar. 2025. WU, Rita. Dia Internacional da Mulher: a Inteligência Artificial (IA) é machista?. CNN Brasil, São Paulo, 06 mar. 2024. Disponível em: https://www.cnnbrasil.com.br/blogs/rita-wu/tecnologia/dia-internacional…. Acesso em: 28 fev. 2025. RODRIGUES, Júlia Carvalho; CHAI, Cássius Guimarães. Inteligência Artificial e racismo algorítmico: análise da neutralidade dos algoritmos frente aos episódios de violação de direitos nos meios digitais. Revista Eletrônica do TRT-PR, Curitiba: TRT-9ª Região, v. 12 n.118, mar. 2023. ROSSETTI, Regina; ANGELUCI, Alan. Ética Algorítmica: questões e desafios éticos do avanço tecnológico da sociedade da informação. Galáxia (São Paulo), n. 46, p. e50301, 2021. Disponível em: https://www.scielo.br/j/gal/a/R9F45HyqFZMpQp9BGTfZnyr/?lang=pt. Acesso em: 22 fev. 2025. SENA, Erick Morais. Viés na IA: como o viés algorítmico influencia na perpetuação de estereótipos e desigualdades existentes. Trabalho de Conclusão de Curso (Graduação em Engenharia Elétrica). Universidade Federal de Campina Grande, Campina Grande, 2023. Disponível em: http://dspace.sti.ufcg.edu.br:8080/xmlui/handle/riufcg/34844?show=full. Acesso em: 22 fev. 2025. SCHULER, Luis Gustavo Bier; MONTARDO, Sandra Portella. A política das máquinas: vieses em algoritmos de relevância pública. Revista Tecnologia e Sociedade, v. 16, n. 45, p. 300-312, 2020. Disponível em: https://periodicos.utfpr.edu.br/rts/article/view/10380. Acesso em: 05 mar. 2025.