Para citar este trabalho use um dos padrões abaixo:
Ética e Aprendizado de Máquina: Implementação de um Algoritmo
MARINA DE MENEZES LIMA
Universidade Estadual de Campinas
Agora você poderia compartilhar comigo suas dúvidas, observações e parabenizações
Crie um tópicoO projeto de pesquisa visa explorar os vieses sociais presentes no aprendizado de máquina e seus impactos sociais, além de soluções algorítmicas para o problema. Como tratar-se de um tema com grande presença atual, a influência das decisões realizadas por máquinas estão cada vez mais presentes no cotidiano de grande parte da sociedade. Quando assimiladas à questões com implicações sociais, porém, as mesmas podem implicar em uma grande propagação de preconceitos e discriminações que estão presentes na sociedade e, consequentemente, em nossos dados. Assim, cabe àqueles que atuam na área ter uma visão clara dos aspectos éticos do projeto de algoritmos de aprendizado de máquina, tanto de uma perspectiva filosófica quanto de uma perspectiva técnica. Com o objetivo de explorar tal tema, foi realizada uma análise técnica do mapeamento realizado por Mittelstadt et al. e discutida cada categoria desse em detalhes, além de uma implementação de um algoritmo que tenha por base o devido tratamento de pelo menos uma delas. Assim, o estudo foi realizado de modo a permitir uma visão mais palpável para planejamento e avaliação de algoritmos, tornando possível obter uma visão completa do ciclo de projeto.
Apoio/Financiamento da Pesquisa: PIBIC/CNPq
DANIEL CANDELORO CUNHA
Primeiramente, parabéns pelo trabalho e obrigado pela apresentação. É um tema muito pertinente e atual. Gostaria de colocar algumas questões.
1) Pelo texto, fiquei com a impressão que talvez as linhas e colunas da Tabela 1 estejam trocadas. Como está, na Tabela 1 (a), temos 63.21% de verdadeiros positivos; 36.78% de falsos positivos; 9.68% de falsos negativos; e 90.32% de verdadeiros negativos. É isso? Ou seriam 36.78% de falsos negativos e 9.68% de falsos positivos?
2) Como é o programa classificador nesse exemplo? É uma rede neural? Além do gênero, quais informações são usadas para classificar se um indivíduo ganha mais que 50 mil dólares anuais?
3) Você poderia explicar com mais detalhes como é a reponderação de dados de Kamiran e Calders? Aumenta-se o número de dados femininos para que haja paridade entre gêneros na base de dados? Ou considera-se um peso maior nos dados femininos na função de perda a ser minimizada durante o treinamento? Ou outra coisa?
4) O resultado final, após incluir as técnicas de correção de viés, não foi apresentado em uma tabela de confusão. As técnicas utilizadas não foram suficientes para solucionar o problema? Se for o caso, você poderia discorrer um pouco sobre isso? Quais os possíveis motivos? O que poderia ser feito numa eventual continuação do trabalho?
LEONARDO VILELA DE ABREU SILVA PEREIRA
Parabens pelo trabalho, tema super interessante e pertinente! Ficou muito legal.
MURILO GONÇALVES
Obrigado!
Com ~200 mil publicações revisadas por pesquisadores do mundo todo, o Galoá impulsiona cientistas na descoberta de pesquisas de ponta por meio de nossa plataforma indexada.
Confira nossos produtos e como podemos ajudá-lo a dar mais alcance para sua pesquisa:
Esse proceedings é identificado por um DOI , para usar em citações ou referências bibliográficas. Atenção: este não é um DOI para o jornal e, como tal, não pode ser usado em Lattes para identificar um trabalho específico.
Verifique o link "Como citar" na página do trabalho, para ver como citar corretamente o artigo
MARINA DE MENEZES LIMA
Obrigada pela interação e feedback Daniel! Vou deixar aqui as respostas para suas questões:
1) A tabela está correta, realmente obtivemos uma coerência maior nos casos 'negativos' (que representam renda menor ou igual a 50 mil dólares) do que nos positivos (renda maior do que 50 mil dólares). Isso mostra que o algoritmo lida melhor e gera mais acertos nos casos de menor renda, consequência da maior quantidade de dados referentes a esse caso no dataset.
2) O dataset possui 12 informações que classificam os dados, sendo elas: idade, classe de trabalho, escolaridade, estado civil, ocupação, parentesco, 'raça', sexo, ganho de capital, perda de capital, horas trabalhadas por semana e país de origem. Todas elas são utilizadas para classificar se um indivíduo ganha mais que 50 mil dólares anuais ou não, mas sexo e 'raça' são aqueles que trazem vieses para o algoritmo e, portanto, os escolhidos para serem trabalhados durante o projeto.
Além disso, o programa utiliza dois métodos de classificação.
Na primeira análise, utilizamos as Florestas Aleatórias (Random Forest), que é um algoritmo de aprendizado supervisionado que constrói várias árvores de decisão e as 'combina' de maneira a obter uma melhor previsão. Árvores de decisão, por sua vez, também são algoritmos de aprendizado supervisionado, nos quais os dados são continuamente divididos de acordo com um determinado parâmetro, como a entropia. Neste método, um conjunto de exemplos de treinamento é dividido em subconjuntos cada vez menores criando uma árvore de decisão associada e, no final do processo de aprendizagem, obtemos uma árvore de decisão cobrindo o conjunto de treinamento completo. Assim, o método Random Forest irá gerar diversas árvores de decisão, cada uma com sua própria estimativa, e ira juntá-las de maneira a formar a estimativa geral. Podemos fazer uma analogia com o mundo real, em um caso onde ouvimos diferentes opiniões tratando de um mesmo problema, para sermos capazes de melhor compreendê-lo.
Já na segunda análise, após implementarmos as técnicas referentes a Fairness, o modelo de Regressão Logística foi utilizado. Este é um algoritmo de aprendizado utilizado para os problemas de classificação e que possui como base os conceitos de probabilidade e estatística. Ele prevê uma variável de dados dependente, analisando a relação entre uma ou mais variáveis independentes existentes.
3) A reponderação de dados de Kamiran e Calders consiste em aumentar os pesos dos dados com características sensíveis de maneira com que possuam maior influência no processo de treinamento. Ele visa, principalmente, amenizar a disparidade na quantidade e qualidade referentes aos dados sensíveis e aos não sensíveis.
4) A matriz de confusão apresentada foi realizada de forma a observarmos os vieses de uma maneira mais visual. Entretanto, ao implementarmos as técnicas de correção, possuíamos como objetivo principal a análise das métricas de Fairness. O método de reponderação de dados utilizado promete apresentar uma melhora na métrica de Paridade Demográfica, conceito que pode ser descrito como 'A probabilidade de um resultado positivo deve ser o mesmo independentemente de a pessoa estar no grupo protegido ou não'. De fato, conseguimos uma melhora significativa nesta métrica, que passou de 0.1841 para 0.0865, estando muito mais próxima do valor ideal 0 e mostrando sucesso na implementação. Apesar disso, é vero que tal método não mitiga o problema da injustiça em sua totalidade, podendo ser combinado com outras intervenções para atingir resultados ainda melhores. Esta área de estudo ainda é muito recente e ainda não foram encontrados métodos que possam acabar com o problema de maneira 100% eficaz, até porque as raízes dos mesmos estão na própria sociedade. Nosso objetivo é pensar em maneiras de melhorar o modo como lidamos com nossos dados para amenizar o impacto de vieses sociais na vida das pessoas, e, assim, conseguirmos construir uma sociedade mais justa e igualitária :)
DANIEL CANDELORO CUNHA
Muito obrigado pelas respostas Marina. Não há progresso sem responsabilidade, ética e preocupação social. Mais uma vez, parabéns pelo trabalho. :)