Ética e Aprendizado de Máquina: Implementação de um Algoritmo

Favoritar este trabalho
Como citar esse trabalho?
Detalhes
  • Tipo de apresentação: Trabalho
  • Eixo temático: TECNOLÓGICAS
  • Palavras chaves: Inteligência Artificial; Ética; Aprendizado de Máquina;
  • 1 Universidade Estadual de Campinas
  • 2 Unicamp

Ética e Aprendizado de Máquina: Implementação de um Algoritmo

MARINA DE MENEZES LIMA

Universidade Estadual de Campinas

Resumo

O projeto de pesquisa visa explorar os vieses sociais presentes no aprendizado de máquina e seus impactos sociais, além de soluções algorítmicas para o problema. Como tratar-se de um tema com grande presença atual, a influência das decisões realizadas por máquinas estão cada vez mais presentes no cotidiano de grande parte da sociedade. Quando assimiladas à questões com implicações sociais, porém, as mesmas podem implicar em uma grande propagação de preconceitos e discriminações que estão presentes na sociedade e, consequentemente, em nossos dados. Assim, cabe àqueles que atuam na área ter uma visão clara dos aspectos éticos do projeto de algoritmos de aprendizado de máquina, tanto de uma perspectiva filosófica quanto de uma perspectiva técnica. Com o objetivo de explorar tal tema, foi realizada uma análise técnica do mapeamento realizado por Mittelstadt et al. e discutida cada categoria desse em detalhes, além de uma implementação de um algoritmo que tenha por base o devido tratamento de pelo menos uma delas. Assim, o estudo foi realizado de modo a permitir uma visão mais palpável para planejamento e avaliação de algoritmos, tornando possível obter uma visão completa do ciclo de projeto.

Apoio/Financiamento da Pesquisa: PIBIC/CNPq

Questões (2 tópicos)

Compartilhe suas ideias ou dúvidas com os autores!

Sabia que o maior estímulo no desenvolvimento científico e cultural é a curiosidade? Deixe seus questionamentos ou sugestões para o autor!

Faça login para interagir

Tem uma dúvida ou sugestão? Compartilhe seu feedback com os autores!

Autor

MARINA DE MENEZES LIMA

Obrigada pela interação e feedback Daniel! Vou deixar aqui as respostas para suas questões:
1) A tabela está correta, realmente obtivemos uma coerência maior nos casos 'negativos' (que representam renda menor ou igual a 50 mil dólares) do que nos positivos (renda maior do que 50 mil dólares). Isso mostra que o algoritmo lida melhor e gera mais acertos nos casos de menor renda, consequência da maior quantidade de dados referentes a esse caso no dataset.

2) O dataset possui 12 informações que classificam os dados, sendo elas: idade, classe de trabalho, escolaridade, estado civil, ocupação, parentesco, 'raça', sexo, ganho de capital, perda de capital, horas trabalhadas por semana e país de origem. Todas elas são utilizadas para classificar se um indivíduo ganha mais que 50 mil dólares anuais ou não, mas sexo e 'raça' são aqueles que trazem vieses para o algoritmo e, portanto, os escolhidos para serem trabalhados durante o projeto.

Além disso, o programa utiliza dois métodos de classificação.

Na primeira análise, utilizamos as Florestas Aleatórias (Random Forest), que é um algoritmo de aprendizado supervisionado que constrói várias árvores de decisão e as 'combina' de maneira a obter uma melhor previsão. Árvores de decisão, por sua vez, também são algoritmos de aprendizado supervisionado, nos quais os dados são continuamente divididos de acordo com um determinado parâmetro, como a entropia. Neste método, um conjunto de exemplos de treinamento é dividido em subconjuntos cada vez menores criando uma árvore de decisão associada e, no final do processo de aprendizagem, obtemos uma árvore de decisão cobrindo o conjunto de treinamento completo. Assim, o método Random Forest irá gerar diversas árvores de decisão, cada uma com sua própria estimativa, e ira juntá-las de maneira a formar a estimativa geral. Podemos fazer uma analogia com o mundo real, em um caso onde ouvimos diferentes opiniões tratando de um mesmo problema, para sermos capazes de melhor compreendê-lo.

Já na segunda análise, após implementarmos as técnicas referentes a Fairness, o modelo de Regressão Logística foi utilizado. Este é um algoritmo de aprendizado utilizado para os problemas de classificação e que possui como base os conceitos de probabilidade e estatística. Ele prevê uma variável de dados dependente, analisando a relação entre uma ou mais variáveis independentes existentes.

3) A reponderação de dados de Kamiran e Calders consiste em aumentar os pesos dos dados com características sensíveis de maneira com que possuam maior influência no processo de treinamento. Ele visa, principalmente, amenizar a disparidade na quantidade e qualidade referentes aos dados sensíveis e aos não sensíveis.

4) A matriz de confusão apresentada foi realizada de forma a observarmos os vieses de uma maneira mais visual. Entretanto, ao implementarmos as técnicas de correção, possuíamos como objetivo principal a análise das métricas de Fairness. O método de reponderação de dados utilizado promete apresentar uma melhora na métrica de Paridade Demográfica, conceito que pode ser descrito como 'A probabilidade de um resultado positivo deve ser o mesmo independentemente de a pessoa estar no grupo protegido ou não'. De fato, conseguimos uma melhora significativa nesta métrica, que passou de 0.1841 para 0.0865, estando muito mais próxima do valor ideal 0 e mostrando sucesso na implementação. Apesar disso, é vero que tal método não mitiga o problema da injustiça em sua totalidade, podendo ser combinado com outras intervenções para atingir resultados ainda melhores. Esta área de estudo ainda é muito recente e ainda não foram encontrados métodos que possam acabar com o problema de maneira 100% eficaz, até porque as raízes dos mesmos estão na própria sociedade. Nosso objetivo é pensar em maneiras de melhorar o modo como lidamos com nossos dados para amenizar o impacto de vieses sociais na vida das pessoas, e, assim, conseguirmos construir uma sociedade mais justa e igualitária :)

 

DANIEL CANDELORO CUNHA

Muito obrigado pelas respostas Marina. Não há progresso sem responsabilidade, ética e preocupação social. Mais uma vez, parabéns pelo trabalho. :)

Autor

MURILO GONÇALVES

Obrigado!