Ética e Aprendizado de Máquina: Análise de um Mapeamento Conceitual

Favoritar este trabalho
Como citar esse trabalho?
Detalhes
  • Tipo de apresentação: Trabalho
  • Eixo temático: TECNOLÓGICAS
  • Palavras chaves: Inteligência Artificial; Ética; Aprendizado de Máquina;
  • 1 Unicamp
  • 2 Universidade Estadual de Campinas

Ética e Aprendizado de Máquina: Análise de um Mapeamento Conceitual

MURILO GONÇALVES

UNICAMP

Resumo

Esse projeto de pesquisa visa explorar os vieses sociais presentes no aprendizado de máquina. Por tratar-se de um tema com grande presença atual, a influência das decisões realizadas por máquinas estão cada vez mais presentes no cotidiano de grande parte da sociedade. Quando assimiladas a questões com implicações sociais, porém, tais decisões podem implicar em uma grande propagação de preconceitos e discriminações que estão presentes na sociedade e consequentemente, em nossos dados. Assim, cabe àqueles que atuam na área ter uma visão clara dos aspectos éticos do projeto de algoritmos de aprendizado de máquina, tanto de uma perspectiva filosófica quanto de uma perspectiva técnica.Com o objetivo de explorar tal tema, foi realizada uma análise técnica do mapeamento realizado por Mittelstadt et al. e discutida cada categoria em detalhes, além de uma associação a conceitos e ferramentas de aprendizado de máquina. Assim, o mapeamento foi reinterpretado a partir de uma perspectiva da engenharia, permitindo que projetistas tenham diretrizes éticas mais palpáveis para planejamento e avaliação de algoritmos.

Apoio/Financiamento da Pesquisa: PIBIC/CNPq

Questões (1 tópico)

Compartilhe suas ideias ou dúvidas com os autores!

Sabia que o maior estímulo no desenvolvimento científico e cultural é a curiosidade? Deixe seus questionamentos ou sugestões para o autor!

Faça login para interagir

Tem uma dúvida ou sugestão? Compartilhe seu feedback com os autores!

Autor

MURILO GONÇALVES

Obrigado pelo feedback, Daniel! Vamos lá, vou tentar responder da melhor forma possível suas questões.

1) O modelo de Random Forest treina um múltiplas Árvores de Decisão individualmente. Desta forma, as diversas árvores do modelo atuam separadamente na mesma entrada e (para o caso de classificação, explorado neste projeto) o resultado final é a classe que foi escolhida pelo maior número de árvores. Uma Árvore de Decisão, por sua vez, é um modelo que utiliza diversos nós condicionais, cada qual levando em conta diferentes atributos, para classificar sequencialmente uma determinada entrada. O resultado da classificação de uma entrada são as "folhas" dessa árvore. Portanto, uma Árvore de Decisão nada mais é do que uma sequência de desvios condicionais que convergem em um resultado, mas que são mais facilmente visualizados em forma de árvore.

Além do sexo, o Adult Dataset nos fornece os seguintes atributos, que foram utilizados como entrada do modelo: idade, classe de trabalho, escolaridade, estado civil, ocupação (trabalho), parentesco (pai, mãe, filho único, etc), etnia, sexo, ganho de capital decorrente de investimentos, perda de capital decorrente de investimentos, horas trabalhadas por semana e país de origem.

2) Para entender essas duas métricas, vou definir dois conceitos: atributo sensível e grupo protegido. Atributo sensível é um atributo que não deve ter influência no resultado final de uma classificação, como gênero ou etnia. Grupo protegido é aquele no qual os indivíduos carregam um atributo sensível do grupo minoritário, por exemplo no caso do Adult Dataset, as mulheres é um grupo protegido quando comparado aos homens, que é um grupo desprotegido.

A métrica Paridade Demográfica é satisfeita quando a probabilidade de um resultado ser positivo, em um determinado preditor, independe do indivíduo estar ou não em um grupo protegido.

Já Probabilidades Igualadas é uma métrica que é satisfeita quando, em determinado preditor, os grupos protegidos e desprotegidos apresentam taxas iguais de verdadeiros positivos e falsos positivos.

3) O objetivo, no fim, é sim que as previsões não sejam influenciadas pelos atributos sensíveis. Entretanto, não utilizar esses atributos como entrada dos preditores não seria uma solução para o problema, visto que outros atributos de entrada do próprio dataset podem servir como proxies dos atributos sensíveis. Como um exemplo do que seria um proxy, vamos supor que estamos utilizando um dataset que possui dois atributos, etnia e bairro. Simplesmente remover o atributo etnia da entrada não resolveria o problema, visto que muitas vezes o bairro em que um indivíduo reside está correlacionado com sua etnia. Desta forma, eliminar os atributos sensíveis da entrada pode parecer uma boa ideia em um primeiro momento, mas não impediria a influência deles no resultado final e mascararia o viés presente no modelo construido. No caso do Adult dataset, podemos encontrar diversos proxies para atributos sensíveis, como a classe de trabalho, o país de origem e horas trabalhadas por semana.

Igualar a quantidade de falsos positivos e falsos negativos em grupos protegidos e desprotegidos pode ser uma métrica, como a Paridade Demográfica ou Probabilidades Igualadas, mas não é suficiente para atingir a equidade. Além dessas métricas, temos muitas outras que tentam aumentar a justiça de preditores entre grupos (ou group fairness). Vale destacar que seria impossível aplicar todas elas simultaneamente para a construção de um preditor, e a escolha de quais serão priorizadas deve levar em conta o contexto no qual esse preditor será utilizado, visto que a definição de justiça nem sempre é clara e depende da aplicação e dos objetivos do modelo construído.

 

DANIEL CANDELORO CUNHA

Obrigado pelas respostas Murilo, foram muito esclarecedoras. Não há progresso sem responsabilidade, ética e preocupação social. Mais uma vez, parabéns pelo trabalho.