Para citar este trabalho use um dos padrões abaixo:
Ética e Aprendizado de Máquina: Análise de um Mapeamento Conceitual
MURILO GONÇALVES
UNICAMP
Agora você poderia compartilhar comigo suas dúvidas, observações e parabenizações
Crie um tópicoEsse projeto de pesquisa visa explorar os vieses sociais presentes no aprendizado de máquina. Por tratar-se de um tema com grande presença atual, a influência das decisões realizadas por máquinas estão cada vez mais presentes no cotidiano de grande parte da sociedade. Quando assimiladas a questões com implicações sociais, porém, tais decisões podem implicar em uma grande propagação de preconceitos e discriminações que estão presentes na sociedade e consequentemente, em nossos dados. Assim, cabe àqueles que atuam na área ter uma visão clara dos aspectos éticos do projeto de algoritmos de aprendizado de máquina, tanto de uma perspectiva filosófica quanto de uma perspectiva técnica.Com o objetivo de explorar tal tema, foi realizada uma análise técnica do mapeamento realizado por Mittelstadt et al. e discutida cada categoria em detalhes, além de uma associação a conceitos e ferramentas de aprendizado de máquina. Assim, o mapeamento foi reinterpretado a partir de uma perspectiva da engenharia, permitindo que projetistas tenham diretrizes éticas mais palpáveis para planejamento e avaliação de algoritmos.
Apoio/Financiamento da Pesquisa: PIBIC/CNPq
DANIEL CANDELORO CUNHA
Primeiramente, parabéns pelo trabalho e obrigado pela apresentação. É um tema muito pertinente e atual. Gostaria de colocar algumas questões.
1) Você poderia me descrever brevemente como é um modelo de Random Forest? Além do sexo, quais são as entradas usadas para a classificação?
2) Você poderia me detalhar como são obtidas as métricas de Paridade Demográfica e Probabilidades Igualadas?
3) Para o exemplo dado, eu fiquei em dúvida sobre qual seria o objetivo das técnicas para melhorar a equidade das previsões. O objetivo seria fazer previsões que sejam insensíveis a esses atributos? Não deve ser isso, pois poderia ser atingido simplesmente não utilizando tais atributos como entrada dos preditores, correto? Então, o preditor deve usar essas informações para fazer previsões realistas, levando em conta desigualdades sociais? O objetivo seria que a quantidade de falsos positivos e falsos negativos fosse similar entre sexos e etnias?
Com ~200 mil publicações revisadas por pesquisadores do mundo todo, o Galoá impulsiona cientistas na descoberta de pesquisas de ponta por meio de nossa plataforma indexada.
Confira nossos produtos e como podemos ajudá-lo a dar mais alcance para sua pesquisa:
Esse proceedings é identificado por um DOI , para usar em citações ou referências bibliográficas. Atenção: este não é um DOI para o jornal e, como tal, não pode ser usado em Lattes para identificar um trabalho específico.
Verifique o link "Como citar" na página do trabalho, para ver como citar corretamente o artigo
MURILO GONÇALVES
Obrigado pelo feedback, Daniel! Vamos lá, vou tentar responder da melhor forma possível suas questões.
1) O modelo de Random Forest treina um múltiplas Árvores de Decisão individualmente. Desta forma, as diversas árvores do modelo atuam separadamente na mesma entrada e (para o caso de classificação, explorado neste projeto) o resultado final é a classe que foi escolhida pelo maior número de árvores. Uma Árvore de Decisão, por sua vez, é um modelo que utiliza diversos nós condicionais, cada qual levando em conta diferentes atributos, para classificar sequencialmente uma determinada entrada. O resultado da classificação de uma entrada são as "folhas" dessa árvore. Portanto, uma Árvore de Decisão nada mais é do que uma sequência de desvios condicionais que convergem em um resultado, mas que são mais facilmente visualizados em forma de árvore.
Além do sexo, o Adult Dataset nos fornece os seguintes atributos, que foram utilizados como entrada do modelo: idade, classe de trabalho, escolaridade, estado civil, ocupação (trabalho), parentesco (pai, mãe, filho único, etc), etnia, sexo, ganho de capital decorrente de investimentos, perda de capital decorrente de investimentos, horas trabalhadas por semana e país de origem.
2) Para entender essas duas métricas, vou definir dois conceitos: atributo sensível e grupo protegido. Atributo sensível é um atributo que não deve ter influência no resultado final de uma classificação, como gênero ou etnia. Grupo protegido é aquele no qual os indivíduos carregam um atributo sensível do grupo minoritário, por exemplo no caso do Adult Dataset, as mulheres é um grupo protegido quando comparado aos homens, que é um grupo desprotegido.
A métrica Paridade Demográfica é satisfeita quando a probabilidade de um resultado ser positivo, em um determinado preditor, independe do indivíduo estar ou não em um grupo protegido.
Já Probabilidades Igualadas é uma métrica que é satisfeita quando, em determinado preditor, os grupos protegidos e desprotegidos apresentam taxas iguais de verdadeiros positivos e falsos positivos.
3) O objetivo, no fim, é sim que as previsões não sejam influenciadas pelos atributos sensíveis. Entretanto, não utilizar esses atributos como entrada dos preditores não seria uma solução para o problema, visto que outros atributos de entrada do próprio dataset podem servir como proxies dos atributos sensíveis. Como um exemplo do que seria um proxy, vamos supor que estamos utilizando um dataset que possui dois atributos, etnia e bairro. Simplesmente remover o atributo etnia da entrada não resolveria o problema, visto que muitas vezes o bairro em que um indivíduo reside está correlacionado com sua etnia. Desta forma, eliminar os atributos sensíveis da entrada pode parecer uma boa ideia em um primeiro momento, mas não impediria a influência deles no resultado final e mascararia o viés presente no modelo construido. No caso do Adult dataset, podemos encontrar diversos proxies para atributos sensíveis, como a classe de trabalho, o país de origem e horas trabalhadas por semana.
Igualar a quantidade de falsos positivos e falsos negativos em grupos protegidos e desprotegidos pode ser uma métrica, como a Paridade Demográfica ou Probabilidades Igualadas, mas não é suficiente para atingir a equidade. Além dessas métricas, temos muitas outras que tentam aumentar a justiça de preditores entre grupos (ou group fairness). Vale destacar que seria impossível aplicar todas elas simultaneamente para a construção de um preditor, e a escolha de quais serão priorizadas deve levar em conta o contexto no qual esse preditor será utilizado, visto que a definição de justiça nem sempre é clara e depende da aplicação e dos objetivos do modelo construído.
DANIEL CANDELORO CUNHA
Obrigado pelas respostas Murilo, foram muito esclarecedoras. Não há progresso sem responsabilidade, ética e preocupação social. Mais uma vez, parabéns pelo trabalho.