공정한 기계학습Fair Machine Learning

Cited 0 time in webofscience Cited 0 time in scopus
  • Hit : 371
  • Download : 3042
공정한 기계학습 최근 기계학습이 우리 삶에 지대한 영향을 미치면서, 공정한 기계학습 알고리즘의 필요성이 높아지고 있다. 이에 따라 공정한 알고리즘을 얻는 다양한 방법이 제시되고 있는데, 이들은 공정성의 측도를 직접 다루지 않고 대체척도(proxy)를 이용한다는 공통점을 가지고 있다. 하지만 대체척도에 의존하는 방법으로는 최적의 공정성을 달성할 수 없다는 한계가 있다. 본 연구에서는 정보이론의 핵심 개념인 상호의존정보(mutual information)를 이용하여 공정한 알고리즘을 얻을 수 있다는 것을 이론적, 실험적으로 입증했다. 또한, 이를 data poisoning에 강건한 모델을 얻는 아이디어로 확장하여 최적의 “예측정확도-공정성 tradeoff”를 달성했다. 더 나아가 최적의 학습 안정성을 보장하는 커널밀도추정 기반의 새로운 알고리즘을 개발, 우수한 tradeoff를 안정적으로 달성하였다. 본 연구결과는 최상위AI국제학회인 ICML 2020과 NeurIPS 2020에 게재되었다. 해당 연구는 공정한 기계학습 모델 개발의 초석을 다지고, 향후 공정하고 정의로운 사회를 이룩하는 데에 크게 이바지할 것으로 기대된다.
As machine learning (ML) becomes prevalent in our daily lives involving a widening array of applications such as medicine, finance, job hiring and criminal justice, one critical aspect in the design of ML algorithms is to ensure fairness: guaranteeing the irrelevancy of a prediction to sensitive attributes such as gender and race. There has been a proliferation of fair ML algorithms. One challenge that arises in the prior efforts is that they rely upon "proxies" for fairness measures, thereby suffering from achieving the optimal fairness-vs-accuracy tradeoff. In this work, we propose an informationtheoretic approach based on mutual information (MI) that can faithfully respect fairness measures, thus obtaining the optimal tradeoff. We also develop a robust version of the method that can well protect against data poisoning. In addition, we develop an upgraded version based on kernel density estimation to address the training instability problem that most MI-based algorithms are faced with. This work was published in the top-tier AI conferences: ICML 2020 and NeurIPS 2020. We expect that our research enables fair ML systems to promote social welfare while embracing equity and inclusion for minority populations.
Description
한국과학기술원 : 전기및전자공학부
Publisher
한국과학기술원
Issue Date
2020
Language
kor
Description

KAIST 2020 대표 연구성과 10선

URI
http://hdl.handle.net/10203/292478
Link
https://archives.kaist.ac.kr/research.jsp?year=2020&view=view05
https://archives.kaist.ac.kr/eng/research.jsp?year=2020&view=view05
Appears in Collection
2020 KAIST 대표 연구성과 10선
Files in This Item
r20_sub05.PNG(267.92 kB)Download
r20_sub05_fulltext_kor.pdf(1.2 MB)Download
r20_sub05_fulltext_eng.pdf(1.01 MB)Download

qr_code

  • mendeley

    citeulike


rss_1.0 rss_2.0 atom_1.0