공정한 기계학습

Abstract

최근 기계학습이 우리 삶에 지대한 영향을 미치면서, 공정한 기계학습 알고리즘의 필요성이 높아지고 있다. 이에 따라 공정한 알고리즘을 얻는 다양한 방법이 제시되고 있는데, 이들은 공정성의 측도를 직접 다루지 않고 대체척도(proxy)를 이용한다는 공통점을 가지고 있다. 하지만 대체척도에 의존하는 방법으로는 최적의 공정성을 달성할 수 없다는 한계가 있다. 본 연구에서는 정보이론의 핵심 개념인 상호의존정보(mutual information)를 이용하여 공정한 알고리즘을 얻을 수 있다는 것을 이론적, 실험적으로 입증했다. 또한, 이를 data poisoning에 강건한 모델을 얻는 아이디어로 확장하여 최적의 “예측정확도-공정성 tradeoff”를 달성했다. 더 나아가 최적의 학습 안정성을 보장하는 커널밀도추정 기반의 새로운 알고리즘을 개발, 우수한 tradeoff를 안정적으로 달성하였다. 본 연구결과는 최상위AI국제학회인 ICML 2020과 NeurIPS 2020에 게재되었다. 해당 연구는 공정한 기계학습 모델 개발의 초석을 다지고, 향후 공정하고 정의로운 사회를 이룩하는 데에 크게 이바지할 것으로 기대된다.