히든키 이용으로 보안성이 강화된 텍스트 분류모델 구현 방법 제안

Abstract

최근 컴퓨팅능력과 GPU 성능의 급속한 발전, 데이터의 범람을 통해 인공지능 기술, 그중에서도 딥러닝은 비약적인 발전을 이루었다. 이에 따라 딥러닝 기술은 이미지, 음성 인식뿐만 아니라 군사, 의료 등과 같이 정보의 보안이 중요한 분야에서도 사용되고 있다. 하지만 딥러닝 모델은 사용함에 있어서 사용자 인증과 같은 보안을 제공하고 있지 않다. 따라서 권한이 없는 악의적인 사용자가 모델에 접근한다면 제한 없이 해당 모델을 사용할 수 있다. 본 학위논문에서는 이러한 문제점을 해결하기 위해 히든키를 이용하여 BERT 모델의 사용자 인증 접근통제를 구현하는 방법에 대해 연구하였다. 제안 방법은 백도어 공격에서의 트리거와 유사한 히든키를 문장에 포함시킨 트레이닝 데이터로 BERT 모델을 훈련시키며 이 모델은 특정 히든키를 포함한 문장에 대해서만 정상적으로 분류를 하고 그 외의 경우에는 오분류를 하게 된다. 실험에서는 MR 데이터셋을 사용하였다. 실험결과 제안 방법으로 훈련된 모델은 정해진 히든키를 포함한 문장에 대해서만 올바르게 분류하였으며 그 정확도는 원본 MR 데이터셋으로 훈련한 모델의 정확도(86.8%)와 비슷한 수준(최대 86.7%)이었다. 또한 특정 히든키를 포함하지 않은 문장에 대해서는 모델이 오분류를 하여 정상적으로 사용할 수 없었다.