가상화 기법으로 난독화된 실행 파일의 동적 분석을 통한 핸들러 간략화

Abstract

최근 악성코드는 난독화 뿐만 아니라 가상화 기법을 사용하여 임의의 가상머신에서 해석되는 바이트코드로 변환된다. 가상화로 난독화된 실행 파일은 원본 프로그램과 동일한 의미를 가지므로 이를 기반으로 실행 파일 내부의 가상머신 구조 분석에 관한 연구가 진행되었다. 하지만 바이트코드의 의미를 정확하게 분석하기 힘들다는 한계가 있기 때문에 본 논문에서는 기존 연구를 바탕으로 바이트코드에 대응되는 가상화 바이트코드 핸들러를 간략화하는 기법을 소개한다. 따라서 분석자가 바이트코드의 의미를 분석하는 과정에서 단분 반복적인 작업을 줄여줌으로써 분석 시간을 줄일 수 있을 것이라 기대한다.