데이터베이스를 이용한 난독화된 바이너리의 트레이스 분석

Abstract

난독화된 바이너리는 구조가 복잡하게 변형되어 정적으로 분석하기 어려울 때가 많다. 이때 난독화된 바이너리도 원본 바이너리와 실행 결과는 같아야 한다는 점을 이용하여 동적으로 실행 트레이스를 생성해 분석하기도 한다. 난독화된 바이너리는 실행 결과에 영향을 주지 않는 명령을 다수 포함하고 있어 비대한 트레이스를 얻게 되며, 이를 효과적으로 처리할 수 있는 기법이 필요하다. 이 논문에서는 데이터베이스를 이용해 난독화된 바이너리의 트레이스를 처리하는 도구를 설계하고 구현하여 분석 작업을 수행한 결과를 소개한다. 데이터베이스를 이용해 안정적인 분석 도구를 편리하게 구현할 수 있었다.