DST-7과 DCT-8의 저복잡도 연산 알고리즘

Abstract

기존에 HEVC에서 사용하는 변환 커널은 정수로 이루어진 DCT type 2이다. 그런데 특정 신호에 대해서 압축 성능이 높은 다른 변환 커널을 이용하는 방법이 많이 제안되어 JEM에서 추가로 사용되는 변환 커널이 네 종류 존재한다. 특히 JEM의 Inter-predicted coding에서는 DST type 7, DCT type 8이 추가로 사용된다. 그리고 JEM의 Intra-predicted coding에서는 DST type 7, DCT type 8, 그리고 DST type 1이 추가로 사용된다. HEVC에서 정수로 된 DCT type 2 커널은 버터플라이 구조를 이용하여 계산한다. 따라서 기존의 marix 연산보다 더 적은 복잡도로 변환 커널값을 계산할 수 있다. 그러나 JEM에서 새롭게 도입된 네 가지 변환커널들은 DCT type 2의 버터플라이 구조로 분해되는 특징을 가지고 있지 않다. 따라서 HEVC에서 사용하는 방법으로 새로운 커널에 대한 저복잡도 계산을 할 수 없기 때문에 저복잡도 계산을 위한 새로운 알고리즘이 필요하다. 본 논문에서는 JEM에서 새롭게 도입된 네 종류의 커널 중 DST type 7과 DCT type 8의 저복잡도 계산을 위한 알고리즘을 제시한다.