직접 검출 광통신 시스템을 위한 인공 신경망 기반 등화기의 학습 및 성능 연구

Abstract

기존의 대역폭을 많이 요구하는 서비스들의 지속적인 성장과 더불어 최근 가상 현실, over-the-top 서비스, 4K/8K 비디오, 그리고 클라우드 컴퓨팅 서비스 등과 같은 수요가 증가하면서 데이터 트래픽이 급증하고 있는 추세이다. 이러한 데이터 트래픽을 경제적으로 수용하기 위해서 단거리 전송 시스템이나 광전달망에서는 여전히 간단한 구조의 송신기와 수신기로 구현되는 세기 변조/직접 검출 시스템이 요구되고 있다. 하지만 직접 검출 수신기의 경우에는 광섬유 색분산과 같은 선형 현상도 제곱법 검출(square-law detection)에 의해서 비선형 신호 왜곡으로 나타난다. 따라서 수신된 신호는 비선형 등화기로 비선형 파형 왜곡을 보상해주어야 한다. 인공 신경망은 디지털 프로세서의 계산 능력이 지속적으로 증가하여 많은 양의 데이터를 처리할 수 있게 되면서 많은 관심을 받고 있다. 인공 신경망은 복잡한 비선형 함수라고 하더라도 모방해내는 비선형 처리 능력을 갖고 있어 이를 이용하여 비선형 왜곡 보상에 사용되고 있다. 인공 신경망 기반의 비선형 등화기의 성능을 제대로 발휘하기 위해서는 이를 실제 데이터와 비슷한 학습 데이터로 학습시켜야 한다. 광통신에서는 송신기와 수신기가 수 km 이상 떨어져 있고 학습 데이터가 광섬유를 통해 전송되는 과정에서 왜곡이 발생하기 때문에 미리 정해져 있는 시퀀스가 요구된다. 이를 위해서는 쉽게 만들 수 있고 순수 랜덤 데이터와 비슷한 통계적 특징을 갖고 있는 유사 난수 이진 시퀀스(Pseudorandom binary sequence, PRBS)가 주로 사용되고 있다. 하지만 PRBS로 인공 신경망을 학습하는 경우에는 PRBS의 일부분으로부터 전체 PRBS를 알아내는 overfitting 문제가 발생할 수 있다. 본 논문에서는 인공 신경망이 PRBS로 생성한 on-off keying (OOK) 신호와 펄스 진폭 변조 방식(Pulse amplitude modulation, PAM) 신호로 overfitting 없이 ANN 기반의 비선형 등화기(ANN based nonlinear equalizer, ANN-NLE)를 학습할 수 있는 PRBS의 차수들에 대한 요구 조건에 대해 분석하였다. 이를 위해서 먼저 선형 피드백 시프트 레지스터(Linear feedback shift register, LFSR)과 exclusive-OR(XOR) 연산을 통해 PRBS를 생성하는 규칙에 대해 분석하고 ANN-NLE가 PRBS로 학습하는 과정에서 overfitting을 피할 수 있는 PRBS의 차수에 대한 요구 조건을 구하였다. 또한 PAM 신호를 PRBS들의 자연 코딩과 그레이 코딩을 통해 생성하는 규칙을 분석하여 ANN-NLE의 학습 과정에서 overfitting을 피할 수 있는 PRBS의 차수들에 대한 요구 조건을 알아보았다. 위의 이론적 분석들은 시뮬레이션을 통해 검증되었다. 또한 OOK 신호와 PAM 신호의 전송에서 ANN-NLE의 학습 과정에서 발생한 overfitting이 ANN-NLE의 성능에 미치는 영향을 분석하였다. 이를 위해서 시뮬레이션과 실험을 통해 28-Gb/s의 OOK 신호와 28-Gbaud의 PAM 신호를 세기 변조/직접 검출 시스템을 통해 전송한 후 BER 결과를 측정하였다. 분석 결과를 통해서 제시한 가이드라인에 해당하는 PRBS를 사용하여 생성한 OOK와 PAM 신호로 ANN-NLE를 학습하는 경우에는 overfitting이 발생하지 않음을 확인하였다. ANN-NLE의 학습 과정에서 overfitting이 발생하는 경우에는 BER 저하 현상이 나타나 성능에 영향을 주는 것을 확인하였다. 또한 PAM 신호의 경우에는 제시한 가이드라인이 PRBS들의 PAM 신호를 생성하기 위한 심볼 코딩 방법과는 상관없이 적용이 가능함을 보였다. 끝으로 ANN-NLE의 성능을 선형 등화기와 볼테라 비선형 등화기의 성능을 비교하였다. 이를 위해서 ANN-NLE를 제시한 가이드라인을 통해 overfitting이 일어나지 않는 조건에서 학습하고 타등화기들과 성능을 비교하였다. ANN-NLE와 볼테라 비선형 등화기의 복잡도를 곱셈의 개수로 계산하고 비슷한 복잡도를 가질 때의 성능을 비교하였다. 복잡도가 유사한 경우 ANN-NLE가 볼테라 비선형 등화기에 비해 조금 나은 성능을 보였다. 본 논문은 OOK와 PAM 신호로 ANN-NLE를 overfitting 없이 학습하기 위한 PRBS의 차수들에 대한 일반적인 가이드라인을 제시함으로써 직접 검출 광통신 시스템에서 ANN-NLE를 성능의 저하 없이 학습할 수 있을 것으로 기대한다.