본 발명은 뉴럴 네트워크 가속기 시스템 및 그것의 동작 방법을 개시한다. 본 발명의 하나의 실시 예에 따른 뉴럴 네트워크 가속기 시스템은 제1 임베딩의 제1 세그먼트 및 제2 임베딩의 제2 세그먼트를 기반으로 텐서 연산을 통해 제1 축소 임베딩 세그먼트를 생성하도록 구성된 제1 메모리 모듈, 상기 제1 임베딩의 제3 세그먼트 및 상기 제2 임베딩의 제4 세그먼트를 기반으로 상기 텐서 연산을 통해 제2 축소 임베딩 세그먼트를 생성하도록 구성된 제2 메모리 모듈, 및 뉴럴 네트워크 알고리즘을 기반으로 상기 제1 축소 임베딩 세그먼트 및 상기 제2 축소 임베딩 세그먼트를 포함하는 축소 임베딩을 처리하도록 구성된 프로세서를 포함한다.