전자 장치 및 학습 모델 최적화 방법

Abstract

전자 장치가 개시된다. 본 전자 장치는, 복수의 레이어로 구성되는 학습 모델을 저장하는 메모리, 및 학습 모델의 파라미터 행렬 및 복수의 분할 변수를 초기화하고, 학습 모델에 대한 손실 함수, 파라미터 감쇠 정규화 항 및 파라미터 행렬 및 복수의 분할 변수로 정의되는 분할 정규화 항을 포함하는 목적 함수가 최소화하도록 복수의 분할 변수와 학습 모델에 대한 블록 대각 행렬을 갖는 신규 파라미터 행렬을 산출하고, 산출된 분할 변수에 기초하여 복수의 레이어를 그룹에 따라 수직 분할하고, 산출된 신규 파라미터 행렬을 수직 분할된 레이어의 파라미터로 사용하여 학습 모델을 재구성하는 프로세서를 포함한다.