저밀도 패리티 검사 부호를 활용한 고장 방지 능력을 갖춘 분산 기계 학습 방법 및 그 장치가 개시된다. 본 발명의 일 실시예에 따른 분산 기계 학습 오류 복구 방법은 일꾼들(workers)로부터 계산 결과 값들을 수신하는 단계; 변수 노드들(variable nodes) 중 이레이저(erasure)의 변수 노드 및 상기 이레이저의 변수 노드와 연결된 검사 노드(check node)를 제거하는 단계; 검사 노드들 각각에 연결된 변수 노드들의 계산 결과 값에 기초하여 변수 노드들 중 오류 후보를 결정하는 단계; 및 상기 결정된 오류 후보와 연결된 검사 노드에 연결된 변수 노드들 각각의 계산 결과 값에 기초하여 해당 검사 노드와 연결된 오류 노드의 계산 결과 값을 수정하는 단계를 포함한다.