본 논문은 깊이 데이터 재구성 및 대상 물체에 대한 사전 지식을 활용하여 실제 물체를 쥔 손의 26차원 관절 자세를 추적하는 시스템을 제안한다. 물체와 상호작용하는 손에 대한 자세 추적은 물체에 의한 가림 때문에 허공의 독립된 손 자세를 추적하는 문제에 비해 제약이 크다. 기존 대부분의 손 추적 연구들은 물체에 가려진 손 데이터를 무시하고 나머지 불충분한 입력 정보에서 최대한 정확한 자세를 추적하는 데에 초점을 두었으며, 물체와 상호작용한다는 사실이 손 자세 추정 탐색 공간을 효율적으로 줄일 수 있다는 점을 충분히 활용하지 못하였다. 본 논문에서 제안한 시스템은 가려진 손 영역의 깊이 데이터를 쥐고 있는 물체의 형태에 따라 재구성하고 입자 군집 최적화(PSO) 기법에 기반한 모델 추적기에 활용하되, 사전에 구성된 물체별 손 자세 군집을 모델 자세의 재초기화에 이용하는 방식이다. 그 결과 제안된 프로세스들이 물체를 쥔 손 자세 추적 성능을 향상시킴을 실험 평가를 통해 확인하였다.