은닉 마르코프 모델 (HMM, Hidden Markov Model)

1. Hidden Parameter 추정, 은닉 마르코프 모델(HMM)

(1) 은닉 마르코프 모델 (Hidden Markov Model)의 개념

• 관측 불가능한 은닉 상태를 관측이 가능한 결과를 통해 모델링(모형화)하는 이중 확률론적 모델

(2) HMM 기반이 되는 마르코프 모델(MM)의 가정

• 특정 사건이 관측될 확률은 이전 시간 관측 결과에 의존하며, 상태를 직접 볼 수는 없음
   

2. 은닉 마르코프 모델의 기본 모델/유형과 구성요소

(1) 은닉 마르코프 모델의 기본 모델/유형

항목	상세 설명
기본 모델	– 은닉상태 간 확률, HMM 모수 기반 상태 예측 – 초기화, 상태 전이, 관측 확률 기반 산출
HMM 유형	Ergodic Model		– 모든 상태 연결 – 상태 확률 연계 – 순환 모델
	Left to Right Model		– 상태 전이가 순차 발생 – 일자형 모델

• 은닉상태/관찰가능상태 집합, 상태전이/관찰확률 행렬 및 파이 벡터기반 HMM 모델링

(2) 은닉 마르코프 모델의 구성요소

구분	구성요소	설명
주요 변수	초기화 확률	– HMM 시작 시점 어느 상태에서 시작할지 결정 시 확률 (내일 날씨 예측 시 오늘 날씨 확률)
	상태 전이 확률	– 상태 전이 시 발생하는 확률 (오늘 ‘비’ 일 때, 내일 ‘맑음’ 확률)
	관측 확률	– 어느 한 상태, 관측된 상태 확률 (‘맑음’ 시 청소, ‘맑음’ 시 외출 확률)
HMM 구성
	은닉상태 집합	– 마르코프 프로세스에 의해 표현되는 상태들의 집합 N: Number of states
	관찰가능 상태집합	– 외형적으로 표현되는 상태 집합 M: Number of symbol observable in state
	상태전이 행렬	– 이전 은닉 → 현재 은닉상태 전이 확률 – 모델 은닉 상태 간 전이 확률 행렬 A: State transition probability distribution
	관찰확률 행렬	– 특정 은닉 상태에서 관찰 가능한 상태에 대한 확률 행렬 B: Observation symbol probability distribution
	파이벡터	– 특정 은닉상태가 시간 t=1 시 확률 π: Initial state distribution

• 상태가 노출된 마르코프 모델에 비해 상태 관찰이 불가능한 은닉마르코프 모델
• ‘베이지안 네트워크’ 모델링 기법 기반 HMM 확률 기반 모델링

3. 은닉 마르코프 모델 적용 시 고려사항, 적용방안