은닉 마르코프 모델 (HMM, Hidden Markov Model)

I. Hidden Parameter 추정, 은닉 마르코프 모델(HMM)

가. 은닉 마르코프 모델 (Hidden Markov Model)의 개념

관측 불가능한 은닉 상태를 관측이 가능한 결과를 통해 모델링(모형화)하는 이중 확률론적 모델

나. HMM 기반이 되는 마르코프 모델(MM)의 가정

– 특정 사건이 관측될 확률은 이전 시간 관측 결과에 의존하며, 상태를 직접 볼 수는 없음
 

II. 은닉 마르코프 모델(HMM)의 기본 모델/유형과 구성요소

가. 은닉 마르코프 모델(HMM)의 기본 모델/유형

항목	상세 설명
기본 모델	– 은닉상태 간 확률, HMM 모수 기반 상태 예측 – 초기화, 상태 전이, 관측 확률 기반 산출
HMM 유형	Ergodic Model		– 모든 상태 연결 – 상태 확률 연계 – 순환 모델
	Left to Right Model		– 상태 전이가 순차 발생 – 일자형 모델

– 은닉상태/관찰가능상태 집합, 상태전이/관찰확률 행렬 및 파이벡터기반 HMM 모델링

나. 은닉 마르코프 모델(HMM)의 구성요소

구분	구성요소	설명
주요 변수	초기화 확률	– HMM 시작 시점 어느 상태에서 시작할지 결정 시 확률 (내일 날씨 예측 시 오늘 날씨 확률)
	상태 전이 확률	– 상태 전이 시 발생하는 확률 (오늘 ‘비’ 일 때, 내일 ‘맑음’ 확률)
	관측 확률	– 어느 한 상태, 관측된 상태 확률 (‘맑음’ 시 청소, ‘맑음’ 시 외출 확률)
HMM 구성
	은닉상태 집합	– 마르코프 프로세스에 의해 표현되는 상태들의 집합 N: Number of states
	관찰가능 상태집합	– 외형적으로 표현되는 상태 집합 M: Number of symbol observable in state
	상태전이 행렬	– 이전 은닉 → 현재 은닉상태 전이 확률 – 모델 은닉 상태 간 전이 확률 행렬 A: State transition probability distribution
	관찰확률 행렬	– 특정 은닉 상태에서 관찰 가능한 상태에 대한 확률 행렬 B: Observation symbol probability distribution
	파이벡터	– 특정 은닉상태가 시간 t=1 시 확률 π: Initial state distribution

– 상태가 노출된 마르코프 모델에 비해 상태 관찰이 불가능한 은닉 마르코프 모델

– ‘베이지안 네트워크’ 모델링 기법 기반 HMM 확률 기반 모델링

III. 은닉 마르코프 모델(HMM) 적용 시 고려사항, 적용방안