I. Hidden Parameter 추정, 은닉 마르코프 모델(HMM)
가. 은닉 마르코프 모델 (Hidden Markov Model)의 개념
관측 불가능한 은닉 상태를 관측이 가능한 결과를 통해 모델링(모형화)하는 이중 확률론적 모델
나. HMM 기반이 되는 마르코프 모델(MM)의 가정
– 특정 사건이 관측될 확률은 이전 시간 관측 결과에 의존하며, 상태를 직접 볼 수는 없음
II. 은닉 마르코프 모델(HMM)의 기본 모델/유형과 구성요소
가. 은닉 마르코프 모델(HMM)의 기본 모델/유형
| 항목 | 상세 설명 | ||
|---|---|---|---|
| 기본 모델 | – 은닉상태 간 확률, HMM 모수 기반 상태 예측 – 초기화, 상태 전이, 관측 확률 기반 산출 | ||
| HMM 유형 | Ergodic Model | – 모든 상태 연결 – 상태 확률 연계 – 순환 모델 | |
| Left to Right Model | – 상태 전이가 순차 발생 – 일자형 모델 | ||
– 은닉상태/관찰가능상태 집합, 상태전이/관찰확률 행렬 및 파이벡터기반 HMM 모델링
나. 은닉 마르코프 모델(HMM)의 구성요소
| 구분 | 구성요소 | 설명 |
|---|---|---|
| 주요 변수 | 초기화 확률 | – HMM 시작 시점 어느 상태에서 시작할지 결정 시 확률 (내일 날씨 예측 시 오늘 날씨 확률) |
| 상태 전이 확률 | – 상태 전이 시 발생하는 확률 (오늘 ‘비’ 일 때, 내일 ‘맑음’ 확률) | |
| 관측 확률 | – 어느 한 상태, 관측된 상태 확률 (‘맑음’ 시 청소, ‘맑음’ 시 외출 확률) | |
| HMM 구성 | ||
| 은닉상태 집합 | – 마르코프 프로세스에 의해 표현되는 상태들의 집합 N: Number of states | |
| 관찰가능 상태집합 | – 외형적으로 표현되는 상태 집합 M: Number of symbol observable in state | |
| 상태전이 행렬 | – 이전 은닉 → 현재 은닉상태 전이 확률 – 모델 은닉 상태 간 전이 확률 행렬 A: State transition probability distribution | |
| 관찰확률 행렬 | – 특정 은닉 상태에서 관찰 가능한 상태에 대한 확률 행렬 B: Observation symbol probability distribution | |
| 파이벡터 | – 특정 은닉상태가 시간 t=1 시 확률 π: Initial state distribution | |
– 상태가 노출된 마르코프 모델에 비해 상태 관찰이 불가능한 은닉 마르코프 모델
– ‘베이지안 네트워크’ 모델링 기법 기반 HMM 확률 기반 모델링
III. 은닉 마르코프 모델(HMM) 적용 시 고려사항, 적용방안
| 항목 | 고려사항 | 적용방안 |
|---|---|---|
| 최적해 찾기 | – 가장 최적의 은닉 상태 탐색 | – Viterbi 알고리즘 기반 도출 (동적 프로그래밍) |
| 파라미터 추정 | – 학습데이터 기반 최적화 파라미터 | – Baum-Welch 알고리즘 기반 도출 (번갈아 추정) |
| 확률평가 문제 | – 관측값 다수 시 최적 모델 탐색 | – Forward, Backward 알고 리즘 기반 최적 도출 |