은닉 마르코프 모델 (HMM, Hidden Markov Model)

I. Hidden Parameter 추정, 은닉 마르코프 모델(HMM)

가. 은닉 마르코프 모델 (Hidden Markov Model)의 개념

관측 불가능한 은닉 상태를 관측이 가능한 결과를 통해 모델링(모형화)하는 이중 확률론적 모델

나. HMM 기반이 되는 마르코프 모델(MM)의 가정

– 특정 사건이 관측될 확률은 이전 시간 관측 결과에 의존하며, 상태를 직접 볼 수는 없음
 

II. 은닉 마르코프 모델(HMM)의 기본 모델/유형과 구성요소

가. 은닉 마르코프 모델(HMM)의 기본 모델/유형

항목상세 설명
기본
모델

– 은닉상태 간 확률, HMM 모수 기반 상태 예측
– 초기화, 상태 전이, 관측 확률 기반 산출
HMM
유형
Ergodic
Model
– 모든 상태 연결
– 상태 확률 연계
– 순환 모델
Left to Right
Model
– 상태 전이가
순차 발생
– 일자형 모델

– 은닉상태/관찰가능상태 집합, 상태전이/관찰확률 행렬 및 파이벡터기반 HMM 모델링

나. 은닉 마르코프 모델(HMM)의 구성요소

구분구성요소설명
주요
변수
초기화
확률
– HMM 시작 시점 어느 상태에서 시작할지 결정 시 확률
(내일 날씨 예측 시 오늘 날씨 확률)
상태 전이
확률
– 상태 전이 시 발생하는 확률
(오늘 ‘비’ 일 때, 내일 ‘맑음’ 확률)
관측
확률
– 어느 한 상태, 관측된 상태 확률
(‘맑음’ 시 청소, ‘맑음’ 시 외출 확률)
HMM
구성
은닉상태
집합
– 마르코프 프로세스에 의해 표현되는 상태들의 집합
N: Number of states
관찰가능
상태집합
– 외형적으로 표현되는 상태 집합
M: Number of symbol observable in state
상태전이
행렬
– 이전 은닉 → 현재 은닉상태 전이 확률
– 모델 은닉 상태 간 전이 확률 행렬
A: State transition probability distribution
관찰확률
행렬
– 특정 은닉 상태에서 관찰 가능한 상태에 대한 확률 행렬
B: Observation symbol probability distribution
파이벡터– 특정 은닉상태가 시간 t=1 시 확률
π: Initial state distribution

– 상태가 노출된 마르코프 모델에 비해 상태 관찰이 불가능한 은닉 마르코프 모델

– ‘베이지안 네트워크’ 모델링 기법 기반 HMM 확률 기반 모델링

 

III. 은닉 마르코프 모델(HMM) 적용 시 고려사항, 적용방안

항목고려사항적용방안
최적해
찾기
– 가장 최적의 은닉
  상태 탐색
– Viterbi 알고리즘 기반
  도출 (동적 프로그래밍)
파라미터
추정
– 학습데이터 기반
  최적화 파라미터
– Baum-Welch 알고리즘
  기반 도출 (번갈아 추정)
확률평가
문제
– 관측값 다수 시
  최적 모델 탐색
– Forward, Backward 알고
리즘 기반 최적 도출

 

콘텐츠 사용 시 출처 표기 부탁 드리고, 궁금한 점이나 의견은 댓글 남겨주세요^^

도리의 디지털라이프에서 더 알아보기

지금 구독하여 계속 읽고 전체 아카이브에 액세스하세요.

Continue reading