2019년 5월 7일
전이 학습 (Transfer Learning)
I. 학습치 재사용 기법, 전이 학습
| 개념 | 필요성 |
|---|---|
| 데이터 세트가 유사한 분야에 학습치를 전이하여 Fine Tuning 기반 신경망 학습 재사용 기법 | – 데이터 부족 해소 – 학습 시간 단축 – 학습치 재사용 |
II. 전이 학습의 메커니즘 및 알고리즘 유형
가. 전이 학습의 절차도/메커니즘
| 절차도 | 메커니즘 |
|---|---|
 | ① Feature Learning Data Set 기반 학습 수행 |
| ② Transfer Parameter 학습치(Parameter) 전이 | |
| ③ Classifier Learning Fine Tuning 기반 미세 조정 |
나. 전이 학습의 유형과 알고리즘
| 유형 | 알고리즘 | 설명 |
|---|---|---|
| Inductive | – Multi-task 학습 | – 하나의 훈련셋으로 여러 분류 모델 처리 |
| – Self-taught 학습 | – Labeled Data로 Feature 생성, 최종 분류자 변환 | |
| Trans- ductive | – Domain Adaptation | – Feature 생성 후 Target Domain 구별 차단 |
| – Sample Select. Bias | – 학습치 샘플 선택 – 해당 학습치만 전이 |
- 위 알고리즘 외 Instance Transfer, Model Transfer 유형 있으며, 모델 적용 가능 여부 예측 한계점 존재
III. 전이 학습의 한계점 및 해결방안
| 한계점 | 해결 방안 |
|---|---|
| – 소스 모델의 학습 데이터로 목표 모델에 적용 가능여부 예측 어려움 | – Feature Representation – 소스-목표 모델 간 공통 Feature 탐색, 오류 감소 |
About The Author
