전이 학습 (Transfer Learning)

I. 학습치 재사용 기법, 전이 학습

개념필요성
데이터 세트가 유사한 분야에 학습치를 전이하여 Fine Tuning 기반 신경망 학습 재사용 기법– 데이터 부족 해소
– 학습 시간 단축
– 학습치 재사용

 

II. 전이 학습의 메커니즘 및 알고리즘 유형

가. 전이 학습의 절차도/메커니즘

절차도메커니즘
① Feature Learning
 Data Set 기반 학습 수행
② Transfer Parameter
 학습치(Parameter) 전이
③ Classifier Learning
 Fine Tuning 기반 미세 조정

나. 전이 학습의 유형과 알고리즘

유형알고리즘설명
Inductive– Multi-task 학습– 하나의 훈련셋으로 여러 분류 모델 처리
– Self-taught 학습– Labeled Data로 Feature  생성, 최종 분류자 변환
Trans-
ductive
– Domain Adaptation– Feature 생성 후 Target Domain 구별 차단
– Sample Select. Bias– 학습치 샘플 선택
– 해당 학습치만 전이
  • 위 알고리즘 외 Instance Transfer, Model Transfer 유형 있으며, 모델 적용 가능 여부 예측 한계점 존재

 

III. 전이 학습의 한계점 및 해결방안

한계점해결 방안
– 소스 모델의 학습 데이터로 목표 모델에 적용 가능여부 예측 어려움– Feature Representation
– 소스-목표 모델 간 공통 Feature 탐색, 오류 감소

콘텐츠 사용 시 출처 표기 부탁 드리고, 궁금한 점이나 의견은 댓글 남겨주세요^^

도리의 디지털라이프에서 더 알아보기

지금 구독하여 계속 읽고 전체 아카이브에 액세스하세요.

Continue reading