1. 파인튜닝 (Fine-Tuning)의 개념 및 필요성 개념 필요성 인공지능 모델이 특정 작업이나 도메인에 적합하도록 이미 훈련된 인공지능 모델에 특정 데이터셋을 적용하는 미세 조정 기법 – 특정 작업/도메인에 적합한 모델 생성 – 적은 데이터셋으로 높은 학습 효과 – 신규 데이터에 대한 추론 성능 향상 파인 튜닝을 통해 학습 데이터가 적은 상황에서 특정 분야 인공지능 모델의 일반화
I. 과한 학습과 부족 학습, 오버핏과 언더핏의 문제점 구분 문제점 현상 Overfit (과분산) – 과학습, 오류 분산 – High Variance, 과분산 – 비슷한 입력에 부정확 반응 결과 – 학습 대상만 정상반응 Underfit (과편향) – 데이터해석 능력저하 – High bias, 과편향 – 여러 가지 입력에 제대로 반응불가 – 학습 부족, 편향 반응 – 오버핏과 언더핏의 공통적인
I. co-adaptation 해결 기법, 드롭아웃 가. 드롭아웃(Dropout)의 개념 딥러닝 시 오버피팅 문제를 해결하기 위해 노드 중 일부를 제거하는 인공지능 최적 학습기법 나. 드롭아웃의 목적 Overfitting 해결 – 신경망 비대 시 high variance 문제 해결 – Voting 효과로 정규화 유사 효과 가능 co-adaptation 회피 – 특정 뉴런의 가중치나 영향 감소 – 강건한 신경망 구성 가능