I. Gradient descent vanishing 해결 위한 심층신뢰망 가. 심층신뢰망 (DBN, Deep Belief Network)의 개념 입력층과 은닉층으로 구성된 RBM을 블록처럼 여러 층으로 쌓인 형태로 연결된 신경망 (딥러닝의 일종) RBM: 제한된 볼츠만 머신(Restricted Boltzmann Machine) 나. 심층신뢰망의 개발 배경 피드포워드 신경망에서 신경망의 층 수가 늘어나면서 발생하는 경사감소 소멸(Gradient Descent Vanishing) 문제 해결 필요 다. 심층신뢰망의 특징 비지도
I. 밀도기반 군집화 기법, DBSCAN 가. DBSCAN 의 개념 핵심 벡터로부터 ε 반경 내 접근 가능한 모든 데이터 벡터들의 집합(군집)을 생성하는 기법 DBSCAN : Density-Based Spatial Clustering of Application with Noise 나. DBSCAN 주요 개념 ε (epsilon) – 주어진 개체 들의 반경 minPts – ε 반경 내 군집 위해 필요한 객체 수 II. 군집
I. 분류와 예측 모형, 인공신경망, ANN 가. 인공신경망의 개념 인간의 뉴런을 모방하여 가중치 조정을 통한 분류와 예측을 위해 다수 노드를 연결한 계층적 조직 나. 인공신경망의 특징 특징 구성요소 예를 통한 학습 – 예를 계속 제시하여 원하는 형태 학습 일반화 – 학습 후 미학습된 입력에도 올바른 출력 연상기억 – 일부 유실된 정보 → 유사한 출력 결함
I. 강화 학습 기법, Q-러닝(Q-Learning) 특정 상태에서 행동에 대한 미래값(Q)을 계산하여, 최적 정책을 찾는 마르코프 의사결정 기반 강화학습 기법 마르코프 의사결정 : 다음 상태의 확률은 오직 현재 상태와 행동에만 영향을 받고, 이전 상태에서 영향 받지 않는 의사결정 II. Q-러닝 학습 절차 및 구성요소 가. Q-러닝의 학습 절차 학습 절차 설명 ① value table Q
I. CNN과 RNN의 융합 기술, CRNN 특징 추출과 시계열 모델을 통합하여 이미지에서 시계열 데이터를 인식하는 고성능 학습 모델 II. CRNN의 수행 절차 및 구성요소 가. CRNN의 수행 절차 Convolution Net. 최상부에서 출력된 Feature Sequence의 프레임 예측 위해 Recurrent Net. 사용 나. CRNN의 구성요소 구분 구성요소 설명 계층 요소 CNN – Feature Map, Pooling, Sampling
I. RNN 장기 의존성 문제 개선, LSTM 가. LSTM의 개념 개념도 개념 순환신경망의 장기 의존성 문제 해결하기 위해 셀 스테이트 기반 신경망 모델 나. 순환신경망의 장기 의존성 문제 RNN은 매번 Step마다 위 과정을 반복, 역전파 시 더 많은 곱셈 연산에 따른 경사 감소로 뒤 노드까지 영향 불가 Step t에서의 hidden layer : ht(ht-1Whh)Whh II.
1. 순환 신경망, RNN (1) RNN (Recurrent Neural Network)의 개념 음성인식, 자연어 등 현재 입력 데이터와 과거 데이터를 고려하여 순차 데이터를 처리하는 순환 신경망 모델 (2) RNN의 특징 과거-미래 영향 구조 – 루프 구조를 통해 과거의 데이터가 미래에 영향을 줄 수 있는 구조 경사 하강법 – 함수의 기울기로 최소값 탐색 알고리즘 – 2, 3차원 알고리즘
1. 인공신경방 빠른 객체 탐색, YOLO 개념 필요성 빠른 속도로 객체 탐색 위해 그리드 Bounding box를 통해 최적 객체 탐색 및 분류하는 딥러닝 기반 Fast 객체 탐색 기법 – RCNN의 느린 속도 개선 – 전체 이미지 기반 맥락이해 – Object의 일반화 특징학습 2. YOLO의 객체 탐색/분류 절차 및 구현 기술 (1) YOLO 기반 객체
1. 영상 내 사물 인식, RCNN (Region-based CNN) 입력 영상 내 사물 인식을 위한 사물의 영역 탐지 및 사물 특징 추출, 분류 CNN 기반 신경망 알고리즘 2. RCNN의 구성도 및 구성요소 (1) RCNN의 구성도 ① 이미지 입력 ② 2000개 정도 Region Proposal 추출(Selective Search) ③ Cropping(자르기), Warping(크기 동일화), Feature 추출 ④ 각 Region Proposal
1. 2차원 이미지 분석, CNN (Convolutional Neural Network) (1) CNN의 개념 Convolution, Pooling, Fully Connected layer를 통해 특징 추출, 차원 축소하여 이미지를 분류, 인식하는 신경망 알고리즘 (2) CNN의 특징 ReLU – Rectified Linear Unit 활성화 함수 – Gradient Vanishing 문제 해결 Dropout – 인공 신경망의 Overfitting 방지 위해 특정 뉴런 미동작 학습 수행 Bigdata –