[DNN] 01. DNN 기본 용어

① DNN (Deep Neural Network)

DNN

• 심층 신경망
• 은닉 유닛이 모여서 하나의 층을 구성하고, 그 층들이 묶여 네트워크를 구성한다.
• MLP(Multi Layer Perceptron)이 DNN의 일종이다.

② 전파

• 순전파 (Forward Propagation)
  • 입력층 → 출력층의 방향으로 연산을 진행하는 과정. 추론 과정.
  • x값을 입력해 y값을 출력하는 과정을 Forward Propagation(순전파) 라고 함
  • 입력값 x가 뉴런, layer를 타고 쭉 전파됨
• 역전파 (Backward Propagation)
  • 출력층 → 입력층의 방향으로 오차의 미분을 전달함

③ FCL (Fully Connected Layer)

• 전 결합층, 완전 연결층, 밀집층(Dense Layer)를 의미.
• 모든 층의 뉴런이 다른 층과 연결되어 있음
• 추론을 하기위한 구조
• 오차를 점점 갱신 → 뉴런들이 데이터를 이해하기 시작함
• 즉, 정답을 맞추기 위한 적절한 가중치(w)와 편향(b)을 구해내기 시작함.
• 이는 컴퓨터가 데이터를 이해하는 과정

④ Deep Learning Framework

• Tensorflow, Keras (Google) : 하드웨어에 구애받지 않음. 폰 어플에서도 쓰임
• PyTorch (Facebook) : 연구, 개발