Propagation

1. 순전파를 진행하여 입력값으로부터 출력값을 계산
   1. 출력값은 우리가 구하고자 하는 타깃 예측값
2. 순전파로 구한 타깃 예측값과, 실제 타깃값의 차이 (손실) 을 구함
3. 손실값을 줄이는 방향으로 가중치의 기울기를 구함 (경사하강법 > SGD)
4. 기울기를 바탕으로 가중치를 갱신 (Backward Propagation)
   1. 출력층 → 입력층 방향으로 차례로 가중치를 갱신함
5. 갱신된 가중치를 바탕으로 1~4단계를 반복
   1. 반복할수록 타깃 예측값이 실제 타깃값과 가까워짐 (=손실값이 줄어듬)

Forward Propagation

• 입력값과 가중치를 활용해 출력값 (타깃예측값) 을 구하는 과정

ANN 에서, 입력값이 입력층과 은닉층을 거쳐 출력층에 도달하기까지의 계산 과정 각 층을 통과할 때마다 입력값에 가중치를 곱해 다음 층으로 출력할 값을 계산

Backward Propagation

• 손실값을 통해 기울기를 통해 가중치를 갱신하는 과정