Forward propagation and backpropagation
- 지난 강의에서 볼 수 있었던 것처럼 RNN의 기본 구조는 위와 같습니다.
파란색 화살표는 순전파 방향을 나타내고 있고, 역전파는 정반대로 계산을 하면 되겠죠?
- Loss를 구하는 것도 별반 다르지 않습니다.
우리가 예측한 결과인 y hat과 실제 정답(label)인 y 사이의 오차를 구해줍니다.
그리고 이 오차를 각 예측에 대해서 모두 합쳐주면 됩니다.
출처: Coursera, Sequence Models, DeepLearning.AI
'Sequence Models > 1주차' 카테고리의 다른 글
| Recurrent Neural Networks(7) : Sampling Novel Sequences (0) | 2023.04.14 |
|---|---|
| Recurrent Neural Networks(6) : Language Model and Sequence Generation (0) | 2023.04.14 |
| Recurrent Neural Networks(5) : Different Types of RNNs (0) | 2023.04.14 |
| Recurrent Neural Networks(3) : Recurrent Neural Network Model (0) | 2023.04.13 |
| Recurrent Neural Networks(1),(2) : Why Sequence Models?, Notation (0) | 2023.04.13 |
