はとはとブログ

深層学習（ディープラーニング）を学ぶ上で避けて通れないのが、順伝播（フォワードプロパゲーション）と逆伝播（バックプロパゲーション）の理解です。これらの概念は数式が多く登場するため難しく感じる方も多いのではないでしょうか。筆者も深層学習の学習を進める中で、これらの仕組みがどのように連携して学習を実現しているのか、個人的な関心から調査・考察してみました。本記事では、順伝播と逆伝播の基本原理から活性化関数、勾配消失問題までを整理しています。深層学習の基礎を把握したい方の参考になれば幸いです。