読書感想5:深層学習

深層学習を学ぶ上で絶対に読むべき本として紹介されていた本。

単純NN、多層NN、活性化関数の選び方、誤差逆伝搬法、勾配消失問題と理論の説明が多くの数式を交えながら続き、

勾配消失問題の解決の糸口となった自己符号化器、なぜ事前学習を行うと上手くいかないかは分かっていないことの説明。

その後、画像認識に使われる畳み込みNN、音声や画像認識に使われる再帰型NN、最後にボルツマンマシンの説明。

 

とにかく数式が多く、基本的な数学の知識や統制の知識がないとなかなか理解は厳しいと思ったが、問題によって様々なNNや活性化関数が用いられることがよくわかる。

 

個人的に深層学習を数式で理解するのに1番わかりやすかったのはこのブログです。

http://hokuts.com/2016/05/29/bp1/