2022-01-03から1日間の記事一覧

E資格学習 深層学習 Day2 ① 勾配消失問題〜最適化手法〜過学習

勾配消失問題 要点まとめ 勾配消失を回避する3つの方法 【実装】Xavier/ He 初期値の設定方法 【実装】バッチ正規化レイヤー 最適化手法 要点まとめ モメンタム Adagrad RMSProp Adam 過学習 要点まとめ 正則化手法 【実装】L1正則化、L2正則化 ドロップアウ…

E資格学習 深層学習 Day1

さて、今回は深層学習の基礎と概要について要点をまとめたいと思います。 入力層~中間層 活性化関数 要点まとめ STEP関数 シグモイド関数 RELU関数 Softmax関数 出力層 要点まとめ 誤差関数 要点まとめ MSE クロスエントロピー Softmax関数+クロスエントロ…