stage3day1section0-1
Section0:
NN ニューラルネットワーク
人間の脳内にある神経細胞(ニューロン)とそのつながり、つまり神経回路網を人口ニューロンという数式的なモデルで表現したもの
識別モデル
データを目的のクラスに分類 データ→クラス 従来、盛んだった
高次元→低次元 写真を見て、動物の種類を当てる
生成モデル
識別モデルの逆 クラス→データ 近年、盛んになっている
低次元→高次元 古い写真を高解像度に、存在しないアイドルの顔を作る
確認テスト
確認テスト1
- ディープラーニングは結局何をしようとしているか?2行以内で述べよ → 明示的なプログラムの代わりに多数の中間層をもつニューラルネットワークを用いて、入力値から目的とする出力値に変換する数学モデルを構築すること。
- ディープラーニングは、次のどの値を最適化することが最終目的か?
①入力値[X] ②出力値[Y] ③重み[W] ④バイアス[b] ⑤総入力[u] ⑥中間層入力[z] ⑦学習率[p] → ③重み[w] ④バイアス[b]
バイアスは切片とも言う
確認テスト2
次のネットワークをかけ。
- 入力層:2ノード1層
- 中間層:3ノード2層
- 出力層:1ノード1層
NNでできること
回帰
結果予想
・売上予想
・株価予想
ランキング
・競馬順位予想
・人気順位予想
分類
・猫写真の判定
・手書き文字認識
・花の種類分析
深層学習とは
4層以上ある
・自動売買(トレード)
・チャットボット
・翻訳
・音声解釈
・囲碁、将棋AI
Section1:入力層〜中間層
入力層から中間層についてのプロセス図
:入力(説明変数)
:各説明変数に対する重み(どれだけ重視するか)
:バイアス
:総入力
:出力
:活性化関数
確認テスト
確認テスト1
答え:
x1 : 体長
x2 : 体重
x3 : 髭の本数
x4 : 毛の長さ
実装演習
1_1_forward_propagation.ipynb
確認テスト2
答え
u = np.dot(x, W) + b
確認テスト3
答え
u2 = np.dot(z1, W2) + b2
z2 = functions.relu(u2)
→
2層の総入力 2層の総出力