ハイパーパラメータ
前項までで「DLの学習とはパラメータwを自動計算することだ」とわかったが、ニューラルネット自体を何層にするか各層のwは何個にするかは特に理論がないらしい。他にも人間が決めなければならないことは色々あり、ハイパーパラメータと呼ばれている。
|
パラメータ(自動計算) |
ハイパーパラメータ(人間が決める) |
|
・重みw |
・ネット構成(層数、カーネルサイズ、活性化関数φ) ・wの初期値、wの更新ステップη ・学習テクニック ミニバッチ、損失関数＋正則化関数、Dropout、バッチ正規化 |
◇
また、画像自体もバリエーションをどこまで広く採ればよいのか人間が決めなければならないし、そもそも大量の画像に正解をラベル付けするのも人間がやらねばならない。
◇◇
こうして見ると、機械が自分で学習しているというよりは人間が教えてあげていることの方が大きくて、これをAIと呼ぶのは微妙な感じがする一方で、人間が意味づけできない式で人間並みに猫とかを認識するのは驚きであり、AIと呼びたくなる気持ちもわかる。