書籍・読書 AI・機械学習・ディープラーニング

グーグルに学ぶディープラーニング tensorflow.playgroundの試算

投稿日:

あまりよくなかった。これまでにディープラーニングの入門本は沢山読んできて、ある程度の内容は知っていて、事例を補いたいと思い読んだのですが、「人工知能 解体新書」のほうが有益だった。

 

気になった点は3つ。

ディープラーニングの可能性

ディープラーニング以前 ルールベースの人工知能。人間が問題の解き方を教えないといけない。

ディープラーニング 人間が解き方を教える手間がない。機械が自分で学ぶため、人間を超える可能性がある。

上記は「人工知能は人間を超えるか」などでも書かれていると思いますが、あらためてこの本で紹介されていたので、ディープラーニングの最大のメリットは人間を超えるというところ、例えばAlphaGoや将棋の実例が有名ですが、そういう所にあると感じた。

自社業務のコスト削減なども産業には役に立ちますが、それもよりもディープラーニングによって今までにない人間を超えた面を見ていきたいと思いました。

苫米地さん風にいうと、人間のスコトーマ(心理学的盲点)をディープラーニングは持っていないとうこと。そのため人間を簡単に超えていける。

領域を絞ると、機械学習が人間を超えていくのは簡単で、すぐに超えられる。

AIを自社業務に取り込む

AIの導入コンサルをしているブレインパッド社の社員のAI活用法が5章でした。

  • 既存業務の改善(コスト削減)←現実的で一番やりやすい。
  • 新たな機能開発による付加価値の向上
  • クリエイティブ性の向上

企業からAIでこんなことができるんじゃないか?と相談は沢山受けるそうですが、現実的にはコスト削減に落ち着くそうです。

なぜなら、コスト削減は試算がしやすく、説得しやすいからです。実験した結果、1000万円/年間のコスト削減ができそうです。3年で償却するので3000万円の開発予算をください。だったら通りますよね。

でも、せっかくAIという魔法の杖があるのに、コスト削減しかメリットがなかったら残念ですよね。全くワクワクしません。私はAIにはとても興味があるけど、コスト削減なんか全く興味ありません 笑

また、AIは研究者のものだったがのクラウド各社がAPI公開したことにより、ディープラーニングのコモディティ化が進んだ。誰でも使えるようになった。

それによって次の差別化ポイントは「データ」になる。

どんなデータをもっているか。もっていなければ、どんなデータを獲得できるか。

Google Tensorflow Playground

この本で紹介されていたのが、ディープラーニングの仕組みを解説するリンクです。それがplaygroundというもので、こちらの記事(TensorFlow Playground でわかるニューラルネットワーク)からどうぞ。

機械学習の進行の様子がとても分かりやすい神サイトです。いろいろ実験してみると、ディープラーニングがの学習がどのように進むか理解が進みます。このパラメータを使って隠れ層1の時、ニューロンの数を増やすとどのように学習が進むか試してみました。

ニューロンの数 loss=0.4となるepoch loss=0.2となるepoch loss=0.1となるepoch loss=0.05となるepoch
 1  240  時間切れ  時間切れ  時間切れ
 2  194  時間切れ
0.23から下がりにくい
 時間切れ 時間切れ
 3  89  150  191  242
0.017から下がりにくい
 4  76  124  164  240
0.017から下がりにくい
 5  80  124  164  230
0.014から下がりにくい
 6  84 124  156  209
0.014から下がりにくい
 7  45 81 110 161
0.011から下がりにくい
8  60 93  124 174
0.011から下がりにくい

ニューロンの数が増えるに連れて、学習が速く進む(損失関数の値が速く下がる)ことがよく分かりました。

  • ニューロンの数=1のときは、損失=0.4からなかなか下がらない。
  • ニューロンの数=2のときは、損失=0.23からなかなか下がらない。
  • ニューロンの数が3を超えると損失0.23の壁を超えるようになる。
  • ニューロンの数が7を超えると学習速度が一気に速くなる。

ニューロンの数に応じた限界がある事が分かりました。ある程度まで損失が下がると、そこからはエポックが増えてもなかなか損失が下がらなくなるのです。上表で時間切れというのは、時間を決めたわけではなくて、なかなか下がらないなーという状態になってきた時を時間切れと表現しています。

このように、いろんな気づきを与えてくれます。本だけ読んでると、原理は理解できても、いまいち実際の学習というのがピンと来ないと思いますが、その橋渡しをしてくれます。

もっと使い方を学んでみたい方はコチラの解説記事を参考にしてください。
TensorFlow Playgroundでディープラーニングを直感的に理解しよう

-書籍・読書, AI・機械学習・ディープラーニング

執筆者:


comment

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

関連記事

no image

昇進 政治的、給料 経済的 そんか楽しみしか知らない。 勝つことよりも、強くなること。 真の強者は勝つことだけを求めない。むしろ、負けたときの過程にこそ意味を見出だせるものこそ真の強者である。 考える …

no image

勉強するなら同じ本を5回は読め

最近ずっと読んでる本が、「現場で役立つシステム設計の原則」です。 通勤電車の30分ほど読んでいるのですが、最近やっと内容が理解できて、頭に入ってきました。 5回くらい繰り返し読んでいるのですが、やはり …

no image

誤差逆伝播法が必要な理由

ディープラーニングの勉強してると、誤差逆伝播法が必ず出てくるんだけど、イマイチなぜ?それが必要なのか分からなかった。 理由 ニューラルネットの層が深くなると、勾配の計算に時間がかかる。 誤差逆伝播法だ …

no image

君は1万円札を破れるか?

これ、お気に入りの本です。先日、自分の子どもも資本主義の洗礼で、コントロール不可能に陥ってることを見て、危機感を覚えました。 再度、資本主義の洗脳を解きたいと思い、読み返すことにした。 お金の本質 お …

no image

AIはデータ分析の手法の1つ

に過ぎない。 AIと切っても切れない。AIが成立する大前提になってるのが、ビッグデータです。 ビッグデータを成立させているのが、大規模分散処理による高速化です。 今まで何十時間もかかっていたことが、数 …