AI・機械学習・ディープラーニング

線形関数を活性化関数に用いてはいけない理由

投稿日:

線形関数とは

y=ax(aは定数)のこと。

線形関数で層を重ねると

  • 1層目 y=ax
  • 2層目 y=a(ax)=a2x
  • 3層目 y=a(a(ax)=a3x
  • ・・・
  • n層目 y=anx

このようになってしまい、n層目も実は定数aを変えただけのものになる。そのため層を重ねる意味がない。

 

-AI・機械学習・ディープラーニング

執筆者:


comment

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

関連記事

no image

【AI(人口知能)まるわかり】(日経ビジネス)を読んで

 機械学習・ディープラーニングによりAI開発が加速している 機械学習に必要なもの。 大量の学習データ 膨大な計算リソース これらを可能にしたのがgoogleである。計算リソースはGoogle …

no image

AIの俯瞰

AI=Artifical Inteligence=人口知能 AIの適用領域 画像認識 Visual Recognition ImageNet というコンテストがある。何の画像かAIが見極める競技である …

no image

ディープラーニングは機械自体か学習する仕組みがキモ

ディープラーニングの入門書を読んで思うのが、エンジニアが押さえるべきは、機械自体が学習する仕組みを押さえることです。 ディープラーニング オートエンコーダー(自己符号化) 入力と出力の値が同じになるよ …

no image

ディープラーニングの分かりやすい記事まとめ

入門・解説記事 深層学習を勉強して説明してみた https://research.preferred.jp/2012/11/deep-learning/ 業界を代表するブログ https://rese …

no image

numpy 配列の乗算

import numpy as np x = np.array([0,1]) w = np.array([0,5],[0.5]) print x*w >>>[0. 0.5] このよう …