読者です 読者をやめる 読者になる 読者になる

Coding Memos

try {coding} catch {questions}

パーセプトロン導入【ゼロ作DL_5】

ゼロ作DL Deep Learning 学習ログ

今回は表題の通り、パーセプトロンについて。

Perception = 知覚 でonというのは、neuronなどでも使われているように、単位を表す時によく使われる。

Perceptronなので、知覚単位って感じですね。

パーセプトロンアルゴリズムは。生物学的には「全か無かの法則」というものを簡潔に表している。

もっと一般的な話を持ち出すとすると、「ししおどし」のモデルがこれに近いように思う。

f:id:codingmemos:20170225005912g:plain

とくとくとく・・・っと水を貯めていって、ある水の量を超えると、かこーんっと傾く。

パーセプトロンアルゴリズムも、ある閾値を超えると1を返し(ししおどしは傾く)、それ以下は0を返す。

神経科学より

実は私は大学院では神経科学を専攻していたため、もう少し有機的にこの辺りの話を想像することができる。 神経細胞では、ナトリウムイオンや、カリウムイオンなど様々なイオンが分布している。

このイオンの分布さによって神経細胞中の膜内外に偏りが出る。 これが偏りまくると、電気的に内外で差が出る。これが電位差と呼ばれるもので、物理的に言えば(とはいっても電位差も物理的な用語だが、理科の範囲で言えば)電圧ということになる。

この偏りをばしゅっと放電して(脱分極)電位差を元に戻そうとする。つまり、電位差のギャップを閾とみて、これ以上ギャップが進むと、あああああああ放電しちゃう〜!!ってかんじで、活動電位が発生するわけです。

まぁ、専門的には専門書なり、Wikipedia なり見て欲しいです笑

活動電位 - Wikipedia

なので、電気的な差が大きくなっていって、ある一定を超えるというのが閾となってます。 簡単な理解はししおどしでいいと思います。

f:id:codingmemos:20170225011719j:plain

怒りのある一点を超えてスーパーサイヤ人になっちゃった悟空でもいいかもしんないです。

そこで、神経細胞はとくに中枢神経(脳ミソをイメージしてくれればいいです)では、ネットワークを形成してるので、 いろんなところから、電気が流れてくるわけですよ。

ある一個の細胞がうける入力は、

{ \displaystyle
y = w_1x_1+w_2x_2+\cdots+w_nx_n
}

という感じで、周囲の細胞たちが発する刺激の合計だとすると、ある閾値\thetaを超えない限りは0(ししおどしは傾かないし、悟空もスーパーサイヤ人になれない) 超えたら、1(ししおどしは傾くし、スーパーサイヤ人になれる。)

という具合。

wはこのとき電気的には抵抗です。(はてブって数式どうやって書けばいいんだろう。tex記法覚えます・・・)

この閾値の機構がうまく働かないと、ししおどしは傾きっぱなしです。意味ないですよね。 ずーっと傾いたししおどしってもうそれ直接水注げよとなりますよ。

ちなみに、この電位差がバランスをとって維持してしまった時、人間は活動電位を起こせなくなって死に至ります。心臓の収縮が起こらなくなりますからね。自然界的にはバランスを取る方がエネルギーが低くて安定なんですけど、生きるというのは、不安定をうまく活用しているわけですよね。

話が逸れました。

今回の話は、パーセプトロンの導入で、次は論理回路が待ち受けてるので、続きは次で。