今のAIと脳は違う、じゃあ何をもって脳と言えるか

個人的なメモ。
今のディープラーニングはニューラルネットを使っているとはいえ、脳を模倣できているとは到底言えない。
じゃあ何をもって脳と言えるか。

飛行機を作るか鳥を調べるか

空を飛ぶためだけなら飛行機を作ることが最善策だけど、鳥を調べたい人にとってはあまり意味がないこと。AIと脳のような関係においてよく用いられる例え話。

どんなことができることがゴールか

• 脳波の知見を利用できる
• 精神疾患の再現（コネクトームによる精神疾患の再現）
• 脳シミュレーター（人が次に何を考えるようになるか、みたいなのがシミュレーションできる）
  • 「シミュレーション心理学」的な
• 目的の自動生成（強化学習的に言えば、報酬系の自動生成）
• 個性・性格(協力・裏切り）
• 「自発的に見える」「意識があるように見える」
  • 哲学的だけど、最近のDARPAとかでも意識があるようにも見える
• 会話・雑談・感情・感情表現
• 長期記憶の利用（DQN業界ではホット、DNNでできるようになりそう）

今のDNN、RNNと脳は何が違うか

• そもそも脳波とかの概念はない
  • ダイナミクス・空間性が考慮されていない（AI的には考慮する必要はないだけ）
  • 空間性を考慮するためには信号伝達の遅延が必要
  • ディレイを取り入れたDNNでfMRI再現とかできるか

• 目的の自動生成
  • 結局「苦痛なく生きる」という報酬系に対してサブゴールが設定されているだけで、従来の強化学習と変わらない
  • じゃあ多様性を持って目的を設計するにはどうするの？
  • 環境との相互作用で集団行動を身に付けていくとか

• 個性
  • 進化、遺伝的プログラミング
  • そもそも個性の定義って何

• 学習方法
  • 脳が誤差伝播みたいな学習をしているとは思えないし、DNNの枠組みでは離散時間の学習しかできない
  • 連続時間&局所的な学習でないとおかしい。

注目

• Brain

Tani Jun - MTRNN
izhikevich - Reinforcement learning with spiking neuron and STDP
Eliasmith - Spaun
The Virtual Brain

• AI

DQN
NEAT