知識の本棚

読みかけの本でも読んだ本でも読むつもりの本でも、とにかく本棚に仕舞うように調べたことを書き溜める。

今のAIと脳は違う、じゃあ何をもって脳と言えるか

個人的なメモ。
今のディープラーニングニューラルネットを使っているとはいえ、脳を模倣できているとは到底言えない。
じゃあ何をもって脳と言えるか。

飛行機を作るか鳥を調べるか

空を飛ぶためだけなら飛行機を作ることが最善策だけど、鳥を調べたい人にとってはあまり意味がないこと。AIと脳のような関係においてよく用いられる例え話。

どんなことができることがゴールか

  • 脳波の知見を利用できる
  • 精神疾患の再現(コネクトームによる精神疾患の再現)
  • 脳シミュレーター(人が次に何を考えるようになるか、みたいなのがシミュレーションできる)
    • 「シミュレーション心理学」的な
  • 目的の自動生成(強化学習的に言えば、報酬系の自動生成)
  • 個性・性格(協力・裏切り)
  • 「自発的に見える」「意識があるように見える」
    • 哲学的だけど、最近のDARPAとかでも意識があるようにも見える
  • 会話・雑談・感情・感情表現
  • 長期記憶の利用(DQN業界ではホット、DNNでできるようになりそう)

今のDNN、RNNと脳は何が違うか

  • そもそも脳波とかの概念はない
    • ダイナミクス・空間性が考慮されていない(AI的には考慮する必要はないだけ)
    • 空間性を考慮するためには信号伝達の遅延が必要
    • ディレイを取り入れたDNNでfMRI再現とかできるか
  • 目的の自動生成
    • 結局「苦痛なく生きる」という報酬系に対してサブゴールが設定されているだけで、従来の強化学習と変わらない
    • じゃあ多様性を持って目的を設計するにはどうするの?
    • 環境との相互作用で集団行動を身に付けていくとか
  • 学習方法
    • 脳が誤差伝播みたいな学習をしているとは思えないし、DNNの枠組みでは離散時間の学習しかできない
    • 連続時間&局所的な学習でないとおかしい。

注目

  • Brain

Tani Jun - MTRNN
izhikevich - Reinforcement learning with spiking neuron and STDP
Eliasmith - Spaun
The Virtual Brain

  • AI

DQN
NEAT

アルゴリズム取引プログラム

coursera【computational investing】の受講者の話

http://futurismo.biz/archives/2678

雑感

各所で言われることが、機械学習の専門性とファイナンスの専門性を兼ね備えた人材の少なさ。
さらに、プログラムに落とし込める能力も兼ね備えている必要がある。
趣味でやる分にはやりがいがありそうだけど、仕事にはしたくない分野。

情報理論的な複雑性指標

情報理論的な複雑性とは

何かしらの文字列に対して、(0,1が想定されている)、その文字列がどれくらい複雑だろうか、ということを指標化しようというもの。

コルモゴロフ複雑性

概念的なもの
出力する文字列に何かしらの規則性があった時、形式的なプログラムに書き下せる。
そのプログラムの長さを複雑性としよう、という考え方。
コルモゴロフ複雑性は計算が困難だと言われる
実用的ではない。
wikipedia:コルモゴロフ複雑性

Lempel-Ziv Complexity

複雑性の指標として実用的に使われるのがLempelZiv複雑性
JPEGの圧縮などに使われる技術だが、複雑性の指標としても使われることがある。
wikipedia:Lempel–Ziv–Welch

読みたい論文:
Manufacturing systems complexity: An assessment of manufacturing performance indicators unpredictability - ScienceDirect

リアプノフ指数

カオス理論による複雑性の指標
複雑性の指標というより、カオスかどうかを判定するという意味合い。

  • カオスの定義とは
  1. 非周期性
  2. 有界
  3. 初期値鋭敏性
  4. 位相の推移性

wikipedia:リアプノフ指数

経済複雑性指標

経済複雑性指標(Economic Complexity Index 以下ECI)は、国家全体など巨大な経済システムの生産力の特徴を測る全体的な指標である。
複雑性経済学で用いられる他の指標と同様に、経済複雑性指標は経済システムをその部分の合計としてではなく全体として捉え説明することが目的である。
経済複雑性指標はある国家の国民が形成するネットワーク「集団population」が蓄積してきた知識を解明することを狙っており、そのような知識は当該国家の工業的構造として表出すると考える。国家の多様性の指標と製品の遍在性ubiquity(偏在性ではない)の指標を組み合わせることにより、ある国家の輸出品の相対的な複雑性を表したのがECIである。似通った指標に、経済ではなく製品の複雑性指標を測る製品複雑性指標Product Complexity Index/PCIがある。
wikipedia:経済複雑性指標

Wikipediaによると、

厳密な数学的定義によればECIは国家間をつなぐ行列の固有ベクトルである。ECIは国家の多様度と輸出品目の遍在性の2点を考慮に入れているため、 その国家がいかに多様であるか、またその国家の産業がいかに洗練されているか の両方を測定することができる。
ある国家のECIが「高い」ということは、その国家の
1. 輸出品目が多岐にわたっており、かつそれらが
2. 遍在性の低い(例えばロボットアームなどは開発できる国が限られており遍在性が低いといえる)品目であり、またそれらが
3. 多様性の高い国家で生産されている
ことを示しており、日本(2012年のECIは2.2程度で世界一位)やドイツ(同1.9程度)などが該当する。 逆にある国家のECIが「低い」場合、それはその国家が
1. 少ない品目しか輸出しておらず、それらが
2. 遍在性の高い(例えばパルプや鉄のスクラップなど)品目であり、また
3. あまり多様性の高くない国家で生産されがちである
ことを示しており、アンゴラ(2012年のECIは-2程度)やイラク(同-2.3程度)が該当する。

進捗報告や会議が辛くなる人の特徴

今日は凄くためになる話を聞いた。

 

自分は、進捗報告や会議(でのプレゼン)が辛いと思ってるタイプの人なんだけど、

そういう人は考え方に特徴があるのだという話。

 

要約すると、

「進捗報告というのは、義務じゃなくて権利」であり、「そう思ってない人は辛くなるよ」ということ。

何かやったぜアピールをしなければいけない義務じゃない、本来はみんな(あるいは偉い人)の時間を使って相談させて貰える権利を得る場であるべき。

だし、そういう考えじゃないと辛くなるよ。と。

 

確かに自分のことに置き換えてみるとその通りだった。

これまで、怒られない材料ややってるように見せる資料を作るための進捗報告をしてきた。でもそんなのは無駄なんだ。これについて議論したいから発表する、報告する、って目的を持つべきなんだって。そうすれば建設的になるし気も楽になる。

 

 

凄い合理的。ん、でも、議論するほどの段階でない場合どうするのって思う。それは進捗が遅いそいつが悪いってことか。……そうなったら、やっぱり辛いじゃんけ。

統計学における仮説検定での検出力の考え方・検出力分析

さくっと読める
施策の効果をどうやって測るか(2) - 検出力と効果量 - About connecting the dots.

検出力分析
検定力分析 by 葛西俊治2011
http://ir.tdc.ac.jp/irucaa/bitstream/10130/2337/1/26_15.pdf

効果量について
効果量(effect size)のはなし - 六本木で働くデータサイエンティストのブログ

マンホイットニーU検定と不等分散時における代表値の検定
https://www.jstage.jst.go.jp/article/psj/advpub/0/advpub_30.006/_pdf

対応のあるものを対応のないものとして考えたときの検出力
http://www.mizumot.com/method/mizumoto-takeuchi.pdf

  • 疑問

効果量・検出力の測定には一定の規格があるのか?
(例えば「効果小」のdの値が0.1だったり0.2だったりする)
要調査。分野での標準はあるのか。

無料で手軽にホームページを持つ方法

静的サイトであれば
Githu Pages
Surge
が良いらしい。
アプリケーションが必要ならHeroku、Bluemixだが無料だと厳しい感じ