知識の本棚

読みかけの本でも読んだ本でも読むつもりの本でも、とにかく本棚に仕舞うように調べたことを書き溜める。

なんでもディープラーニングはヤバい

自分自身ディープラーニング機械学習は専門家ほど詳しいわけではないが、専門外のエンジニアよりは詳しいつもりだ。

そんなこともあってか相談を受けたのだが、古典的な機械学習手法が軽んじられ過ぎてることに驚いた。

とりあえずディープラーニングしとけばいいんでしょ。で、どうするの。みたいな話を受けたわけだ。

聞くとデータは少なくて次元が多いデータで次元が多すぎるから全然使えないという話だった。そりゃあディープラーニングももっとだめだろうな、まず次元減らそうよって話だ。少し考えればわかるようにパラメータ数以上に少ないデータで学習出来るわけないのだ。

 

それで、なんでもディープラーニングな風潮のせいで古典的な機械学習が軽んじられてんじゃねって思うに至った。もちろん1サンプルの話だから一般化するのは飛躍だけど、他にもそんなふうに考えてる人はいてもおかしくないだろう。ディープラーニングを盲信してる人は多い気がする。

昨今ディープラーニングの名前と実績だけが一人歩きしてる気がしてならない。

あと、ディープラーニングと言えばCNNみたいな風潮があるけど、統計力学に端を発するRBMの数学的な綺麗さとかもっと理解されるべき。

なんか色々言いたいけど1つ言えることは似たようなタスクでもっとスマートに(ディープラーニングはスマートじゃない←)実現してる手法を探しそうということ。