知識の本棚

読みかけの本でも読んだ本でも読むつもりの本でも、とにかく本棚に仕舞うように調べたことを書き溜める。

自動微分

学問

ディープラーニング系の記事では損失関数を定義して終わりという記事をよく見る。
しかしそれでいいのかという疑問があった。
バックプロパゲーションのように、損失関数をどう微分するかが大事なんじゃないか。
損失関数を見ていたら微分が簡単そうには見えない関数ばかりだ。
微分可能性は調べなくていいのか？
どうやって微分を計算しているんだ？

そこで詰まっていた。
でもようやく解決した。
どうやら計算機で自動的に微分する機能があるらしい。
眉唾だが、どんな複雑な微分でもできてしまうという。
仕組みを調査中だが、今後掘り下げていくつもり

Keyword

参考になりそうなサイト：

自動微分 - Wikipedia
ボトムアップ型自動微分の実験 - kivantium活動日記
二重数で自動微分する - Qiita

応用

数理ファイナンスへの応用：
自動微分事例：数理ファイナンス分野

精度と微分方程式への応用：
>Self-Validation

ロボット工学への応用
調査中

世界のエンジニアと日本のエンジニアの待遇が違う理由

雑感

欧米系のソフトウェアエンジニアに比べ日本のソフトウェアエンジニアは待遇が劣悪だと耳にする。
それは日本のエンジニアが優秀ではないからだろうか。
実はそういうわけでもない。Rubyの生みの親は日本人だし、暗号通貨も身元不明の日本人が基礎を築いた。
それならなぜ日本のエンジニアは不遇なのか。
それは市場が世界に開かれてないから。
市場が狭すぎるということ。
日本のソフトウェアやシステムは日本でしか使えない。日本語だから。

一方アメリカではシリコンバレーに代表されるように、ソフトウェアエンジニアの待遇は非常に良い。
市場が大きい分、1人あたりの生産性(利益率)が高いため。


SIerが下請けを搾取する構造もその辺りが一端かもしれない。

ITエンジニアとして仕事を選ぶ場合、製品の市場規模を考えながら仕事を選びたい。