機械学習初心者が1からChainerのコードを書き始められるまでに必要だったことをまとめた

ディープラーニングが面白そうだったので、始めたChainer。簡単という噂も聞き選びました。

ですが、いざ手をつけようと環境を用意してから早2週間超、なかなかサンプル以上のものを動かせずに悶々としていました。

そのような焦りの中、できるだけ頑張って情報を集めた結果、ようやっと自分で調べながらなにか書き始められそうなところまできたので、一度ここまでに拾い上げた知識をまとめます。

必要な知識ジャンル別にまとめました。それぞれの題目になってる目的が達成できれば全部読む必要もないかも。

長すぎるので経緯を分離しました。
機械学習初心者が1からChainerのコードを書き始められるまでの経緯を書いたら長くなりすぎた - sora_sakakiのブログ

ディープラーニングを知る

なにができるのか

人工知能は人間を超えるか (角川ＥＰＵＢ選書)

なにができるのか、なにができるようになる可能性があるのかなどを詳しく

Labellio

実際に試せる(ディープラーニングの使用例としてよくある画像認識)

どんなものなのか(重要)

(PDF)ディープラーニングと画像認識への応用

層の少ないNNとディープラーニング的なNNの対比、DNNの問題点や改善方法、現状の技術的なまとめなど

ディープラーニングの過去と未来 〜黒魔術からの脱却へ向けて〜

歴史とか発展とか

(PDF)脳の画像・音声処理戦略を解き明かすスパースモデリング

ディープラーニングのベースになっているスパースについて

Chainerを知る

Chainerの対比になるやつ(Chainerがなぜ作られたかを知るのに必要)

Theanoの使い方 (1) シンボルと共有変数 - 人工知能に関する断創録

Theanoの話

Chainer概要

Deep Learning のフレームワーク Chainer を公開しました | Preferred Research

公式の公開記事。重要な情報源

Chainerのexample(mnist)を読む

Python - 【機械学習】ディープラーニング フレームワークChainerを試しながら解説してみる。 - Qiita

exampleの詳細な解説

exampleを動かしたその先

Introduction to Chainer — Chainer 1.1.0 documentation

公式チュートリアル。これが読めるなら初めから読むのがもちろん最短コース

chainerでニューラルネットを学んでみるよ(chainerでニューラルネット2) - 人工言語処理入門

1番シンプルなニューラルネットワークをChainerで作る

Python - 【ディープラーニング】ChainerでAutoencoderを試して結果を可視化してみる。 - Qiita

わかりやすいAutoencoderの実装記事

PFN発のディープラーニングフレームワークchainerで画像分類をするよ(chainerでニューラルネット1) - 人工言語処理入門

サンプルの解説(imagenet)。画像分類をする。

2015-07-14 - shi3zの長文日記

サンプルの解説(ptb)。文章を生成する。

参考

私訳「暫定的 NumPy チュートリアル」 - naoya_t@hatenablog

Chainerで使われている数値計算ライブラリのnumpy

ディープラーニングのアルゴリズムを知る

ここは全然情報が足りていません。自分で補ってください。

Deep Learning Tutorials — DeepLearning 0.1 documentation

Theanoではあるけど、よさそう。

数学からアルゴリズムを知る、数学的に掘り下げる

深層学習 (機械学習プロフェッショナルシリーズ)

そんなに難しくなさそう

現状に対する私自身のまとめ

まとめてみたらアルゴリズムを知るという点で、すでに取り組んでいるアプローチが深層学習の本読むだけですね。まとめてよかった。
というわけで、以前勧めてもらった

Deep Learning Tutorials — DeepLearning 0.1 documentation

を掘り返して、アルゴリズムをささっと学びつつChainerのチュートリアルですかね。さっきパラパラと見た感じ、Chainerのチュートリアル上ではアルゴリズムについてのしっかりとした説明はなさそうだし。他方こっちのチュートリアルは覗いた感じよさそう。

人工知能は人間を超えるか (角川ＥＰＵＢ選書)

深層学習 (機械学習プロフェッショナルシリーズ)