PyTorch Scholarship Challengeを受けた感想

PyTorch Scholarship Challengeを受けました。

PyTorch Scholarship Challengeとは

UdacityとFacebookが提供しているPyTorchの無料オンライン講座。10,000人が受講でき、その中で上位300人が後続のDeep Learning Nanodegreeへの無料受講権がもらえる。

上位の評価は最後の画像分類タスクのスコアのほか、公式SlackなどでStudent Leaderに名乗りをあげ、コミュニティー活動を主導すると評価される。アメリカっぽいですね。

講座の流れ

Udacityの講座は別の講座とセクションを共有しているとその動画は学習したことになっている。Pytorch Scholorship ChallengeもDeep Learning Nanodegreeの一部のため、過去にNanodegreeを受講したことのある人は初期load時点で多くの理論パートの完了フラグがすでに付いている。

1. Welcome to the Scholarship Challenge!
   イントロ

2. Introduction to Neural Networks
   ニューラルネットの要素技術の解説

3. Talking PyTorch with Soumith Chintala
   PyTorchの成り立ち。Chainerを参考にして~

4. Introduction to PyTorch
   PyTorchの基本

5. Convolutional Neural Networks
   CNNの仕組み

6. Style Transfer
   スタイルトランスファー

7. Recurrent Neural Networks
   時系列データ

8. Sentiment Prediction with RNNs
   感情分類

9. Deploying PyTorch Models
   1.0から入ったデプロイ周りの話

10. Challenge Project
    花分類のプロジェクト。Jupyter Notebookにモデルをあげてサブミット。90%をこえるとOK。

世間ではPyTorch 1.0が出ている中、Challenge Projectはv0.4.0前提でバージョンの違いがつらかった。v0.4.1のモデルデータもまんまだとv0.4.0で読めないんですね。

所感

UdacityのDeep Learning Nanodegreeは2年前に一度受講しているが、その間、講義で使うフレームワークがTensorFlow => Keras => PyTorchと移行している。Deep Learning業界にとって1年前は縄文時代と感じる。

ChainerやTensorFlowがfunctionのreturn typeまでしっかりとドキュメントされている中、PyTorchはなく、結局コードを読む時もあった。以前勉強がてらReact Nativeのドキュメントを翻訳した際に、元の英文のこなれなさから挫折しており、案外Facebookはドキュメントが苦手な会社なのかもしれない。