Top Banner
グローバル経営学会 2018 シンポジウム 2018/10/5-6 1 田村 進一 深層学習入門ハンズオンセミナー Neural Network Console を用いた 数式なし,コーディングなしのディープラーニング NBL 研究所 田村進一 本セミナーは入門者を対象に,深層学習のサンプルを自ら経験することを目的とします.基 本的には各自のパソコンに Neural Network Console を予めダウンロードしていただき, セミナー時にそれを起動して実行・経験します.ファイルは 1GB 弱ありますので時間がか かります.準備ができなかったかたは,見学だけでも結構です. Neural Network Console 概要紹介動画 (2 分半) https://youtu.be/1AsLmVniy0k セミナーのための事前ダウンロード,および深層学習実行手順は下記に表示画面付きで示 していますので,あまり支障なく実行できると思います(標準的には準備1時間強). 1.準備ダウンロード 1.1 Neural Network Console ダウンロード入口 https://dl.sony.com/ja/
13

深層学習入門ハンズオンセミナー - gbs.or.jpgbs.or.jp/wp-content/uploads/2018/09/d3fcb79e125336e601bd12f197dc3baf1.pdf · グローバル経営学会2018 シンポジウム2018/10/5-6

Aug 29, 2019

Download

Documents

trandat
Welcome message from author
This document is posted to help you gain knowledge. Please leave a comment to let me know what you think about it! Share it to your friends and learn new things together.
Transcript
Page 1: 深層学習入門ハンズオンセミナー - gbs.or.jpgbs.or.jp/wp-content/uploads/2018/09/d3fcb79e125336e601bd12f197dc3baf1.pdf · グローバル経営学会2018 シンポジウム2018/10/5-6

グローバル経営学会 2018 シンポジウム 2018/10/5-6

1 田村 進一

深層学習入門ハンズオンセミナー

Neural Network Console を用いた

数式なし,コーディングなしのディープラーニング

NBL 研究所 田村進一

本セミナーは入門者を対象に,深層学習のサンプルを自ら経験することを目的とします.基

本的には各自のパソコンに Neural Network Console を予めダウンロードしていただき,

セミナー時にそれを起動して実行・経験します.ファイルは 1GB 弱ありますので時間がか

かります.準備ができなかったかたは,見学だけでも結構です.

・Neural Network Console 概要紹介動画 (2分半) https://youtu.be/1AsLmVniy0k

セミナーのための事前ダウンロード,および深層学習実行手順は下記に表示画面付きで示

していますので,あまり支障なく実行できると思います(標準的には準備1時間強).

1.準備ダウンロード

1.1 Neural Network Console ダウンロード入口 https://dl.sony.com/ja/

Page 2: 深層学習入門ハンズオンセミナー - gbs.or.jpgbs.or.jp/wp-content/uploads/2018/09/d3fcb79e125336e601bd12f197dc3baf1.pdf · グローバル経営学会2018 シンポジウム2018/10/5-6

グローバル経営学会 2018 シンポジウム 2018/10/5-6

2 田村 進一

1.2 ダウンロード開始

同意してメールアドレスを登録すると,下記のようなメールが送られてきます.

ダウンロードボタンをクリックします.緑字楕円はクリックすべき箇所です(以下,同じ).

これにより,圧縮ファイルが送られてきます.これをクリックして置きたい場所(例えば

Documentフォルダ)に解凍・展開します.圧縮ファイルは 1GB 弱ありますので,標準で

ここまでで計 1 時間ほど時間がかかります. これにより 下記のような

neural_network_console_120 フォルダが作られます.

Page 3: 深層学習入門ハンズオンセミナー - gbs.or.jpgbs.or.jp/wp-content/uploads/2018/09/d3fcb79e125336e601bd12f197dc3baf1.pdf · グローバル経営学会2018 シンポジウム2018/10/5-6

グローバル経営学会 2018 シンポジウム 2018/10/5-6

3 田村 進一

1.3 本体起動

neural_network_console.exe をクリックすると,本体が起動します.

Microsoft Visual C++2015 再配布可能パッケージをインストールしているか,GPUを使う

場合は,NVIDIA のグラフィックドライバをインストールしているかの,2つの確認メッ

セージが表示されます.多くのパソコンには入っていますので,OKをクリックします.確

認法は付録参照.

Page 4: 深層学習入門ハンズオンセミナー - gbs.or.jpgbs.or.jp/wp-content/uploads/2018/09/d3fcb79e125336e601bd12f197dc3baf1.pdf · グローバル経営学会2018 シンポジウム2018/10/5-6

グローバル経営学会 2018 シンポジウム 2018/10/5-6

4 田村 進一

1.4 Project画面

ライセンス確認が表示されますので,I Agree と Applyをクリックします.

これにより,下記の Project画面が表示されます.

1.5 処理ネットワーク構成図

次に,Project 画面上で深層学習の代表例 Convolutional neural network の project であ

る 02_binary_cnn_sdcproj をクリックすると,ネットワークブロック図が表示されます.

Convolution層は展開してあります.

Page 5: 深層学習入門ハンズオンセミナー - gbs.or.jpgbs.or.jp/wp-content/uploads/2018/09/d3fcb79e125336e601bd12f197dc3baf1.pdf · グローバル経営学会2018 シンポジウム2018/10/5-6

グローバル経営学会 2018 シンポジウム 2018/10/5-6

5 田村 進一

1.6 手書き数字データセットMNISTのダウンロード

この段階で,手書き数字データのダウンロードの可否を聞いてくるので,はいをクリックし

ます.

これで自動的に手書き数字データセットMNISTのダウンロードが開始されます.

標準的にはおよそ 10 分です.ここまでがセミナーで深層学習 CNN を実行するための必要

な準備作業です.

2.実行

2.1 データ等確認

必要なら各層をクリックし,表示されたパラメータを修正しますが,セミナーでは整合した

パラメータが予め入っていますので,調整の必要はありません.

次に,学習用画像データを確認します.課題は手額数字 ”9” と,それ以外(セミナー課題

では”4”だけですが)を識別することです.

Page 6: 深層学習入門ハンズオンセミナー - gbs.or.jpgbs.or.jp/wp-content/uploads/2018/09/d3fcb79e125336e601bd12f197dc3baf1.pdf · グローバル経営学会2018 シンポジウム2018/10/5-6

グローバル経営学会 2018 シンポジウム 2018/10/5-6

6 田村 進一

同様に,検証用未学習(非学習)画像データを確認しましょう.

2.2 課題実行

いよいよ学習実行です.Training をクリックすると,学習の進捗状態(学習データと未学

習データに対する誤差)がグラフ表示されます.

学習には 10 分程度かかります.本プロジェクト(02_binary_cnn_sdcproj)では高速化

のため,数値計算は速度重視で2値化して計算しています.高速化を図りたい方は,NVIDIA

の GPIを実装するか,Cloudを選択・使用するなどしてください.

Page 7: 深層学習入門ハンズオンセミナー - gbs.or.jpgbs.or.jp/wp-content/uploads/2018/09/d3fcb79e125336e601bd12f197dc3baf1.pdf · グローバル経営学会2018 シンポジウム2018/10/5-6

グローバル経営学会 2018 シンポジウム 2018/10/5-6

7 田村 進一

学習完了時の性能は,未学習データに対する混同行列(Confusion matrix)で確認できます.

3. セミナー課題の拡張

3.1 学習データ setの繰り返し学習回数等の変更

事前の設定数(Epoch)は 100回になっていますが,変更できます.

増やして,未学習データに対する誤差が上昇するときは,過学習の可能性があります.

Batch Size は高速化のため,学習処理などを何データ分(size)かまとめて行うものです

が,平滑化効果が少し出ます.データ数以上を指定することはできません.

Page 8: 深層学習入門ハンズオンセミナー - gbs.or.jpgbs.or.jp/wp-content/uploads/2018/09/d3fcb79e125336e601bd12f197dc3baf1.pdf · グローバル経営学会2018 シンポジウム2018/10/5-6

グローバル経営学会 2018 シンポジウム 2018/10/5-6

8 田村 進一

3.2 サンプルデータ以外のデータを処理する場合

学習用データと検証用データのセットを自分で指定して作成する必要があります.

指定に従って自動的に作成された画像データセット例は下記

クラス分けされたデータが入っているフォルダ

作成されるデータセットフォルダ

各データのサイズ

データのふるい分け学習用データ

検証用データ

Page 9: 深層学習入門ハンズオンセミナー - gbs.or.jpgbs.or.jp/wp-content/uploads/2018/09/d3fcb79e125336e601bd12f197dc3baf1.pdf · グローバル経営学会2018 シンポジウム2018/10/5-6

グローバル経営学会 2018 シンポジウム 2018/10/5-6

9 田村 進一

3.3 回路網構成を変更する場合

プロジェクトを選択すれば既成回路を利用可能.

例 Long_short_term_memory(LSTM).sdcproj を選択すると

3.4 自由に層を組み合わせたいとき

新規プロジェクトを作成

Page 10: 深層学習入門ハンズオンセミナー - gbs.or.jpgbs.or.jp/wp-content/uploads/2018/09/d3fcb79e125336e601bd12f197dc3baf1.pdf · グローバル経営学会2018 シンポジウム2018/10/5-6

グローバル経営学会 2018 シンポジウム 2018/10/5-6

10 田村 進一

Edit画面の図的操作ででブロックを移動・コピー・設定・接続などして行う.

3.5 自由課題

(1)どのような文字で間違ったか? もっと学習すれば間違いは0となるか?

(2)ネットワークのパラメータ数増減

(3)層の増減

(4)手書き文字認識の2分類を 10分類へ拡張

(5)T2を抜く. 結線必要

Page 11: 深層学習入門ハンズオンセミナー - gbs.or.jpgbs.or.jp/wp-content/uploads/2018/09/d3fcb79e125336e601bd12f197dc3baf1.pdf · グローバル経営学会2018 シンポジウム2018/10/5-6

グローバル経営学会 2018 シンポジウム 2018/10/5-6

11 田村 進一

(6)M2を抜く. 加えて Cのサイズを4枚の8×8に変更 結果に大きな影響なし.

位置が比較的中心に書かれている(位置の正規化)からか?

(7)C2を抜く. あまり変わらないが(そもそも識別困難な字体の問題;画像で確認).

Page 12: 深層学習入門ハンズオンセミナー - gbs.or.jpgbs.or.jp/wp-content/uploads/2018/09/d3fcb79e125336e601bd12f197dc3baf1.pdf · グローバル経営学会2018 シンポジウム2018/10/5-6

グローバル経営学会 2018 シンポジウム 2018/10/5-6

12 田村 進一

(8)Concatenateの試み

文字認識では必要性ないが,文章理解用等の recurrentやフィードバックループでは必

要.

Page 13: 深層学習入門ハンズオンセミナー - gbs.or.jpgbs.or.jp/wp-content/uploads/2018/09/d3fcb79e125336e601bd12f197dc3baf1.pdf · グローバル経営学会2018 シンポジウム2018/10/5-6

グローバル経営学会 2018 シンポジウム 2018/10/5-6

13 田村 進一

4.参考書

[1]足立悠,「ソニー開発のNeural Network Console 入門

--数式なし、コーディングなしのディープラーニング」 リックテレコム,2018.

[2]ダウンロードフォルダ中のmanual_ja.pdf

[3] ダウンロード開始welcomeページ (2.1節 最初の図)に “Doc” および“Community”

へのリンクがあります.

付録

Microsoft Visual C++2015再配布可能パッケージがインストールされているかの確認(例)

Windowsの「設定」--> 「アプリ」--> 「アプリと機能」を開く.

Microsoft Visual C++2015 Redistributable (x64) などがあるか確認

なければ下記からダウンロード

https://www.microsoft.com/ja-jp/download/details.aspx?id=52685