| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2017-11-07 16:00 ［招待講演］Deep Learningの高速化・効率化に関する研究 ○深貝卓也・白幡晃一・富田安基・橋本鉄太郎・池 敦・山崎雅文・笠置明彦・田原司睦（富士通研）・汪 留安・王 淞・孫 利・孫 俊（富士通研究開発中心）  CPM2017-86 ICD2017-45 IE2017-71 |
|
| 抄録 | （和） | 富士通研究所では、富士通のAI技術「Human Centric AI Zinrai（ジンライ）」で用いられるAI技術の研究開発を進めている。 富士通のAI技術「Zinrai（ジンライ）」では、「速く」「広く」「使いやすく」というコンセプトのもとにDeep Learning技術の研究開発を進めてきた。 今回のデザインガイアの講演では、これまでの私達のDeep Learning関連研究の成果の一部として、下記の研究内容について紹介する。 1. Deep Learning におけるGPU使用メモリの削減方法 2. Deep Learning 学習処理のMPIによる高速化 3. DNN圧縮手法 (Column Weight Pruning) 4. Convolution層とAverage Pooling層の高速化アルゴリズム 5. ニューラルネットワーク自動構築手法 1.はDNN学習処理におけるメモリ領域の再利用性を高め、GPUメモリの使用量を削減する技術、2.はMPIを効果的に用い、複数ノードでDeep Learningの分散学習の高速化を実現する技術、3.はDNNの計算量・パラメータ削減方法の一つで、GPUの性質を踏まえ、DNN認識処理の高速化に繋がるパラメータ削減を実現する技術、4.はConvolution層とAverage Pooling層を繋げた一つの層を用意し、ConvolutionとAverage Poolingの処理を効率的に実行するためのアルゴリズムに関する技術、5.は分類対象となるデータセットに応じて、適切な規模、分類精度、処理速度のニューラルネットワークを構築する技術に関する研究である。 |
| （英） | Fujitsu laboratories have been doing Research and Development on AI technologies called "Human Centric AI Zinrai". We have been advancing the Research and Development on Deep Learning Techonologies with the concept of "fast", "widely used" and "easy to use". We introduce the following researchs. 1. Memory reduction method for deep neural network training 2. Acceleration of a Deep Learning Framework with MPI 3. Column Weight Pruning for Accelerating DNN Inferences 4. Fast Algorithm Using Summed Area Tables with Unified Layer Performing Convolution and Average Pooling 5. An Automated CNN Recommendation System for Image Classification Tasks 1. is the research which improves the reusabilities of memories during the training phase of Deep Neural Networks. It enables us to reduce the GPU memory usage. 2. is the research which realizes the speed-up of the distributed training of Deep Neural Networks. This method utilizes MPI functions efficienlty. 3. is the research which realizes the fast recognition process of Deep Neural Networks. It reduces the amout of calculation and parameters of convolutional neural networks so that it can make use of the fast matrix calculation functionalities of the GPUs. 4. is the research about the algorithm which realizes the efficient calculation of a convolutional layer followed by an averagin-pooling layer. It performs the calculation of a pair formed by a convolutional layer and the following average-pooling layer without the computation of convolution. 5. is the research which makes it possible to suggest suitable Convolutional Neural Networks according to the given datasets. This method estimates the complexity score of the classification task as well as the classification ability score of the Convolutional Neural Networks. |
|
| キーワード | （和） | 深層学習 / ニューラルネットワーク / ディープラーニング / 並列計算 / コンピュータシステム / アルゴリズム / 機械学習 / 畳み込みニューラルネットワーク |
| （英） | Deep Learning / Neural Network / GPU / CNN / Convolutional Neural Network / Convolution / MPI / algorithm | |
| 文献情報 | 信学技報, vol. 117, no. 276, ICD2017-45, pp. 39-41, 2017年11月. | |
| 資料番号 | ICD2017-45 | |
| 発行日 | 2017-10-30 (CPM, ICD, IE) | |
| ISSN | Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | CPM2017-86 ICD2017-45 IE2017-71 |
|
| 研究会情報 | |
| 研究会 | VLD DC CPSY RECONF CPM ICD IE IPSJ-SLDM |
| 開催期間 | 2017-11-06 - 2017-11-08 |
| 開催地（和） | くまもと県民交流館パレア |
| 開催地（英） | Kumamoto-Kenminkouryukan Parea |
| テーマ（和） | デザインガイア2017 -VLSI設計の新しい大地- |
| テーマ（英） | Design Gaia 2017 -New Field of VLSI Design- |
| 講演論文情報の詳細 | |
| 申込み研究会 | ICD |
| 会議コード | 2017-11-VLD-DC-CPSY-RECONF-CPM-ICD-IE-SLDM-EMB-ARC |
| 本文の言語 | 日本語 |
| タイトル（和） | Deep Learningの高速化・効率化に関する研究 |
| サブタイトル（和） | |
| タイトル（英） | Researchs on high-speed and efficient Deep Learning technologies |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 深層学習 / Deep Learning |
| キーワード(2)（和/英） | ニューラルネットワーク / Neural Network |
| キーワード(3)（和/英） | ディープラーニング / GPU |
| キーワード(4)（和/英） | 並列計算 / CNN |
| キーワード(5)（和/英） | コンピュータシステム / Convolutional Neural Network |
| キーワード(6)（和/英） | アルゴリズム / Convolution |
| キーワード(7)（和/英） | 機械学習 / MPI |
| キーワード(8)（和/英） | 畳み込みニューラルネットワーク / algorithm |
| 第1著者 氏名（和/英/ヨミ） | 深貝 卓也 / Takuya Fukagai / フカガイ タクヤ |
| 第1著者 所属（和/英） | 株式会社富士通研究所 (略称： 富士通研) Fujitsu Laboratories (略称： Fujitsu Lab. Ltd.) |
| 第2著者 氏名（和/英/ヨミ） | 白幡 晃一 / Koichi Shirahata / シラハタ コウイチ |
| 第2著者 所属（和/英） | 株式会社富士通研究所 (略称： 富士通研) Fujitsu Laboratories (略称： Fujitsu Lab. Ltd.) |
| 第3著者 氏名（和/英/ヨミ） | 富田 安基 / Yasumoto Tomita / トミタ ヤスモト |
| 第3著者 所属（和/英） | 株式会社富士通研究所 (略称： 富士通研) Fujitsu Laboratories (略称： Fujitsu Lab. Ltd.) |
| 第4著者 氏名（和/英/ヨミ） | 橋本 鉄太郎 / Tetsutaro Hashimoto / ハシモト テツタロウ |
| 第4著者 所属（和/英） | 株式会社富士通研究所 (略称： 富士通研) Fujitsu Laboratories (略称： Fujitsu Lab. Ltd.) |
| 第5著者 氏名（和/英/ヨミ） | 池 敦 / Atsushi Ike / イケ アツシ |
| 第5著者 所属（和/英） | 株式会社富士通研究所 (略称： 富士通研) Fujitsu Laboratories (略称： Fujitsu Lab. Ltd.) |
| 第6著者 氏名（和/英/ヨミ） | 山崎 雅文 / Masafumi Yamazaki / ヤマザキ マサフミ |
| 第6著者 所属（和/英） | 株式会社富士通研究所 (略称： 富士通研) Fujitsu Laboratories (略称： Fujitsu Lab. Ltd.) |
| 第7著者 氏名（和/英/ヨミ） | 笠置 明彦 / Akihiko Kasagi / カサギ アキヒコ |
| 第7著者 所属（和/英） | 株式会社富士通研究所 (略称： 富士通研) Fujitsu Laboratories (略称： Fujitsu Lab. Ltd.) |
| 第8著者 氏名（和/英/ヨミ） | 田原 司睦 / Tsuguchika Tabaru / タバル ツグチカ |
| 第8著者 所属（和/英） | 株式会社富士通研究所 (略称： 富士通研) Fujitsu Laboratories (略称： Fujitsu Lab. Ltd.) |
| 第9著者 氏名（和/英/ヨミ） | 汪 留安 / Liuan Wang / ワン リュアン |
| 第9著者 所属（和/英） | 富士通研究開発中心有限公司 (略称： 富士通研究開発中心) Fujitsu Research and Development Center Co., Ltd. (略称： FRDC) |
| 第10著者 氏名（和/英/ヨミ） | 王 淞 / Song Wang / ワン ソン |
| 第10著者 所属（和/英） | 富士通研究開発中心有限公司 (略称： 富士通研究開発中心) Fujitsu Research and Development Center Co., Ltd. (略称： FRDC) |
| 第11著者 氏名（和/英/ヨミ） | 孫 利 / Li Sun / ソン リ |
| 第11著者 所属（和/英） | 富士通研究開発中心有限公司 (略称： 富士通研究開発中心) Fujitsu Research and Development Center Co., Ltd. (略称： FRDC) |
| 第12著者 氏名（和/英/ヨミ） | 孫 俊 / Jun Sun / ソン ジュン |
| 第12著者 所属（和/英） | 富士通研究開発中心有限公司 (略称： 富士通研究開発中心) Fujitsu Research and Development Center Co., Ltd. (略称： FRDC) |
| 講演者 | 第1著者 |
| 発表日時 | 2017-11-07 16:00:00 |
| 発表時間 | 45分 |
| 申込先研究会 | ICD |
| 資料番号 | CPM2017-86, ICD2017-45, IE2017-71 |
| 巻番号（vol） | vol.117 |
| 号番号（no） | no.275(CPM), no.276(ICD), no.277(IE) |
| ページ範囲 | pp.39-41 |
| ページ数 | 3 |
| 発行日 | 2017-10-30 (CPM, ICD, IE) |
[研究会発表申込システムのトップページに戻る]