| 講演抄録/キーワード |
| 講演名 |
2018-06-15 12:50
複数推論器推論サーバのためのFPGAおよびDPDKによる通信高効率化手法 ○奥山果穂・岩田拓真・塚田峰登・吉敷一将・松谷宏紀(慶大) CPSY2018-5 DC2018-5 |
| 抄録 |
(和) |
機械学習をベースとする推論システムでは、推論サーバはクライアントからの推論リクエストをネットワーク経由で受信し、推論処理を行い、推論結果をクライアントに返却する。推論処理のために、複数の推論器を保持し、ユーザからのフィードバックに基づいて適切な推論器を選択する。このため、ユーザからのフィードバックを含めると 1 つの推論リクエストに対し 3 回の通信が発生する。通常、パケットはプロトコルスタックを介して送受信されるが、プロトコルスタックの処理が通信性能低下の要因にもなっているため、プロトコルスタックを回避することで性能向上が見込める。
そこで本論文では、 DPDK (Data Plane Development Kit) および FPGA (Field-Programmable Gate Array) を用いた推論サーバを実現する。これによりプロトコルスタックを介することで生じる負荷を回避し、推論サーバの高性能化を図る。複数推論器の中から適切なものを選択するために Exp3 および Exp4 アルゴリズムを用いる。評価の結果、 Exp3 および Exp4 アルゴリズムが選択した推論器と実装した 10 個の推論器の正答率を比較し、推論器の選択が正しく動作していることを確認した。また、プロトコルスタックを介して通信を行う通常の推論サーバと比較し、 DPDK と PFGA はそれぞれで約 1.9倍、約 3.8 倍の性能向上を実現した。 |
| (英) |
(Not available yet) |
| キーワード |
(和) |
推論サーバ / DPDK / FPGA / / / / / |
| (英) |
Prediction Server / DPDK / FPGA / / / / / |
| 文献情報 |
信学技報, vol. 118, no. 92, CPSY2018-5, pp. 101-106, 2018年6月. |
| 資料番号 |
CPSY2018-5 |
| 発行日 |
2018-06-07 (CPSY, DC) |
| ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
CPSY2018-5 DC2018-5 |
| 研究会情報 |
| 研究会 |
CPSY DC IPSJ-ARC |
| 開催期間 |
2018-06-14 - 2018-06-15 |
| 開催地(和) |
たかみや瑠璃倶楽リゾート(山形市蔵王温泉) |
| 開催地(英) |
Takamiya Rurikura Resort |
| テーマ(和) |
HotSPA2018: ディペンダブルコンピューティングシステムおよび一般 |
| テーマ(英) |
Dependable Computing Systems, etc. (HotSPA2018) |
| 講演論文情報の詳細 |
| 申込み研究会 |
CPSY |
| 会議コード |
2018-06-CPSY-DC-ARC |
| 本文の言語 |
日本語 |
| タイトル(和) |
複数推論器推論サーバのためのFPGAおよびDPDKによる通信高効率化手法 |
| サブタイトル(和) |
|
| タイトル(英) |
FPGA and DPDK-Based Communication Acceleration Methods for Prediction Server with Multiple Predictors |
| サブタイトル(英) |
|
| キーワード(1)(和/英) |
推論サーバ / Prediction Server |
| キーワード(2)(和/英) |
DPDK / DPDK |
| キーワード(3)(和/英) |
FPGA / FPGA |
| キーワード(4)(和/英) |
/ |
| キーワード(5)(和/英) |
/ |
| キーワード(6)(和/英) |
/ |
| キーワード(7)(和/英) |
/ |
| キーワード(8)(和/英) |
/ |
| 第1著者 氏名(和/英/ヨミ) |
奥山 果穂 / Kaho Okuyama / オクヤマ カホ |
| 第1著者 所属(和/英) |
慶應義塾大学 (略称: 慶大)
Keio University (略称: Keio Univ.) |
| 第2著者 氏名(和/英/ヨミ) |
岩田 拓真 / Takuma Iwata / イワタ タクマ |
| 第2著者 所属(和/英) |
慶應義塾大学 (略称: 慶大)
Keio University (略称: Keio Univ.) |
| 第3著者 氏名(和/英/ヨミ) |
塚田 峰登 / Mineto Tsukada / ツカダ ミネト |
| 第3著者 所属(和/英) |
慶應義塾大学 (略称: 慶大)
Keio University (略称: Keio Univ.) |
| 第4著者 氏名(和/英/ヨミ) |
吉敷 一将 / Kazumasa Kishiki / キシキ カズマサ |
| 第4著者 所属(和/英) |
慶應義塾大学 (略称: 慶大)
Keio University (略称: Keio Univ.) |
| 第5著者 氏名(和/英/ヨミ) |
松谷 宏紀 / Hiroki Matsutani / マツタニ ヒロキ |
| 第5著者 所属(和/英) |
慶應義塾大学 (略称: 慶大)
Keio University (略称: Keio Univ.) |
| 第6著者 氏名(和/英/ヨミ) |
/ / |
| 第6著者 所属(和/英) |
(略称: )
(略称: ) |
| 第7著者 氏名(和/英/ヨミ) |
/ / |
| 第7著者 所属(和/英) |
(略称: )
(略称: ) |
| 第8著者 氏名(和/英/ヨミ) |
/ / |
| 第8著者 所属(和/英) |
(略称: )
(略称: ) |
| 第9著者 氏名(和/英/ヨミ) |
/ / |
| 第9著者 所属(和/英) |
(略称: )
(略称: ) |
| 第10著者 氏名(和/英/ヨミ) |
/ / |
| 第10著者 所属(和/英) |
(略称: )
(略称: ) |
| 第11著者 氏名(和/英/ヨミ) |
/ / |
| 第11著者 所属(和/英) |
(略称: )
(略称: ) |
| 第12著者 氏名(和/英/ヨミ) |
/ / |
| 第12著者 所属(和/英) |
(略称: )
(略称: ) |
| 第13著者 氏名(和/英/ヨミ) |
/ / |
| 第13著者 所属(和/英) |
(略称: )
(略称: ) |
| 第14著者 氏名(和/英/ヨミ) |
/ / |
| 第14著者 所属(和/英) |
(略称: )
(略称: ) |
| 第15著者 氏名(和/英/ヨミ) |
/ / |
| 第15著者 所属(和/英) |
(略称: )
(略称: ) |
| 第16著者 氏名(和/英/ヨミ) |
/ / |
| 第16著者 所属(和/英) |
(略称: )
(略称: ) |
| 第17著者 氏名(和/英/ヨミ) |
/ / |
| 第17著者 所属(和/英) |
(略称: )
(略称: ) |
| 第18著者 氏名(和/英/ヨミ) |
/ / |
| 第18著者 所属(和/英) |
(略称: )
(略称: ) |
| 第19著者 氏名(和/英/ヨミ) |
/ / |
| 第19著者 所属(和/英) |
(略称: )
(略称: ) |
| 第20著者 氏名(和/英/ヨミ) |
/ / |
| 第20著者 所属(和/英) |
(略称: )
(略称: ) |
| 第21著者 氏名(和/英/ヨミ) |
/ / |
| 第21著者 所属(和/英) |
(略称: )
(略称: ) |
| 第22著者 氏名(和/英/ヨミ) |
/ / |
| 第22著者 所属(和/英) |
(略称: )
(略称: ) |
| 第23著者 氏名(和/英/ヨミ) |
/ / |
| 第23著者 所属(和/英) |
(略称: )
(略称: ) |
| 第24著者 氏名(和/英/ヨミ) |
/ / |
| 第24著者 所属(和/英) |
(略称: )
(略称: ) |
| 第25著者 氏名(和/英/ヨミ) |
/ / |
| 第25著者 所属(和/英) |
(略称: )
(略称: ) |
| 第26著者 氏名(和/英/ヨミ) |
/ / |
| 第26著者 所属(和/英) |
(略称: )
(略称: ) |
| 第27著者 氏名(和/英/ヨミ) |
/ / |
| 第27著者 所属(和/英) |
(略称: )
(略称: ) |
| 第28著者 氏名(和/英/ヨミ) |
/ / |
| 第28著者 所属(和/英) |
(略称: )
(略称: ) |
| 第29著者 氏名(和/英/ヨミ) |
/ / |
| 第29著者 所属(和/英) |
(略称: )
(略称: ) |
| 第30著者 氏名(和/英/ヨミ) |
/ / |
| 第30著者 所属(和/英) |
(略称: )
(略称: ) |
| 第31著者 氏名(和/英/ヨミ) |
/ / |
| 第31著者 所属(和/英) |
(略称: )
(略称: ) |
| 第32著者 氏名(和/英/ヨミ) |
/ / |
| 第32著者 所属(和/英) |
(略称: )
(略称: ) |
| 第33著者 氏名(和/英/ヨミ) |
/ / |
| 第33著者 所属(和/英) |
(略称: )
(略称: ) |
| 第34著者 氏名(和/英/ヨミ) |
/ / |
| 第34著者 所属(和/英) |
(略称: )
(略称: ) |
| 第35著者 氏名(和/英/ヨミ) |
/ / |
| 第35著者 所属(和/英) |
(略称: )
(略称: ) |
| 第36著者 氏名(和/英/ヨミ) |
/ / |
| 第36著者 所属(和/英) |
(略称: )
(略称: ) |
| 講演者 |
第1著者 |
| 発表日時 |
2018-06-15 12:50:00 |
| 発表時間 |
20分 |
| 申込先研究会 |
CPSY |
| 資料番号 |
CPSY2018-5, DC2018-5 |
| 巻番号(vol) |
vol.118 |
| 号番号(no) |
no.92(CPSY), no.93(DC) |
| ページ範囲 |
pp.101-106 |
| ページ数 |
6 |
| 発行日 |
2018-06-07 (CPSY, DC) |