| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2025-08-04 13:45 GPUにおける疎行列密ベクトル積高速化のためのメモリフットプリントの削減および負荷分散の検討 ○村上 舜（北陸先端大）・米田一徳・岩村 尚・渡邉正宏（富士通Japan）・高野恵輔・井口 寧（北陸先端大）  CPSY2025-29 DC2025-29 RECONF2025-29 |
|
| 抄録 | （和） | 疎行列密ベクトル積(SpMV)は疎行列へのアクセス時間が主要な負荷であるメモリ律速な計算である．そのため．広いメモリ帯域を持つGPUの利用とそれに適した疎行列格納形式が多く提案されている．ここで，さらなるSpMVの高速化のためには格納に必要なメモリフットプリントの削減によるメモリアクセス回数そのものを減らす必要がある．そこで第190回HPC研究会にて，GPU上での高速なSpMVを可能にする，非ゼロ要素位置の辞書圧縮を適用した疎行列格納形式(CoD-SELL)を提案した．しかし，負荷分散については考慮しておらず，行間の非ゼロ要素数に偏りがある場合にSpMV計算速度が低下することが分かった．そこで本稿では，CoD-SELLを用いたSpMVのGPUにおけるスレッド間負荷分散手法について検討および評価を行った． 結果として，1行に1スレッドを割り当てる簡易的なSpMVカーネルで見られた極端な計算速度の低下を無くすことができた．加えて，負荷分散時のSpMV計算速度の向上には，非ゼロ要素数が少ない疎行列では負荷分散に必要な配列の読込によるオーバーヘッドを減らす必要があり，非ゼロ要素数が多い疎行列では，各ブロックが処理する要素を減らし，密ベクトルへのキャッシュヒット率を上げる必要があることが分かった． |
| （英） | The Sparse Matrix Vector product (SpMV) is a computation that is bounded by the device memory bandwidth. The computation time depends on the access time for the sparse matrix. Consequently, sparse matrix storage formats have been proposed that are aware of GPUs, which have large memory bandwidth. To further accelerate SpMV, it is necessary to reduce the number of memory accesses by minimizing the memory footprint of the sparse matrix. In the 190th HPC SIG, we proposed a sparse matrix storage format with dictionary compression of nonzero element positions (CoD-SELL), which accelerates SpMV on GPUs. However, we did not consider load balancing and found that the SpMV computation speeds decreased when the number of non-zero elements among rows was biased. In this paper, we consider and evaluate a method for load balancing of SpMV on GPUs using CoD-SELL. As a result, the significant drop in computation speed with a simple SpMV kernel was eliminated. In addition, it was found that a low number of launch threads is needed to reduce the overhead caused by load balancing for matrices with a small number of nonzero elements in the sparse matrix. While for matrices with a large number of non-zero elements, it has to launch a large number of threads to reduce the range to the dense vector accessed. |
|
| キーワード | （和） | SpMV / GPU / 負荷分散 / / / / / |
| （英） | SpMV / GPU / load balance / / / / / | |
| 文献情報 | 信学技報, vol. 125, no. 142, CPSY2025-29, pp. 31-35, 2025年8月. | |
| 資料番号 | CPSY2025-29 | |
| 発行日 | 2025-07-28 (CPSY, DC, RECONF) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | CPSY2025-29 DC2025-29 RECONF2025-29 |
|
| 研究会情報 | |
| 研究会 | CPSY DC RECONF IPSJ-ARC |
| 開催期間 | 2025-08-04 - 2025-08-06 |
| 開催地（和） | サンポートホール高松 |
| 開催地（英） | Sunport Hall Takamatsu |
| テーマ（和） | SWoPP2025: 並列／分散／協調システムとディペンダブルコンピューティングおよび一般 |
| テーマ（英） | SWoPP2025: Parallel, Distributed and Cooperative Processing Systems and Dependable Computing |
| 講演論文情報の詳細 | |
| 申込み研究会 | CPSY |
| 会議コード | 2025-08-CPSY-DC-RECONF-ARC |
| 本文の言語 | 日本語 |
| タイトル（和） | GPUにおける疎行列密ベクトル積高速化のためのメモリフットプリントの削減および負荷分散の検討 |
| サブタイトル（和） | |
| タイトル（英） | A study of load balancing for accelerating sparse matrix vector product while reducing memory footprint on GPU |
| サブタイトル（英） | |
| キーワード(1)（和/英） | SpMV / SpMV |
| キーワード(2)（和/英） | GPU / GPU |
| キーワード(3)（和/英） | 負荷分散 / load balance |
| キーワード(4)（和/英） | / |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 村上 舜 / Shun Murakami / ムラカミ シュン |
| 第1著者 所属（和/英） | 北陸先端科学技術大学院大学 (略称： 北陸先端大) Japan Advanced Institute of Science and Technology (略称： JAIST) |
| 第2著者 氏名（和/英/ヨミ） | 米田 一徳 / Kazunori Yoneda / ヨネダ カズノリ |
| 第2著者 所属（和/英） | 富士通Japan株式会社 ヘルスケア事業本部 部門ソリューション事業部 (略称： 富士通Japan) Healthcare Solutions Div. III, Healthcare Business Unit, Fujitsu Japan Limited (略称： Fujitsu Japan) |
| 第3著者 氏名（和/英/ヨミ） | 岩村 尚 / Takashi Iwamura / イワムラ タカシ |
| 第3著者 所属（和/英） | 富士通Japan株式会社 ヘルスケア事業本部 部門ソリューション事業部 (略称： 富士通Japan) Healthcare Solutions Div. III, Healthcare Business Unit, Fujitsu Japan Limited (略称： Fujitsu Japan) |
| 第4著者 氏名（和/英/ヨミ） | 渡邉 正宏 / Masahiro Watanabe / ワタナベ マサヒロ |
| 第4著者 所属（和/英） | 富士通Japan株式会社 ヘルスケア事業本部 部門ソリューション事業部 (略称： 富士通Japan) Healthcare Solutions Div. III, Healthcare Business Unit, Fujitsu Japan Limited (略称： Fujitsu Japan) |
| 第5著者 氏名（和/英/ヨミ） | 高野 恵輔 / Keisuke Takano / タカノ ケイスケ |
| 第5著者 所属（和/英） | 北陸先端科学技術大学院大学 (略称： 北陸先端大) Japan Advanced Institute of Science and Technology (略称： JAIST) |
| 第6著者 氏名（和/英/ヨミ） | 井口 寧 / Yasushi Inoguchi / イノグチ ヤスシ |
| 第6著者 所属（和/英） | 北陸先端科学技術大学院大学 (略称： 北陸先端大) Japan Advanced Institute of Science and Technology (略称： JAIST) |
| 講演者 | 第1著者 |
| 発表日時 | 2025-08-04 13:45:00 |
| 発表時間 | 25分 |
| 申込先研究会 | CPSY |
| 資料番号 | CPSY2025-29, DC2025-29, RECONF2025-29 |
| 巻番号（vol） | vol.125 |
| 号番号（no） | no.142(CPSY), no.143(DC), no.144(RECONF) |
| ページ範囲 | pp.31-35 |
| ページ数 | 5 |
| 発行日 | 2025-07-28 (CPSY, DC, RECONF) |
[研究会発表申込システムのトップページに戻る]