| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2025-03-19 11:30 グラフトランスフォーマーにおける強い宝くじの発見 ○伊藤宏朗・嚴 佳樂・大塚光莉・川村一志・本村真人・ティエム ヴァン チュ・藤木大地（科学大）  IBISML2024-66 |
|
| 抄録 | （和） | グラフニューラルネットワーク(GNN)は，推薦システムや化合物解析などのグラフ構造データを使った幅広い応用分野において非常に有用であると考えられている． 近年，その理論的発展や実用的な応用が急速に進んでいる． しかし，GNNの計算効率と性能の向上は依然として重要な課題であり，特に計算資源が限られた環境での適用にはさまざまな制約が伴う． このような環境では，モデルのメモリ使用量を削減しつつ高い性能を維持するために，ニューラルネットワークの枝刈りが一般的なアプローチとして用いられる． 中でも注目されているのが，強い宝くじ仮説（SLTH）である． SLTHは，ランダムに初期化されたニューラルネットワーク内に，重みの学習を行わなくても競争力のある精度を達成できるサブネットワーク，いわゆる強い宝くじ（SLT）が存在することを提唱している． しかし，表現力が高いGNNモデルであるグラフトランスフォーマー（GT）においては，SLTの存在やその特性についての包括的な研究はまだ十分に行われていない． そこで本研究では，GTモデル内のSLTを探索し，モデルのメモリ使用量と精度のトレードオフを改善し，ロバスト性を向上させる新しいアプローチを提案する． この成果は，ノード分類やグラフ分類などの幅広い実験を通じて実証される． 提案手法は，通常通り学習されたGNNと比較して最大で90%以上のメモリ削減を達成しつつ，精度を同等もしくはそれ以上に向上させることが可能である． また，ロバスト性に関しても，提案モデルはノード特徴量への摂動に対して頑健であり，高い汎化性能を示す． |
| （英） | ||
| キーワード | （和） | グラフニューラルネットワーク / 軽量化 / 枝刈り / / / / / |
| （英） | / / / / / / / | |
| 文献情報 | 信学技報, vol. 124, no. 446, IBISML2024-66, pp. 63-70, 2025年3月. | |
| 資料番号 | IBISML2024-66 | |
| 発行日 | 2025-03-11 (IBISML) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | IBISML2024-66 |
|
| 研究会情報 | |
| 研究会 | PRMU IPSJ-CVIM IBISML |
| 開催期間 | 2025-03-18 - 2025-03-19 |
| 開催地（和） | 滋賀大学 彦根キャンパス |
| 開催地（英） | |
| テーマ（和） | 基盤モデルとその応用 (PRMU/IPSJ-CVIM)、機械学習一般 (IBISML) |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | IBISML |
| 会議コード | 2025-03-PRMU-CVIM-IBISML |
| 本文の言語 | 日本語（英語タイトルなし） |
| タイトル（和） | グラフトランスフォーマーにおける強い宝くじの発見 |
| サブタイトル（和） | |
| タイトル（英） | |
| サブタイトル（英） | |
| キーワード(1)（和/英） | グラフニューラルネットワーク / |
| キーワード(2)（和/英） | 軽量化 / |
| キーワード(3)（和/英） | 枝刈り / |
| キーワード(4)（和/英） | / |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 伊藤 宏朗 / / イトウ ヒロアキ |
| 第1著者 所属（和/英） | 東京科学大学 (略称： 科学大) (略称： ) |
| 第2著者 氏名（和/英/ヨミ） | 嚴 佳樂 / / |
| 第2著者 所属（和/英） | 東京科学大学 (略称： 科学大) (略称： ) |
| 第3著者 氏名（和/英/ヨミ） | 大塚 光莉 / / |
| 第3著者 所属（和/英） | 東京科学大学 (略称： 科学大) (略称： ) |
| 第4著者 氏名（和/英/ヨミ） | 川村 一志 / / |
| 第4著者 所属（和/英） | 東京科学大学 (略称： 科学大) (略称： ) |
| 第5著者 氏名（和/英/ヨミ） | 本村 真人 / / |
| 第5著者 所属（和/英） | 東京科学大学 (略称： 科学大) (略称： ) |
| 第6著者 氏名（和/英/ヨミ） | ティエム ヴァン チュ / / |
| 第6著者 所属（和/英） | 東京科学大学 (略称： 科学大) (略称： ) |
| 第7著者 氏名（和/英/ヨミ） | 藤木 大地 / / |
| 第7著者 所属（和/英） | 東京科学大学 (略称： 科学大) (略称： ) |
| 講演者 | 第1著者 |
| 発表日時 | 2025-03-19 11:30:00 |
| 発表時間 | 20分 |
| 申込先研究会 | IBISML |
| 資料番号 | IBISML2024-66 |
| 巻番号（vol） | vol.124 |
| 号番号（no） | no.446 |
| ページ範囲 | pp.63-70 |
| ページ数 | 8 |
| 発行日 | 2025-03-11 (IBISML) |
[研究会発表申込システムのトップページに戻る]