| 講演抄録/キーワード |
| 講演名 |
2026-11-05 14:50
モバイルネットワーク制御を活用したGPU負荷適応型分散AI推論アーキテクチャの検討 ○馬場宏基・和田健史郎(NTT)・Terence Kam(F5)・平井志久(NTTドコモ)・鈴ヶ嶺聡哲・藤田康寛(NTTドコモビジネス)・奥田兼三(NTT)・宮本克真・國友宏一郎(NTTドコモ) NS2026-132 |
| 抄録 |
(和) |
地理的に分散したGPU上でのAI基盤では、推論ルーティングとネットワーク制御が独立して行われ,通信資源と計算資源を横断したエンドツーエンドの最適化が困難である.本研究では,モバイルネットワーク上の分散AI 推論を対象として,加入者情報に基づくポリシー制御,GPUメトリクスに基づく拠点間ルーティング,およびワークロードに応じた入力トークン最適化を統合するアーキテクチャとしてAINetworkServiceGateway(AI-NSG)を提案する.AI-NSGは,リクエストの特性,加入者ポリシー,および分散した計算資源の状態に基づき,推論の実行先を選択する.5Gネットワークと連携するプロトタイプを実装し,分散したGPU基盤を用いて評価した.3拠点での実験において,提案手法は基準値に対し,出力トークンスループットで13.4%,リクエスト処理成功率で14.2%向上しネットワークと連携したルーティングおよびプロンプト制御による分散AI推論の有効性を検証した. |
| (英) |
In AI infrastructures with geographically distributed GPUs, inference routing and network control are typically performed independently, making it difficult to achieve end-to-end optimization across communication and compute resources. We propose the AI Network Service Gateway (AI-NSG), a network-edge architecture that integrates subscriber-aware policy control, GPU-metric-aware cross-site routing and workload-aware input-token optimization for distributed AI inference over mobile networks. The AI-NSG selects an inference destination using request characteristics, subscriber policies, and distributed compute-resource states. We implemented a prototype integrated with a 5G user plane and evaluated it using distributed GPU resources. In a three-site experiment, the proposed method achieved an output-token throughput of 1,019.8 tokens/s and 8.04 successful requests/s. These values were 13.4% and 14.2% higher, respectively, than conventional architecture references with dynamic prompt compression. The results demonstrate the feasibility of network-assisted routing and prompt control for distributed AI inference. |
| キーワード |
(和) |
AIゲートウェイ / 分散AI推論基盤 / 推論ルーティング / トークン最適化 / 5Gモバイルネットワーク / / / |
| (英) |
AI Gateway / Distributed AI Inference Platform / Inference Routing / Token Optimization / 5G Mobile Network / / / |
| 文献情報 |
信学技報, vol. 126, no. 222, NS2026-132, pp. 72-77, 2026年11月. |
| 資料番号 |
NS2026-132 |
| 発行日 |
2026-10-29 (NS) |
| ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
| PDFダウンロード |
NS2026-132 |
| 研究会情報 |
| 研究会 |
NS ICM NV HCL |
| 開催期間 |
2026-11-05 - 2026-11-06 |
| 開催地(和) |
別府国際コンベンションセンター/ビーコンプラザ + オンライン開催 |
| 開催地(英) |
Beppu B-con Plaza + Online |
| テーマ(和) |
ネットワーク品質,ネットワーク計測・管理,ネットワーク仮想化,ネットワークサービス,ブロックチェーン,セキュリティ,ネットワークインテリジェンス・AI,一般 |
| テーマ(英) |
Network quality, Network measurement/management, Network virtualization, Network service, Blockchain, Security, Network intelligence/AI, etc. |
| 講演論文情報の詳細 |
| 申込み研究会 |
NS |
| 会議コード |
2026-11-NS-ICM-NV-HCL |
| 本文の言語 |
日本語 |
| タイトル(和) |
モバイルネットワーク制御を活用したGPU負荷適応型分散AI推論アーキテクチャの検討 |
| サブタイトル(和) |
|
| タイトル(英) |
AI Network Service Gateway for Distributed AI Inference over 5G Mobile Networks |
| サブタイトル(英) |
|
| キーワード(1)(和/英) |
AIゲートウェイ / AI Gateway |
| キーワード(2)(和/英) |
分散AI推論基盤 / Distributed AI Inference Platform |
| キーワード(3)(和/英) |
推論ルーティング / Inference Routing |
| キーワード(4)(和/英) |
トークン最適化 / Token Optimization |
| キーワード(5)(和/英) |
5Gモバイルネットワーク / 5G Mobile Network |
| キーワード(6)(和/英) |
/ |
| キーワード(7)(和/英) |
/ |
| キーワード(8)(和/英) |
/ |
| 第1著者 氏名(和/英/ヨミ) |
馬場 宏基 / Hiroki Baba / ババ ヒロキ |
| 第1著者 所属(和/英) |
NTT株式会社 (略称: NTT)
NTT, Inc. (略称: NTT) |
| 第2著者 氏名(和/英/ヨミ) |
和田 健史郎 / Kenshiro Wada / ワダ ケンシロウ |
| 第2著者 所属(和/英) |
NTT株式会社 (略称: NTT)
NTT, Inc. (略称: NTT) |
| 第3著者 氏名(和/英/ヨミ) |
Terence Kam / Terence Kam / |
| 第3著者 所属(和/英) |
F5ネットワークスジャパン合同会社 (略称: F5)
F5 Networks Japan GK (略称: F5) |
| 第4著者 氏名(和/英/ヨミ) |
平井 志久 / Shiku Hirai / ヒライ シク |
| 第4著者 所属(和/英) |
株式会社NTTドコモ (略称: NTTドコモ)
NTT DOCOMO, INC. (略称: NTT DOCOMO) |
| 第5著者 氏名(和/英/ヨミ) |
鈴ヶ嶺 聡哲 / Sotetsu Suzugamine / スズガミネ ソウテツ |
| 第5著者 所属(和/英) |
NTTドコモビジネス株式会社 (略称: NTTドコモビジネス)
NTT DOCOMO BUSINESS, Inc. (略称: NTT DOCOMO BUSINESS) |
| 第6著者 氏名(和/英/ヨミ) |
藤田 康寛 / Yasuhiro Fujita / フジタ ヤスヒロ |
| 第6著者 所属(和/英) |
NTTドコモビジネス株式会社 (略称: NTTドコモビジネス)
NTT DOCOMO BUSINESS, Inc. (略称: NTT DOCOMO BUSINESS) |
| 第7著者 氏名(和/英/ヨミ) |
奥田 兼三 / Kenzo Okuda / オクダ ケンゾウ |
| 第7著者 所属(和/英) |
NTT株式会社 (略称: NTT)
NTT, Inc. (略称: NTT) |
| 第8著者 氏名(和/英/ヨミ) |
宮本 克真 / Katsuma Miyamoto / ミヤモト カツマ |
| 第8著者 所属(和/英) |
株式会社NTTドコモ (略称: NTTドコモ)
NTT DOCOMO, INC. (略称: NTT DOCOMO) |
| 第9著者 氏名(和/英/ヨミ) |
國友 宏一郎 / Koichiro Kunitomo / クニトモ コウイチロウ |
| 第9著者 所属(和/英) |
株式会社NTTドコモ (略称: NTTドコモ)
NTT DOCOMO, INC. (略称: NTT DOCOMO) |
| 第10著者 氏名(和/英/ヨミ) |
/ / |
| 第10著者 所属(和/英) |
(略称: )
(略称: ) |
| 第11著者 氏名(和/英/ヨミ) |
/ / |
| 第11著者 所属(和/英) |
(略称: )
(略称: ) |
| 第12著者 氏名(和/英/ヨミ) |
/ / |
| 第12著者 所属(和/英) |
(略称: )
(略称: ) |
| 第13著者 氏名(和/英/ヨミ) |
/ / |
| 第13著者 所属(和/英) |
(略称: )
(略称: ) |
| 第14著者 氏名(和/英/ヨミ) |
/ / |
| 第14著者 所属(和/英) |
(略称: )
(略称: ) |
| 第15著者 氏名(和/英/ヨミ) |
/ / |
| 第15著者 所属(和/英) |
(略称: )
(略称: ) |
| 第16著者 氏名(和/英/ヨミ) |
/ / |
| 第16著者 所属(和/英) |
(略称: )
(略称: ) |
| 第17著者 氏名(和/英/ヨミ) |
/ / |
| 第17著者 所属(和/英) |
(略称: )
(略称: ) |
| 第18著者 氏名(和/英/ヨミ) |
/ / |
| 第18著者 所属(和/英) |
(略称: )
(略称: ) |
| 第19著者 氏名(和/英/ヨミ) |
/ / |
| 第19著者 所属(和/英) |
(略称: )
(略称: ) |
| 第20著者 氏名(和/英/ヨミ) |
/ / |
| 第20著者 所属(和/英) |
(略称: )
(略称: ) |
| 第21著者 氏名(和/英/ヨミ) |
/ / |
| 第21著者 所属(和/英) |
(略称: )
(略称: ) |
| 第22著者 氏名(和/英/ヨミ) |
/ / |
| 第22著者 所属(和/英) |
(略称: )
(略称: ) |
| 第23著者 氏名(和/英/ヨミ) |
/ / |
| 第23著者 所属(和/英) |
(略称: )
(略称: ) |
| 第24著者 氏名(和/英/ヨミ) |
/ / |
| 第24著者 所属(和/英) |
(略称: )
(略称: ) |
| 第25著者 氏名(和/英/ヨミ) |
/ / |
| 第25著者 所属(和/英) |
(略称: )
(略称: ) |
| 第26著者 氏名(和/英/ヨミ) |
/ / |
| 第26著者 所属(和/英) |
(略称: )
(略称: ) |
| 第27著者 氏名(和/英/ヨミ) |
/ / |
| 第27著者 所属(和/英) |
(略称: )
(略称: ) |
| 第28著者 氏名(和/英/ヨミ) |
/ / |
| 第28著者 所属(和/英) |
(略称: )
(略称: ) |
| 第29著者 氏名(和/英/ヨミ) |
/ / |
| 第29著者 所属(和/英) |
(略称: )
(略称: ) |
| 第30著者 氏名(和/英/ヨミ) |
/ / |
| 第30著者 所属(和/英) |
(略称: )
(略称: ) |
| 第31著者 氏名(和/英/ヨミ) |
/ / |
| 第31著者 所属(和/英) |
(略称: )
(略称: ) |
| 第32著者 氏名(和/英/ヨミ) |
/ / |
| 第32著者 所属(和/英) |
(略称: )
(略称: ) |
| 第33著者 氏名(和/英/ヨミ) |
/ / |
| 第33著者 所属(和/英) |
(略称: )
(略称: ) |
| 第34著者 氏名(和/英/ヨミ) |
/ / |
| 第34著者 所属(和/英) |
(略称: )
(略称: ) |
| 第35著者 氏名(和/英/ヨミ) |
/ / |
| 第35著者 所属(和/英) |
(略称: )
(略称: ) |
| 第36著者 氏名(和/英/ヨミ) |
/ / |
| 第36著者 所属(和/英) |
(略称: )
(略称: ) |
| 講演者 |
第1著者 |
| 発表日時 |
2026-11-05 14:50:00 |
| 発表時間 |
20分 |
| 申込先研究会 |
NS |
| 資料番号 |
NS2026-132 |
| 巻番号(vol) |
vol.126 |
| 号番号(no) |
no.222 |
| ページ範囲 |
pp.72-77 |
| ページ数 |
6 |
| 発行日 |
2026-10-29 (NS) |