| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2024-03-22 11:20 AIモデルの説明可能性LIMEとShapley値からの属性推定リスクの評価 ○當麻僚太郎・菊池浩明（明大）  ICSS2023-88 |
|
| 抄録 | （和） | 機械学習モデルの公平性や学習の透明性を保証し，ユーザに納得感を与えるために機械学習モデルの出力を説明する説明可能性技術が注目されている．Amazon Web ServicesやGoogle Cloud Platform，Microsoft Azureなどの主要なサービスの多くはMachine Learning as a Service（以下，MLaaS）と呼ばれるプラットフォーム上で提供されており，モデルの出力を説明するための手法をいくつか提供している．しかし，2022年にLuoらがShapley値による説明からモデルへのプライベートな入力を推論出来ることを示した．ただし，Shapley値以外の説明手法について同様の属性推定リスクが存在するかは明らかでない．そこで，Shapley値と同じ局所的な説明手法であるLIMEに対して属性推論攻撃を行い，Shapley値とLIMEの属性推定リスクの違いについて評価する． |
| （英） | Explainability has gained attention to ensure fairness and transparency in machine learning models, providing users with a sense of understanding. Many services such as Amazon Web Services, Google Cloud Platform, and Microsoft Azure running Machine Learning as a Service (MLaaS) platforms, which provide several methods to explain model. However, in 2022, Luo et al. demonstrated that Shapley value-based explanations could lead to inference of private attribute, posing privacy risks of information leakage from models. Nevertheless, it remains unclear whether the attribute inference risk on the alternative explainability exist or not. Therefore, this study evaluates the attribute inference risk on LIME and compare the vulnerability with the explanability Shapley values. | |
| キーワード | （和） | LIME / Shapley値 / XAI / 説明可能性 / 機械学習 / 属性推定 / / |
| （英） | LIME / Shapley values / XAI / Explainability / Machine Learning / Feature Inference / / | |
| 文献情報 | 信学技報, vol. 123, no. 448, ICSS2023-88, pp. 137-144, 2024年3月. | |
| 資料番号 | ICSS2023-88 | |
| 発行日 | 2024-03-14 (ICSS) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | ICSS2023-88 |
|
| 研究会情報 | |
| 研究会 | ICSS IPSJ-SPT |
| 開催期間 | 2024-03-21 - 2024-03-22 |
| 開催地（和） | 沖縄科学技術大学院大学(OIST) OISTカンファレンスセンター |
| 開催地（英） | OIST |
| テーマ（和） | セキュリティ、トラスト、一般 |
| テーマ（英） | Security, Trust, etc. |
| 講演論文情報の詳細 | |
| 申込み研究会 | ICSS |
| 会議コード | 2024-03-ICSS-SPT |
| 本文の言語 | 日本語 |
| タイトル（和） | AIモデルの説明可能性LIMEとShapley値からの属性推定リスクの評価 |
| サブタイトル（和） | |
| タイトル（英） | Evaluation of Feature Inference Risk from Explainable AI metrics LIME and Shapley Values |
| サブタイトル（英） | |
| キーワード(1)（和/英） | LIME / LIME |
| キーワード(2)（和/英） | Shapley値 / Shapley values |
| キーワード(3)（和/英） | XAI / XAI |
| キーワード(4)（和/英） | 説明可能性 / Explainability |
| キーワード(5)（和/英） | 機械学習 / Machine Learning |
| キーワード(6)（和/英） | 属性推定 / Feature Inference |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 當麻 僚太郎 / Ryotaro Toma / トウマ リョウタロウ |
| 第1著者 所属（和/英） | 明治大学 (略称： 明大) Meiji University (略称： Meiji Univ.) |
| 第2著者 氏名（和/英/ヨミ） | 菊池 浩明 / Hiroaki Kikuchi / キクチ ヒロアキ |
| 第2著者 所属（和/英） | 明治大学 (略称： 明大) Meiji University (略称： Meiji Univ.) |
| 講演者 | 第1著者 |
| 発表日時 | 2024-03-22 11:20:00 |
| 発表時間 | 25分 |
| 申込先研究会 | ICSS |
| 資料番号 | ICSS2023-88 |
| 巻番号（vol） | vol.123 |
| 号番号（no） | no.448 |
| ページ範囲 | pp.137-144 |
| ページ数 | 8 |
| 発行日 | 2024-03-14 (ICSS) |
[研究会発表申込システムのトップページに戻る]