| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2024-06-20 13:30 機械学習モデルの局所的説明の一貫性を考慮した再訓練法 ○山倉 司（東工大）・佐々木耀一・岡嶋 穣（NEC）・Thiem Van Chu（東工大）  NC2024-5 IBISML2024-5 |
|
| 抄録 | （和） | 日々変化するデータに対応するため，実社会で運用する機械学習モデルは更新が必須である．しかし，モデルの更新による予測の変化は，モデルに対する信頼の低下につながる．そこで，モデルの再訓練前後で予測に一貫性を持たせる後方互換性の研究が行われている．だが，後方互換性の研究は予測の一貫性のみに焦点を当てており，説明の一貫性は考慮していないという課題を抱えている．病気の診断のように人生を左右する場面では機械学習モデルに対する信頼が重要になるため，予測だけでなく説明も必要となる．そして，再訓練前後での説明の変化はモデルの信頼低下につながる．そこで本研究は，再訓練前後でモデルに説明の一貫性を持たせることに焦点を当て，説明損失を用いて再訓練することを提案する．機械学習モデルに局所的な後付け説明を付与する代表的な手法である LIME を用いて説明を生成し，モデルの更新前後での説明の変化を説明損失とする．通常の学習に使用される予測に対する損失だけでなく，説明損失も小さくなるようにモデルの再訓練を行う．実験の結果，説明損失を用いて再訓練を行うことで，精度を維持しながら再訓練前後の説明の二乗誤差が半分未満に削減されることが示された． |
| （英） | ||
| キーワード | （和） | 説明可能AI / 後方互換性 / 機械学習モデルの更新 / / / / / |
| （英） | / / / / / / / | |
| 文献情報 | 信学技報, vol. 124, no. 86, IBISML2024-5, pp. 30-36, 2024年6月. | |
| 資料番号 | IBISML2024-5 | |
| 発行日 | 2024-06-13 (NC, IBISML) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | NC2024-5 IBISML2024-5 |
|
| 研究会情報 | |
| 研究会 | IBISML NC IPSJ-BIO IPSJ-MPS |
| 開催期間 | 2024-06-20 - 2024-06-22 |
| 開催地（和） | 沖縄科学技術大学院大学 |
| 開催地（英） | OIST |
| テーマ（和） | 機械学習・一般 |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | IBISML |
| 会議コード | 2024-06-IBISML-NC-BIO-MPS |
| 本文の言語 | 日本語（英語タイトルなし） |
| タイトル（和） | 機械学習モデルの局所的説明の一貫性を考慮した再訓練法 |
| サブタイトル（和） | |
| タイトル（英） | |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 説明可能AI / |
| キーワード(2)（和/英） | 後方互換性 / |
| キーワード(3)（和/英） | 機械学習モデルの更新 / |
| キーワード(4)（和/英） | / |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 山倉 司 / / ヤマクラ ツカサ |
| 第1著者 所属（和/英） | 東京工業大学 (略称： 東工大) (略称： ) |
| 第2著者 氏名（和/英/ヨミ） | 佐々木 耀一 / / ササキ ヨウイチ |
| 第2著者 所属（和/英） | 日本電気株式会社 (略称： NEC) (略称： ) |
| 第3著者 氏名（和/英/ヨミ） | 岡嶋 穣 / / オカジマ ユズル |
| 第3著者 所属（和/英） | 日本電気株式会社 (略称： NEC) (略称： ) |
| 第4著者 氏名（和/英/ヨミ） | Thiem Van Chu / / ティエム ヴァン チュ |
| 第4著者 所属（和/英） | 東京工業大学 (略称： 東工大) (略称： ) |
| 講演者 | 第1著者 |
| 発表日時 | 2024-06-20 13:30:00 |
| 発表時間 | 25分 |
| 申込先研究会 | IBISML |
| 資料番号 | NC2024-5, IBISML2024-5 |
| 巻番号（vol） | vol.124 |
| 号番号（no） | no.85(NC), no.86(IBISML) |
| ページ範囲 | pp.30-36 |
| ページ数 | 7 |
| 発行日 | 2024-06-13 (NC, IBISML) |
[研究会発表申込システムのトップページに戻る]