講演抄録/キーワード |
講演名 |
2022-05-27 09:55
機械学習モデルの認証に向けた検討 ○桐淵直人・鈴木亮平・芦澤奈実(NTT)・大木哲史・峰野博史・西垣正勝(静岡大) SC2022-2 |
抄録 |
(和) |
機械学習モデルの認証に向けた検討の一環として,モデルの挙動から複数の異なるモデルを識別できるか検証した.一般的なソフトウェアにおける認証は,その挙動を把握した製作者が提供するハッシュ値等を用いて行われる.しかし,機械学習モデルは継続的な学習によって変化し続け,かつ,製作者が変化の内容を把握しているとは限らない.そこで,機械学習モデルに適した認証方法として,モデル自体の挙動を見ることで,モデルの継続的な変化に
対応しながら,意図した挙動をするかの確認も同時に行う検討を進める.検証実験では,複数の画像認識モデルに対して,明るさやぼかしの強さを変えた画像を入力し,その認識結果や確信度からモデルを識別できることを確認した. |
(英) |
As a part of considerations for identifying machine learning models, we experimented whether we can identify multiple different models by their behaviors. We identify general software using something like a hash value provided by its producer who knows its behavior. However, machine learning models keep changing itself by continues learning, and the producer doesn't always know contents of the change. Thus, we considered to deal with model's continues changes and validate intended behaviors at the same time by checking its behaviors as the suitable identification method for machine learning models. In our experiments, we confirmed that we can distinguish multiple image recognition models using recognized results and its confidence for images with various blur intensities and brightness. |
キーワード |
(和) |
機械学習 / 深層学習 / ニューラル・ネットワーク / 認証 / 真正性 / 画像認識 / / |
(英) |
Machine Learning / Deep Learning / Neural Network / Identification / Authenticity / Image Recognition / / |
文献情報 |
信学技報, vol. 122, no. 50, SC2022-2, pp. 7-12, 2022年5月. |
資料番号 |
SC2022-2 |
発行日 |
2022-05-20 (SC) |
ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
SC2022-2 |