| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2020-03-02 10:35 機械学習における乗算を用いない次元削減 ○小野順貴（首都大東京）  EA2019-104 SIP2019-106 SP2019-53 |
|
| 抄録 | （和） | 本研究では，機械学習において，乗算を用いず，要素を選択するのみで次元削減を行う手法を提案する。機械学習における次元削減は，不要なモデルパラメータを減らし，過学習の緩和や学習速度の向上につながる重要な前処理である。基本的でよく用いられている手法の一つは主成分分析であるが，主成分分析には行列の乗算を必要とするため，補聴器や組み込み機器など，演算能力が限られているシステムでは，主成分分析の乗算回数自体が大きな計算負荷となる場合がある。本研究では，次元削減の計算量を減らすため，要素選択のみで次元削減を行うことを考える。このとき重要となるのは，入力ベクトルのどの要素を選択するかである。本研究では，線形自己符号化器の再構成損失を目的関数とし，これを最小とする要素を選ぶ離散最適化問題としてこれを定式化する。また，目的関数がより小さくなるように，選択要素を逐次的に入れ替えていくことで，これを解く手法を提案する。目的関数の計算には逆行列演算が含まれるが，逆行列補題を用いてこの演算量を大幅に削減するアルゴリズムについても述べる。画像に対する予備的な実験結果により，本手法の有効性を示す。 |
| （英） | In this study, we propose a dimension reduction method for machine learning by only selecting elements without multiplication. In machine learning, the dimension reduction is an important preprocessing that reduces unnecessary model parameters, and it alleviates over-fitting and improves learning speed. One of the basic and frequently used methods is principal component analysis (PCA). However, since PCA requires matrix multiplication, it is not suitable for a system with limited computational power such as hearing aids and embedded devices. The number of times of multiplication in PCA itself may cause a large calculation load. In this study, to reduce the amount of calculation in dimension reduction, we consider dimension reduction only by element selection. What is essential at this time is which elements of the input vector are selected. In this study, we consider an objective function defined as the reconstruction loss of a linear autoencoder, and this is formulated as a discrete optimization problem that selects the element that minimizes it. Also, we propose a method to solve this problem by sequentially replacing elements chosen so that the objective function becomes smaller. The calculation of the objective function includes the inverse matrix operation. An algorithm that significantly reduces the amount of computation using the inverse matrix lemma is described. Preliminary experimental results for video show the effectiveness of this method. | |
| キーワード | （和） | 次元削減 / 機械学習 / 要素選択 / 乗算 / 計算量 / / / |
| （英） | dimension reduction / machine learning / element seelction / multiplication / computational cost / / / | |
| 文献情報 | 信学技報, vol. 119, no. 440, SIP2019-106, pp. 21-26, 2020年3月. | |
| 資料番号 | SIP2019-106 | |
| 発行日 | 2020-02-24 (EA, SIP, SP) | |
| ISSN | Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | EA2019-104 SIP2019-106 SP2019-53 |
|
| 研究会情報 | |
| 研究会 | SP EA SIP |
| 開催期間 | 2020-03-02 - 2020-03-03 |
| 開催地（和） | 沖縄産業支援センター |
| 開催地（英） | Okinawa Industry Support Center |
| テーマ（和） | 音声，応用／電気音響，信号処理，一般 |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | SIP |
| 会議コード | 2020-03-SP-EA-SIP |
| 本文の言語 | 日本語 |
| タイトル（和） | 機械学習における乗算を用いない次元削減 |
| サブタイトル（和） | |
| タイトル（英） | Dimension reduction without multiplication in machine learning |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 次元削減 / dimension reduction |
| キーワード(2)（和/英） | 機械学習 / machine learning |
| キーワード(3)（和/英） | 要素選択 / element seelction |
| キーワード(4)（和/英） | 乗算 / multiplication |
| キーワード(5)（和/英） | 計算量 / computational cost |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 小野 順貴 / Nobutaka Ono / オノ ノブタカ |
| 第1著者 所属（和/英） | 首都大学東京 (略称： 首都大東京) Tokyo Metropolitan University (略称： TMU) |
| 第2著者 氏名（和/英/ヨミ） | / / |
| 第2著者 所属（和/英） | (略称： ) (略称： ) |
| 第3著者 氏名（和/英/ヨミ） | / / |
| 第3著者 所属（和/英） | (略称： ) (略称： ) |
| 第4著者 氏名（和/英/ヨミ） | / / |
| 第4著者 所属（和/英） | (略称： ) (略称： ) |
| 第5著者 氏名（和/英/ヨミ） | / / |
| 第5著者 所属（和/英） | (略称： ) (略称： ) |
| 第6著者 氏名（和/英/ヨミ） | / / |
| 第6著者 所属（和/英） | (略称： ) (略称： ) |
| 第7著者 氏名（和/英/ヨミ） | / / |
| 第7著者 所属（和/英） | (略称： ) (略称： ) |
| 第8著者 氏名（和/英/ヨミ） | / / |
| 第8著者 所属（和/英） | (略称： ) (略称： ) |
| 第9著者 氏名（和/英/ヨミ） | / / |
| 第9著者 所属（和/英） | (略称： ) (略称： ) |
| 第10著者 氏名（和/英/ヨミ） | / / |
| 第10著者 所属（和/英） | (略称： ) (略称： ) |
| 第11著者 氏名（和/英/ヨミ） | / / |
| 第11著者 所属（和/英） | (略称： ) (略称： ) |
| 第12著者 氏名（和/英/ヨミ） | / / |
| 第12著者 所属（和/英） | (略称： ) (略称： ) |
| 第13著者 氏名（和/英/ヨミ） | / / |
| 第13著者 所属（和/英） | (略称： ) (略称： ) |
| 第14著者 氏名（和/英/ヨミ） | / / |
| 第14著者 所属（和/英） | (略称： ) (略称： ) |
| 第15著者 氏名（和/英/ヨミ） | / / |
| 第15著者 所属（和/英） | (略称： ) (略称： ) |
| 第16著者 氏名（和/英/ヨミ） | / / |
| 第16著者 所属（和/英） | (略称： ) (略称： ) |
| 第17著者 氏名（和/英/ヨミ） | / / |
| 第17著者 所属（和/英） | (略称： ) (略称： ) |
| 第18著者 氏名（和/英/ヨミ） | / / |
| 第18著者 所属（和/英） | (略称： ) (略称： ) |
| 講演者 | 第1著者 |
| 発表日時 | 2020-03-02 10:35:00 |
| 発表時間 | 25分 |
| 申込先研究会 | SIP |
| 資料番号 | EA2019-104, SIP2019-106, SP2019-53 |
| 巻番号（vol） | vol.119 |
| 号番号（no） | no.439(EA), no.440(SIP), no.441(SP) |
| ページ範囲 | pp.21-26 |
| ページ数 | 6 |
| 発行日 | 2020-02-24 (EA, SIP, SP) |
[研究会発表申込システムのトップページに戻る]