| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2022-03-07 15:15 開発プロジェクトのドメインに特化したRoBERTaによるコード補完モデルの提案 ○福本大介・平尾俊貴（奈良先端大）・藤原賢二（東京都市大）・飯田 元（奈良先端大）  SS2021-50 |
|
| 抄録 | （和） | コード補完は，開発者がプログラムを作成中に次に入力する候補（トークン列）を自動推薦する技術である．コード補完によって，開発スキルが乏しい開発者でもコーディング時間を短縮させることが可能である．従来研究では，機械学習技術を用いてプログラムの文脈を考慮し，より汎用的にトークンを補完できる手法を提案している．しかし，これらの従来研究では，補完するトークン数が増えると急激に補完精度が低下する課題が報告されている．本研究では，自然言語処理の機械学習モデルの一つであるRoBERTaに対して，開発者のリポジトリのドメインで構築されたデータセットで追加学習する手法を提案する．これにより，モデルが推薦する語彙を減らす事ができ，補完精度の向上が期待される．実験の結果，事前学習から一定の精度改善が確認された． |
| （英） | Code completion is a function that automatically recommends code for developers when they are writing code. Code completion can reduce coding time even for developers with insufficient skills. In the previous research, the machine learning-based completion that considers the context of the program and completes tokens in a more generally has been proposed. However, these previous studies have reported that the accuracy of completion decreases rapidly when the number of completing tokens increases. In this study, we propose a method that additionally trains RoBERTa, a machine learning model for natural language processing, on a dataset built in the domain of a developer's repository. We expect it can reduce the vocabulary recommended by the model and improve the completion accuracy. As a result of our experiments, we confirmed a improvement in accuracy compared to pre-trained model. | |
| キーワード | （和） | コード補完 / 転移学習 / BERT / RoBERTa / / / / |
| （英） | Code Completion / Transfer Learning / BERT / RoBERTa / / / / | |
| 文献情報 | 信学技報, vol. 121, no. 416, SS2021-50, pp. 49-53, 2022年3月. | |
| 資料番号 | SS2021-50 | |
| 発行日 | 2022-02-28 (SS) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| 査読に ついて |
本技術報告は査読を経ていない技術報告であり，推敲を加えられていずれかの場に発表されることがあります． | |
| PDFダウンロード | SS2021-50 |
|
| 研究会情報 | |
| 研究会 | SS |
| 開催期間 | 2022-03-07 - 2022-03-08 |
| 開催地（和） | オンライン開催 |
| 開催地（英） | Online |
| テーマ（和） | ソフトウェアサイエンスおよび一般 |
| テーマ（英） | Software Science etc. |
| 講演論文情報の詳細 | |
| 申込み研究会 | SS |
| 会議コード | 2022-03-SS |
| 本文の言語 | 日本語 |
| タイトル（和） | 開発プロジェクトのドメインに特化したRoBERTaによるコード補完モデルの提案 |
| サブタイトル（和） | |
| タイトル（英） | Project-domain adaptation with RoBERTa Model for Code Completion |
| サブタイトル（英） | |
| キーワード(1)（和/英） | コード補完 / Code Completion |
| キーワード(2)（和/英） | 転移学習 / Transfer Learning |
| キーワード(3)（和/英） | BERT / BERT |
| キーワード(4)（和/英） | RoBERTa / RoBERTa |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 福本 大介 / Daisuke Fukumoto / フクモト ダイスケ |
| 第1著者 所属（和/英） | 奈良先端科学技術大学院大学 (略称： 奈良先端大) Nara Institute of Science and Technology (略称： NAIST) |
| 第2著者 氏名（和/英/ヨミ） | 平尾 俊貴 / Toshiki Hirao / ヒラオ トシキ |
| 第2著者 所属（和/英） | 奈良先端科学技術大学院大学 (略称： 奈良先端大) Nara Institute of Science and Technology (略称： NAIST) |
| 第3著者 氏名（和/英/ヨミ） | 藤原 賢二 / Kenji Fujiwara / フジワラ ケンジ |
| 第3著者 所属（和/英） | 東京都市大学 (略称： 東京都市大) Tokyo City University (略称： TCU) |
| 第4著者 氏名（和/英/ヨミ） | 飯田 元 / Hajimu Iida / イイダ ハジム |
| 第4著者 所属（和/英） | 奈良先端科学技術大学院大学 (略称： 奈良先端大) Nara Institute of Science and Technology (略称： NAIST) |
| 講演者 | 第1著者 |
| 発表日時 | 2022-03-07 15:15:00 |
| 発表時間 | 25分 |
| 申込先研究会 | SS |
| 資料番号 | SS2021-50 |
| 巻番号（vol） | vol.121 |
| 号番号（no） | no.416 |
| ページ範囲 | pp.49-53 |
| ページ数 | 5 |
| 発行日 | 2022-02-28 (SS) |
[研究会発表申込システムのトップページに戻る]