お知らせ 2023年度・2024年度 学生員 会費割引キャンペーン実施中です
お知らせ 技術研究報告と和文論文誌Cの同時投稿施策(掲載料1割引き)について
お知らせ 電子情報通信学会における研究会開催について
お知らせ NEW 参加費の返金について
電子情報通信学会 研究会発表申込システム
講演論文 詳細
技報閲覧サービス
[ログイン]
技報アーカイブ
 トップに戻る 前のページに戻る   [Japanese] / [English] 

講演抄録/キーワード
講演名 2024-03-22 12:35
GPTsの公開秘密
久保佑介NTTコミュニケーションズ)・谷 知亮NTTセキュリティ)・渡邉龍星エヌ・エフ・ラボラトリーズ/早大)・若井琢朗利川悠斗早大)・森 達哉早大/NICT/理研ICSS2023-91
抄録 (和) OpenAIは2023年11月にGPTsというサービスを公開した. 任意の機能を持つChatGPTを容易に作成できる一方で, カスタムGPTの作成に用いた内容がPrompt Leakingという攻撃手法により漏えいする問題がGPTsには存在する.
本研究では, 公開されているカスタムGPTを大規模に調査し, Prompt Leakingの脅威の実態を明らかにした. また, カスタムGPTを分析する過程で, Prompt Leaking対策を回避する3つの汎用的な攻撃手法を発見した.
本稿では, GPTsにおけるPrompt Leakingという脅威の啓発を目的として, 調査結果と発見した攻撃手法の詳細および対策について説明する. 
(英) OpenAI released a service called GPTs in November 2023. Creating GPTs with arbitrary functionalities is straightforward; however, GPTs face a vulnerability known as Prompt Leaking, where the data used in their development can be leaked through specific attack prompts.
In this study, we conducted a large-scale survey of publicly available GPTs to clarify the reality of the Prompt Leaking threat. In the process of analyzing the GPTs, we also discovered three generic attack methods to evade Prompt Leaking countermeasures.
In this paper, we describe the results of our survey, the details of the attack methods we discovered, and countermeasures to raise awareness of the Prompt Leaking threat in GPTs.
キーワード (和) GPTs / Prompt Leaking / / / / / /  
(英) GPTs / Prompt Leaking / / / / / /  
文献情報 信学技報, vol. 123, no. 448, ICSS2023-91, pp. 160-165, 2024年3月.
資料番号 ICSS2023-91 
発行日 2024-03-14 (ICSS) 
ISSN Online edition: ISSN 2432-6380
著作権に
ついて
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034)
PDFダウンロード ICSS2023-91

研究会情報
研究会 ICSS IPSJ-SPT  
開催期間 2024-03-21 - 2024-03-22 
開催地(和) 沖縄科学技術大学院大学(OIST) OISTカンファレンスセンター 
開催地(英) OIST 
テーマ(和) セキュリティ、トラスト、一般 
テーマ(英) Security, Trust, etc. 
講演論文情報の詳細
申込み研究会 ICSS 
会議コード 2024-03-ICSS-SPT 
本文の言語 日本語 
タイトル(和) GPTsの公開秘密 
サブタイトル(和)  
タイトル(英) Open Secrets of GPTs 
サブタイトル(英)  
キーワード(1)(和/英) GPTs / GPTs  
キーワード(2)(和/英) Prompt Leaking / Prompt Leaking  
キーワード(3)(和/英) /  
キーワード(4)(和/英) /  
キーワード(5)(和/英) /  
キーワード(6)(和/英) /  
キーワード(7)(和/英) /  
キーワード(8)(和/英) /  
第1著者 氏名(和/英/ヨミ) 久保 佑介 / Yusuke Kubo / クボ ユウスケ
第1著者 所属(和/英) NTTコミュニケーションズ株式会社 (略称: NTTコミュニケーションズ)
NTT Communications Corporation (略称: NTT Communications)
第2著者 氏名(和/英/ヨミ) 谷 知亮 / Tomoaki Tani / タニ トモアキ
第2著者 所属(和/英) NTTセキュリティ・ジャパン株式会社 (略称: NTTセキュリティ)
NTT Security (Japan) KK (略称: NTT Security)
第3著者 氏名(和/英/ヨミ) 渡邉 龍星 / Ryusei Watanabe / ワタナベ リュウセイ
第3著者 所属(和/英) 株式会社エヌ・エフ・ラボラトリーズ/早稲田大学 (略称: エヌ・エフ・ラボラトリーズ/早大)
N.F.Laboratories Inc./Waseda University (略称: N.F.Laboratories/Waseda Univ)
第4著者 氏名(和/英/ヨミ) 若井 琢朗 / Takuro Wakai / ワカイ タクロウ
第4著者 所属(和/英) 早稲田大学 (略称: 早大)
Waseda University (略称: Waseda Univ.)
第5著者 氏名(和/英/ヨミ) 利川 悠斗 / Yuto Toshikawa / トシカワ ユウト
第5著者 所属(和/英) 早稲田大学 (略称: 早大)
Waseda University (略称: Waseda Univ.)
第6著者 氏名(和/英/ヨミ) 森 達哉 / Tatsuya Mori /
第6著者 所属(和/英) 早稲田大学/NICT/理研AIP (略称: 早大/NICT/理研)
Waseda University/NICT/RIKEN AIP (略称: Waseda Univ. /NICT/ RIKEN)
第7著者 氏名(和/英/ヨミ) / /
第7著者 所属(和/英) (略称: )
(略称: )
第8著者 氏名(和/英/ヨミ) / /
第8著者 所属(和/英) (略称: )
(略称: )
第9著者 氏名(和/英/ヨミ) / /
第9著者 所属(和/英) (略称: )
(略称: )
第10著者 氏名(和/英/ヨミ) / /
第10著者 所属(和/英) (略称: )
(略称: )
第11著者 氏名(和/英/ヨミ) / /
第11著者 所属(和/英) (略称: )
(略称: )
第12著者 氏名(和/英/ヨミ) / /
第12著者 所属(和/英) (略称: )
(略称: )
第13著者 氏名(和/英/ヨミ) / /
第13著者 所属(和/英) (略称: )
(略称: )
第14著者 氏名(和/英/ヨミ) / /
第14著者 所属(和/英) (略称: )
(略称: )
第15著者 氏名(和/英/ヨミ) / /
第15著者 所属(和/英) (略称: )
(略称: )
第16著者 氏名(和/英/ヨミ) / /
第16著者 所属(和/英) (略称: )
(略称: )
第17著者 氏名(和/英/ヨミ) / /
第17著者 所属(和/英) (略称: )
(略称: )
第18著者 氏名(和/英/ヨミ) / /
第18著者 所属(和/英) (略称: )
(略称: )
第19著者 氏名(和/英/ヨミ) / /
第19著者 所属(和/英) (略称: )
(略称: )
第20著者 氏名(和/英/ヨミ) / /
第20著者 所属(和/英) (略称: )
(略称: )
講演者 第1著者 
発表日時 2024-03-22 12:35:00 
発表時間 25分 
申込先研究会 ICSS 
資料番号 ICSS2023-91 
巻番号(vol) vol.123 
号番号(no) no.448 
ページ範囲 pp.160-165 
ページ数
発行日 2024-03-14 (ICSS) 


[研究会発表申込システムのトップページに戻る]

[電子情報通信学会ホームページ]


IEICE / 電子情報通信学会