| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2024-11-08 17:40 LLM生成コードをセキュアに実行するサンドボックスを持つ企業向けAIエージェントシステムの構築 ○近藤康彦・加藤孝史・木村功作・浅井達哉（富士通）  KBSE2024-30 SC2024-33 |
|
| 抄録 | （和） | 大規模言語モデル(LLM)の進化は，自然言語での対話に留まらず，ユーザーの要求に応じた操作を代替するAIエージェントに発展し，企業におけるタスク自動化の可能性を広げている． しかし，LLMにより生成されたプログラムコードは検証されておらず，機密情報を取り扱う企業環境では，情報漏えいや改ざんといったリスクへの対策が必要となる． 本稿では，LLMが生成したコードを安全に実行するためのサンドボックス環境とそれを用いたエージェントシステムに焦点を当てる．情報漏えいや改ざん防止の観点から，リソースへのアクセス制御，外部環境との通信制限といった必要な要件を整理し，試行として実装したシステムの評価結果を報告する． |
| （英） | The evolution of large language models (LLMs) has advanced beyond natural language dialogue, leading to the development of AI agents capable of performing operations based on user requests, thereby expanding the potential for task automation in enterprises. However, programming code generated by LLMs is unverified, and in environments handling sensitive information, countermeasures against risks such as data leaks and tampering are essential. This report focuses on a sandbox environment designed to securely execute code generated by LLMs. From the perspectives of preventing data leaks and tampering, we examined necessary requirements such as controlling access to resources and restricting communication with external environments. We also reported on the evaluation of an initially implemented agent system. |
|
| キーワード | （和） | 大規模言語モデル / AIエージェント / サンドボックス / / / / / |
| （英） | Large Language Models / AI Agent / Sandbox / / / / / | |
| 文献情報 | 信学技報, vol. 124, no. 245, SC2024-33, pp. 65-70, 2024年11月. | |
| 資料番号 | SC2024-33 | |
| 発行日 | 2024-11-01 (KBSE, SC) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | KBSE2024-30 SC2024-33 |
|
| 研究会情報 | |
| 研究会 | SC KBSE |
| 開催期間 | 2024-11-08 - 2024-11-09 |
| 開催地（和） | 高知市文化プラザかるぽーと（9F特別学習室） |
| 開催地（英） | Kochi-City Culture Plaza CUL-PORT |
| テーマ（和） | 一般 |
| テーマ（英） | General |
| 講演論文情報の詳細 | |
| 申込み研究会 | SC |
| 会議コード | 2024-11-SC-KBSE |
| 本文の言語 | 日本語 |
| タイトル（和） | LLM生成コードをセキュアに実行するサンドボックスを持つ企業向けAIエージェントシステムの構築 |
| サブタイトル（和） | |
| タイトル（英） | Implementation of an Enterprise AI Agent System with a Secure Sandbox for Executing LLM-Generated Code |
| サブタイトル（英） | |
| キーワード(1)（和/英） | 大規模言語モデル / Large Language Models |
| キーワード(2)（和/英） | AIエージェント / AI Agent |
| キーワード(3)（和/英） | サンドボックス / Sandbox |
| キーワード(4)（和/英） | / |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 近藤 康彦 / Yasuhiko Kondo / コンドウ ヤスヒコ |
| 第1著者 所属（和/英） | 富士通株式会社 (略称： 富士通) Fujitsu, Ltd. (略称： Fujitsu) |
| 第2著者 氏名（和/英/ヨミ） | 加藤 孝史 / Takashi Kato / カトウ タカシ |
| 第2著者 所属（和/英） | 富士通株式会社 (略称： 富士通) Fujitsu, Ltd. (略称： Fujitsu) |
| 第3著者 氏名（和/英/ヨミ） | 木村 功作 / Kosaku Kimura / キムラ コウサク |
| 第3著者 所属（和/英） | 富士通株式会社 (略称： 富士通) Fujitsu, Ltd. (略称： Fujitsu) |
| 第4著者 氏名（和/英/ヨミ） | 浅井 達哉 / Tatsuya Asai / アサイ タツヤ |
| 第4著者 所属（和/英） | 富士通株式会社 (略称： 富士通) Fujitsu, Ltd. (略称： Fujitsu) |
| 講演者 | 第1著者 |
| 発表日時 | 2024-11-08 17:40:00 |
| 発表時間 | 25分 |
| 申込先研究会 | SC |
| 資料番号 | KBSE2024-30, SC2024-33 |
| 巻番号（vol） | vol.124 |
| 号番号（no） | no.244(KBSE), no.245(SC) |
| ページ範囲 | pp.65-70 |
| ページ数 | 6 |
| 発行日 | 2024-11-01 (KBSE, SC) |
[研究会発表申込システムのトップページに戻る]