講演抄録/キーワード |
講演名 |
2018-12-06 11:45
確率測度的テクストと決定論的テクストを循環させる逆強化学習システムの倫理とは何か ○森住哲也(神奈川大) SITE2018-62 |
抄録 |
(和) |
インターネットに於いて,システムは決定論に基づく論理学的視点によって設計・運用されている.確かに決定論的にシステムを設計すればその安全性・完全性・健全性は容易に証明され得るものであり,即ち設計しやすい対象になる.しかし決定論で設計されたシステムは,規則によって人間を縛ることを強要するという諸刃の剣の側面を持つ.今,<私>という視点を欠いたシステムが無批判に発展し続け,その究極的姿として人工知能が様々な問題を提起しつつ現れている.<私>という視点を人工知能的システムに組み込むためにどの様なアプローチで立ち向かえば良いのであろうか?本稿では「人工知能に他者という視点を積極的に組み込む事」,同時に「決定論的な規則を遵守しながらも,しかしながら<私>の日常的視点から規則自体を変更可能なシステムを目指す事」という概念設計を提示する.即ち「それぞれの<私>が他者性を如何に解釈するか」という問いに対し,ウィトゲンシュタインの言語ゲームの概念と世阿弥の離見の見の概念を機械学習システムとして設計する.機械学習システムでは,教師あり学習,教師なし学習を組み合わせ,更に教師データのベイズ更新に逆強化学習を適用する.このシステムにより「他者の意図を<私>の視点で逆強化学習するシステム」を実現する.その上で,このシステムに対する倫理的考察を試みる. |
(英) |
In the Internet, the system is designed and operated by a logic viewpoint based on determinism.
If you design the system deterministically, its safety, integrity and soundness can be easily proved, that is, it is easy to design. However, systems designed with determinism force to bind humans by rule. Now, the system which lacks the viewpoint of <I> continues uncritically developing, and as its ultimate appearance artificial intelligence appears while raising various problems. What kind of approach should we approach to incorporate the viewpoint of <I> into an artificial intelligent system? In this paper I present the following conceptual design: "To positively incorporate the viewpoint of others into artificial intelligence", at the same time "aim to be a system that can change the rules themselves from the viewpoint of <I> while adhering to deterministic rules". In other words, I design the concept of Wittgenstein's language-game and the concept of “Riken-no-ken (sight outside of sight)” used in Ze’ami’s treatise on Noh as a machine learning system against the question "How each <I> interpret others". In the machine learning mechanism, combine supervised learning and unsupervised learning, and apply reverse reinforcement learning to Bayesian updating of teacher data. This system realizes "a system to reverse reinforcement learning from the viewpoint of other people's intention". Then I will try ethical consideration on this system. |
キーワード |
(和) |
人工知能 / 決定論 / 確率的モデル / 逆強化学習 / ウィトゲンシュタイン / 言語ゲーム / 世阿弥 / 倫理 |
(英) |
artificial intelligence / determinism / stochastic model / inverse reinforcement learning / Wittgenstein / Language-game / Ze’ami / ethics |
文献情報 |
信学技報, vol. 118, no. 345, SITE2018-62, pp. 17-23, 2018年12月. |
資料番号 |
SITE2018-62 |
発行日 |
2018-11-29 (SITE) |
ISSN |
Print edition: ISSN 0913-5685 Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
SITE2018-62 |