研究会開催プログラム

お知らせ 2023年度・2024年度学生員会費割引キャンペーン実施中です
お知らせ技術研究報告と和文論文誌Ｃの同時投稿施策(掲載料1割引き)について
お知らせ参加費の返金について

電子情報通信学会研究会発表申込システム
研究会開催プログラム

技報閲覧サービス
[ログイン]
技報アーカイブ

トップ

戻る

前のIBISML研究会 /

[HTML] / [HTML(simple)] / [TEXT]

[Japanese] / [English]

情報論的学習理論と機械学習研究会（IBISML）

[schedule] [select]

専門委員長		神嶌敏弘 (独立研究者)
副委員長		中村篤祥 (北大)，津田宏治 (東大)
幹事		河原吉伸 (阪大)，鈴木大慈 (東大)
幹事補佐		杉山麿人 (NII)，佐久間淳 (東工大)

日時	2024年12月20日(金)　09:00 - 17:40 2024年12月21日(土)　09:00 - 17:20
議題	生成AI、機械学習一般
会場名	北海道大学大学院環境科学院棟講義室１
住所	〒060−0810 北海道札幌市北区北10条西5丁目
交通案内	JR札幌駅から徒歩10分または市営交通・地下鉄南北線北12条駅から徒歩5分 https://www.hokudai.ac.jp/bureau/property/ees/access/
会場世話人連絡先	大学院情報科学研究院中村篤祥
参加費について	この開催は「技報完全電子化」研究会です．参加費（IBISML研究会）についてはこちらをご覧ください．
参加費支払い手続き期限	本研究会はハイブリッド開催です．準備の都合上，原則として開催の3日前までに受付を終了しますので，「参加費について」の聴講参加費または年間登録費のリンクからお早めにお手続きください．当日会場での現金受付はございません．なお，会議用URLなどは研究会幹事からご案内します．

12月20日(金) 午前強化学習・バンディット 09:00 - 10:20
(1)	09:00-09:20	相互情報量に対する変分下限最大化に基づく多目的ベイズ最適化	○石倉雅紀・烏山昌幸（名工大）
(2)	09:20-09:40	組合せ最適腕識別手法を用いたノイズ環境下での相関クラスタリング	○黒木祐子・宮内敦史（CENTAI）・ボンキフランチェスコ（CENTAI/Eurecat）・陈　卫（MSR）
(3)	09:40-10:00	事前知識を用いたQ学習	○今川孝久・榎田修一（九工大）
(4)	10:00-10:20	鉄道荷役における重量を考慮した貨車入替え計画～強化学習を用いた導出法～	○平嶋洋一（大阪工大）
	10:20-10:30	休憩　（ 10分）
12月20日(金) 午前ベイズ統計 10:30 - 11:30
(5) [変更あり]	10:30-10:50	深層学習モデルを用いた高速なデータ同化手法	○小野悠太（東大）・垂水勇太・福田圭祐・前田新一（PFN）
(6) [変更あり]	10:50-11:10	ガウス過程回帰モデルによるテスト分布を考慮した能動学習	○大藏芳斗（名大）・竹野思温（名大/理研）・稲津　佑（名工大）・青山竜也・田中智成・赤羽智志（名大）・花田博幸・橋本典明（理研）・村山太朗・李　翰柱・小嶋信矢（デンソー）・竹内一郎（名大/理研） [変更あり]
(7) [変更あり]	11:10-11:30	科学者によるスペクトル分解過程のベイズモデリング	○大久保駿人・天本義史・熊添博之・有竹俊光・本武陽一（一橋大）
	11:30-13:00	昼食休憩　（ 90分）
12月20日(金) 午後応用 13:00 - 14:20
(8) [変更あり]	13:00-13:20	ClassifierDiffusion: 識別器による確率密度推定と画像生成への応用	○鳥羽真仁・内田誠一（九大）・早志英朗（阪大）
(9) [変更あり]	13:20-13:40	Generative Inference for object poses by Regressive-feature Reconstruction	○Ryo Isobe・Rei Kawakami（Science Tokyo）・Satoshi Ikehata（Science Tokyo/NII）・Ikuro Sato（Science Tokyo/Denso IT Lab）
(10) [変更あり]	13:40-14:00	位相的データ解析によるアモルファスガラスの象徴スペクトルの形状発現機構の解明	○森田秀利・本武陽一・天本義史・大久保駿人・土佐尚輝（一橋大）
(11) [変更あり]	14:00-14:20	Conformal Predictionとベイズ最適化 [変更あり]	○南條　舜（総研大）・吉田　亮（統計数理研）
	14:20-14:30	休憩　（ 10分）
12月20日(金) 午後 [企画セッション] 生成AIとその活用(1) [変更あり] 座長: 前田新一(PFN) 14:30 - 16:30
(12) [変更あり]	14:30-15:10	[招待講演1] タイトル： AI・自然言語処理、激動の五年間－大規模言語モデルの現在、そして未来－講演者：笠井淳吾 (株式会社Kotoba Technologies Japan) 概要：私がアメリカの博士課程に在籍した期間は、まさに激動の５年間でした。ディープラーニングがNLPに与えた影響も束の間、BERTに始まり、GPT-2・GPT-3を経て、ChatGPT、大規模言語モデルの時代になりました。一体我々は何を学んだのでしょうか？今回は、弊社Kotoba Technologiesの音声分野での取り組みにも触れながら、私たちが考える自然言語処理の未来と希望を語れればと思います。 [変更あり]
(13) [変更あり]	15:10-15:50	[招待講演2] タイトル：PLaMo-100B-Instruct - 国産大規模言語モデル構築における事後学習の取り組み講演者：中郷孝祐 (株式会社Preferred Elements) 概要：現在、世界中で大規模言語モデル(LLM)の開発が盛んに進められているが、日本固有の文化・法律・倫理観などを理解したLLMの開発は、日本の産業力の強化および文化資産の維持にとって不可欠である。Preferred Networks (PFN)では、1000億パラメータを持つLLMであるPLaMo-100Bをフルスクラッチで学習した。本発表ではその事後学習フェーズにおける学習パイプライン構築について、および特に注力をしたデータ合成の取り組みについて紹介する。 [変更あり]
(14) [変更あり]	15:50-16:30	[招待講演3] タイトル：Finetuning or RAG? 医療ドメイン特化 LLM 構築に向けて講演者：岩澤諄一郎 (株式会社Preferred Networks) 概要：大規模言語モデル (LLM) は医療分野において診断補助・ナレッジ抽出など今後大きな役割を果たすことが期待されている。一方、医療ドメインで既存LLM を活用するにあたって、日本語医療の知識不足などさまざまな課題も見えてきている。本講演では、医療ドメインでLLM を使う際の課題に触れながら、継続事前学習・RAGを用いた医療ドメイン特化の取り組みについて紹介する。 [変更あり]
	16:30-16:40	休憩　（ 10分）
12月20日(金) 午後理論 16:40 - 17:40
(15) [変更あり]	16:40-17:00	非単調量子自然勾配法の情報幾何	○宮原英之（北大）
(16) [変更あり]	17:00-17:20	共有潜在空間上でのベイズ最適化による機械学習アルゴリズムとハイパーパラメータの同時選択	○石川和樹・尾崎令拓・神崎陽平（名工大）・竹内一郎（名大/理研）・烏山昌幸（名工大） [変更あり]
(17) [変更あり]	17:20-17:40	ルールリストの族に対する線形整数計画法に基づくモデル更新手法	○佐々木耀一・岡嶋　穣（NEC）・有村博紀（北大）
12月21日(土) 午前 [企画セッション] 生成AIとその活用(2) [変更あり] 座長: 前田新一(PFN) 09:00 - 11:00
(18) [変更あり]	09:00-09:40	[招待講演4] タイトル：大規模言語モデルTanukiの対話・タスク遂行能力を向上させるための合成データ生成と活用講演者：畠山歓 (東京科学大学) 概要：大規模言語モデルのフルスクラッチ開発において大きな課題となったのが、ユーザーとの円滑な対話や、指示に従ってタスクを遂行する能力の向上であった。Common Crawlに代表されるインターネット系のコーパスには、当該タスクを習得するための十分量のテキストが含まれていないことが示唆された。そこでTanukiの開発においては、人工的に合成した数百億トークン以上のデータを事前学習させるアプローチを採用した。当日は詳細について紹介する。 [変更あり]
(19) [変更あり]	09:40-10:20	[招待講演5] タイトル：クイズが解ければ電話が取れる？〜コールセンター業務の実際〜講演者：金本勝吉 (リンカーズ株式会社) 概要：質問応答は自然言語処理の分野で長く研究されてきたタスクです。本発表ではクイズを用いた日本語質問応答のコンペティション「AI王」に過去4回出場し、QuizKnockさんと早押しクイズで対戦するに至ったシステムについて、大規模言語モデルでもよく利用される検索を併用する構成を交えてご紹介します。また、この領域に着目した動機であるコールセンター業務について、実際にその現場を見てきた体験に基づき質問応答タスクと実務とのギャップや、実践で技術を利用する難しさについてもお話しします。 [変更あり]
(20) [変更あり]	10:20-11:00	[招待講演6] タイトル：金融分野における大規模言語モデルの応用と特化型モデルの構築講演者：平野正徳 (株式会社Preferred Networks) 概要：大規模言語モデル(LLM)の登場による影響はドメイン知識を要する様々な分野にも波及している。本発表では、特に金融分野において、LLMの応用可能性や問題点に加え、金融に特化した特化型LLMの構築について紹介する。特に特化型LLMの構築においては、コーパスの作成からモデルの学習、LLMの評価のどのステップも非常に重要である。そこで、本発表では、金融に特化したLLMのベンチマークの構築や金融特化型モデルの学習を通じて得られた知見も含め紹介する。 [変更あり]
	11:00-11:10	休憩　（ 10分）
12月21日(土) 午前信頼性・解釈性・公平性 11:10 - 11:50 [変更あり]
(21) [変更あり]	11:10-11:30	自動特徴量エンジニアリングに対する選択的推論	○松川竜也・白石智洸（名大）・西納修一（名大/理研）・勝岡輝行（名大）・竹内一郎（名大/理研）
(22) [変更あり]	11:30-11:50	SHAP値を用いた特徴量選択における予測精度とモデルの解釈可能性の検証	○橋浦亮太・大森淳寛・中野直人（明大）
	11:50-13:40 [変更あり]	昼食休憩　（ 110分） [変更あり]
12月21日(土) 午後深層学習 13:40 - 15:00
(23) [変更あり]	13:40-14:00	SGDの確率的ノイズを利用した段階的最適化手法による経験損失関数の大域的最適化 [変更あり]	○佐藤尚樹・飯塚秀明（明大）
(24) [変更あり]	14:00-14:20	L1正則化ニューラルネットワークの特徴量混合による敵対的堅牢性 [変更あり]	○稲岡陽向・武石啓成・竹内純一（九大）
(25) [変更あり]	14:20-14:40	ニュートン図形の方法によるTransformerの大域学習係数の推定の可能性と展望	林　祐輔（ALIGN）・坂本龍亮（北大）・○坂本航太郎（東大）
(26) [変更あり]	14:40-15:00	言語モデルにおけるBKT転移 [変更あり]	○都地悠馬（北大）・高橋　淳（東大）・Vwani Roychowdhury（カリフォルニア大ロサンゼルス校）・宮原英之（北大）
	15:00-15:10	休憩　（ 10分）
12月21日(土) 午後学習・予測手法 15:10 - 16:30
(27) [変更あり]	15:10-15:30	最適化1ステップの学習による非負値行列因子分解のUnrolling [変更あり]	○有竹俊光（一橋大）
(28) [変更あり]	15:30-15:50	モデル性能を保証した分布ロバストな訓練事例選択	○田中智成（名大）・花田博幸（理研）・杨　瀚霆・青山竜也（名大）・稲津　佑（名工大）・赤羽智志・大藏芳斗（名大）・橋本典明（理研）・村山太朗・李　翰柱・小嶋信矢（デンソー）・竹内一郎（名大/理研）
(29) [変更あり]	15:50-16:10	非定常時系列に対する分位点回帰を用いた指数重み付け平均アルゴリズムの評価 [変更あり]	○大森淳寛・橋浦亮太・中野直人（明大）
(30) [変更あり]	16:10-16:30	非更新オートエンコーダを用いた高精度なコンセプトドリフト検出	○髙野大晴・古賀久志（電通大）
	16:30-16:40	休憩　（ 10分）
12月21日(土) 午後実応用 16:40 - 17:20
(31) [変更あり]	16:40-17:00	低リソース環境でのニューラルネットワークを用いたメロディの生成、ルールに基づいた改善と評価	○松永真樹・ゴーチェロヴィック（有明高専）
(32) [変更あり]	17:00-17:20	機械学習を用いた乳幼児の子育てに関する情報分類	○マヒヌリズパル（セリオ）

講演時間
一般講演	発表 15 分＋質疑応答 5 分

問合先と今後の予定
IBISML	情報論的学習理論と機械学習研究会（IBISML） [今後の予定はこちら]
	問合先	中村篤祥（北大) aisti