講演抄録/キーワード |
講演名 |
2024-02-19 13:45
CLIPを用いたゼロショット分布内検知 ○宮井淳行・郁 青(東大)・入江 豪(東京理科大)・相澤清晴(東大) ITS2023-53 IE2023-42 |
抄録 |
(和) |
インターネットからかき集めたノイズの多い画像から分布内画像を抽出することは, データセット構築のための重要な前処理であり, ゼロショット分布外検出によって部分的に対処できる. しかし, 既存の設定では, 画像に分布内物体と分布外物体の両方が存在する現実的なケースを考慮していない. MS-COCOが作成された理由からも分かるように, ロバストな認識器を作成するためには, 分布内物体だけでなく, 分布内物体と分布外物体の両方を含む画像を分布内画像として識別することが極めて重要である. 本論文では, 分布内物体を含む画像を(分布外物体を含む画像であっても)分布内画像として識別し, 分布内物体を含まない画像を分布外画像として識別するという, ゼロショット分布内検知と呼ばれる新しい問題設定を提案する. この問題を解決するために, CLIP特徴量の大域的・局所的な視覚的テキスト整列に基づく, 簡単で効果的なアプローチであるGlobal-Local Maximum Concept Matching (GL-MCM) を提案する. GL-MCMは, 複数物体が写ったデータセットと単一物体が写ったImageNetベンチマークの両方において, 比較手法を凌駕することを広範な実験により実証する. |
(英) |
Extracting in-distribution (ID) images from noisy images scraped from the Internet is an important preprocessing for constructing datasets, which can be partially addressed by zero-shot out-of-distribution (OOD) detection. However, the existing setting does not consider the realistic case where an image has both ID objects and OOD objects. As we can see why MS-COCO was created, it is crucial to identify images containing not only ID objects but also both ID and OOD objects as ID images to create robust recognizers. In this paper, we propose a novel problem setting called zero-shot in-distribution (ID) detection, where we identify images containing ID objects as ID images (even if they contain OOD objects), and images lacking ID objects as OOD images without any training. To solve this problem, we present a simple and effective approach, Global-Local Maximum Concept Matching (GL-MCM), based on both global and local visual-text alignments of CLIP features. Extensive experiments demonstrate that GL-MCM outperforms comparison methods on both multi-object datasets and single-object ImageNet benchmarks. |
キーワード |
(和) |
大規模画像言語モデル / / / / / / / |
(英) |
CLIP / / / / / / / |
文献情報 |
信学技報, vol. 123, no. 381, IE2023-42, pp. 40-45, 2024年2月. |
資料番号 |
IE2023-42 |
発行日 |
2024-02-12 (ITS, IE) |
ISSN |
Online edition: ISSN 2432-6380 |
著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します.(許諾番号:10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) |
PDFダウンロード |
ITS2023-53 IE2023-42 |
研究会情報 |
研究会 |
ITS IE ITE-MMS ITE-ME ITE-AIT |
開催期間 |
2024-02-19 - 2024-02-20 |
開催地(和) |
北海道大学 |
開催地(英) |
Hokkaido Univ. |
テーマ(和) |
画像処理、一般(予定) |
テーマ(英) |
Image Processing, etc. |
講演論文情報の詳細 |
申込み研究会 |
IE |
会議コード |
2024-02-ITS-IE-MMS-ME-AIT |
本文の言語 |
日本語 |
タイトル(和) |
CLIPを用いたゼロショット分布内検知 |
サブタイトル(和) |
|
タイトル(英) |
CLIP-based Zero-shot In-Distribution Detection |
サブタイトル(英) |
|
キーワード(1)(和/英) |
大規模画像言語モデル / CLIP |
キーワード(2)(和/英) |
/ |
キーワード(3)(和/英) |
/ |
キーワード(4)(和/英) |
/ |
キーワード(5)(和/英) |
/ |
キーワード(6)(和/英) |
/ |
キーワード(7)(和/英) |
/ |
キーワード(8)(和/英) |
/ |
第1著者 氏名(和/英/ヨミ) |
宮井 淳行 / Atsuyuki Miyai / ミヤイ アツユキ |
第1著者 所属(和/英) |
東京大学 (略称: 東大)
The Univerisity of Tokyo (略称: UTokyo) |
第2著者 氏名(和/英/ヨミ) |
郁 青 / Qing Yu / イク セイ |
第2著者 所属(和/英) |
東京大学 (略称: 東大)
The Univerisity of Tokyo (略称: UTokyo) |
第3著者 氏名(和/英/ヨミ) |
入江 豪 / Go Irie / イリエ ゴウ |
第3著者 所属(和/英) |
東京理科大学 (略称: 東京理科大)
Tokyo University of Science (略称: TUS) |
第4著者 氏名(和/英/ヨミ) |
相澤 清晴 / Kiyoharu Aizawa / アイザワ キヨハル |
第4著者 所属(和/英) |
東京大学 (略称: 東大)
The Univerisity of Tokyo (略称: UTokyo) |
第5著者 氏名(和/英/ヨミ) |
/ / |
第5著者 所属(和/英) |
(略称: )
(略称: ) |
第6著者 氏名(和/英/ヨミ) |
/ / |
第6著者 所属(和/英) |
(略称: )
(略称: ) |
第7著者 氏名(和/英/ヨミ) |
/ / |
第7著者 所属(和/英) |
(略称: )
(略称: ) |
第8著者 氏名(和/英/ヨミ) |
/ / |
第8著者 所属(和/英) |
(略称: )
(略称: ) |
第9著者 氏名(和/英/ヨミ) |
/ / |
第9著者 所属(和/英) |
(略称: )
(略称: ) |
第10著者 氏名(和/英/ヨミ) |
/ / |
第10著者 所属(和/英) |
(略称: )
(略称: ) |
第11著者 氏名(和/英/ヨミ) |
/ / |
第11著者 所属(和/英) |
(略称: )
(略称: ) |
第12著者 氏名(和/英/ヨミ) |
/ / |
第12著者 所属(和/英) |
(略称: )
(略称: ) |
第13著者 氏名(和/英/ヨミ) |
/ / |
第13著者 所属(和/英) |
(略称: )
(略称: ) |
第14著者 氏名(和/英/ヨミ) |
/ / |
第14著者 所属(和/英) |
(略称: )
(略称: ) |
第15著者 氏名(和/英/ヨミ) |
/ / |
第15著者 所属(和/英) |
(略称: )
(略称: ) |
第16著者 氏名(和/英/ヨミ) |
/ / |
第16著者 所属(和/英) |
(略称: )
(略称: ) |
第17著者 氏名(和/英/ヨミ) |
/ / |
第17著者 所属(和/英) |
(略称: )
(略称: ) |
第18著者 氏名(和/英/ヨミ) |
/ / |
第18著者 所属(和/英) |
(略称: )
(略称: ) |
第19著者 氏名(和/英/ヨミ) |
/ / |
第19著者 所属(和/英) |
(略称: )
(略称: ) |
第20著者 氏名(和/英/ヨミ) |
/ / |
第20著者 所属(和/英) |
(略称: )
(略称: ) |
講演者 |
第1著者 |
発表日時 |
2024-02-19 13:45:00 |
発表時間 |
15分 |
申込先研究会 |
IE |
資料番号 |
ITS2023-53, IE2023-42 |
巻番号(vol) |
vol.123 |
号番号(no) |
no.380(ITS), no.381(IE) |
ページ範囲 |
pp.40-45 |
ページ数 |
6 |
発行日 |
2024-02-12 (ITS, IE) |
|