| 電子情報通信学会 研究会発表申込システム 講演論文 詳細 |
技報閲覧サービス [ログイン] 技報アーカイブ |
| トップに戻る | 前のページに戻る | [Japanese] / [English] |
| 講演抄録／キーワード | ||
| 講演名 | 2024-03-22 15:50 APIサーバへの過負荷発生時のヘルスチェック継続方式の実装と評価 ○金丸 翔・酒井 優・佐々木幸次・高橋謙輔（NTT）  ICM2023-63 |
|
| 抄録 | （和） | APIサーバを運用する際，大量のAPIリクエストが届いた場合にサーバを保護しつつ正常稼働させることが求められる．そのためには，閾値以上のリクエストを受け付けない流量制御を行いつつ，APIサーバが正常稼働していることを確認するヘルスチェックを実施することが求められる．ヘルスチェックの手段として，死活監視用APIを定期的に実行して応答があるかを確認することで，APIサーバが正常に稼働していることを確認する方法が存在する．しかし，流量制御と併用する際に，大量のAPIリクエストが届いた場合，流量制御によってヘルスチェック用のリクエストが制限されることで，APIサーバが稼働中であってもヘルスチェックが失敗と誤判定してしまう問題がある．本稿では，ヘルスチェックのレベルをアプリケーションレベルとプロセスレベルの2段階に定義し，プロセスレベルのヘルスチェックにおける確認レイヤをアプリケーション層からトランスポート層に下げることで，APIリクエストを流量制御しつつAPIサーバのヘルスチェックを継続する方式を提案する．提案方式をKubernetesのLiveness ProbeおよびReadiness Probeの機能を用いて実装した．既存方式との比較評価を行った結果，提案方式によってAPIサーバが過負荷状態時であってもヘルスチェックを継続可能であることを確認したうえで，実運用の観点において考察を行った． |
| （英） | When an API server is running, it is required to operate correctly while protecting the server when a lot of API requests are received. For this purpose, it is required to perform a health check to confirm that the API server is operating normally while performing flow control that does not accept requests above the threshold. There is a method to confirm that the API server is operating correctly by periodically executing the API for checking status of the API server. However, when it is used with flow control, when a lot of API requests are received, there is a problem that the health check is unexpectedly judged as a failure even when the API server is running because the request for health check is limited by flow control. In this paper, we propose a method to continue the health check of the API server while controlling the flow rate of API requests. We define the level of the health check into two stages of "application level" and "process level", and changing the confirmation layer in the health check of the process level from the application layer to the transport layer. We implemented the proposal method using the Liveness Probe and Readiness Probe features of Kubernetes. As a result of the comparative evaluation with the existing methods, it was confirmed that the proposed method can achieve both flow control and health check, and then, the considered the effectiveness from the viewpoint of the practical operation. | |
| キーワード | （和） | APIサーバ / ヘルスチェック / 流量制御 / / / / / |
| （英） | API Server / Health Check / Flow Control / / / / / | |
| 文献情報 | 信学技報, vol. 123, no. 449, ICM2023-63, pp. 95-100, 2024年3月. | |
| 資料番号 | ICM2023-63 | |
| 発行日 | 2024-03-14 (ICM) | |
| ISSN | Online edition: ISSN 2432-6380 | |
| 著作権に ついて |
技術研究報告に掲載された論文の著作権は電子情報通信学会に帰属します．(許諾番号：10GA0019/12GB0052/13GB0056/17GB0034/18GB0034) | |
| PDFダウンロード | ICM2023-63 |
|
| 研究会情報 | |
| 研究会 | ICM |
| 開催期間 | 2024-03-21 - 2024-03-22 |
| 開催地（和） | 沖縄県立博物館・美術館 |
| 開催地（英） | Okinawa Prefectural Museum and Art Museum |
| テーマ（和） | エレメント管理，管理機能，理論・運用方法論，一般 |
| テーマ（英） | |
| 講演論文情報の詳細 | |
| 申込み研究会 | ICM |
| 会議コード | 2024-03-ICM |
| 本文の言語 | 日本語 |
| タイトル（和） | APIサーバへの過負荷発生時のヘルスチェック継続方式の実装と評価 |
| サブタイトル（和） | |
| タイトル（英） | Implementation and Evaluation of Continuous Health Checks of API Server in Overload Status |
| サブタイトル（英） | |
| キーワード(1)（和/英） | APIサーバ / API Server |
| キーワード(2)（和/英） | ヘルスチェック / Health Check |
| キーワード(3)（和/英） | 流量制御 / Flow Control |
| キーワード(4)（和/英） | / |
| キーワード(5)（和/英） | / |
| キーワード(6)（和/英） | / |
| キーワード(7)（和/英） | / |
| キーワード(8)（和/英） | / |
| 第1著者 氏名（和/英/ヨミ） | 金丸 翔 / Sho Kanemaru / カネマル ショウ |
| 第1著者 所属（和/英） | 日本電信電話 (略称： NTT) Nippon Telegraph and Telephone Corp. (略称： NTT) |
| 第2著者 氏名（和/英/ヨミ） | 酒井 優 / Masaru Sakai / サカイ マサル |
| 第2著者 所属（和/英） | 日本電信電話 (略称： NTT) Nippon Telegraph and Telephone Corp. (略称： NTT) |
| 第3著者 氏名（和/英/ヨミ） | 佐々木 幸次 / Yukitsugu Sasaki / ササキ ユキツグ |
| 第3著者 所属（和/英） | 日本電信電話 (略称： NTT) Nippon Telegraph and Telephone Corp. (略称： NTT) |
| 第4著者 氏名（和/英/ヨミ） | 高橋 謙輔 / Kensuke Takahashi / タカハシ ケンスケ |
| 第4著者 所属（和/英） | 日本電信電話 (略称： NTT) Nippon Telegraph and Telephone Corp. (略称： NTT) |
| 講演者 | 第1著者 |
| 発表日時 | 2024-03-22 15:50:00 |
| 発表時間 | 20分 |
| 申込先研究会 | ICM |
| 資料番号 | ICM2023-63 |
| 巻番号（vol） | vol.123 |
| 号番号（no） | no.449 |
| ページ範囲 | pp.95-100 |
| ページ数 | 6 |
| 発行日 | 2024-03-14 (ICM) |
[研究会発表申込システムのトップページに戻る]