TiDBクラスタのアラート ルール

このドキュメントでは、TiDB、TiKV、PD、 TiFlash、TiDB Binlog、TiCDC、Node_exporter、および Blackbox_exporter のアラート項目のルールの説明と解決策を含む、TiDB クラスター内のさまざまなコンポーネントのアラート ルールについて説明します。

アラート ルールは、重大度に応じて、高から低の順に、緊急レベル、重大レベル、警告レベルの 3 つのカテゴリに分類されます。この重大度レベルの区分は、以下の各コンポーネントのすべてのアラート項目に適用されます。

重大度レベル説明
緊急レベルサービスが利用できなくなる最も高い重大度レベル。緊急レベルのアラートは、多くの場合、サービスまたはノードの障害によって発生します。直ちに手動による介入が必要です
重大レベルサービスの可用性が低下します。クリティカルレベルのアラートについては、異常なメトリクスを注意深く監視する必要があります。
警戒レベル警告レベルのアラートは、問題またはエラーを通知するものです。

TiDB アラート ルール

このセクションでは、TiDBコンポーネントのアラート ルールについて説明します。

緊急レベルの警報

TiDB_schema_error

  • アラート ルール:

    increase(tidb_session_schema_lease_error_total{type="outdated"}[15m]) > 0

  • 説明:

    最新のスキーマ情報は、1 つのリース内では TiDB に再ロードされません。 TiDB がサービスの提供を継続できなくなると、アラートがトリガーされます。

  • 解決:

    多くの場合、利用できないリージョンまたは TiKV タイムアウトが原因で発生します。 TiKV 監視項目を確認して問題を特定する必要があります。

TiDB_tikvclient_region_err_total

  • アラート ルール:

    increase(tidb_tikvclient_region_err_total[10m]) > 6000

  • 説明:

    TiDBサーバーは、自身のキャッシュ情報に従って TiKV のリージョンリーダーにアクセスします。リージョンリーダーが変更された場合、または現在の TiKVリージョン情報が TiDB キャッシュ内の情報と一致しない場合、リージョンキャッシュ エラーが発生します。エラーが 10 分間に 6000 回を超えて報告されると、アラートがトリガーされます。

  • 解決:

    TiKV-詳細>クラスタダッシュボードビュー、リーダーのバランスが取れているかどうかを確認します。

TiDB_domain_load_schema_total

  • アラート ルール:

    increase(tidb_domain_load_schema_total{type="failed"}[10m]) > 10

  • 説明:

    TiDB 内の最新のスキーマ情報の再ロードに失敗した合計回数。リロードの失敗が 10 分間に 10 回を超えて発生すると、アラートがトリガーされます。

  • 解決:

    TiDB_schema_errorと同じ。

TiDB_monitor_keep_alive

  • アラート ルール:

    increase(tidb_monitor_keep_alive_total[10m]) < 100

  • 説明:

    TiDB プロセスがまだ存在するかどうかを示します。 tidb_monitor_keep_alive_totalの回数の増加が 10 分間で 100 回未満の場合、TiDB プロセスがすでに終了している可能性があり、アラートがトリガーされます。

  • 解決:

    • TiDB プロセスがメモリ不足かどうかを確認します。
    • マシンが再起動したかどうかを確認します。

重大レベルのアラート

TiDB_server_panic_total

  • アラート ルール:

    increase(tidb_server_panic_total[10m]) > 0

  • 説明:

    パニックになった TiDB スレッドの数。panicが発生すると、アラートがトリガーされます。スレッドは頻繁に回復されますが、回復しないと TiDB が頻繁に再起動されます。

  • 解決:

    panicログを収集して問題を特定します。

警報レベルのアラート

TiDB_memory_abnormal

  • アラート ルール:

    go_memstats_heap_inuse_bytes{job="tidb"} > 1e+10

  • 説明:

    TiDBメモリ使用量の監視。使用量が 10 G を超えると、アラートがトリガーされます。

  • 解決:

    HTTP API を使用して、Goroutine リークの問題をトラブルシューティングします。

TiDB_query_duration

  • アラート ルール:

    histogram_quantile(0.99, sum(rate(tidb_server_handle_query_duration_seconds_bucket[1m])) BY (le, instance)) > 1

  • 説明:

    TiDB でのリクエスト処理のレイテンシー。 99 パーセンタイルのレイテンシーが1 秒を超えると、アラートがトリガーされます。

  • 解決:

    TiDB ログをビュー、キーワードSLOW_QUERYTIME_COP_PROCESSを検索して、遅い SQL クエリを見つけます。

TiDB_server_event_error

  • アラート ルール:

    increase(tidb_server_event_total{type=~"server_start|server_hang"}[15m]) > 0

  • 説明:

    TiDB サービスで発生するイベントの数。次のイベントが発生すると、アラートがトリガーされます。

    1. start: TiDB サービスが開始されます。
    2. ハング: クリティカルレベルのイベント (現在、TiDB がbinlogを書き込めないというシナリオが 1 つだけあります) が発生すると、TiDB はhangモードに入り、手動で強制終了されるまで待機します。
  • 解決:

    • TiDB を再起動してサービスを回復します。
    • TiDB Binlogサービスが正常であるかどうかを確認します。

TiDB_tikvclient_backoff_seconds_count

  • アラート ルール:

    increase(tidb_tikvclient_backoff_seconds_count[10m]) > 10

  • 説明:

    TiDB が TiKV へのアクセスに失敗した場合の再試行回数。再試行回数が 10 分間に 10 回を超えると、アラートがトリガーされます。

  • 解決:

    TiKVの監視状況をビュー。

TiDB_monitor_time_jump_back_error

  • アラート ルール:

    increase(tidb_monitor_time_jump_back_total[10m]) > 0

  • 説明:

    TiDB を保持するマシンの時間が巻き戻ると、アラートがトリガーされます。

  • 解決:

    NTP 構成のトラブルシューティングを行います。

TiDB_ddl_waiting_jobs

  • アラート ルール:

    sum(tidb_ddl_waiting_jobs) > 5

  • 説明:

    TiDB で実行が保留されている DDL タスクの数が 5 を超えると、アラートがトリガーされます。

  • 解決:

    admin show ddlを実行して、時間のかかるadd index操作が実行されているかどうかを確認します。

PD アラート ルール

このセクションでは、PDコンポーネントのアラート ルールについて説明します。

緊急レベルの警報

PD_cluster_down_store_nums

  • アラート ルール:

    (sum(pd_cluster_status{type="store_down_count"}) by (instance) > 0) and (sum(etcd_server_is_leader) by (instance) > 0)

  • 説明:

    PD は長時間 TiKV/ TiFlashハートビートを受信して​​いません (デフォルト設定は 30 分です)。

  • 解決:

    • TiKV/ TiFlashのプロセスが正常か、ネットワークが孤立していないか、負荷が高すぎないかを確認し、可能な限りサービスを回復してください。
    • TiKV/ TiFlashインスタンスを回復できない場合は、オフラインにすることができます。

重大レベルのアラート

PD_etcd_write_disk_latency

  • アラート ルール:

    histogram_quantile(0.99, sum(rate(etcd_disk_wal_fsync_duration_seconds_bucket[1m])) by (instance, job, le)) > 1

  • 説明:

    fsync 操作のレイテンシーが1 秒を超える場合は、etcd が通常よりも遅い速度でデータをディスクに書き込むことを示します。これにより、PD リーダーのタイムアウトが発生したり、ディスクに TSO を時間内に保存できなかったりする可能性があり、クラスター全体のサービスがシャットダウンされます。

  • 解決:

    • 書き込みが遅い原因を見つけます。他のサービスがシステムに過負荷を与えている可能性があります。 PD自体がCPUやI/Oリソースを大量に占有しているかどうかを確認できます。
    • サービスを回復するには、PD を再起動するか、リーダーを別の PD に手動で転送してください。
    • 問題のある PD インスタンスが環境要因により回復できない場合は、オフラインにして交換します。

PD_miss_peer_region_count

  • アラート ルール:

    (sum(pd_regions_status{type="miss-peer-region-count"}) by (instance) > 100) and (sum(etcd_server_is_leader) by (instance) > 0)

  • 説明:

    リージョンレプリカの数が値max-replicasより小さいです。

  • 解決:

    • ダウンしている TiKV マシンまたはオフラインになっている TiKV マシンがないか確認して、問題の原因を特定します。
    • [リージョンの健全性] パネルを見て、 miss-peer-region-countが継続的に減少しているかどうかを確認します。

警報レベルのアラート

PD_cluster_lost_connect_store_nums

  • アラート ルール:

    (sum(pd_cluster_status{type="store_disconnected_count"}) by (instance) > 0) and (sum(etcd_server_is_leader) by (instance) > 0)

  • 説明:

    PD は 20 秒以内に TiKV/ TiFlashハートビートを受信しません。通常、TiKV/ TiFlashハートビートは10 秒ごとに発生します。

  • 解決:

    • TiKV/ TiFlashインスタンスが再起動されているかどうかを確認します。
    • TiKV/ TiFlashのプロセスが正常か、ネットワークが孤立していないか、負荷が高すぎないかを確認し、可能な限りサービスを回復します。
    • TiKV/ TiFlashインスタンスが回復できないことを確認した場合は、オフラインにすることができます。
    • TiKV/ TiFlashインスタンスは回復できるが、短期間では回復できないことが確認された場合は、 max-down-timeの値を増やすことを検討できます。これにより、TiKV/ TiFlashインスタンスが回復不能とみなされ、データが TiKV/ TiFlashから削除されるのを防ぎます。

PD_cluster_unhealthy_tikv_nums

  • アラート ルール:

    (sum(pd_cluster_status{type="store_unhealth_count"}) by (instance) > 0) and (sum(etcd_server_is_leader) by (instance) > 0)

  • 説明:

    不健全な店舗があることを示します。この状況がしばらく続く場合 ( max-store-down-timeで構成され、デフォルトは30m )、ストアはOffline状態に変化し、 PD_cluster_down_store_numsアラートがトリガーされる可能性があります。

  • 解決:

    TiKV ストアの状態を確認します。

PD_cluster_low_space

  • アラート ルール:

    (sum(pd_cluster_status{type="store_low_space_count"}) by (instance) > 0) and (sum(etcd_server_is_leader) by (instance) > 0)

  • 説明:

    TiKV/ TiFlashノードに十分なスペースがないことを示します。

  • 解決:

    • 全体的にクラスタ内のスペースが不足していないか確認してください。その場合は、容量を増やしてください。
    • リージョンバランスのスケジュールに問題があるかどうかを確認してください。そうなると、データの分散が不均一になります。
    • ログ、スナップショット、コアダンプなど、ディスク容量を多く占めるファイルがないか確認してください。
    • データ量を減らすには、ノードのリージョンの重みを下げます。
    • スペースを解放できない場合は、積極的にノードをオフラインにすることを検討してください。これにより、ダウンタイムにつながるディスク容量不足を防ぎます。

PD_etcd_network_peer_latency

  • アラート ルール:

    histogram_quantile(0.99, sum(rate(etcd_network_peer_round_trip_time_seconds_bucket[1m])) by (To, instance, job, le)) > 1

  • 説明:

    PD ノード間のネットワークレイテンシーが長くなります。これにより、リーダー タイムアウトと TSO ディスクstorageタイムアウトが発生し、クラスターのサービスに影響を与える可能性があります。

  • 解決:

    • ネットワークとシステムの負荷状況を確認してください。
    • 問題のある PD インスタンスが環境要因により回復できない場合は、オフラインにして交換します。

PD_tidb_handle_requests_duration

  • アラート ルール:

    histogram_quantile(0.99, sum(rate(pd_client_request_handle_requests_duration_seconds_bucket{type="tso"}[1m])) by (instance, job, le)) > 0.1

  • 説明:

    PD が TSO 要求を処理するのに時間がかかります。高負荷が原因で発生することが多いです。

  • 解決:

    • サーバーの負荷状況を確認してください。
    • pprof を使用して PD の CPU プロファイルを分析します。
    • PD リーダーを手動で切り替えます。
    • 問題のある PD インスタンスが環境要因により回復できない場合は、オフラインにして交換します。

PD_down_peer_region_nums

  • アラート ルール:

    (sum(pd_regions_status{type="down-peer-region-count"}) by (instance) > 0) and (sum(etcd_server_is_leader) by (instance) > 0)

  • 説明:

    Raftリーダーによって報告された、応答しないピアのあるリージョンの数。

  • 解決:

    • ダウンしている TiKV、再起動されたばかりの TiKV、またはビジー状態の TiKV がないか確認してください。
    • [リージョンの健全性] パネルを見て、 down_peer_region_countが継続的に減少しているかどうかを確認します。
    • TiKV サーバー間のネットワークを確認してください。

PD_pending_peer_region_count

  • アラート ルール:

    (sum(pd_regions_status{type="pending-peer-region-count"}) by (instance) > 100) and (sum(etcd_server_is_leader) by (instance) > 0)

  • 説明:

    Raftログに遅れがあるリージョンが多すぎます。スケジューリングにより保留中のピアの数が少なくなるのは通常のことですが、その数が依然として多い場合は、問題が発生している可能性があります。

  • 解決:

    • [リージョンの健全性] パネルを見て、 pending_peer_region_countが継続的に減少しているかどうかを確認します。
    • TiKV サーバー間のネットワーク、特に十分な帯域幅があるかどうかを確認してください。

PD_leader_change

  • アラート ルール:

    count(changes(pd_tso_events{type="save"}[10m]) > 0) >= 2

  • 説明:

    最近PDリーダーが交代した。

  • 解決:

    • PD の再起動、リーダーの手動転送、リーダーの優先順位の調整などの人的要因を除外します。
    • ネットワークとシステムの負荷状況を確認してください。
    • 問題のある PD インスタンスが環境要因により回復できない場合は、オフラインにして交換します。

TiKV_space_used_more_than_80%

  • アラート ルール:

    sum(pd_cluster_status{type="storage_size"}) / sum(pd_cluster_status{type="storage_capacity"}) * 100 > 80

  • 説明:

    クラスタースペースの 80% 以上が占有されています。

  • 解決:

    • 容量を増やす必要があるかどうかを確認してください。
    • ログ、スナップショット、コアダンプなど、ディスク容量を多く占めるファイルがないか確認してください。

PD_system_time_slow

  • アラート ルール:

    changes(pd_tso_events{type="system_time_slow"}[10m]) >= 1

  • 説明:

    システム時刻の巻き戻しが発生する可能性があります。

  • 解決:

    システム時間が正しく設定されているかどうかを確認してください。

PD_no_store_for_making_replica

  • アラート ルール:

    increase(pd_checker_event_count{type="replica_checker", name="no_target_store"}[1m]) > 0

  • 説明:

    追加のレプリカに適切なストアがありません。

  • 解決:

    • 店内に十分なスペースがあるか確認してください。
    • ラベル構成が構成されている場合は、それに従って追加のレプリカ用のストアがあるかどうかを確認します。

PD_cluster_slow_tikv_nums

  • アラート ルール:

    sum(pd_cluster_status{type="store_slow_count"}) by (instance) > 0) and (sum(etcd_server_is_leader) by (instance) > 0

  • 説明:

    遅い TiKV ノードがあります。 raftstore.inspect-interval TiKV 低速ノードの検出を制御します。詳細については、 raftstore.inspect-intervalを参照してください。

  • 解決:

    • TiKV-詳細> PDダッシュボードを見て、Store Slow Score メトリクスを確認します。メトリック値が 80 を超えるノードを特定します。これは低速ノードとして検出されます。
    • TiKV-詳細> Raft IOダッシュボード見て、レイテンシーが増加するかどうかを確認します。レイテンシーが長い場合は、ディスクにボトルネックが存在する可能性があることを意味します。
    • レイテンシーのタイムアウト制限を増やすには、構成項目raftstore.inspect-intervalをより大きな値に設定します。
    • アラートが発生した TiKV ノードのパフォーマンス問題の詳細な分析と調整方法については、 パフォーマンスの分析とチューニングを参照してください。

TiKV アラート ルール

このセクションでは、TiKVコンポーネントのアラート ルールについて説明します。

緊急レベルの警報

TiKV_memory_used_too_fast

  • アラート ルール:

    process_resident_memory_bytes{job=~"tikv",instance=~".*"} - (process_resident_memory_bytes{job=~"tikv",instance=~".*"} offset 5m) > 5*1024*1024*1024

  • 説明:

    現在、メモリに関する TiKV 監視項目はありません。 Node_exporter を使用して、クラスター内のマシンのメモリ使用量を監視できます。上記のルールは、メモリ使用量が 5 分以内に 5 GB を超えると (TiKV ではメモリの占有が速すぎる)、アラートがトリガーされることを示しています。

  • 解決:

    rocksdb.defaultcfrocksdb.writecfの両方のblock-cache-size値を調整します。

TiKV_GC_can_not_work

  • アラート ルール:

    sum(increase(tikv_gcworker_gc_tasks_vec{task="gc"}[1d])) < 1 and (sum(increase(tikv_gc_compaction_filter_perform[1d])) < 1 and sum(increase(tikv_engine_event_total{db="kv", cf="write", type="compaction"}[1d])) >= 1)

  • 説明:

    TiKV インスタンスで 24 時間以内に GC が正常に実行されません。これは、GC が適切に機能していないことを示しています。 GC が短期間に実行されなくても、大きな問題は発生しません。しかし、GC が停止し続けると、保持されるバージョンが増え、クエリの速度が低下します。

  • 解決:

    1. SELECT VARIABLE_VALUE FROM mysql.tidb WHERE VARIABLE_NAME = "tikv_gc_leader_desc"を実行して、GC リーダーに対応するtidb-server見つけます。
    2. tidb-serverのログをビュー、 gc_worker tidb.log を grep します。
    3. この間に GC ワーカーがロックを解決している (最後のログは「start replace locks」)、または範囲を削除している (最後のログは「start delete {number} ranges」) ことが判明した場合、それは GC プロセスが実行中であることを意味します。通常は。それ以外の場合は、PingCAP またはコミュニティから支持を得ます

重大レベルのアラート

TiKV_server_report_failure_msg_total

  • アラート ルール:

    sum(rate(tikv_server_report_failure_msg_total{type="unreachable"}[10m])) BY (store_id) > 10

  • 説明:

    リモート TiKV に接続できないことを示します。

  • 解決:

    1. ネットワークがクリアかどうかを確認してください。
    2. リモート TiKV がダウンしていないか確認します。
    3. リモート TiKV が停止していない場合は、圧力が高すぎないかどうかを確認してください。 TiKV_channel_full_totalの解決策を参照してください。

TiKV_channel_full_total

  • アラート ルール:

    sum(rate(tikv_channel_full_total[10m])) BY (type, instance) > 0

  • 説明:

    この問題は、多くの場合、 Raftstoreスレッドのスタックと TiKV に対する高圧が原因で発生します。

  • 解決:

    1. TiKV-詳細> Raft提案ダッシュボード観察し、アラートされた TiKV ノードのRaftプロポーザルが他の TiKV ノードよりもはるかに高いかどうかを確認します。そうであれば、この TiKV に 1 つ以上のホット スポットがあることを意味します。ホットスポットのスケジューリングが適切に機能するかどうかを確認する必要があります。
    2. TiKV-詳細> Raft IOダッシュボード見て、レイテンシーが増加するかどうかを確認します。レイテンシーが長い場合は、ディスクにボトルネックが存在する可能性があることを意味します。
    3. TiKV-詳細> Raftプロセスダッシュボード見て、 tick durationが高いかどうかを確認します。その場合は、 raftstore.raft-base-tick-interval"2s"を設定する必要があります。

TiKV_write_stall

  • アラート ルール:

    delta(tikv_engine_write_stall[10m]) > 0

  • 説明:

    RocksDB への書き込み圧力が高すぎるため、ストールが発生します。

  • 解決:

    1. ディスク モニターをビュー、ディスクの問題のトラブルシューティングを行います。
    2. TiKV に書き込みホット スポットがあるかどうかを確認します。
    3. [rocksdb][raftdb]構成では、 max-sub-compactionsをより大きな値に設定します。

TiKV_raft_log_lag

  • アラート ルール:

    histogram_quantile(0.99, sum(rate(tikv_raftstore_log_lag_bucket[1m])) by (le, instance)) > 5000

  • 説明:

    この値が比較的大きい場合は、 Follower がLeaderに比べて大幅に遅れていることを意味し、 Raft を正常に複製できません。おそらく、 Followerが配置されている TiKV マシンがスタックまたはダウンしていることが考えられます。

TiKV_async_request_snapshot_duration_seconds

  • アラート ルール:

    histogram_quantile(0.99, sum(rate(tikv_storage_engine_async_request_duration_seconds_bucket{type="snapshot"}[1m])) by (le, instance, type)) > 1

  • 説明:

    この値が比較的大きい場合は、 Raftstoreの負荷圧力が高すぎて、すでにスタックしている可能性があることを意味します。

  • 解決:

    TiKV_channel_full_totalの解決策を参照してください。

TiKV_async_request_write_duration_seconds

  • アラート ルール:

    histogram_quantile(0.99, sum(rate(tikv_storage_engine_async_request_duration_seconds_bucket{type="write"}[1m])) by (le, instance, type)) > 1

  • 説明:

    この値が比較的大きい場合は、 Raft の書き込みに時間がかかることを意味します。

  • 解決:

    1. TiKV-詳細> Raft提案ダッシュボード観察し、アラートが発生した TiKV ノードのサーバーの 99% 提案待機時間メトリックが他の TiKV ノードよりも大幅に高いかどうかを確認します。存在する場合は、この TiKV ノードにホットスポットが存在することを示しており、ホットスポットのスケジューリングが適切に機能するかどうかを確認する必要があります。
    2. TiKV-詳細> Raft IOダッシュボード見て、レイテンシーが増加するかどうかを確認します。レイテンシーが長い場合は、ディスクにボトルネックが存在する可能性があることを意味します。
    3. アラートが発生した TiKV ノードのパフォーマンス問題の詳細な分析と調整方法については、 パフォーマンスの分析とチューニングを参照してください。

TiKV_coprocessor_request_wait_seconds

  • アラート ルール:

    histogram_quantile(0.9999, sum(rate(tikv_coprocessor_request_wait_seconds_bucket[1m])) by (le, instance, req)) > 10

  • 説明:

    この値が比較的大きい場合は、コプロセッサーワーカーへの負荷が高いことを意味します。コプロセッサースレッドをスタックさせる遅いタスクがある可能性があります。

  • 解決:

    1. TiDB ログからスロー クエリ ログをビュー、クエリでインデックス スキャンまたはフル テーブル スキャンが使用されているかどうか、または分析が必要かどうかを確認します。
    2. ホットスポットがあるかどうかを確認します。
    3. コプロセッサーモニターをビュー、 coprocessor table/index scanのうちtotalprocess一致するかどうかを確認します。両者が大きく異なる場合は、無効なクエリが多すぎることを示します。 over seek boundがあるかどうかがわかります。その場合、バージョンが多すぎて GC の処理が間に合わないことになります。次に、並列 GC スレッドの数を増やす必要があります。

TiKV_raftstore_thread_cpu_seconds_total

  • アラート ルール:

    sum(rate(tikv_thread_cpu_seconds_total{name=~"raftstore_.*"}[1m])) by (instance, name) > 1.6

  • 説明:

    Raftstoreスレッドに対する圧力が高すぎます。

  • 解決:

    TiKV_channel_full_totalの解決策を参照してください。

TiKV_raft_append_log_duration_secs

  • アラート ルール:

    histogram_quantile(0.99, sum(rate(tikv_raftstore_append_log_duration_seconds_bucket[1m])) by (le, instance)) > 1

  • 説明:

    Raftログの追加にかかる時間コストを示します。この値が高い場合は、通常、I/O がビジーすぎることを意味します。

TiKV_raft_apply_log_duration_secs

  • アラート ルール:

    histogram_quantile(0.99, sum(rate(tikv_raftstore_apply_log_duration_seconds_bucket[1m])) by (le, instance)) > 1

  • 説明:

    Raftログの適用にかかる時間コストを示します。この値が高い場合は、通常、I/O がビジーすぎることを意味します。

TiKV_scheduler_latch_wait_duration_seconds

  • アラート ルール:

    histogram_quantile(0.99, sum(rate(tikv_scheduler_latch_wait_duration_seconds_bucket[1m])) by (le, instance, type)) > 1

  • 説明:

    スケジューラでメモリロックを取得するための書き込み操作の待ち時間。この値が高い場合は、書き込み競合が多数発生しているか、競合を引き起こす一部の操作が完了するまでに時間がかかり、同じロックを待機する他の操作がブロックされている可能性があります。

  • 解決:

    1. Scheduler-All モニターでスケジューラー コマンドの所要時間をビュー、どのコマンドが最も時間がかかっているかを確認します。
    2. Scheduler-All モニターでスケジューラー スキャンの詳細をビュー、 totalprocess一致するかどうかを確認します。両者が大きく異なる場合は、無効なスキャンが多数存在します。 over seek boundがあるかどうかもわかります。多すぎる場合は、GC が時間内に機能しないことを示します。
    3. ストレージ モニターでstorageの非同期スナップショット/書き込み期間をビュー、 Raft操作が時間内に実行されているかどうかを確認します。

TiKV_thread_apply_worker_cpu_seconds

  • アラート ルール:

    max(rate(tikv_thread_cpu_seconds_total{name=~"apply_.*"}[1m])) by (instance) > 0.9

  • 説明:

    Raftログ スレッドの適用には大きな負荷がかかっており、限界に近づいているか、限界を超えています。これは多くの場合、書き込みのバーストによって発生します。

警報レベルのアラート

TiKV_leader_drops

  • アラート ルール:

    delta(tikv_pd_heartbeat_tick_total{type="leader"}[30s]) < -10

  • 説明:

    多くの場合、 Raftstoreスレッドのスタックが原因で発生します。

  • 解決:

    1. TiKV_channel_full_totalを参照してください。
    2. TiKV に対するプレッシャーが低い場合は、PD スケジューリングが頻繁すぎるかどうかを検討してください。 PD ページの Operator Create パネルを表示して、PD スケジューリングのタイプと数を確認できます。

TiKV_raft_process_ready_duration_secs

  • アラート ルール:

    histogram_quantile(0.999, sum(rate(tikv_raftstore_raft_process_duration_secs_bucket{type='ready'}[1m])) by (le, instance, type)) > 2

  • 説明:

    Raft の準備を整えるのにかかる時間コストを示します。この値が大きい場合は、ログ追加タスクのスタックが原因であることがよくあります。

TiKV_raft_process_tick_duration_secs

  • アラート ルール:

    histogram_quantile(0.999, sum(rate(tikv_raftstore_raft_process_duration_secs_bucket{type='tick'}[1m])) by (le, instance, type)) > 2

  • 説明:

    Raftティックの処理にかかる時間コストを示します。この値が大きい場合は、リージョンが多すぎることが原因であることがよくあります。

  • 解決:

    1. warnerrorなどのより高いレベルのログの使用を検討してください。
    2. [raftstore]設定の下にraft-base-tick-interval = "2s"を追加します。

TiKV_scheduler_context_total

  • アラート ルール:

    abs(delta( tikv_scheduler_context_total[5m])) > 1000

  • 説明:

    スケジューラによって実行されている書き込みコマンドの数。この値が大きい場合は、タスクが時間内に終了していないことを意味します。

  • 解決:

    TiKV_scheduler_latch_wait_duration_secondsを参照してください。

TiKV_scheduler_command_duration_seconds

  • アラート ルール:

    histogram_quantile(0.99, sum(rate(tikv_scheduler_command_duration_seconds_bucket[1m])) by (le, instance, type)) > 1

  • 説明:

    スケジューラ コマンドの実行にかかる時間コストを示します。

  • 解決:

    TiKV_scheduler_latch_wait_duration_secondsを参照してください。

TiKV_coprocessor_outdated_request_wait_seconds

  • アラート ルール:

    delta(tikv_coprocessor_outdated_request_wait_seconds_count[10m]) > 0

  • 説明:

    コプロセッサーによる期限切れリクエストの待ち時間。この値が大きい場合は、コプロセッサーに高い負荷がかかっていることを意味します。

  • 解決:

    TiKV_coprocessor_request_wait_secondsを参照してください。

TiKV_coprocessor_pending_request

  • アラート ルール:

    delta(tikv_coprocessor_pending_request[10m]) > 5000

  • 説明:

    コプロセッサーのキューイングリクエスト。

  • 解決:

    TiKV_coprocessor_request_wait_secondsを参照してください。

TiKV_batch_request_snapshot_nums

  • アラート ルール:

    sum(rate(tikv_thread_cpu_seconds_total{name=~"cop_.*"}[1m])) by (instance) / (count(tikv_thread_cpu_seconds_total{name=~"cop_.*"}) * 0.9) / count(count(tikv_thread_cpu_seconds_total) by (instance)) > 0

  • 説明:

    TiKV マシンのコプロセッサーCPU 使用率が 90% を超えています。

TiKV_pending_task

  • アラート ルール:

    sum(tikv_worker_pending_task_total) BY (instance,name) > 1000

  • 説明:

    TiKV の保留中のタスクの数。

  • 解決:

    TiKV-詳細>タスクダッシュボードWorker pending tasks指標から、どの種類のタスクの値が高いかを確認します。

TiKV_low_space

  • アラート ルール:

    sum(tikv_store_size_bytes{type="available"}) by (instance) / sum(tikv_store_size_bytes{type="capacity"}) by (instance) < 0.2

  • 説明:

    TiKV のデータ量が、構成されているノード容量またはマシンのディスク容量の 80% を超えています。

  • 解決:

    • ノードスペースのバランス状態を確認してください。
    • さまざまな状況に応じて、ディスク容量を増やすか、一部のデータを削除するか、クラスタ ノードを増やすなどの計画を立てます。

TiKV_approximate_region_size

  • アラート ルール:

    histogram_quantile(0.99, sum(rate(tikv_raftstore_region_size_bucket[1m])) by (le)) > 1073741824

  • 説明:

    TiKV 分割チェッカーによってスキャンされる最大リージョンのおおよそのサイズは、1 分以内に継続的に 1 GB を超えます。

  • 解決:

    リージョンの分割速度は書き込み速度よりも遅くなります。この問題を軽減するには、TiDB をバッチ分割をサポートするバージョン (>= 2.1.0-rc1) に更新することをお勧めします。一時的に更新できない場合は、 pd-ctl operator add split-region <region_id> --policy=approximate使用して手動でリージョンを分割できます。

TiFlashアラート ルール

TiFlashアラート ルールの詳細については、 TiFlashアラート ルールを参照してください。

TiDB Binlogアラート ルール

TiDB Binlogアラート ルールの詳細については、 TiDB Binlogモニタリング ドキュメントを参照してください。

TiCDC アラート ルール

TiCDC アラート ルールの詳細については、 TiCDC アラート ルールを参照してください。

Node_exporter ホスト アラート ルール

このセクションでは、Node_exporter ホストのアラート ルールについて説明します。

緊急レベルの警報

NODE_disk_used_more_than_80%

  • アラート ルール:

    node_filesystem_avail_bytes{fstype=~"(ext.|xfs)", mountpoint!~"/boot"} / node_filesystem_size_bytes{fstype=~"(ext.|xfs)", mountpoint!~"/boot"} * 100 <= 20

  • 説明:

    マシンのディスク容量使用率が 80% を超えています。

  • 解決:

    • マシンにログインし、 df -hコマンドを実行してディスク領域の使用状況を確認します。
    • さまざまな状況に応じて、ディスク容量を増やすか、一部のデータを削除するか、クラスタ ノードを増やすなどの計画を立てます。

NODE_disk_inode_more_than_80%

  • アラート ルール:

    node_filesystem_files_free{fstype=~"(ext.|xfs)"} / node_filesystem_files{fstype=~"(ext.|xfs)"} * 100 < 20

  • 説明:

    マシン上のファイルシステムの i ノード使用率が 80% を超えています。

  • 解決:

    • マシンにログインし、 df -iコマンドを実行して、ファイルシステムのノード使用状況を表示します。
    • さまざまな状況に応じて、ディスク容量を増やすか、一部のデータを削除するか、クラスタ ノードを増やすなどの計画を立てます。

NODE_disk_readonly

  • アラート ルール:

    node_filesystem_readonly{fstype=~"(ext.|xfs)"} == 1

  • 説明:

    ファイルシステムは読み取り専用であり、データを書き込むことはできません。多くの場合、ディスク障害またはファイルシステムの破損が原因で発生します。

  • 解決:

    • マシンにログインし、正常かどうかをテストするファイルを作成します。
    • ディスクのLEDが正常か確認してください。そうでない場合は、ディスクを交換し、マシンのファイルシステムを修復します。

重大レベルのアラート

NODE_memory_used_more_than_80%

  • アラート ルール:

    (((node_memory_MemTotal_bytes-node_memory_MemFree_bytes-node_memory_Cached_bytes)/(node_memory_MemTotal_bytes)*100)) >= 80

  • 説明:

    マシンのメモリ使用量が 80% を超えています。

  • 解決:

    • Grafana Node Exporter ダッシュボードでホストの [メモリ] パネルをビュー、使用済みメモリが高すぎるか、使用可能なメモリが低すぎるかどうかを確認します。
    • マシンにログインし、 free -mコマンドを実行してメモリ使用量を表示します。 topを実行すると、メモリ使用量が過度に高い異常なプロセスが存在するかどうかを確認できます。

警報レベルのアラート

NODE_node_overload

  • アラート ルール:

    (node_load5 / count without (cpu, mode) (node_cpu_seconds_total{mode="system"})) > 1

  • 説明:

    マシンの CPU 負荷が比較的高いです。

  • 解決:

    • Grafana Node Exporter ダッシュボードでホストの CPU 使用率と負荷平均をビュー、高すぎるかどうかを確認します。
    • マシンにログインし、 topを実行して負荷平均と CPU 使用率を確認し、CPU 使用率が高すぎる異常なプロセスがないかどうかを確認します。

NODE_cpu_used_more_than_80%

  • アラート ルール:

    avg(irate(node_cpu_seconds_total{mode="idle"}[5m])) by(instance) * 100 <= 20

  • 説明:

    マシンの CPU 使用率が 80% を超えています。

  • 解決:

    • Grafana Node Exporter ダッシュボードでホストの CPU 使用率と負荷平均をビュー、高すぎるかどうかを確認します。
    • マシンにログインし、 topを実行して負荷平均と CPU 使用率を確認し、CPU 使用率が高すぎる異常なプロセスがないか確認します。

NODE_tcp_estab_num_more_than_50000

  • アラート ルール:

    node_netstat_Tcp_CurrEstab > 50000

  • 説明:

    マシン上に「確立」ステータスの TCP リンクが 50,000 を超えています。

  • 解決:

    • マシンにログインし、「 ss -sを実行して、現在のシステムで「estab」ステータスにある TCP リンクの数を確認します。
    • netstatを実行して異常なリンクがないか確認します。

NODE_disk_read_latency_more_than_32ms

  • アラート ルール:

    ((rate(node_disk_read_time_seconds_total{device=~".+"}[5m]) / rate(node_disk_reads_completed_total{device=~".+"}[5m])) or (irate(node_disk_read_time_seconds_total{device=~".+"}[5m]) / irate(node_disk_reads_completed_total{device=~".+"}[5m])) ) * 1000 > 32

  • 説明:

    ディスクの読み取りレイテンシーが32 ミリ秒を超えています。

  • 解決:

    • Grafana ディスク パフォーマンス ダッシュボードを表示して、ディスクのステータスを確認します。
    • [ディスク遅延] パネルを表示して、ディスクの読み取りレイテンシーを確認します。
    • [ディスク I/O 使用率] パネルを表示して、I/O 使用率を確認します。

NODE_disk_write_latency_more_than_16ms

  • アラート ルール:

    ((rate(node_disk_write_time_seconds_total{device=~".+"}[5m]) / rate(node_disk_writes_completed_total{device=~".+"}[5m])) or (irate(node_disk_write_time_seconds_total{device=~".+"}[5m]) / irate(node_disk_writes_completed_total{device=~".+"}[5m])))> 16

  • 説明:

    ディスクの書き込みレイテンシーが16 ミリ秒を超えています。

  • 解決:

    • Grafana ディスク パフォーマンス ダッシュボードを表示して、ディスクのステータスを確認します。
    • [ディスク遅延] パネルを表示して、ディスクの書き込みレイテンシーを確認します。
    • [ディスク I/O 使用率] パネルを表示して、I/O 使用率を確認します。

Blackbox_exporter TCP、ICMP、および HTTP アラート ルール

このセクションでは、Blackbox_exporter TCP、ICMP、および HTTP のアラート ルールについて説明します。

緊急レベルの警報

TiDB_server_is_down

  • アラート ルール:

    probe_success{group="tidb"} == 0

  • 説明:

    TiDB サービス ポートのプローブに失敗しました。

  • 解決:

    • TiDB サービスを提供するマシンがダウンしていないか確認してください。
    • TiDB プロセスが存在するかどうかを確認します。
    • 監視マシンとTiDBマシン間のネットワークが正常か確認してください。

TiFlash_server_is_down

  • アラート ルール:

    probe_success{group="tiflash"} == 0

  • 説明:

    TiFlashサービス ポートのプローブに失敗しました。

  • 解決:

    • TiFlashサービスを提供するマシンがダウンしていないか確認してください。
    • TiFlashプロセスが存在するかどうかを確認します。
    • 監視マシンとTiFlashマシン間のネットワークが正常か確認してください。

Pump_server_is_down

  • アラート ルール:

    probe_success{group="pump"} == 0

  • 説明:

    ポンプのサービスポートのプローブに失敗しました。

  • 解決:

    • ポンプサービスを提供するマシンがダウンしていないか確認してください。
    • ポンププロセスが存在するか確認してください。
    • 監視機とポンプ機間のネットワークが正常か確認してください。

Drainer_server_is_down

  • アラート ルール:

    probe_success{group="drainer"} == 0

  • 説明:

    Drainerサービス ポートのプローブに失敗しました。

  • 解決:

    • Drainerサービスを提供するマシンがダウンしていないか確認してください。
    • Drainerプロセスが存在するか確認してください。
    • 監視マシンとDrainerマシン間のネットワークが正常か確認してください。

TiKV_server_is_down

  • アラート ルール:

    probe_success{group="tikv"} == 0

  • 説明:

    TiKV サービス ポートのプローブに失敗しました。

  • 解決:

    • TiKV サービスを提供するマシンがダウンしていないか確認してください。
    • TiKV プロセスが存在するかどうかを確認します。
    • 監視マシンとTiKVマシン間のネットワークが正常か確認してください。

PD_server_is_down

  • アラート ルール:

    probe_success{group="pd"} == 0

  • 説明:

    PD サービス ポートのプローブに失敗しました。

  • 解決:

    • PDサービスを提供するマシンがダウンしていないか確認してください。
    • PDプロセスが存在するか確認してください。
    • 監視マシンとPDマシン間のネットワークが正常か確認してください。

Node_exporter_server_is_down

  • アラート ルール:

    probe_success{group="node_exporter"} == 0

  • 説明:

    Node_exporter サービス ポートのプローブに失敗しました。

  • 解決:

    • Node_exporter サービスを提供するマシンがダウンしていないか確認してください。
    • Node_exporter プロセスが存在するかどうかを確認します。
    • 監視マシンとNode_exporterマシン間のネットワークが正常か確認してください。

Blackbox_exporter_server_is_down

  • アラート ルール:

    probe_success{group="blackbox_exporter"} == 0

  • 説明:

    Blackbox_Exporter サービス ポートのプローブに失敗しました。

  • 解決:

    • Blackbox_Exporter サービスを提供するマシンがダウンしていないかどうかを確認します。
    • Blackbox_Exporter プロセスが存在するかどうかを確認します。
    • 監視マシンとBlackbox_Exporterマシン間のネットワークが正常か確認してください。

Grafana_server_is_down

  • アラート ルール:

    probe_success{group="grafana"} == 0

  • 説明:

    Grafana サービス ポートのプローブに失敗しました。

  • 解決:

    • Grafana サービスを提供するマシンがダウンしていないか確認します。
    • Grafana プロセスが存在するかどうかを確認します。
    • 監視マシンとGrafanaマシン間のネットワークが正常か確認してください。

Pushgateway_server_is_down

  • アラート ルール:

    probe_success{group="pushgateway"} == 0

  • 説明:

    Pushgateway サービス ポートのプローブに失敗しました。

  • 解決:

    • Pushgatewayサービスを提供するマシンがダウンしていないか確認してください。
    • Pushgatewayプロセスが存在するかどうかを確認します。
    • 監視マシンとPushgatewayマシン間のネットワークが正常か確認してください。

Kafka_exporter_is_down

  • アラート ルール:

    probe_success{group="kafka_exporter"} == 0

  • 説明:

    Kafka_Exporter サービス ポートのプローブに失敗しました。

  • 解決:

    • Kafka_Exporter サービスを提供するマシンがダウンしていないか確認します。
    • Kafka_Exporter プロセスが存在するかどうかを確認します。
    • 監視マシンとKafka_Exporterマシン間のネットワークが正常か確認してください。

Pushgateway_metrics_interface

  • アラート ルール:

    probe_success{job="blackbox_exporter_http"} == 0

  • 説明:

    Pushgateway サービスの http インターフェイスのプローブに失敗しました。

  • 解決:

    • Pushgatewayサービスを提供するマシンがダウンしていないか確認してください。
    • Pushgatewayプロセスが存在するかどうかを確認します。
    • 監視マシンとPushgatewayマシン間のネットワークが正常か確認してください。

警報レベルのアラート

BLACKER_ping_latency_more_than_1s

  • アラート ルール:

    max_over_time(probe_duration_seconds{job=~"blackbox_exporter.*_icmp"}[1m]) > 1

  • 説明:

    pingレイテンシーが1 秒を超えています。

  • 解決:

    • Grafana Blackbox Exporter ページで 2 つのノード間の pingレイテンシーをビュー、長すぎるかどうかを確認します。
    • Grafana Node Exporter ページの TCP パネルをチェックして、パケット損失があるかどうかを確認します。

このページは役に立ちましたか?

Playground
新規
登録なしで TiDB の機能をワンストップでインタラクティブに体験できます。
製品
TiDB Cloud
TiDB
価格
PoC お問い合わせ
エコシステム
TiKV
TiFlash
OSS Insight
© 2024 PingCAP. All Rights Reserved.
Privacy Policy.