Titanコンフィグレーション

このドキュメントでは、対応する構成項目、関連パラメーター、レベル マージ機能を使用して巨人有効または無効にする方法を紹介します。

タイタンを有効にする

Titan は RocksDB と互換性があるため、RocksDB を使用する既存の TiKV インスタンスで Titan を直接有効にすることができます。 Titan を有効にするには、次の 2 つの方法のいずれかを使用できます。

  • 方法 1: TiUPを使用してクラスターをデプロイした場合は、次の例に示すように、 tiup cluster edit-config ${cluster-name}コマンドを実行して TiKV 構成ファイルを編集できます。

    tikv: rocksdb.titan.enabled: true

    構成をリロードすると、TiKV が動的にローリング再起動されます。

    tiup cluster reload ${cluster-name} -R tikv

    コマンドの詳細についてはTiUPを使用して構成を変更するを参照してください。

  • 方法 2: TiKV 構成ファイルを直接編集して Titan を有効にします (本番環境には推奨されません)。

    [rocksdb.titan] enabled = true

Titan が有効になった後、RocksDB に保存されている既存のデータは、Titan エンジンにすぐには移動されません。新しいデータが TiKV フォアグラウンドに書き込まれ、RocksDB が圧縮を実行すると、値は徐々にキーから分離され、Titan に書き込まれます。 [TiKV の詳細] -> [Titan kv] -> [BLOB ファイル サイズ]パネルを表示して、Titan に保存されているデータのサイズを確認できます。

書き込みプロセスを高速化したい場合は、tikv-ctl を使用して TiKV クラスター全体のデータを手動で圧縮します。詳細は手動圧縮を参照してください。

ノート:

Titan が無効になっている場合、RocksDB は Titan に移行されたデータを読み取ることができません。 Titan がすでに有効になっている (誤ってrocksdb.titan.enabledからfalseに設定されている) TiKV インスタンスで Titan が誤って無効になっている場合、TiKV は起動に失敗し、TiKV ログにYou have disabled titan when its data directory is not emptyエラーが表示されます。 Titan を正しく無効にするには、 タイタンを無効にする参照してください。

パラメーター

TiUP を使用して Titan 関連のパラメータを調整するには、 構成を変更するを参照してください。

  • Titan GC のスレッド数。

    [TiKV の詳細] -> [スレッド CPU] -> [RocksDB CPU]パネルで、Titan GC スレッドが長期間にわたってフルキャパシティにあることが観察された場合は、Titan GC スレッド プールのサイズを増やすことを検討してください。

    [rocksdb.titan] max-background-gc = 1
  • 値のサイズのしきい値。

    フォアグラウンドに書き込まれた値のサイズがしきい値より小さい場合、この値は RocksDB に保存されます。それ以外の場合、この値は Titan の BLOB ファイルに保存されます。値のサイズの分布に基づいて、しきい値を増やすと、より多くの値が RocksDB に保存され、TiKV は小さな値を読み取る際のパフォーマンスが向上します。しきい値を下げると、より多くの値が Titan に送信され、RocksDB の圧縮がさらに減少します。

    [rocksdb.defaultcf.titan] min-blob-size = "1KB"
  • Titan で値を圧縮するために使用されるアルゴリズム。値を単位とします。

    [rocksdb.defaultcf.titan] blob-file-compression = "lz4"
  • Titan の値キャッシュのサイズ。

    キャッシュ サイズが大きいほど、Titan の読み取りパフォーマンスが高くなります。ただし、キャッシュ サイズが大きすぎると、メモリ不足 (OOM) が発生します。データベースが安定して実行されている場合は、ストア サイズから BLOB ファイル サイズを引いた値にstorage.block-cache.capacityの値を設定し、監視メトリックに従ってblob-cache-sizememory size * 50% - block cache sizeに設定することをお勧めします。これにより、ブロックキャッシュがRocksDB エンジン全体にとって十分な大きさである場合、BLOB キャッシュ サイズが最大化されます。

    [rocksdb.defaultcf.titan] blob-cache-size = 0
  • BLOB ファイル内の破棄可能なデータ (対応するキーが更新または削除された) の割合が次のしきい値を超えると、Titan GC がトリガーされます。

    discardable-ratio = 0.5

    Titan がこの BLOB ファイルの有用なデータを別のファイルに書き込むとき、値discardable-ratioを使用して書き込み増幅とスペース増幅の上限を見積もることができます (圧縮が無効であると仮定)。

    ライトアンプリフィケーションの上限 = 1 / Discardable_ratio

    空間増幅の上限 = 1 / (1 - 破棄可能比率)

    上の 2 つの式から、 discardable_ratioの値を減らすと空間の増幅は減少しますが、Titan では GC がより頻繁に発生することがわかります。値を増やすと、Titan GC、対応する I/O 帯域幅、CPU 消費量が減少しますが、ディスク使用量は増加します。

  • 次のオプションは、RocksDB 圧縮の I/O 速度を制限します。トラフィックのピーク時には、RocksDB の圧縮、I/O 帯域幅、CPU 消費量を制限することで、フォアグラウンドの書き込みおよび読み取りパフォーマンスへの影響を軽減します。

    Titan が有効な場合、このオプションは RocksDB 圧縮と Titan GC の合計 I/O レートを制限します。 RocksDB 圧縮および Titan GC の I/O および/または CPU 消費量が大きすぎることが判明した場合は、ディスク I/O 帯域幅と実際の書き込みトラフィックに応じて、このオプションを適切な値に設定します。

    [rocksdb] rate-bytes-per-sec = 0

タイタンを無効にする

Titan を無効にするには、 rocksdb.defaultcf.titan.blob-run-modeオプションを設定します。 blob-run-modeのオプションの値は次のとおりです。

  • このオプションがnormalに設定されている場合、Titan は通常どおり読み取りおよび書き込み操作を実行します。
  • このオプションがread-onlyに設定されている場合、値のサイズに関係なく、新しく書き込まれるすべての値が RocksDB に書き込まれます。
  • このオプションがfallbackに設定されている場合、値のサイズに関係なく、新しく書き込まれるすべての値が RocksDB に書き込まれます。また、Titan blob ファイルに保存されているすべての圧縮された値は、自動的に RocksDB に戻されます。

すべての既存および将来のデータに対して Titan を完全に無効にするには、次の手順に従います。

  1. Titan を無効にする TiKV ノードの構成を更新します。構成は次の 2 つの方法で更新できます。

    • tiup cluster edit-configを実行し、設定ファイルを編集してtiup cluster reload -R tikvを実行します。
    • 構成ファイルを手動で更新し、TiKV を再起動します。
    [rocksdb.defaultcf.titan] blob-run-mode = "fallback" discardable-ratio = 1.0
  2. tikv-ctl を使用して完全な圧縮を実行します。このプロセスは大量の I/O リソースと CPU リソースを消費します。

    tikv-ctl --pd <PD_ADDR> compact-cluster --bottommost force
  3. 圧縮が完了したら、 TiKV-Details / Titan - kvの下のBLOB ファイル数メトリックが0に減少するまで待つ必要があります。

  4. これらの TiKV ノードの構成を更新して Titan を無効にします。

    [rocksdb.titan] enabled = false

レベル マージ (実験的)

TiKV 4.0, レベルマージでは、範囲クエリのパフォーマンスを向上させ、フォアグラウンド書き込み操作に対する Titan GC の影響を軽減するために、新しいアルゴリズムが導入されました。次のオプションを使用してレベル マージを有効にできます。

[rocksdb.defaultcf.titan] level-merge = true

レベル マージを有効にすると、次の利点があります。

  • Titan 範囲クエリのパフォーマンスが大幅に向上しました。
  • フォアグラウンド書き込み操作に対する Titan GC の影響を軽減し、書き込みパフォーマンスを向上させます。
  • Titan のスペースの増大とディスク使用量を削減します (デフォルト構成のディスク使用量と比較して)。

したがって、レベル マージを有効にした場合の書き込み増幅は Titan よりわずかに高くなりますが、それでもネイティブ RocksDB よりは低いです。

このページは役に立ちましたか?