オンライン ワークロードとADD INDEX操作の相互作用テスト

テストの目的

このドキュメントでは、OLTP シナリオでのオンライン ワークロードとADD INDEX操作の間の相互作用の影響をテストします。

テストバージョン、時間、場所

TiDB バージョン: v3.0.1

時期：2019年7月

場所: 北京

テスト環境

このテストは、3 つの TiDB インスタンス、3 つの TiKV インスタンス、および 3 つの PD インスタンスでデプロイされた Kubernetes クラスターで実行されます。

バージョン情報

シスベンチのバージョン: 1.0.17

TiDB パラメーター構成

TiDB、TiKV、および PD はすべて、デフォルトのTiDB Operator構成を使用します。

クラスタトポロジ

Sysbench を使用したオンライン ワークロード シミュレーション

Sysbench を使用して、 2,000,000 行のデータを含むテーブルをKubernetes クラスターにインポートします。

次のコマンドを実行して、データをインポートします。

sysbench oltp_common \
    --threads=16 \
    --rand-type=uniform \
    --db-driver=mysql \
    --mysql-db=sbtest \
    --mysql-host=$tidb_host \
    --mysql-port=$tidb_port \
    --mysql-user=root \
    prepare --tables=1 --table-size=2000000

次のコマンドを実行して、テストを実行します。

sysbench $testname \
    --threads=$threads \
    --time=300000 \
    --report-interval=15 \
    --rand-type=uniform \
    --rand-seed=$RANDOM \
    --db-driver=mysql \
    --mysql-db=sbtest \
    --mysql-host=$tidb_host \
    --mysql-port=$tidb_port \
    --mysql-user=root \
    run --tables=1 --table-size=2000000

テスト計画 1: ADD INDEXステートメントのターゲット列への書き込み操作を頻繁に実行する

1. oltp_read_writeテストを開始します。
2. ステップ 1 と同時に実行しますalter table sbtest1 add index c_idx(c)を使用してインデックスを追加します。
3. ステップ 2 の最後に実行します。インデックスが正常に追加されたら、 oltp_read_writeテストを停止します。
4. alter table ... add indexの期間と、この期間における Sysbench の平均 TPS と QPS を取得します。
5. 2 つのパラメーターtidb_ddl_reorg_worker_cntとtidb_ddl_reorg_batch_sizeの値を徐々に増やしてから、手順 1 ～ 4 を繰り返します。

試験結果

ADD INDEX操作を行わないoltp_read_writeのテスト結果

tidb_ddl_reorg_batch_size = 32

tidb_ddl_reorg_batch_size = 64

tidb_ddl_reorg_batch_size = 128

tidb_ddl_reorg_batch_size = 256

tidb_ddl_reorg_batch_size = 512

tidb_ddl_reorg_batch_size = 1024

tidb_ddl_reorg_batch_size = 2048

tidb_ddl_reorg_batch_size = 4096

テストの結論

ADD INDEXステートメントのターゲット列に対して頻繁に書き込み操作 (このテストではUPDATE 、 INSERTおよびDELETE操作が含まれます) を実行すると、デフォルトのADD INDEX構成がシステムのオンライン ワークロードに大きな影響を与えます。これは主に、同時ADD INDEX操作と列更新によって発生する書き込み競合が原因です。システムのパフォーマンスは次のとおりです。

• パラメータtidb_ddl_reorg_worker_cntとtidb_ddl_reorg_batch_sizeの値が増加すると、 TiKV_prewrite_latch_wait_durationの値が大幅に増加し、書き込み速度が遅くなります。
• tidb_ddl_reorg_worker_cntとtidb_ddl_reorg_batch_sizeの値が非常に大きい場合は、 admin show ddlコマンドを実行して、DDL ジョブの複数回の再試行 ( Write conflict, txnStartTS 410327455965380624 is stale [try again later], ErrCount:38, SnapshotVersion: 410327228136030220など) を確認できます。この状況では、 ADD INDEX操作が完了するまでに非常に長い時間がかかります。

テスト計画 2: ADD INDEXステートメントのターゲット列への書き込み操作を実行しない (クエリのみ)

1. oltp_read_onlyテストを開始します。
2. ステップ 1 と同時に実行しますalter table sbtest1 add index c_idx(c)を使用してインデックスを追加します。
3. ステップ 2 の最後に実行します。インデックスが正常に追加されたら、 oltp_read_onlyテストを停止します。
4. alter table ... add indexの期間と、この期間における Sysbench の平均 TPS と QPS を取得します。
5. 2 つのパラメーターtidb_ddl_reorg_worker_cntとtidb_ddl_reorg_batch_sizeの値を徐々に増やしてから、手順 1 ～ 4 を繰り返します。

試験結果

ADD INDEX操作を行わないoltp_read_onlyのテスト結果

tidb_ddl_reorg_batch_size = 32

tidb_ddl_reorg_batch_size = 1024

tidb_ddl_reorg_batch_size = 4096

テストの結論

ADD INDEXのステートメントのターゲット列に対してのみクエリ操作を実行する場合、オンライン ワークロードに対するADD INDEX操作の影響は明らかではありません。

テスト計画 3: ADD INDEXステートメントのターゲット列がオンライン ワークロードと無関係である

1. oltp_read_writeテストを開始します。
2. ステップ 1 と同時に実行しますalter table test add index pad_idx(pad)を使用してインデックスを追加します。
3. ステップ 2 の最後に実行します。インデックスが正常に追加されたら、 oltp_read_onlyテストを停止します。
4. alter table ... add indexの期間と、この期間における Sysbench の平均 TPS と QPS を取得します。
5. 2 つのパラメーターtidb_ddl_reorg_worker_cntとtidb_ddl_reorg_batch_sizeの値を徐々に増やしてから、手順 1 ～ 4 を繰り返します。

試験結果

ADD INDEX操作を行わないoltp_read_writeのテスト結果

tidb_ddl_reorg_batch_size = 32

tidb_ddl_reorg_batch_size = 1024

tidb_ddl_reorg_batch_size = 4096

テストの結論

ADD INDEXステートメントのターゲット列がオンライン ワークロードに無関係である場合、ワークロードに対するADD INDEX操作の影響は明らかではありません。

まとめ

• ADD INDEXステートメントのターゲット列に対して頻繁に書き込み操作 ( INSERT 、 DELETE 、およびUPDATE操作を含む) を実行すると、デフォルトのADD INDEX構成では比較的頻繁に書き込み競合が発生し、オンライン ワークロードに大きな影響を与えます。同時に、 ADD INDEX操作は再試行が繰り返されるため、完了までに長い時間がかかります。このテストでは、 tidb_ddl_reorg_worker_cntとtidb_ddl_reorg_batch_sizeの積をデフォルト値の 1/32 に変更できます。たとえば、パフォーマンスを向上させるために、 tidb_ddl_reorg_worker_cnt ～ 4およびtidb_ddl_reorg_batch_size ～ 256を設定できます。
• ADD INDEXステートメントの対象列に対してのみクエリ操作を実行する場合、または対象列がオンライン ワークロードに直接関係しない場合は、既定のADD INDEX構成を使用できます。