ランタイムフィルター
ランタイム フィルターは TiDB v7.3 で導入された新機能で、MPP シナリオでのハッシュ結合のパフォーマンスを向上させることを目的としています。ハッシュ結合のデータを事前にフィルター処理するフィルターを動的に生成することで、TiDB は実行時のデータ スキャンの量とハッシュ結合の計算の量を削減し、最終的にクエリ パフォーマンスを向上させることができます。
コンセプト
- ハッシュ結合: 結合リレーショナル代数を実装する方法。一方にハッシュ テーブルを構築し、他方のハッシュ テーブルを継続的に照合することで、結合の結果を取得します。
- ビルド側: ハッシュ テーブルを構築するために使用されるハッシュ結合の片側。このドキュメントでは、ハッシュ結合の右側のテーブルはデフォルトでビルド側と呼ばれます。
- プローブ側: ハッシュ テーブルを継続的に照合するために使用されるハッシュ結合の片側。このドキュメントでは、ハッシュ結合の左側のテーブルをデフォルトでプローブ側と呼びます。
- フィルター: 述語とも呼ばれ、このドキュメント内のフィルター条件を指します。
ランタイムフィルターの動作原理
ハッシュ結合は、右テーブルに基づいてハッシュ テーブルを構築し、左テーブルを使用してハッシュ テーブルを継続的にプローブすることで結合操作を実行します。プローブ プロセス中に一部の結合キー値がハッシュ テーブルにヒットしない場合は、データが右テーブルに存在しないことを意味し、最終的な結合結果には表示されません。したがって、TiDB がスキャン中に結合キー データを事前にフィルター処理できれば、スキャン時間とネットワーク オーバーヘッドが削減され、結合効率が大幅に向上します。
ランタイム フィルターは、クエリ計画フェーズ中に生成される動的な述語です。この述語は、TiDB 選択演算子内の他の述語と同じ機能を持ちます。これらの述語はすべてテーブル スキャン操作に適用され、述語に一致しない行をフィルター処理します。唯一の違いは、ランタイム フィルターのパラメーター値がハッシュ結合構築プロセス中に生成された結果から取得されることです。
例
store_salesテーブルとdate_dimテーブルの間に結合クエリがあり、結合方法はハッシュ結合であるとします。5 store_sales主に店舗の売上データを格納するファクト テーブルで、行数は 100 万です。7 date_dim主に日付情報を格納する時間ディメンション テーブルです。2001 年の売上データをクエリしたいので、 date_dimテーブルの 365 行が結合操作に関係します。
SELECT * FROM store_sales, date_dim
WHERE ss_date_sk = d_date_sk
AND d_year = 2001;
ハッシュ結合の実行プランは通常次のようになります。
+-------------------+
| PhysicalHashJoin |
+------->| |<------+
| +-------------------+ |
| |
| |
100w | | 365
| |
| |
+-------+-------+ +--------+-------+
| TableFullScan | | TableFullScan |
| store_sales | | date_dim |
+---------------+ +----------------+
（上図では交換ノードとその他のノードは省略しています。）
ランタイム フィルターの実行プロセスは次のとおりです。
date_dimテーブルのデータをスキャンします。PhysicalHashJoindate_dim in (2001/01/01~2001/12/31)などのビルド側のデータに基づいてフィルター条件を計算します。- スキャン
store_salesを待機しているTableFullScanオペレータにフィルター条件を送信します。 store_salesにフィルタ条件を適用し、フィルタリングされたデータをPhysicalHashJoinに渡すことで、プローブ側でスキャンするデータ量とハッシュテーブルとのマッチングの計算量を削減します。
2. Build RF values
+-------->+-------------------+
| |PhysicalHashJoin |<-----+
| +----+ | |
4. After RF | | +-------------------+ | 1. Scan T2
5000 | |3. Send RF | 365
| | filter data |
| | |
+-----+----v------+ +-------+--------+
| TableFullScan | | TableFullScan |
| store_sales | | date_dim |
+-----------------+ +----------------+
(RF はランタイム フィルターの略です)
上記 2 つの図から、スキャンされるデータ量がstore_salesで 100 万から 5000 に削減されていることがわかります。スキャンされるデータ量がTableFullScan削減されることにより、Runtime Filter はハッシュ テーブルとの照合回数を削減し、不要な I/O とネットワーク転送を回避できるため、結合操作の効率が大幅に向上します。
ランタイムフィルターを使用する
ランタイム フィルターを使用するには、 TiFlashレプリカを含むテーブルを作成し、 tidb_runtime_filter_modeをLOCALに設定する必要があります。
このセクションでは、TPC-DS データセットを例に、結合操作にテーブルcatalog_salesとテーブルdate_dimを使用して、ランタイム フィルターによってクエリの効率がどのように向上するかを説明します。
ステップ1. 結合するテーブルのTiFlashレプリカを作成する
テーブルcatalog_salesとテーブルdate_dimのそれぞれにTiFlashレプリカを追加します。
ALTER TABLE catalog_sales SET tiflash REPLICA 1;
ALTER TABLE date_dim SET tiflash REPLICA 1;
2 つのテーブルのTiFlashレプリカが準備されるまで、つまりレプリカのAVAILABLEフィールドとPROGRESSフィールドが両方とも1なるまで待機します。
SELECT * FROM INFORMATION_SCHEMA.TIFLASH_REPLICA WHERE TABLE_NAME='catalog_sales';
+--------------+---------------+----------+---------------+-----------------+-----------+----------+
| TABLE_SCHEMA | TABLE_NAME | TABLE_ID | REPLICA_COUNT | LOCATION_LABELS | AVAILABLE | PROGRESS |
+--------------+---------------+----------+---------------+-----------------+-----------+----------+
| tpcds50 | catalog_sales | 1055 | 1 | | 1 | 1 |
+--------------+---------------+----------+---------------+-----------------+-----------+----------+
SELECT * FROM INFORMATION_SCHEMA.TIFLASH_REPLICA WHERE TABLE_NAME='date_dim';
+--------------+------------+----------+---------------+-----------------+-----------+----------+
| TABLE_SCHEMA | TABLE_NAME | TABLE_ID | REPLICA_COUNT | LOCATION_LABELS | AVAILABLE | PROGRESS |
+--------------+------------+----------+---------------+-----------------+-----------+----------+
| tpcds50 | date_dim | 1015 | 1 | | 1 | 1 |
+--------------+------------+----------+---------------+-----------------+-----------+----------+
ステップ2. ランタイムフィルターを有効にする
ランタイム フィルターを有効にするには、システム変数tidb_runtime_filter_modeの値をLOCALに設定します。
SET tidb_runtime_filter_mode="LOCAL";
変更が成功したかどうかを確認します。
SHOW VARIABLES LIKE "tidb_runtime_filter_mode";
+--------------------------+-------+
| Variable_name | Value |
+--------------------------+-------+
| tidb_runtime_filter_mode | LOCAL |
+--------------------------+-------+
システム変数の値がLOCAL場合、ランタイム フィルターは有効になります。
ステップ3. クエリを実行する
クエリを実行する前に、 EXPLAINステートメントを使用して実行プランを表示し、ランタイム フィルターが有効になっているかどうかを確認します。
EXPLAIN SELECT cs_ship_date_sk FROM catalog_sales, date_dim
WHERE d_date = '2002-2-01' AND
cs_ship_date_sk = d_date_sk;
ランタイム フィルターが有効になると、対応するランタイム フィルターがノードHashJoinとノードTableScanにマウントされ、ランタイム フィルターが正常に適用されたことが示されます。
TableFullScan: runtime filter:0[IN] -> tpcds50.catalog_sales.cs_ship_date_sk
HashJoin: runtime filter:0[IN] <- tpcds50.date_dim.d_date_sk |
完全なクエリ実行プランは次のとおりです。
+----------------------------------------+-------------+--------------+---------------------+-----------------------------------------------------------------------------------------------------------------------------------------------+
| id | estRows | task | access object | operator info |
+----------------------------------------+-------------+--------------+---------------------+-----------------------------------------------------------------------------------------------------------------------------------------------+
| TableReader_53 | 37343.19 | root | | MppVersion: 1, data:ExchangeSender_52 |
| └─ExchangeSender_52 | 37343.19 | mpp[tiflash] | | ExchangeType: PassThrough |
| └─Projection_51 | 37343.19 | mpp[tiflash] | | tpcds50.catalog_sales.cs_ship_date_sk |
| └─HashJoin_48 | 37343.19 | mpp[tiflash] | | inner join, equal:[eq(tpcds50.date_dim.d_date_sk, tpcds50.catalog_sales.cs_ship_date_sk)], runtime filter:0[IN] <- tpcds50.date_dim.d_date_sk |
| ├─ExchangeReceiver_29(Build) | 1.00 | mpp[tiflash] | | |
| │ └─ExchangeSender_28 | 1.00 | mpp[tiflash] | | ExchangeType: Broadcast, Compression: FAST |
| │ └─TableFullScan_26 | 1.00 | mpp[tiflash] | table:date_dim | pushed down filter:eq(tpcds50.date_dim.d_date, 2002-02-01 00:00:00.000000), keep order:false |
| └─Selection_31(Probe) | 71638034.00 | mpp[tiflash] | | not(isnull(tpcds50.catalog_sales.cs_ship_date_sk)) |
| └─TableFullScan_30 | 71997669.00 | mpp[tiflash] | table:catalog_sales | pushed down filter:empty, keep order:false, runtime filter:0[IN] -> tpcds50.catalog_sales.cs_ship_date_sk |
+----------------------------------------+-------------+--------------+---------------------+-----------------------------------------------------------------------------------------------------------------------------------------------+
9 rows in set (0.01 sec)
ここで、SQL クエリを実行すると、ランタイム フィルターが適用されます。
SELECT cs_ship_date_sk FROM catalog_sales, date_dim
WHERE d_date = '2002-2-01' AND
cs_ship_date_sk = d_date_sk;
ステップ4. パフォーマンスの比較
この例では、50 GB の TPC-DS データを使用します。ランタイム フィルターを有効にすると、クエリ時間は 0.38 秒から 0.17 秒に短縮され、効率は 50% 向上します。1 ステートメントを使用するとANALYZEランタイム フィルターが有効になった後の各演算子の実行時間を表示できます。
ランタイム フィルターが有効になっていない場合のクエリの実行情報は次のとおりです。
EXPLAIN ANALYZE SELECT cs_ship_date_sk FROM catalog_sales, date_dim WHERE d_date = '2002-2-01' AND cs_ship_date_sk = d_date_sk;
+----------------------------------------+-------------+----------+--------------+---------------------+---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+----------------------------------------------------------------------------------------------+---------+------+
| id | estRows | actRows | task | access object | execution info | operator info | memory | disk |
+----------------------------------------+-------------+----------+--------------+---------------------+---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+----------------------------------------------------------------------------------------------+---------+------+
| TableReader_53 | 37343.19 | 59574 | root | | time:379.7ms, loops:83, RU:0.000000, cop_task: {num: 48, max: 0s, min: 0s, avg: 0s, p95: 0s, copr_cache_hit_ratio: 0.00} | MppVersion: 1, data:ExchangeSender_52 | 12.0 KB | N/A |
| └─ExchangeSender_52 | 37343.19 | 59574 | mpp[tiflash] | | tiflash_task:{proc max:377ms, min:375.3ms, avg: 376.1ms, p80:377ms, p95:377ms, iters:1160, tasks:2, threads:16} | ExchangeType: PassThrough | N/A | N/A |
| └─Projection_51 | 37343.19 | 59574 | mpp[tiflash] | | tiflash_task:{proc max:377ms, min:375.3ms, avg: 376.1ms, p80:377ms, p95:377ms, iters:1160, tasks:2, threads:16} | tpcds50.catalog_sales.cs_ship_date_sk | N/A | N/A |
| └─HashJoin_48 | 37343.19 | 59574 | mpp[tiflash] | | tiflash_task:{proc max:377ms, min:375.3ms, avg: 376.1ms, p80:377ms, p95:377ms, iters:1160, tasks:2, threads:16} | inner join, equal:[eq(tpcds50.date_dim.d_date_sk, tpcds50.catalog_sales.cs_ship_date_sk)] | N/A | N/A |
| ├─ExchangeReceiver_29(Build) | 1.00 | 2 | mpp[tiflash] | | tiflash_task:{proc max:291.3ms, min:290ms, avg: 290.6ms, p80:291.3ms, p95:291.3ms, iters:2, tasks:2, threads:16} | | N/A | N/A |
| │ └─ExchangeSender_28 | 1.00 | 1 | mpp[tiflash] | | tiflash_task:{proc max:290.9ms, min:0s, avg: 145.4ms, p80:290.9ms, p95:290.9ms, iters:1, tasks:2, threads:1} | ExchangeType: Broadcast, Compression: FAST | N/A | N/A |
| │ └─TableFullScan_26 | 1.00 | 1 | mpp[tiflash] | table:date_dim | tiflash_task:{proc max:3.88ms, min:0s, avg: 1.94ms, p80:3.88ms, p95:3.88ms, iters:1, tasks:2, threads:1}, tiflash_scan:{dtfile:{total_scanned_packs:2, total_skipped_packs:12, total_scanned_rows:16384, total_skipped_rows:97625, total_rs_index_load_time: 0ms, total_read_time: 0ms}, total_create_snapshot_time: 0ms, total_local_region_num: 1, total_remote_region_num: 0} | pushed down filter:eq(tpcds50.date_dim.d_date, 2002-02-01 00:00:00.000000), keep order:false | N/A | N/A |
| └─Selection_31(Probe) | 71638034.00 | 71638034 | mpp[tiflash] | | tiflash_task:{proc max:47ms, min:34.3ms, avg: 40.6ms, p80:47ms, p95:47ms, iters:1160, tasks:2, threads:16} | not(isnull(tpcds50.catalog_sales.cs_ship_date_sk)) | N/A | N/A |
| └─TableFullScan_30 | 71997669.00 | 71997669 | mpp[tiflash] | table:catalog_sales | tiflash_task:{proc max:34ms, min:17.3ms, avg: 25.6ms, p80:34ms, p95:34ms, iters:1160, tasks:2, threads:16}, tiflash_scan:{dtfile:{total_scanned_packs:8893, total_skipped_packs:4007, total_scanned_rows:72056474, total_skipped_rows:32476901, total_rs_index_load_time: 8ms, total_read_time: 579ms}, total_create_snapshot_time: 0ms, total_local_region_num: 194, total_remote_region_num: 0} | pushed down filter:empty, keep order:false | N/A | N/A |
+----------------------------------------+-------------+----------+--------------+---------------------+---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+----------------------------------------------------------------------------------------------+---------+------+
9 rows in set (0.38 sec)
ランタイム フィルターが有効な場合のクエリの実行情報は次のとおりです。
EXPLAIN ANALYZE SELECT cs_ship_date_sk FROM catalog_sales, date_dim
-> WHERE d_date = '2002-2-01' AND
-> cs_ship_date_sk = d_date_sk;
+----------------------------------------+-------------+---------+--------------+---------------------+------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+-----------------------------------------------------------------------------------------------------------------------------------------------+---------+------+
| id | estRows | actRows | task | access object | execution info | operator info | memory | disk |
+----------------------------------------+-------------+---------+--------------+---------------------+------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+-----------------------------------------------------------------------------------------------------------------------------------------------+---------+------+
| TableReader_53 | 37343.19 | 59574 | root | | time:162.1ms, loops:82, RU:0.000000, cop_task: {num: 47, max: 0s, min: 0s, avg: 0s, p95: 0s, copr_cache_hit_ratio: 0.00} | MppVersion: 1, data:ExchangeSender_52 | 12.7 KB | N/A |
| └─ExchangeSender_52 | 37343.19 | 59574 | mpp[tiflash] | | tiflash_task:{proc max:160.8ms, min:154.3ms, avg: 157.6ms, p80:160.8ms, p95:160.8ms, iters:86, tasks:2, threads:16} | ExchangeType: PassThrough | N/A | N/A |
| └─Projection_51 | 37343.19 | 59574 | mpp[tiflash] | | tiflash_task:{proc max:160.8ms, min:154.3ms, avg: 157.6ms, p80:160.8ms, p95:160.8ms, iters:86, tasks:2, threads:16} | tpcds50.catalog_sales.cs_ship_date_sk | N/A | N/A |
| └─HashJoin_48 | 37343.19 | 59574 | mpp[tiflash] | | tiflash_task:{proc max:160.8ms, min:154.3ms, avg: 157.6ms, p80:160.8ms, p95:160.8ms, iters:86, tasks:2, threads:16} | inner join, equal:[eq(tpcds50.date_dim.d_date_sk, tpcds50.catalog_sales.cs_ship_date_sk)], runtime filter:0[IN] <- tpcds50.date_dim.d_date_sk | N/A | N/A |
| ├─ExchangeReceiver_29(Build) | 1.00 | 2 | mpp[tiflash] | | tiflash_task:{proc max:132.3ms, min:130.8ms, avg: 131.6ms, p80:132.3ms, p95:132.3ms, iters:2, tasks:2, threads:16} | | N/A | N/A |
| │ └─ExchangeSender_28 | 1.00 | 1 | mpp[tiflash] | | tiflash_task:{proc max:131ms, min:0s, avg: 65.5ms, p80:131ms, p95:131ms, iters:1, tasks:2, threads:1} | ExchangeType: Broadcast, Compression: FAST | N/A | N/A |
| │ └─TableFullScan_26 | 1.00 | 1 | mpp[tiflash] | table:date_dim | tiflash_task:{proc max:3.01ms, min:0s, avg: 1.51ms, p80:3.01ms, p95:3.01ms, iters:1, tasks:2, threads:1}, tiflash_scan:{dtfile:{total_scanned_packs:2, total_skipped_packs:12, total_scanned_rows:16384, total_skipped_rows:97625, total_rs_index_load_time: 0ms, total_read_time: 0ms}, total_create_snapshot_time: 0ms, total_local_region_num: 1, total_remote_region_num: 0} | pushed down filter:eq(tpcds50.date_dim.d_date, 2002-02-01 00:00:00.000000), keep order:false | N/A | N/A |
| └─Selection_31(Probe) | 71638034.00 | 5308995 | mpp[tiflash] | | tiflash_task:{proc max:39.8ms, min:24.3ms, avg: 32.1ms, p80:39.8ms, p95:39.8ms, iters:86, tasks:2, threads:16} | not(isnull(tpcds50.catalog_sales.cs_ship_date_sk)) | N/A | N/A |
| └─TableFullScan_30 | 71997669.00 | 5335549 | mpp[tiflash] | table:catalog_sales | tiflash_task:{proc max:36.8ms, min:23.3ms, avg: 30.1ms, p80:36.8ms, p95:36.8ms, iters:86, tasks:2, threads:16}, tiflash_scan:{dtfile:{total_scanned_packs:660, total_skipped_packs:12451, total_scanned_rows:5335549, total_skipped_rows:100905778, total_rs_index_load_time: 2ms, total_read_time: 47ms}, total_create_snapshot_time: 0ms, total_local_region_num: 194, total_remote_region_num: 0} | pushed down filter:empty, keep order:false, runtime filter:0[IN] -> tpcds50.catalog_sales.cs_ship_date_sk | N/A | N/A |
+----------------------------------------+-------------+---------+--------------+---------------------+------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+-----------------------------------------------------------------------------------------------------------------------------------------------+---------+------+
9 rows in set (0.17 sec)
2 つのクエリの実行情報を比較すると、次の改善点がわかります。
- IO 削減: TableFullScan 演算子の
total_scanned_rowsと比較すると、ランタイム フィルターを有効にするとTableFullScanのスキャン量が 2/3 削減されることがわかります。 - ハッシュ結合のパフォーマンスの向上:
HashJoin演算子の実行時間が 376.1 ミリ秒から 157.6 ミリ秒に短縮されました。
ベストプラクティス
ランタイム フィルターは、ファクト テーブルとディメンション テーブルの結合クエリなど、大きなテーブルと小さなテーブルが結合されるシナリオに適用できます。ディメンション テーブルにヒット データが少ない場合、フィルターの値が少なくなるため、ファクト テーブルは条件を満たさないデータをより効果的にフィルターできます。ファクト テーブル全体をスキャンする既定のシナリオと比較すると、クエリのパフォーマンスが大幅に向上します。
TPC-DS におけるSalesのテーブルとdate_dimテーブルの結合操作が典型的な例です。
ランタイムフィルターを構成する
ランタイム フィルターを使用する場合、ランタイム フィルターのモードと述語タイプを構成できます。
ランタイムフィルターモード
ランタイム フィルターのモードは、フィルター センダー演算子とフィルター レシーバー演算子の関係です。モードはLOCAL OFF 3 つがあります。v7.3.0 では、モードOFFとGLOBAL LOCALがサポートされています。ランタイム フィルター モードは、システム変数tidb_runtime_filter_modeによって制御されます。
OFF: ランタイム フィルターは無効です。無効にした後のクエリの動作は以前のバージョンと同じです。LOCAL: ランタイム フィルターはローカル モードで有効になります。ローカル モードでは、フィルター センダー オペレーターとフィルター レシーバー オペレーターは同じ MPP タスク内にあります。つまり、ランタイム フィルターは、HashJoin オペレーターと TableScan オペレーターが同じタスク内にあるシナリオに適用できます。現在、ランタイム フィルターはローカル モードのみをサポートしています。このモードを有効にするには、LOCALに設定します。GLOBAL: 現在、グローバル モードはサポートされていません。ランタイム フィルターをこのモードに設定することはできません。
ランタイムフィルタータイプ
ランタイム フィルターのタイプは、生成されたフィルター演算子によって使用される述語のタイプです。現在サポートされているタイプはINのみです。これは、生成された述語がk1 in (xxx)に似ていることを意味します。ランタイム フィルターのタイプは、システム変数tidb_runtime_filter_typeによって制御されます。
IN: デフォルトのタイプ。生成されたランタイム フィルターはINタイプの述語を使用することを意味します。
制限事項
- ランタイム フィルターは MPPアーキテクチャの最適化であり、 TiFlashにプッシュダウンされたクエリにのみ適用できます。
- 結合タイプ: 左外部、完全外部、および反結合 (左テーブルがプローブ側の場合) は、ランタイム フィルターをサポートしていません。ランタイム フィルターは結合に関係するデータを事前にフィルター処理するため、前述のタイプの結合では一致しないデータが破棄されず、ランタイム フィルターは使用できません。
- 等価結合式: 等価結合式のプローブ列が複雑な式である場合、またはプローブ列の型が JSON、Blob、配列、またはその他の複雑なデータ型である場合、ランタイム フィルターは生成されません。主な理由は、前述の型の列が結合列として使用されることはほとんどないためです。フィルターが生成された場合でも、フィルタリング率は通常低くなります。
上記の制限事項について、ランタイム フィルターが正しく生成されたかどうかを確認する必要がある場合は、 EXPLAINステートメント使用して実行プランを検証できます。