ランタイムフィルター
ランタイムフィルターは、TiDB v7.3で導入された新機能で、MPPシナリオにおけるハッシュ結合のパフォーマンス向上を目的としています。ハッシュ結合のデータを事前にフィルタリングするフィルターを動的に生成することで、TiDBは実行時のデータスキャン量とハッシュ結合の計算量を削減し、クエリパフォーマンスを向上させます。
概念
- ハッシュ結合：結合リレーショナル代数を実装する方法。片側にハッシュテーブルを構築し、反対側のハッシュテーブルと継続的にマッチングすることで、結合の結果を取得します。
- ビルド側: ハッシュテーブルの構築に使用されるハッシュ結合の片側。このドキュメントでは、ハッシュ結合の右側のテーブルをデフォルトでビルド側と呼びます。
- プローブ側: ハッシュ結合の片側で、ハッシュテーブルを継続的に照合するために使用されます。このドキュメントでは、ハッシュ結合の左側のテーブルをデフォルトでプローブ側と呼びます。
- フィルター: 述語とも呼ばれ、このドキュメント内のフィルター条件を指します。
ランタイムフィルターの動作原理
ハッシュ結合は、右テーブルに基づいてハッシュテーブルを構築し、左テーブルを用いてハッシュテーブルを継続的にプローブすることで結合操作を実行します。プローブ処理中に一部の結合キー値がハッシュテーブルにヒットしない場合、そのデータは右テーブルに存在しないことを意味し、最終的な結合結果には表示されません。したがって、TiDBがスキャン中に結合キーデータを事前にフィルタリングできれば、スキャン時間とネットワークオーバーヘッドが削減され、結合効率が大幅に向上します。
ランタイムフィルタは、クエリプランニングフェーズで生成される動的な述語です。この述語は、TiDB選択演算子の他の述語と同じ機能を持ちます。これらの述語はすべてテーブルスキャン操作に適用され、述語に一致しない行を除外します。唯一の違いは、ランタイムフィルタのパラメータ値がハッシュ結合構築プロセス中に生成された結果から取得されることです。
例
store_salesテーブルとdate_dimテーブルの間に結合クエリがあり、結合方法はハッシュ結合であるとします。5 store_sales主に店舗の売上データを格納するファクトテーブルで、行数は100万行です。7 date_dim主に日付情報を格納する時間ディメンションテーブルです。2001年の売上データを取得するクエリを実行するため、 date_dimテーブルの365行が結合操作に関係します。
SELECT * FROM store_sales, date_dim
WHERE ss_date_sk = d_date_sk
AND d_year = 2001;
ハッシュ結合の実行プランは通常次のようになります。
+-------------------+
| PhysicalHashJoin |
+------->| |<------+
| +-------------------+ |
| |
| |
100w | | 365
| |
| |
+-------+-------+ +--------+-------+
| TableFullScan | | TableFullScan |
| store_sales | | date_dim |
+---------------+ +----------------+
（上図では交換ノードとその他のノードを省略しています。）
ランタイム フィルターの実行プロセスは次のとおりです。
date_dimテーブルのデータをスキャンします。PhysicalHashJoindate_dim in (2001/01/01~2001/12/31)などのビルド側のデータに基づいてフィルター条件を計算します。- スキャン
store_salesを待機しているTableFullScanのオペレータにフィルター条件を送信します。 store_salesにフィルタ条件を適用し、フィルタリングされたデータをPhysicalHashJoinに渡すことで、プローブ側でスキャンするデータ量とハッシュテーブルとのマッチングの計算量を削減します。
2. Build RF values
+-------->+-------------------+
| |PhysicalHashJoin |<-----+
| +----+ | |
4. After RF | | +-------------------+ | 1. Scan T2
5000 | |3. Send RF | 365
| | filter data |
| | |
+-----+----v------+ +-------+--------+
| TableFullScan | | TableFullScan |
| store_sales | | date_dim |
+-----------------+ +----------------+
(RFはランタイムフィルターの略です)
上記 2 つの図から、スキャンされるデータ量がstore_salesで 100 万から 5000 に削減されていることがわかります。スキャンされるデータ量をTableFullScan削減することで、Runtime Filter はハッシュ テーブルとの照合回数を削減し、不要な I/O とネットワーク転送を回避できるため、結合操作の効率が大幅に向上します。
ランタイムフィルターを使用する
ランタイム フィルターを使用するには、 TiFlashレプリカを含むテーブルを作成し、 tidb_runtime_filter_modeをLOCALに設定する必要があります。
このセクションでは、TPC-DS データセットを例に、結合操作にテーブルcatalog_salesとテーブルdate_dim使用して、ランタイム フィルターによってクエリ効率がどのように向上するかを説明します。
ステップ1. 結合するテーブルのTiFlashレプリカを作成する
テーブルcatalog_salesとテーブルdate_dimのそれぞれにTiFlashレプリカを追加します。
ALTER TABLE catalog_sales SET tiflash REPLICA 1;
ALTER TABLE date_dim SET tiflash REPLICA 1;
2 つのテーブルのTiFlashレプリカが準備されるまで、つまりレプリカのAVAILABLEフィールドとPROGRESSフィールドが両方とも1なるまで待機します。
SELECT * FROM INFORMATION_SCHEMA.TIFLASH_REPLICA WHERE TABLE_NAME='catalog_sales';
+--------------+---------------+----------+---------------+-----------------+-----------+----------+
| TABLE_SCHEMA | TABLE_NAME | TABLE_ID | REPLICA_COUNT | LOCATION_LABELS | AVAILABLE | PROGRESS |
+--------------+---------------+----------+---------------+-----------------+-----------+----------+
| tpcds50 | catalog_sales | 1055 | 1 | | 1 | 1 |
+--------------+---------------+----------+---------------+-----------------+-----------+----------+
SELECT * FROM INFORMATION_SCHEMA.TIFLASH_REPLICA WHERE TABLE_NAME='date_dim';
+--------------+------------+----------+---------------+-----------------+-----------+----------+
| TABLE_SCHEMA | TABLE_NAME | TABLE_ID | REPLICA_COUNT | LOCATION_LABELS | AVAILABLE | PROGRESS |
+--------------+------------+----------+---------------+-----------------+-----------+----------+
| tpcds50 | date_dim | 1015 | 1 | | 1 | 1 |
+--------------+------------+----------+---------------+-----------------+-----------+----------+
ステップ2. ランタイムフィルターを有効にする
ランタイム フィルターを有効にするには、システム変数tidb_runtime_filter_modeの値をLOCALに設定します。
SET tidb_runtime_filter_mode="LOCAL";
変更が成功したかどうかを確認します。
SHOW VARIABLES LIKE "tidb_runtime_filter_mode";
+--------------------------+-------+
| Variable_name | Value |
+--------------------------+-------+
| tidb_runtime_filter_mode | LOCAL |
+--------------------------+-------+
システム変数の値がLOCALの場合、ランタイム フィルターは有効になります。
ステップ3. クエリを実行する
クエリを実行する前に、 EXPLAIN文使用して実行プランを表示し、ランタイム フィルターが有効になっているかどうかを確認します。
EXPLAIN SELECT cs_ship_date_sk FROM catalog_sales, date_dim
WHERE d_date = '2002-2-01' AND
cs_ship_date_sk = d_date_sk;
ランタイム フィルターが有効になると、対応するランタイム フィルターがノードHashJoinとノードTableScanにマウントされ、ランタイム フィルターが正常に適用されたことが示されます。
TableFullScan: runtime filter:0[IN] -> tpcds50.catalog_sales.cs_ship_date_sk
HashJoin: runtime filter:0[IN] <- tpcds50.date_dim.d_date_sk |
完全なクエリ実行プランは次のとおりです。
+----------------------------------------+-------------+--------------+---------------------+-----------------------------------------------------------------------------------------------------------------------------------------------+
| id | estRows | task | access object | operator info |
+----------------------------------------+-------------+--------------+---------------------+-----------------------------------------------------------------------------------------------------------------------------------------------+
| TableReader_53 | 37343.19 | root | | MppVersion: 1, data:ExchangeSender_52 |
| └─ExchangeSender_52 | 37343.19 | mpp[tiflash] | | ExchangeType: PassThrough |
| └─Projection_51 | 37343.19 | mpp[tiflash] | | tpcds50.catalog_sales.cs_ship_date_sk |
| └─HashJoin_48 | 37343.19 | mpp[tiflash] | | inner join, equal:[eq(tpcds50.date_dim.d_date_sk, tpcds50.catalog_sales.cs_ship_date_sk)], runtime filter:0[IN] <- tpcds50.date_dim.d_date_sk |
| ├─ExchangeReceiver_29(Build) | 1.00 | mpp[tiflash] | | |
| │ └─ExchangeSender_28 | 1.00 | mpp[tiflash] | | ExchangeType: Broadcast, Compression: FAST |
| │ └─TableFullScan_26 | 1.00 | mpp[tiflash] | table:date_dim | pushed down filter:eq(tpcds50.date_dim.d_date, 2002-02-01 00:00:00.000000), keep order:false |
| └─Selection_31(Probe) | 71638034.00 | mpp[tiflash] | | not(isnull(tpcds50.catalog_sales.cs_ship_date_sk)) |
| └─TableFullScan_30 | 71997669.00 | mpp[tiflash] | table:catalog_sales | pushed down filter:empty, keep order:false, runtime filter:0[IN] -> tpcds50.catalog_sales.cs_ship_date_sk |
+----------------------------------------+-------------+--------------+---------------------+-----------------------------------------------------------------------------------------------------------------------------------------------+
9 rows in set (0.01 sec)
ここで、SQL クエリを実行すると、ランタイム フィルターが適用されます。
SELECT cs_ship_date_sk FROM catalog_sales, date_dim
WHERE d_date = '2002-2-01' AND
cs_ship_date_sk = d_date_sk;
ステップ4. パフォーマンスの比較
この例では、50 GBのTPC-DSデータを使用しています。ランタイムフィルターを有効にすると、クエリ時間は0.38秒から0.17秒に短縮され、効率はANALYZE %向上します。1 ステートメントを使用すると、ランタイムフィルター有効後の各演算子の実行時間を確認できます。
ランタイム フィルターが有効になっていない場合のクエリの実行情報は次のとおりです。
EXPLAIN ANALYZE SELECT cs_ship_date_sk FROM catalog_sales, date_dim WHERE d_date = '2002-2-01' AND cs_ship_date_sk = d_date_sk;
+----------------------------------------+-------------+----------+--------------+---------------------+---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+----------------------------------------------------------------------------------------------+---------+------+
| id | estRows | actRows | task | access object | execution info | operator info | memory | disk |
+----------------------------------------+-------------+----------+--------------+---------------------+---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+----------------------------------------------------------------------------------------------+---------+------+
| TableReader_53 | 37343.19 | 59574 | root | | time:379.7ms, loops:83, RU:0.000000, cop_task: {num: 48, max: 0s, min: 0s, avg: 0s, p95: 0s, copr_cache_hit_ratio: 0.00} | MppVersion: 1, data:ExchangeSender_52 | 12.0 KB | N/A |
| └─ExchangeSender_52 | 37343.19 | 59574 | mpp[tiflash] | | tiflash_task:{proc max:377ms, min:375.3ms, avg: 376.1ms, p80:377ms, p95:377ms, iters:1160, tasks:2, threads:16} | ExchangeType: PassThrough | N/A | N/A |
| └─Projection_51 | 37343.19 | 59574 | mpp[tiflash] | | tiflash_task:{proc max:377ms, min:375.3ms, avg: 376.1ms, p80:377ms, p95:377ms, iters:1160, tasks:2, threads:16} | tpcds50.catalog_sales.cs_ship_date_sk | N/A | N/A |
| └─HashJoin_48 | 37343.19 | 59574 | mpp[tiflash] | | tiflash_task:{proc max:377ms, min:375.3ms, avg: 376.1ms, p80:377ms, p95:377ms, iters:1160, tasks:2, threads:16} | inner join, equal:[eq(tpcds50.date_dim.d_date_sk, tpcds50.catalog_sales.cs_ship_date_sk)] | N/A | N/A |
| ├─ExchangeReceiver_29(Build) | 1.00 | 2 | mpp[tiflash] | | tiflash_task:{proc max:291.3ms, min:290ms, avg: 290.6ms, p80:291.3ms, p95:291.3ms, iters:2, tasks:2, threads:16} | | N/A | N/A |
| │ └─ExchangeSender_28 | 1.00 | 1 | mpp[tiflash] | | tiflash_task:{proc max:290.9ms, min:0s, avg: 145.4ms, p80:290.9ms, p95:290.9ms, iters:1, tasks:2, threads:1} | ExchangeType: Broadcast, Compression: FAST | N/A | N/A |
| │ └─TableFullScan_26 | 1.00 | 1 | mpp[tiflash] | table:date_dim | tiflash_task:{proc max:3.88ms, min:0s, avg: 1.94ms, p80:3.88ms, p95:3.88ms, iters:1, tasks:2, threads:1}, tiflash_scan:{dtfile:{total_scanned_packs:2, total_skipped_packs:12, total_scanned_rows:16384, total_skipped_rows:97625, total_rs_index_load_time: 0ms, total_read_time: 0ms}, total_create_snapshot_time: 0ms, total_local_region_num: 1, total_remote_region_num: 0} | pushed down filter:eq(tpcds50.date_dim.d_date, 2002-02-01 00:00:00.000000), keep order:false | N/A | N/A |
| └─Selection_31(Probe) | 71638034.00 | 71638034 | mpp[tiflash] | | tiflash_task:{proc max:47ms, min:34.3ms, avg: 40.6ms, p80:47ms, p95:47ms, iters:1160, tasks:2, threads:16} | not(isnull(tpcds50.catalog_sales.cs_ship_date_sk)) | N/A | N/A |
| └─TableFullScan_30 | 71997669.00 | 71997669 | mpp[tiflash] | table:catalog_sales | tiflash_task:{proc max:34ms, min:17.3ms, avg: 25.6ms, p80:34ms, p95:34ms, iters:1160, tasks:2, threads:16}, tiflash_scan:{dtfile:{total_scanned_packs:8893, total_skipped_packs:4007, total_scanned_rows:72056474, total_skipped_rows:32476901, total_rs_index_load_time: 8ms, total_read_time: 579ms}, total_create_snapshot_time: 0ms, total_local_region_num: 194, total_remote_region_num: 0} | pushed down filter:empty, keep order:false | N/A | N/A |
+----------------------------------------+-------------+----------+--------------+---------------------+---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+----------------------------------------------------------------------------------------------+---------+------+
9 rows in set (0.38 sec)
ランタイム フィルターが有効な場合のクエリの実行情報は次のとおりです。
EXPLAIN ANALYZE SELECT cs_ship_date_sk FROM catalog_sales, date_dim
-> WHERE d_date = '2002-2-01' AND
-> cs_ship_date_sk = d_date_sk;
+----------------------------------------+-------------+---------+--------------+---------------------+------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+-----------------------------------------------------------------------------------------------------------------------------------------------+---------+------+
| id | estRows | actRows | task | access object | execution info | operator info | memory | disk |
+----------------------------------------+-------------+---------+--------------+---------------------+------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+-----------------------------------------------------------------------------------------------------------------------------------------------+---------+------+
| TableReader_53 | 37343.19 | 59574 | root | | time:162.1ms, loops:82, RU:0.000000, cop_task: {num: 47, max: 0s, min: 0s, avg: 0s, p95: 0s, copr_cache_hit_ratio: 0.00} | MppVersion: 1, data:ExchangeSender_52 | 12.7 KB | N/A |
| └─ExchangeSender_52 | 37343.19 | 59574 | mpp[tiflash] | | tiflash_task:{proc max:160.8ms, min:154.3ms, avg: 157.6ms, p80:160.8ms, p95:160.8ms, iters:86, tasks:2, threads:16} | ExchangeType: PassThrough | N/A | N/A |
| └─Projection_51 | 37343.19 | 59574 | mpp[tiflash] | | tiflash_task:{proc max:160.8ms, min:154.3ms, avg: 157.6ms, p80:160.8ms, p95:160.8ms, iters:86, tasks:2, threads:16} | tpcds50.catalog_sales.cs_ship_date_sk | N/A | N/A |
| └─HashJoin_48 | 37343.19 | 59574 | mpp[tiflash] | | tiflash_task:{proc max:160.8ms, min:154.3ms, avg: 157.6ms, p80:160.8ms, p95:160.8ms, iters:86, tasks:2, threads:16} | inner join, equal:[eq(tpcds50.date_dim.d_date_sk, tpcds50.catalog_sales.cs_ship_date_sk)], runtime filter:0[IN] <- tpcds50.date_dim.d_date_sk | N/A | N/A |
| ├─ExchangeReceiver_29(Build) | 1.00 | 2 | mpp[tiflash] | | tiflash_task:{proc max:132.3ms, min:130.8ms, avg: 131.6ms, p80:132.3ms, p95:132.3ms, iters:2, tasks:2, threads:16} | | N/A | N/A |
| │ └─ExchangeSender_28 | 1.00 | 1 | mpp[tiflash] | | tiflash_task:{proc max:131ms, min:0s, avg: 65.5ms, p80:131ms, p95:131ms, iters:1, tasks:2, threads:1} | ExchangeType: Broadcast, Compression: FAST | N/A | N/A |
| │ └─TableFullScan_26 | 1.00 | 1 | mpp[tiflash] | table:date_dim | tiflash_task:{proc max:3.01ms, min:0s, avg: 1.51ms, p80:3.01ms, p95:3.01ms, iters:1, tasks:2, threads:1}, tiflash_scan:{dtfile:{total_scanned_packs:2, total_skipped_packs:12, total_scanned_rows:16384, total_skipped_rows:97625, total_rs_index_load_time: 0ms, total_read_time: 0ms}, total_create_snapshot_time: 0ms, total_local_region_num: 1, total_remote_region_num: 0} | pushed down filter:eq(tpcds50.date_dim.d_date, 2002-02-01 00:00:00.000000), keep order:false | N/A | N/A |
| └─Selection_31(Probe) | 71638034.00 | 5308995 | mpp[tiflash] | | tiflash_task:{proc max:39.8ms, min:24.3ms, avg: 32.1ms, p80:39.8ms, p95:39.8ms, iters:86, tasks:2, threads:16} | not(isnull(tpcds50.catalog_sales.cs_ship_date_sk)) | N/A | N/A |
| └─TableFullScan_30 | 71997669.00 | 5335549 | mpp[tiflash] | table:catalog_sales | tiflash_task:{proc max:36.8ms, min:23.3ms, avg: 30.1ms, p80:36.8ms, p95:36.8ms, iters:86, tasks:2, threads:16}, tiflash_scan:{dtfile:{total_scanned_packs:660, total_skipped_packs:12451, total_scanned_rows:5335549, total_skipped_rows:100905778, total_rs_index_load_time: 2ms, total_read_time: 47ms}, total_create_snapshot_time: 0ms, total_local_region_num: 194, total_remote_region_num: 0} | pushed down filter:empty, keep order:false, runtime filter:0[IN] -> tpcds50.catalog_sales.cs_ship_date_sk | N/A | N/A |
+----------------------------------------+-------------+---------+--------------+---------------------+------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+-----------------------------------------------------------------------------------------------------------------------------------------------+---------+------+
9 rows in set (0.17 sec)
2 つのクエリの実行情報を比較すると、次の改善点がわかります。
- IO 削減: TableFullScan 演算子の
total_scanned_rows比較すると、ランタイム フィルターを有効にするとTableFullScanのスキャン量が 2/3 削減されることがわかります。 - ハッシュ結合のパフォーマンス向上:
HashJoin演算子の実行時間が 376.1 ミリ秒から 157.6 ミリ秒に短縮されました。
ベストプラクティス
ランタイムフィルターは、ファクトテーブルとディメンションテーブルの結合クエリなど、大規模なテーブルと小規模なテーブルを結合するシナリオに適用できます。ディメンションテーブルのヒットデータ量が少ない場合、フィルターの値も少なくなるため、ファクトテーブルは条件を満たさないデータをより効果的に除外できます。ファクトテーブル全体をスキャンするデフォルトのシナリオと比較して、クエリパフォーマンスが大幅に向上します。
TPC-DS におけるテーブルSalesとテーブルdate_dimの結合操作が典型的な例です。
ランタイムフィルターを構成する
ランタイム フィルターを使用する場合、ランタイム フィルターのモードと述語タイプを構成できます。
ランタイムフィルターモード
ランタイムフィルタのモードは、フィルタ送信オペレータとフィルタ受信オペレータGLOBAL関係です。モードはOFF LOCAL 3つがあります。バージョン7.3.0では、モードOFFとLOCALのみがサポートされています。ランタイムフィルタのモードは、システム変数tidb_runtime_filter_modeによって制御されます。
OFF: ランタイムフィルターは無効です。無効にした後のクエリの動作は以前のバージョンと同じです。LOCAL: ランタイムフィルタはローカルモードで有効です。ローカルモードでは、フィルタセンダーオペレータとフィルタレシーバオペレータは同じMPPタスク内にあります。つまり、ランタイムフィルタは、HashJoinオペレータとTableScanオペレータが同じタスク内に存在するシナリオに適用できます。現在、ランタイムフィルタはローカルモードのみをサポートしています。このモードを有効にするには、LOCALに設定してください。GLOBAL：現在、グローバルモードはサポートされていません。ランタイムフィルターをこのモードに設定することはできません。
ランタイムフィルタータイプ
ランタイムフィルターのタイプは、生成されたフィルター演算子で使用される述語のタイプです。現在サポートされているタイプはINのみで、これは生成される述語がk1 in (xxx)に類似していることを意味します。ランタイムフィルターのタイプは、システム変数tidb_runtime_filter_typeによって制御されます。
IN: デフォルトの型。生成されたランタイムフィルターはIN型の述語を使用することを意味します。
制限事項
- ランタイム フィルターは MPPアーキテクチャの最適化であり、 TiFlashにプッシュダウンされたクエリにのみ適用できます。
- 結合タイプ：左外部結合、完全外部結合、およびアンチ結合（左テーブルがプローブ側の場合）は、ランタイムフィルターをサポートしていません。ランタイムフィルターは結合に関係するデータを事前にフィルタリングするため、上記の結合タイプでは不一致データが破棄されず、ランタイムフィルターは使用できません。
- 等価結合式：等価結合式内のプローブ列が複雑な式である場合、またはプローブ列の型がJSON、Blob、配列などの複雑なデータ型である場合、ランタイムフィルターは生成されません。主な理由は、これらの型の列が結合列として使用されることはほとんどないためです。フィルターが生成されたとしても、フィルタリング率は通常低くなります。
上記の制限事項について、ランタイム フィルターが正しく生成されたかどうかを確認する必要がある場合は、 EXPLAIN文使用して実行プランを検証できます。