TopN およびリミット演算子のプッシュダウン

このドキュメントでは、TopN および Limit オペレータ プッシュダウンの実装について説明します。

TiDB 実行プラン ツリーでは、SQL のLIMIT句が Limit 演算子ノードに対応し、 ORDER BY句が Sort 演算子ノードに対応します。隣接する Limit 演算子と Sort 演算子は、TopN 演算子ノードとして結合されます。これは、上位 N 個のレコードが特定の並べ替えルールに従って返されることを意味します。つまり、Limit 演算子は、null 並べ替えルールを持つ TopN 演算子ノードと同等です。

述語のプッシュダウンと同様に、TopN と Limit は実行プラン ツリー内でデータ ソースにできるだけ近い位置にプッシュダウンされ、必要なデータが早い段階でフィルタリングされます。このように、プッシュダウンにより、データ送信と計算のオーバーヘッドが大幅に削減されます。

このルールを無効にするには、 式プッシュダウンの最適化ルールとブロックリストを参照してください。

このセクションでは、いくつかの例を通して TopN プッシュダウンについて説明します。

例 1:storageレイヤーのコプロセッサにプッシュダウンする

create table t(id int primary key, a int not null); explain select * from t order by a limit 10;
+----------------------------+----------+-----------+---------------+--------------------------------+ | id | estRows | task | access object | operator info | +----------------------------+----------+-----------+---------------+--------------------------------+ | TopN_7 | 10.00 | root | | test.t.a, offset:0, count:10 | | └─TableReader_15 | 10.00 | root | | data:TopN_14 | | └─TopN_14 | 10.00 | cop[tikv] | | test.t.a, offset:0, count:10 | | └─TableFullScan_13 | 10000.00 | cop[tikv] | table:t | keep order:false, stats:pseudo | +----------------------------+----------+-----------+---------------+--------------------------------+ 4 rows in set (0.00 sec)

このクエリでは、TopN オペレータ ノードがデータ フィルタリングのために TiKV にプッシュダウンされ、各コプロセッサーは 10 レコードのみを TiDB に返します。 TiDB がデータを集約した後、最終的なフィルタリングが実行されます。

例 2: TopN を結合にプッシュダウンできます (ソート ルールは外部テーブルの列のみに依存します)。

create table t(id int primary key, a int not null); create table s(id int primary key, a int not null); explain select * from t left join s on t.a = s.a order by t.a limit 10;
+----------------------------------+----------+-----------+---------------+-------------------------------------------------+ | id | estRows | task | access object | operator info | +----------------------------------+----------+-----------+---------------+-------------------------------------------------+ | TopN_12 | 10.00 | root | | test.t.a, offset:0, count:10 | | └─HashJoin_17 | 12.50 | root | | left outer join, equal:[eq(test.t.a, test.s.a)] | | ├─TopN_18(Build) | 10.00 | root | | test.t.a, offset:0, count:10 | | │ └─TableReader_26 | 10.00 | root | | data:TopN_25 | | │ └─TopN_25 | 10.00 | cop[tikv] | | test.t.a, offset:0, count:10 | | │ └─TableFullScan_24 | 10000.00 | cop[tikv] | table:t | keep order:false, stats:pseudo | | └─TableReader_30(Probe) | 10000.00 | root | | data:TableFullScan_29 | | └─TableFullScan_29 | 10000.00 | cop[tikv] | table:s | keep order:false, stats:pseudo | +----------------------------------+----------+-----------+---------------+-------------------------------------------------+ 8 rows in set (0.01 sec)

このクエリでは、TopN 演算子のソート ルールは外部テーブルtの列のみに依存するため、TopN を Join にプッシュダウンする前に計算を実行して、Join 演算の計算コストを削減できます。さらに、TiDB は TopN をstorageレイヤーまでプッシュします。

例 3: 参加前に TopN をプッシュダウンすることはできません

create table t(id int primary key, a int not null); create table s(id int primary key, a int not null); explain select * from t join s on t.a = s.a order by t.id limit 10;
+-------------------------------+----------+-----------+---------------+--------------------------------------------+ | id | estRows | task | access object | operator info | +-------------------------------+----------+-----------+---------------+--------------------------------------------+ | TopN_12 | 10.00 | root | | test.t.id, offset:0, count:10 | | └─HashJoin_16 | 12500.00 | root | | inner join, equal:[eq(test.t.a, test.s.a)] | | ├─TableReader_21(Build) | 10000.00 | root | | data:TableFullScan_20 | | │ └─TableFullScan_20 | 10000.00 | cop[tikv] | table:s | keep order:false, stats:pseudo | | └─TableReader_19(Probe) | 10000.00 | root | | data:TableFullScan_18 | | └─TableFullScan_18 | 10000.00 | cop[tikv] | table:t | keep order:false, stats:pseudo | +-------------------------------+----------+-----------+---------------+--------------------------------------------+ 6 rows in set (0.00 sec)

TopN をInner Joinより前にプッシュダウンすることはできません。上記のクエリを例にとると、Join 後に 100 レコードを取得した場合、TopN 後には 10 レコードが残ることになります。ただし、最初に TopN を実行して 10 レコードを取得した場合、結合後には 5 レコードのみが残ります。このような場合、プッシュダウンの結果は異なります。

同様に、 TopN は外部結合の内部テーブルにプッシュダウンすることも、ソート ルールが複数のテーブルの列 ( t.a+s.aなど) に関連している場合もプッシュダウンすることはできません。 TopN のソート ルールが外部テーブルの列に排他的に依存する場合にのみ、TopN をプッシュダウンできます。

例 4: TopN を Limit に変換する

create table t(id int primary key, a int not null); create table s(id int primary key, a int not null); explain select * from t left join s on t.a = s.a order by t.id limit 10;
+----------------------------------+----------+-----------+---------------+-------------------------------------------------+ | id | estRows | task | access object | operator info | +----------------------------------+----------+-----------+---------------+-------------------------------------------------+ | TopN_12 | 10.00 | root | | test.t.id, offset:0, count:10 | | └─HashJoin_17 | 12.50 | root | | left outer join, equal:[eq(test.t.a, test.s.a)] | | ├─Limit_21(Build) | 10.00 | root | | offset:0, count:10 | | │ └─TableReader_31 | 10.00 | root | | data:Limit_30 | | │ └─Limit_30 | 10.00 | cop[tikv] | | offset:0, count:10 | | │ └─TableFullScan_29 | 10.00 | cop[tikv] | table:t | keep order:true, stats:pseudo | | └─TableReader_35(Probe) | 10000.00 | root | | data:TableFullScan_34 | | └─TableFullScan_34 | 10000.00 | cop[tikv] | table:s | keep order:false, stats:pseudo | +----------------------------------+----------+-----------+---------------+-------------------------------------------------+ 8 rows in set (0.00 sec)

上記のクエリでは、最初に TopN が外部テーブルtにプッシュされます。 TopN はt.idでソートする必要があります。これは主キーであり、TopN で追加のソートを行わずに順序 ( keep order: true ) で直接読み取ることができます。したがって、TopN は Limit として簡略化されます。

このページは役に立ちましたか?

Playground
登録なしで TiDB の機能をワンストップでインタラクティブに体験できます。
製品
TiDB Cloud
TiDB
価格
PoC お問い合わせ
エコシステム
TiKV
TiFlash
OSS Insight
© 2024 PingCAP. All Rights Reserved.
Privacy Policy.