SQL 式を使用して DML イベントをフィルタリングする
このドキュメントでは、DM を使用して継続的な増分データ レプリケーションを実行するときに、SQL 式を使用してbinlogイベントをフィルター処理する方法を紹介します。詳細なレプリケーション手順については、次のドキュメントを参照してください。
- 小規模データセットを MySQL から TiDB に移行する
 - 大規模なデータセットをMySQLからTiDBに移行する
 - 小さなデータセットの MySQL シャードを TiDB に移行してマージする
 - 大規模データセットの MySQL シャードを TiDB に移行してマージする
 
増分データ レプリケーションを実行する場合、 Binlogイベントフィルター使用して特定の種類のbinlogイベントをフィルターできます。たとえば、アーカイブや監査などの目的で、 DELETEイベントをダウンストリームにレプリケートしないように選択できます。ただし、 Binlogイベント フィルターでは、より細かい粒度が必要な行のDELETEのイベントをフィルターするかどうかを判断できません。
この問題に対処するため、バージョン 2.0.5 以降、DM は増分データ レプリケーションでbinlog value filter使用してデータをフィルター処理することをサポートしています。DM がサポートするROW形式のbinlogのうち、 binlogイベントはすべての列の値を保持し、これらの値に基づいて SQL 式を構成できます。式が行の変更をTRUEとして計算した場合、DM はこの行の変更をダウンストリームに複製しません。
Binlogイベントフィルターと同様に、タスク設定ファイルでbinlog value filter設定する必要があります。詳細については、次の設定例を参照してください。高度なタスク設定と説明については、 DM 高度なタスク構成ファイルを参照してください。
name: test
task-mode: all
mysql-instances:
  - source-id: "mysql-replica-01"
    expression-filters: ["even_c"]
expression-filter:
  even_c:
    schema: "expr_filter"
    table: "tbl"
    insert-value-expr: "c % 2 = 0"
上記の設定例では、 even_cルールが設定され、データソースmysql-replica-01によって参照されています。このルールによれば、 expr_filterスキーマのtb1テーブルで、 c列 ( c % 2 = 0 ) に偶数が挿入されると、このinsertステートメントは下流に複製されません。次の例は、このルールの効果を示しています。
次のデータをアップストリーム データ ソースに増分的に挿入します。
INSERT INTO tbl(id, c) VALUES (1, 1), (2, 2), (3, 3), (4, 4);
次に、ダウンストリームのtb1テーブルをクエリしますcの奇数行のみがレプリケートされていることがわかります。
MySQL [test]> select * from tbl;
+------+------+
| id   | c    |
+------+------+
|    1 |    1 |
|    3 |    3 |
+------+------+
2 rows in set (0.001 sec)
コンフィグレーションパラメータと説明
schema: 一致させるアップストリーム スキーマの名前。ワイルドカード一致または通常の一致はサポートされていません。table: 一致させるアップストリーム テーブルの名前。ワイルドカード一致または通常の一致はサポートされていません。insert-value-expr:INSERT種類のbinlogイベント (WRITE_ROWS_EVENT) によって運ばれるupdate-new-value-exprに影響を及ぼす式を設定します。この式を同じ設定項目内でupdate-old-value-expr、またはdelete-value-exprと一緒に使用することはできません。update-old-value-expr:UPDATE種類のbinlogイベント (UPDATE_ROWS_EVENT) によって保持される古い値に有効になる式を構成します。この式を同じ構成項目でinsert-value-exprまたはdelete-value-exprと一緒に使用することはできません。update-new-value-expr:UPDATE種類のbinlogイベント (UPDATE_ROWS_EVENT) によって伝達される新しい値に有効になる式を構成します。この式を同じ構成項目でinsert-value-exprまたはdelete-value-exprと一緒に使用することはできません。delete-value-expr:DELETE種類のbinlogイベント (DELETE_ROWS_EVENT) によって伝達される値に影響を及ぼす式を設定します。この式はinsert-value-expr、update-old-value-expr、またはupdate-new-value-exprと一緒に使用することはできません。
注記:
update-old-value-exprとupdate-new-value-expr一緒に設定できます。update-old-value-exprとupdate-new-value-expr一緒に構成されている場合、「更新 + 古い値」がupdate-old-value-exprに一致し、 「更新 + 新しい値」がupdate-new-value-expr一致する行がフィルタリングされます。update-old-value-exprとupdate-new-value-exprのいずれかが設定されている場合、設定された式によって行の変更全体をフィルタリングするかどうかが決定されます。つまり、古い値の削除と新しい値の挿入が全体としてフィルタリングされます。
SQL 式は 1 つの列または複数の列で使用できます。また、 c % 2 = 0 、 a*a + b*b = c*c 、 ts > NOW()など、TiDB でサポートされている SQL関数を使用することもできます。
TIMESTAMPデフォルトのタイムゾーンは、タスク構成ファイルで指定されたタイムゾーンです。デフォルト値はダウンストリームのタイムゾーンです。 c_timestamp = '2021-01-01 12:34:56.5678+08:00'ような方法でタイムゾーンを明示的に指定できます。
expression-filter構成項目の下に複数のフィルタリング ルールを設定できます。上流データ ソースは、 expression-filtersの必要なルールを参照して有効にします。複数のルールを使用する場合、いずれかのルールが一致すると、行の変更全体がフィルタリングされます。
注記:
式フィルタリング ルールを多く設定しすぎると、DM の計算オーバーヘッドが増加し、データのレプリケーションが遅くなります。