gh-ost または pt-osc を使用するデータベースからの連続レプリケーション
本番シナリオでは、DDL 実行中のテーブル ロックにより、データベースへの読み取りまたは書き込みがある程度ブロックされる可能性があります。したがって、読み取りと書き込みへの影響を最小限に抑えるために、オンライン DDL ツールを使用して DDL を実行することがよくあります。一般的な DDL ツールはおばけとpt-oscです。
DM を使用して MySQL から TiDB にデータを移行する場合、 online-ddl有効にして DM と gh-ost または pt-osc のコラボレーションを許可できます。
レプリケーション手順の詳細については、シナリオごとに次のドキュメントを参照してください。
- 小規模なデータセットを MySQL から TiDB に移行する
- 大規模なデータセットを MySQL から TiDB に移行する
- 小規模なデータセットの MySQL シャードを TiDB に移行およびマージする
- 大規模なデータセットの MySQL シャードを TiDB に移行およびマージする
DM で online-ddl を有効にする
DM のタスク構成ファイルで、以下に示すようにグローバル パラメーターonline-ddlからtrueを設定します。
# ----------- Global configuration -----------
## ********* Basic configuration *********
name: test # The name of the task. Should be globally unique.
task-mode: all # The task mode. Can be set to `full`, `incremental`, or `all`.
shard-mode: "pessimistic" # The shard merge mode. Optional modes are `pessimistic` and `optimistic`. The `pessimistic` mode is used by default. After understanding the principles and restrictions of the "optimistic" mode, you can set it to the "optimistic" mode.
meta-schema: "dm_meta" # The downstream database that stores the `meta` information.
online-ddl: true # Enable online-ddl support on DM to support automatic processing of "gh-ost" and "pt-osc" for the upstream database.
online-ddl を有効にした後のワークフロー
DM で online-ddl が有効になると、gh-ost または pt-osc を複製する DM によって生成される DDL ステートメントが変更されます。
gh-ost または pt-osc のワークフロー:
DDL 実テーブルのテーブル スキーマに従ってゴースト テーブルを作成します。
ゴースト テーブルに DDL を適用します。
DDL 実テーブルのデータをゴースト テーブルに複製します。
2 つのテーブル間でデータの整合性が取れたら、rename ステートメントを使用して実際のテーブルをゴースト テーブルに置き換えます。
DMのワークフロー:
ダウンストリームのゴースト テーブルの作成をスキップします。
ゴースト テーブルに適用される DDL を記録します。
ゴースト テーブルからのみデータを複製します。
記録された DDL をダウンストリームに適用します。
ワークフローの変更により、次の利点がもたらされます。
ダウンストリーム TiDB はゴースト テーブルを作成して複製する必要がないため、storageスペースとネットワーク送信のオーバーヘッドが節約されます。
シャード テーブルからデータを移行およびマージする場合、レプリケーションの正確性を確保するために、各シャード ゴースト テーブルの RENAME 操作は無視されます。