データ移行アーキテクチャ

このドキュメントでは、データ移行 (DM) のアーキテクチャについて説明します。

DM は、DM-master、DM-worker、dmctl の 3 つのコンポーネントで構成されます。

Data Migration architecture

アーキテクチャコンポーネント

DMマスター

DM-master は、データ移行タスクの操作を管理およびスケジュールします。

DMクラスタのトポロジ情報の保存
DMワーカープロセスの実行状態を監視する
データ移行タスクの実行状態の監視
データ移行タスクの管理のための統合ポータルの提供
シャーディングシナリオにおける各インスタンスのシャーディングされたテーブルの DDL 移行の調整

DMワーカー

DM-worker は特定のデータ移行タスクを実行します。

binlogデータをローカルstorageに保存する
データ移行サブタスクの構成情報を保存する
データ移行サブタスクの操作のオーケストレーション
データ移行サブタスクの実行状態の監視

DM-workerの詳細についてはDMワーカー紹介参照してください。

dmctl

dmctl は、DM クラスターを制御するために使用されるコマンドラインツールです。

データ移行タスクの作成、更新、または削除
データ移行タスクの状態を確認する
データ移行タスクのエラー処理
データ移行タスクの構成の正確さを確認する

アーキテクチャの特徴

高可用性

複数の DM マスターノードを展開する場合、すべての DM マスターノードは組み込みの etcd を使用してクラスターを形成します。DM マスタークラスターは、クラスターノード情報やタスク構成などのメタデータを保存するために使用されます。etcd を通じて選出されたリーダーノードは、クラスター管理やデータ移行タスク管理などのサービスを提供するために使用されます。したがって、利用可能な DM マスターノードの数が展開されたノードの半分を超える場合でも、DM クラスターは正常にサービスを提供できます。

デプロイされた DM ワーカーノードの数が上流の MySQL/MariaDB ノードの数を超えると、デフォルトでは余分な DM ワーカーノードはアイドル状態になります。DM ワーカーノードがオフラインになったり、DM マスターリーダーから分離したりした場合、DM マスターは元の DM ワーカーノードのデータ移行タスクを他のアイドル状態の DM ワーカーノードに自動的にスケジュールします (DM ワーカーノードが分離されると、そのノード上のデータ移行タスクが自動的に停止されます)。使用可能なアイドル状態の DM ワーカーノードがない場合、元の DM ワーカーのデータ移行タスクは、1 つの DM ワーカーノードがアイドル状態になるまで一時的に停止し、その後タスクが自動的に再開されます。

注記：
データ移行タスクが完全なエクスポートまたはインポートのプロセス中の場合、移行タスクは高可用性をサポートしません。主な理由は次のとおりです。
完全なエクスポートの場合、MySQL は特定のスナップショットポイントからのエクスポートをまだサポートしていません。つまり、データ移行タスクが再スケジュールまたは再開された後、エクスポートは以前の中断ポイントから再開できません。
完全インポートの場合、DM-worker はノード間でエクスポートされた完全なデータの読み取りをまだサポートしていません。つまり、データ移行タスクが新しい DM-worker ノードにスケジュールされた後、スケジュールが実行される前に、元の DM-worker ノードでエクスポートされた完全なデータを読み取ることはできません。