重要
このページは英語版のページを機械翻訳しています。原文はこちらからご覧ください。

データ移行を使用してデータを移行する

このガイドでは、データ移行(DM)ツールを使用してデータを移行する方法を示します。

ステップ1:DMクラスタをデプロイ

TiUPを使用してDMクラスタをデプロイしますにすることをお勧めします。トライアルまたはテスト用にバイナリを使用してDMクラスタをデプロイするすることもできます。

ノート:

  • すべてのDM構成ファイルのデータベースパスワードには、 dmctlで暗号化されたパスワードを使用することをお勧めします。データベースのパスワードが空の場合、暗号化する必要はありません。 dmctlを使用してデータベースパスワードを暗号化しますを参照してください。
  • アップストリームおよびダウンストリームデータベースのユーザーは、対応する読み取りおよび書き込み権限を持っている必要があります。

ステップ2:クラスタ情報を確認する

TiUPを使用してDMクラスタを展開すると、構成情報は次のようになります。

  • DMクラスタの関連コンポーネントの構成情報:

    成分ホストポート
    dm_worker1172.16.10.728262
    dm_worker2172.16.10.738262
    dm_master172.16.10.718261
  • アップストリームおよびダウンストリームデータベースインスタンスの情報:

    データベースインスタンスホストポートユーザー名暗号化されたパスワード
    アップストリームMySQL-1172.16.10.813306VjX8cEeTX + qcvZ3bPaO4h0C80pe / 1aU =
    アップストリームMySQL-2172.16.10.823306VjX8cEeTX + qcvZ3bPaO4h0C80pe / 1aU =
    ダウンストリームTiDB172.16.10.834000

MySQLホストに必要な特権のリストは、 事前チェックのドキュメントに記載されています。

ステップ3:データソースを作成する

  1. MySQL-1関連情報をconf/source1.yamlに書き込みます:

    # MySQL1 Configuration.
    
    source-id: "mysql-replica-01"
    # This indicates that whether DM-worker uses Global Transaction Identifier (GTID) to pull binlog. Before you use this configuration item, make sure that the GTID mode is enabled in the upstream MySQL.
    enable-gtid: false
    
    from:
      host: "172.16.10.81"
      user: "root"
      password: "VjX8cEeTX+qcvZ3bPaO4h0C80pe/1aU="
      port: 3306
    
  2. ターミナルで次のコマンドを実行し、 tiup dmctlを使用してMySQL-1データソース構成をDMクラスタにロードします。

    tiup dmctl --master-addr 172.16.10.71:8261 operate-source create conf/source1.yaml
    
  3. MySQL-2の場合、構成ファイルの関連情報を変更して、同じdmctlコマンドを実行します。

ステップ4:データ移行タスクを構成する

次の例では、アップストリームMySQL-1インスタンスとMySQL-2インスタンスの両方のtest_dbデータベース内のすべてのtest_tableテーブルデータを、完全データと増分データで、TiDBのtest_dbデータベース内のダウンストリームtest_tableテーブルに移行する必要があると想定しています。モード。

task.yamlのタスク構成ファイルを次のように編集します。

# The task name. You need to use a different name for each of the multiple tasks that
# run simultaneously.
name: "test"
# The full data plus incremental data (all) migration mode.
task-mode: "all"
# The downstream TiDB configuration information.
target-database:
  host: "172.16.10.83"
  port: 4000
  user: "root"
  password: ""

# Configuration of all the upstream MySQL instances required by the current data migration task.
mysql-instances:
-
  # The ID of upstream instances or the migration group. You can refer to the configuration of `source_id` in the "inventory.ini" file or in the "dm-master.toml" file.
  source-id: "mysql-replica-01"
  # The configuration item name of the block and allow lists of the name of the
  # database/table to be migrated, used to quote the global block and allow
  # lists configuration that is set in the global block-allow-list below.
  block-allow-list: "global"  # Use black-white-list if the DM version is earlier than or equal to v2.0.0-beta.2.
  # The configuration item name of the dump processing unit, used to quote the global configuration of the dump unit.
  mydumper-config-name: "global"

-
  source-id: "mysql-replica-02"
  block-allow-list: "global"  # Use black-white-list if the DM version is earlier than or equal to v2.0.0-beta.2.
  mydumper-config-name: "global"

# The global configuration of block and allow lists. Each instance can quote it by the
# configuration item name.
block-allow-list:                     # Use black-white-list if the DM version is earlier than or equal to v2.0.0-beta.2.
  global:
    do-tables:                        # The allow list of upstream tables to be migrated.
    - db-name: "test_db"              # The database name of the table to be migrated.
      tbl-name: "test_table"          # The name of the table to be migrated.

# The global configuration of the dump unit. Each instance can quote it by the configuration item name.
mydumpers:
  global:
    extra-args: ""

ステップ5:データ移行タスクを開始します

データ移行構成で発生する可能性のあるエラーを事前に検出するために、DMは事前チェック機能を提供します。

  • DMは、データ移行タスクの開始時に、対応する特権と構成を自動的にチェックします。
  • check-taskコマンドを使用して、アップストリームのMySQLインスタンス構成がDM要件を満たしているかどうかを手動で事前チェックすることもできます。

事前チェック機能の詳細については、 アップストリームのMySQLインスタンス構成を事前に確認しますを参照してください。

ノート:

データ移行タスクを初めて開始する前に、アップストリームを構成しておく必要があります。それ以外の場合は、タスクの開始中にエラーが報告されます。

tiup dmctlコマンドを実行して、データ移行タスクを開始します。 task.yamlは上で編集された設定ファイルです。

tiup dmctl --master-addr 172.16.10.71:8261 start-task ./task.yaml
  • 上記のコマンドが次の結果を返す場合は、タスクが正常に開始されたことを示しています。

    {
        "result": true,
        "msg": "",
        "workers": [
            {
                "result": true,
                "worker": "172.16.10.72:8262",
                "msg": ""
            },
            {
                "result": true,
                "worker": "172.16.10.73:8262",
                "msg": ""
            }
        ]
    }
    
  • データ移行タスクの開始に失敗した場合は、返されたプロンプトに従って構成を変更してから、 start-task task.yamlコマンドを実行してタスクを再開してください。

手順6:データ移行タスクを確認する

タスクの状態を確認する必要がある場合、または特定のデータ移行タスクがDMクラスタで実行されているかどうかを確認する必要がある場合は、次のコマンドをtiup dmctlで実行します。

tiup dmctl --master-addr 172.16.10.71:8261 query-status

手順7:データ移行タスクを停止する

データを移行する必要がなくなった場合は、次のコマンドをtiup dmctlで実行して、タスクを停止します。

tiup dmctl --master-addr 172.16.10.71:8261 stop-task test

testは、 task.yaml構成ファイルのname構成項目で設定したタスク名です。

ステップ8:タスクを監視し、ログを確認します

Prometheus、Alertmanager、およびGrafanaが、TiUPを使用したDMクラスタのデプロイとともに正常にデプロイされ、Grafanaアドレスが172.16.10.71であると仮定します。 DMに関連するアラート情報を表示するには、ブラウザーでhttp://172.16.10.71:9093を開き、Alertmanagerに入ります。監視メトリックを確認するには、 http://172.16.10.71:3000に移動し、DMダッシュボードを選択します。

DMクラスタの実行中、DM-master、DM-worker、およびdmctlは、ログを介して監視メトリック情報を出力します。各コンポーネントのログディレクトリは次のとおりです。

  • DM-masterログディレクトリ: --log-fileのDM-masterプロセスパラメータで指定されます。 DMがTiUPを使用して展開されている場合、ログディレクトリはDMマスターノードで{log_dir}です。
  • DM-workerログディレクトリ: --log-fileのDM-workerプロセスパラメータで指定されます。 DMがTiUPを使用してデプロイされている場合、ログディレクトリはDM-workerノードで{log_dir}です。