TiDB から MySQL 互換データベースへのデータの移行

このドキュメントでは、TiDB クラスターからAurora、MySQL、MariaDB などの MySQL 互換データベースにデータを移行する方法について説明します。プロセス全体には 4 つのステップが含まれます。

  1. 環境をセットアップします。
  2. 完全なデータを移行します。
  3. 増分データを移行します。
  4. サービスを MySQL 互換クラスターに移行します。

ステップ 1. 環境をセットアップする

  1. TiDB クラスターをアップストリームにデプロイ。

    TiUP Playground を使用して TiDB クラスターをデプロイ。詳細については、 TiUPを使用したオンライン TiDBクラスタのデプロイと管理を参照してください。

    # Create a TiDB cluster tiup playground --db 1 --pd 1 --kv 1 --tiflash 0 --ticdc 1 # View cluster status tiup status
  2. MySQL インスタンスをダウンストリームにデプロイ。

    • ラボ環境では、次のコマンドを実行することで、Docker を使用して MySQL インスタンスを迅速にデプロイできます。

      docker run --name some-mysql -e MYSQL_ROOT_PASSWORD=my-secret-pw -p 3306:3306 -d mysql
    • 本番環境では、 MySQLのインストール手順に従って MySQL インスタンスをデプロイできます。

  3. サービスのワークロードをシミュレートします。

    ラボ環境では、 go-tpcを使用して、上流の TiDB クラスターにデータを書き込むことができます。これは、TiDB クラスター内でイベント変更を生成するためです。次のコマンドを実行して、TiDB クラスターにtpccという名前のデータベースを作成し、 TiUPベンチを使用してこのデータベースにデータを書き込みます。

    tiup bench tpcc -H 127.0.0.1 -P 4000 -D tpcc --warehouses 4 prepare tiup bench tpcc -H 127.0.0.1 -P 4000 -D tpcc --warehouses 4 run --time 300s

    go-tpcについて詳しくはTiDB で TPC-C テストを実行する方法を参照してください。

ステップ 2. 全データを移行する

環境をセットアップした後、 Dumplingを使用して上流の TiDB クラスターから完全なデータをエクスポートできます。

注記:

本番クラスターでは、GC を無効にしてバックアップを実行すると、クラスターのパフォーマンスに影響を与える可能性があります。この手順はオフピーク時間に完了することをお勧めします。

  1. ガベージ コレクション (GC) を無効にします。

    新しく書き込まれたデータが増分移行中に削除されないようにするには、完全なデータをエクスポートする前に、アップストリーム クラスターの GC を無効にする必要があります。これにより、履歴データは削除されません。

    次のコマンドを実行して GC を無効にします。

    MySQL [test]> SET GLOBAL tidb_gc_enable=FALSE;
    Query OK, 0 rows affected (0.01 sec)

    変更が有効であることを確認するには、値tidb_gc_enableをクエリします。

    MySQL [test]> SELECT @@global.tidb_gc_enable;
    +-------------------------+: | @@global.tidb_gc_enable | +-------------------------+ | 0 | +-------------------------+ 1 row in set (0.00 sec)
  2. バックアップデータ。

    1. Dumplingを使用してデータを SQL 形式でエクスポートします。

      tiup dumpling -u root -P 4000 -h 127.0.0.1 --filetype sql -t 8 -o ./dumpling_output -r 200000 -F256MiB
    2. データのエクスポートが完了したら、次のコマンドを実行してメタデータを確認します。メタデータのPosエクスポート スナップショットの TSO であり、BackupTS として記録できます。

      cat dumpling_output/metadata
      Started dump at: 2022-06-28 17:49:54 SHOW MASTER STATUS: Log: tidb-binlog Pos: 434217889191428107 GTID: Finished dump at: 2022-06-28 17:49:57
  3. データを復元します。

    MyLoader (オープンソース ツール) を使用して、データをダウンストリーム MySQL インスタンスにインポートします。 MyLoaderのインストール方法と使用方法の詳細については、 MyDumpler/MyLoaderを参照してください。 MyLoader v0.10 以前のバージョンを使用する必要があることに注意してください。上位バージョンでは、 Dumplingによってエクスポートされたメタデータ ファイルを処理できません。

    次のコマンドを実行して、 Dumplingによってエクスポートされた完全なデータを MySQL にインポートします。

    myloader -h 127.0.0.1 -P 3306 -d ./dumpling_output/
  4. (オプション) データを検証します。

    同期差分インスペクターを使用すると、特定の時点で上流と下流の間のデータの整合性をチェックできます。

    sync_diff_inspector -C ./config.yaml

    sync-diff-inspector の構成方法の詳細については、 コンフィグレーションファイルの説明を参照してください。このドキュメントでは、構成は次のようになります。

    # Diff Configuration. ######################### Datasource config ######################### [data-sources] [data-sources.upstream] host = "127.0.0.1" # Replace the value with the IP address of your upstream cluster port = 4000 user = "root" password = "" snapshot = "434217889191428107" # Set snapshot to the actual backup time (BackupTS in the "Back up data" section in [Step 2. Migrate full data](#step-2-migrate-full-data)) [data-sources.downstream] host = "127.0.0.1" # Replace the value with the IP address of your downstream cluster port = 3306 user = "root" password = "" ######################### Task config ######################### [task] output-dir = "./output" source-instances = ["upstream"] target-instance = "downstream" target-check-tables = ["*.*"]

ステップ 3. 増分データを移行する

  1. TiCDCをデプロイ。

    完全なデータ移行が完了したら、増分データをレプリケートするために TiCDC クラスターを展開および構成します。本番環境では、 TiCDCのデプロイの指示に従って TiCDC をデプロイします。このドキュメントでは、テスト クラスターの作成時に TiCDC ノードが開始されています。したがって、TiCDC をデプロイするステップをスキップして、次のステップに進んで変更フィードを作成できます。

  2. チェンジフィードを作成します。

    上流クラスターで次のコマンドを実行して、上流クラスターから下流クラスターへの変更フィードを作成します。

    tiup cdc:v<CLUSTER_VERSION> cli changefeed create --server=http://127.0.0.1:8300 --sink-uri="mysql://root:@127.0.0.1:3306" --changefeed-id="upstream-to-downstream" --start-ts="434217889191428107"

    このコマンドのパラメータは次のとおりです。

    • --server : TiCDC クラスター内の任意のノードの IP アドレス
    • --sink-uri : ダウンストリームクラスターのURI
    • --changefeed-id : 変更フィード ID。正規表現の形式である必要があります^[a-zA-Z0-9]+(\-[a-zA-Z0-9]+)*$
    • --start-ts : 変更フィードの開始タイムスタンプ。バックアップ時間 (またはステップ 2. 全データを移行するの「データのバックアップ」セクションの BackupTS) である必要があります。

    変更フィード構成の詳細については、 タスク設定ファイルを参照してください。

  3. GCを有効にします。

    TiCDC を使用した増分移行では、GC はレプリケートされた履歴データのみを削除します。したがって、変更フィードを作成した後、次のコマンドを実行して GC を有効にする必要があります。詳細はTiCDCガベージコレクション(GC) セーフポイントの完全な動作は何ですかを参照してください。

    GC を有効にするには、次のコマンドを実行します。

    MySQL [test]> SET GLOBAL tidb_gc_enable=TRUE;
    Query OK, 0 rows affected (0.01 sec)

    変更が有効であることを確認するには、値tidb_gc_enableをクエリします。

    MySQL [test]> SELECT @@global.tidb_gc_enable;
    +-------------------------+ | @@global.tidb_gc_enable | +-------------------------+ | 1 | +-------------------------+ 1 row in set (0.00 sec)

ステップ 4. サービスを移行する

変更フィードの作成後、上流クラスターに書き込まれたデータは、低レイテンシーで下流クラスターにレプリケートされます。読み取りトラフィックをダウンストリーム クラスターに段階的に移行できます。一定期間の読み取りトラフィックを観察します。ダウンストリーム クラスターが安定している場合は、次の手順で書き込みトラフィックをダウンストリーム クラスターに移行することもできます。

  1. 上流クラスターの書き込みサービスを停止します。変更フィードを停止する前に、すべてのアップストリーム データがダウンストリームにレプリケートされていることを確認してください。

    # Stop the changefeed from the upstream cluster to the downstream cluster tiup cdc cli changefeed pause -c "upstream-to-downstream" --pd=http://172.16.6.122:2379 # View the changefeed status tiup cdc cli changefeed list
    [ { "id": "upstream-to-downstream", "summary": { "state": "stopped", # Ensure that the status is stopped "tso": 434218657561968641, "checkpoint": "2022-06-28 18:38:45.685", # This time should be later than the time of stopping writing "error": null } } ]
  2. 書き込みサービスをダウンストリーム クラスターに移行した後、一定期間観察します。下流クラスターが安定している場合は、上流クラスターを破棄できます。

このページは役に立ちましたか?

Playground
新規
登録なしで TiDB の機能をワンストップでインタラクティブに体験できます。
製品
TiDB Cloud
TiDB
価格
PoC お問い合わせ
エコシステム
TiKV
TiFlash
OSS Insight
© 2024 PingCAP. All Rights Reserved.
Privacy Policy.