- ドキュメント ホーム
- TiDBについて
- クイックスタート
- 発展させる
- 概要
- クイックスタート
- TiDB Cloud(開発者層) で TiDB クラスターを構築する
- TiDB の CRUD SQL
- TiDB でシンプルな CRUD アプリを構築する
- 応用例
- TiDB に接続する
- データベース スキーマの設計
- 書き込みデータ
- データの読み取り
- 取引
- 最適化
- トラブルシューティング
- 参照
- 書店のサンプル アプリケーション
- ガイドライン
- アーカイブされたドキュメント
- クラウドネイティブ開発環境
- サードパーティのサポート
- デプロイ
- 移行する
- 管理
- 監視と警告
- トラブルシューティング
- TiDB トラブルシューティング マップ
- 遅いクエリを特定する
- 遅いクエリを分析する
- SQL 診断
- Top SQLを使用して高価なクエリを特定する
- ログを使用して高価なクエリを特定する
- ステートメント要約表
- ホットスポットの問題のトラブルシューティング
- 増加した読み取りおよび書き込み遅延のトラブルシューティング
- クラスターのオンサイト情報の保存と復元
- クラスタ セットアップのトラブルシューティング
- 高いディスク I/O 使用率のトラブルシューティング
- ロック競合のトラブルシューティング
- TiFlash のトラブルシューティング
- オプティミスティック トランザクションでの書き込み競合のトラブルシューティング
- データとインデックス間の不一致のトラブルシューティング
- 性能チューニング
- チューニングガイド
- Configuration / コンフィグレーションのチューニング
- システムのチューニング
- ソフトウェアのチューニング
- Configuration / コンフィグレーション
- コプロセッサ キャッシュ
- SQL チューニング
- チュートリアル
- TiDB ツール
- 概要
- ユースケース
- ダウンロード
- TiUP
- ドキュメンテーション マップ
- 概要
- 用語と概念
- TiUP コンポーネントの管理
- FAQ
- トラブルシューティングガイド
- コマンドリファレンス
- 概要
- TiUP コマンド
- TiUP クラスタ コマンド
- 概要
- tiup cluster audit
- tiup cluster check
- tiup cluster clean
- tiup cluster deploy
- tiup cluster destroy
- tiup cluster disable
- tiup cluster display
- tiup cluster edit-config
- tiup cluster enable
- tiup cluster help
- tiup cluster import
- tiup cluster list
- tiup cluster patch
- tiup cluster prune
- tiup cluster reload
- tiup cluster rename
- tiup cluster replay
- tiup cluster restart
- tiup cluster scale-in
- tiup cluster scale-out
- tiup cluster start
- tiup cluster stop
- tiup cluster template
- tiup cluster upgrade
- TiUP DMコマンド
- TiDB クラスター トポロジ リファレンス
- DM クラスタ トポロジ リファレンス
- ミラー リファレンス ガイド
- TiUP コンポーネント
- PingCAPクリニック診断サービス
- TiDB Operator
- Dumpling
- TiDB Lightning
- TiDB データ移行
- バックアップと復元 (BR)
- Binlog
- TiCDC
- Dumpling
- 同期差分インスペクター
- ティスパーク
- 参照
- クラスタ アーキテクチャ
- 主な監視指標
- セキュリティ
- 権限
- SQL
- SQL 言語の構造と構文
- SQL ステートメント
ADD COLUMN
ADD INDEX
ADMIN
ADMIN CANCEL DDL
ADMIN CHECKSUM TABLE
ADMIN CHECK [TABLE|INDEX]
ADMIN SHOW DDL [JOBS|QUERIES]
ADMIN SHOW TELEMETRY
ALTER DATABASE
ALTER INDEX
ALTER INSTANCE
ALTER PLACEMENT POLICY
ALTER TABLE
ALTER TABLE COMPACT
ALTER USER
ANALYZE TABLE
BACKUP
BATCH
BEGIN
CHANGE COLUMN
COMMIT
CHANGE DRAINER
CHANGE PUMP
CREATE [GLOBAL|SESSION] BINDING
CREATE DATABASE
CREATE INDEX
CREATE PLACEMENT POLICY
CREATE ROLE
CREATE SEQUENCE
CREATE TABLE LIKE
CREATE TABLE
CREATE USER
CREATE VIEW
DEALLOCATE
DELETE
DESC
DESCRIBE
DO
DROP [GLOBAL|SESSION] BINDING
DROP COLUMN
DROP DATABASE
DROP INDEX
DROP PLACEMENT POLICY
DROP ROLE
DROP SEQUENCE
DROP STATS
DROP TABLE
DROP USER
DROP VIEW
EXECUTE
EXPLAIN ANALYZE
EXPLAIN
FLASHBACK TABLE
FLUSH PRIVILEGES
FLUSH STATUS
FLUSH TABLES
GRANT <privileges>
GRANT <role>
INSERT
KILL [TIDB]
LOAD DATA
LOAD STATS
MODIFY COLUMN
PREPARE
RECOVER TABLE
RENAME INDEX
RENAME TABLE
REPLACE
RESTORE
REVOKE <privileges>
REVOKE <role>
ROLLBACK
SELECT
SET DEFAULT ROLE
SET [NAMES|CHARACTER SET]
SET PASSWORD
SET ROLE
SET TRANSACTION
SET [GLOBAL|SESSION] <variable>
SHOW ANALYZE STATUS
SHOW [BACKUPS|RESTORES]
SHOW [GLOBAL|SESSION] BINDINGS
SHOW BUILTINS
SHOW CHARACTER SET
SHOW COLLATION
SHOW [FULL] COLUMNS FROM
SHOW CONFIG
SHOW CREATE PLACEMENT POLICY
SHOW CREATE SEQUENCE
SHOW CREATE TABLE
SHOW CREATE USER
SHOW DATABASES
SHOW DRAINER STATUS
SHOW ENGINES
SHOW ERRORS
SHOW [FULL] FIELDS FROM
SHOW GRANTS
SHOW INDEX [FROM|IN]
SHOW INDEXES [FROM|IN]
SHOW KEYS [FROM|IN]
SHOW MASTER STATUS
SHOW PLACEMENT
SHOW PLACEMENT FOR
SHOW PLACEMENT LABELS
SHOW PLUGINS
SHOW PRIVILEGES
SHOW [FULL] PROCESSSLIST
SHOW PROFILES
SHOW PUMP STATUS
SHOW SCHEMAS
SHOW STATS_HEALTHY
SHOW STATS_HISTOGRAMS
SHOW STATS_META
SHOW STATUS
SHOW TABLE NEXT_ROW_ID
SHOW TABLE REGIONS
SHOW TABLE STATUS
SHOW [FULL] TABLES
SHOW [GLOBAL|SESSION] VARIABLES
SHOW WARNINGS
SHUTDOWN
SPLIT REGION
START TRANSACTION
TABLE
TRACE
TRUNCATE
UPDATE
USE
WITH
- データ型
- 関数と演算子
- クラスタ化インデックス
- 制約
- 生成された列
- SQL モード
- テーブル属性
- 取引
- ガベージ コレクション (GC)
- ビュー
- パーティショニング
- 一時テーブル
- キャッシュされたテーブル
- 文字セットと照合順序
- SQL の配置規則
- システム テーブル
mysql
- 情報_スキーマ
- 概要
ANALYZE_STATUS
CLIENT_ERRORS_SUMMARY_BY_HOST
CLIENT_ERRORS_SUMMARY_BY_USER
CLIENT_ERRORS_SUMMARY_GLOBAL
CHARACTER_SETS
CLUSTER_CONFIG
CLUSTER_HARDWARE
CLUSTER_INFO
CLUSTER_LOAD
CLUSTER_LOG
CLUSTER_SYSTEMINFO
COLLATIONS
COLLATION_CHARACTER_SET_APPLICABILITY
COLUMNS
DATA_LOCK_WAITS
DDL_JOBS
DEADLOCKS
ENGINES
INSPECTION_RESULT
INSPECTION_RULES
INSPECTION_SUMMARY
KEY_COLUMN_USAGE
METRICS_SUMMARY
METRICS_TABLES
PARTITIONS
PLACEMENT_POLICIES
PROCESSLIST
REFERENTIAL_CONSTRAINTS
SCHEMATA
SEQUENCES
SESSION_VARIABLES
SLOW_QUERY
STATISTICS
TABLES
TABLE_CONSTRAINTS
TABLE_STORAGE_STATS
TIDB_HOT_REGIONS
TIDB_HOT_REGIONS_HISTORY
TIDB_INDEXES
TIDB_SERVERS_INFO
TIDB_TRX
TIFLASH_REPLICA
TIKV_REGION_PEERS
TIKV_REGION_STATUS
TIKV_STORE_STATUS
USER_PRIVILEGES
VIEWS
METRICS_SCHEMA
- UI
- TiDB ダッシュボード
- 概要
- 管理
- アクセス
- 概要ページ
- クラスター情報ページ
- Top SQLページ
- キー ビジュアライザー ページ
- メトリクス関係グラフ
- SQL ステートメントの分析
- スロークエリページ
- クラスタ診断
- 検索ログ ページ
- インスタンスのプロファイリング
- セッションの管理とConfiguration / コンフィグレーション
- FAQ
- CLI
- コマンド ライン フラグ
- Configuration / コンフィグレーションファイルのパラメーター
- システム変数
- ストレージ エンジン
- テレメトリー
- エラーコード
- テーブル フィルター
- トポロジ ラベルごとにレプリカをスケジュールする
- よくある質問
- リリースノート
- すべてのリリース
- リリースのタイムライン
- TiDB のバージョニング
- v6.1
- v6.0
- v5.4
- v5.3
- v5.2
- v5.1
- v5.0
- v4.0
- v3.1
- v3.0
- v2.1
- v2.0
- v1.0
- 用語集
移行タスクの事前チェック
DMを使用してデータをアップストリームからダウンストリームに移行する前に、事前チェックにより、アップストリームデータベース構成のエラーを検出し、移行がスムーズに行われるようにします。このドキュメントでは、DM事前チェック機能を紹介します。これには、その使用シナリオ、チェック項目、および引数が含まれます。
使用シナリオ
データ移行タスクをスムーズに実行するために、DMはタスクの開始時に事前チェックを自動的にトリガーし、チェック結果を返します。 DMは、事前チェックに合格した後にのみ移行を開始します。
事前チェックを手動でトリガーするには、 check-task
コマンドを実行します。
例えば:
tiup dmctl check-task ./task.yaml
チェック項目の説明
タスクの事前チェックがトリガーされた後、DMは移行モードの構成に従って対応するアイテムをチェックします。
このセクションには、すべての事前チェック項目がリストされています。
ノート:
このドキュメントでは、合格する必要のあるチェック項目に「(必須)」というラベルが付いています。
必須のチェック項目に合格しなかった場合、DMはチェック後にエラーを返し、移行タスクを続行しません。この場合、エラーメッセージに従って構成を変更し、事前チェックの要件を満たした後でタスクを再試行してください。
必須ではないチェック項目に合格しなかった場合、DMはチェック後に警告を返します。チェック結果に警告のみが含まれ、エラーが含まれていない場合、DMは自動的に移行タスクを開始します。
共通のチェック項目
選択した移行モードに関係なく、事前チェックには常に次の一般的なチェック項目が含まれます。
データベースバージョン
MySQLバージョン>5.5
MariaDBバージョン>=10.1.2
警告- DMを使用してMySQL8.0からTiDBにデータを移行することは、実験的機能です(DM v2.0以降に導入されました)。実稼働環境で使用することはお勧めしません。
- DMを使用してMariaDBからTiDBにデータを移行することは、実験的機能です。実稼働環境で使用することはお勧めしません。
アップストリームMySQLテーブルスキーマの互換性
- アップストリームテーブルに、TiDBでサポートされていない外部キーがあるかどうかを確認します。事前チェックで外部キーが見つかった場合、警告が返されます。
- (必須)文字セットに互換性の違いがあるかどうかを確認します。詳細については、 TiDBがサポートする文字セットを参照してください。
- (必須)アップストリームテーブルに主キー制約または一意キー制約があるかどうかを確認します(v1.0.7から導入)
完全なデータ移行の項目を確認してください
完全なデータ移行モード( task-mode: full
)の場合、事前チェックには共通のチェック項目に加えて、次のチェック項目も含まれます。
(必須)アップストリームデータベースのダンプ権限
- INFORMATION_SCHEMAおよびダンプテーブルに対するSELECT権限
consistency=flush
の場合はRELOAD権限consistency=flush/lock
の場合、ダンプテーブルに対するLOCKTABLES権限
(必須)アップストリームMySQLマルチインスタンスシャーディングテーブルの一貫性
ペシミスティックモードで、すべてのシャードテーブルのテーブルスキーマが次の項目で一貫しているかどうかを確認します。
- 列の数
- カラム名
- カラムの順序
- カラムタイプ
- 主キー
- 一意のインデックス
オプティミスティックモードで、すべてのシャードテーブルのスキーマが楽観的な互換性を満たしているかどうかを確認します。
移行タスクが
start-task
コマンドによって正常に開始された場合、このタスクの事前チェックは整合性チェックをスキップします。
シャードテーブルの主キーを自動インクリメントする
- シャーディングされたテーブルに自動インクリメントの主キーがある場合、事前チェックは警告を返します。自動インクリメントの主キーに競合がある場合、解決策については自動インクリメント主キーの競合を処理しますを参照してください。
増分データ移行の項目を確認してください
インクリメンタルデータ移行モード( task-mode: incremental
)の場合、事前チェックには共通のチェック項目に加えて、次のチェック項目も含まれます。
(必須)アップストリームデータベースのREPLICATION権限
- レプリケーションクライアントの許可
- REPLICATIONSLAVEパーミッション
(必須)データベースのプライマリ-セカンダリ構成
- アップストリームデータベースのデータベース
server_id
を指定する必要があります(AWS Aurora以外の環境ではGTIDをお勧めします)。
- アップストリームデータベースのデータベース
(必須)MySQLbinlog構成
- binlogが有効になっているかどうかを確認します(DMで必要)。
binlog_format=ROW
が構成されているかどうかを確認します(DMはROW形式のbinlogの移行のみをサポートします)。binlog_row_image=FULL
が構成されているかどうかを確認します(DMはbinlog_row_image=FULL
のみをサポートします)。binlog_do_db
またはbinlog_ignore_db
が構成されている場合は、移行するデータベーステーブルがbinlog_do_db
およびbinlog_ignore_db
の条件を満たしているかどうかを確認します。
(必須)アップストリームデータベースがオンライン-DDLプロセスにあるかどうかを確認します(
ghost
テーブルは作成されますが、rename
フェーズはまだ実行されていません)。アップストリームがオンラインDDLプロセスにある場合、事前チェックはエラーを返します。この場合、DDLが完了するまで待ってから再試行してください。
完全および増分データ移行の項目を確認してください
フルおよびインクリメンタルデータ移行モード( task-mode: all
)の場合、 共通のチェック項目に加えて、事前チェックには完全なデータ移行チェック項目と増分データ移行チェック項目も含まれます。
無視できるチェック項目
事前チェックにより、環境内の潜在的なリスクを見つけることができます。チェック項目を無視することはお勧めしません。データ移行タスクに特別なニーズがある場合は、 ignore-checking-items
構成アイテムを使用していくつかのチェック項目をスキップできます。
チェック項目 | 説明 |
---|---|
dump_privilege | アップストリームMySQLインスタンスのユーザーのダンプ権限を確認します。 |
replication_privilege | アップストリームMySQLインスタンスのユーザーのレプリケーション権限を確認します。 |
version | アップストリームデータベースのバージョンを確認します。 |
server_id | server_idがアップストリームデータベースで構成されているかどうかを確認します。 |
binlog_enable | アップストリームデータベースでbinlogが有効になっているかどうかを確認します。 |
table_schema | アップストリームMySQLテーブルのテーブルスキーマの互換性をチェックします。 |
schema_of_shard_tables | アップストリームのMySQLマルチインスタンスシャードのテーブルスキーマの整合性をチェックします。 |
auto_increment_ID | 自動インクリメントの主キーがアップストリームのMySQLマルチインスタンスシャードで競合していないかどうかを確認します。 |
ノート:
v6.0より前のバージョンでは、より無視できるチェック項目がサポートされています。 v6.0以降、DMではデータの安全性に関連するいくつかのチェック項目を無視することはできません。たとえば、
binlog_row_image
パラメータを誤って設定すると、レプリケーション中にデータが失われる可能性があります。
事前チェック引数を構成する
移行タスクの事前チェックは、並列処理をサポートします。シャーディングされたテーブルの行数が100万レベルに達した場合でも、事前チェックは数分で完了できます。
事前チェックのスレッド数を指定するには、移行タスク構成ファイルのmydumpers
フィールドのthreads
引数を構成できます。
mydumpers: # Configuration arguments of the dump processing unit
global: # Configuration name
threads: 4 # The number of threads that access the upstream when the dump processing unit performs the precheck and exports data from the upstream database (4 by default)
chunk-filesize: 64 # The size of the files generated by the dump processing unit (64 MB by default)
extra-args: "--consistency none" # Other arguments of the dump processing unit. You do not need to manually configure table-list in `extra-args`, because it is automatically generated by DM.
ノート:
値
threads
は、アップストリームデータベースとDM間の物理接続の数を決定します。threads
の値が大きすぎると、アップストリームの負荷が増加する可能性があります。したがって、threads
を適切な値に設定する必要があります。