- ドキュメント ホーム
- TiDBについて
- クイックスタート
- 発展させる
- 概要
- クイックスタート
- TiDB Cloud(開発者層) で TiDB クラスターを構築する
- TiDB の CRUD SQL
- TiDB でシンプルな CRUD アプリを構築する
- 応用例
- TiDB に接続する
- データベース スキーマの設計
- 書き込みデータ
- データの読み取り
- 取引
- 最適化
- トラブルシューティング
- 参照
- 書店のサンプル アプリケーション
- ガイドライン
- アーカイブされたドキュメント
- クラウドネイティブ開発環境
- サードパーティのサポート
- デプロイ
- 移行する
- 管理
- 監視と警告
- トラブルシューティング
- TiDB トラブルシューティング マップ
- 遅いクエリを特定する
- 遅いクエリを分析する
- SQL 診断
- Top SQLを使用して高価なクエリを特定する
- ログを使用して高価なクエリを特定する
- ステートメント要約表
- ホットスポットの問題のトラブルシューティング
- 増加した読み取りおよび書き込み遅延のトラブルシューティング
- クラスターのオンサイト情報の保存と復元
- クラスタ セットアップのトラブルシューティング
- 高いディスク I/O 使用率のトラブルシューティング
- ロック競合のトラブルシューティング
- TiFlash のトラブルシューティング
- オプティミスティック トランザクションでの書き込み競合のトラブルシューティング
- データとインデックス間の不一致のトラブルシューティング
- 性能チューニング
- チューニングガイド
- Configuration / コンフィグレーションのチューニング
- システムのチューニング
- ソフトウェアのチューニング
- Configuration / コンフィグレーション
- コプロセッサ キャッシュ
- SQL チューニング
- チュートリアル
- TiDB ツール
- 概要
- ユースケース
- ダウンロード
- TiUP
- ドキュメンテーション マップ
- 概要
- 用語と概念
- TiUP コンポーネントの管理
- FAQ
- トラブルシューティングガイド
- コマンドリファレンス
- 概要
- TiUP コマンド
- TiUP クラスタ コマンド
- 概要
- tiup cluster audit
- tiup cluster check
- tiup cluster clean
- tiup cluster deploy
- tiup cluster destroy
- tiup cluster disable
- tiup cluster display
- tiup cluster edit-config
- tiup cluster enable
- tiup cluster help
- tiup cluster import
- tiup cluster list
- tiup cluster patch
- tiup cluster prune
- tiup cluster reload
- tiup cluster rename
- tiup cluster replay
- tiup cluster restart
- tiup cluster scale-in
- tiup cluster scale-out
- tiup cluster start
- tiup cluster stop
- tiup cluster template
- tiup cluster upgrade
- TiUP DMコマンド
- TiDB クラスター トポロジ リファレンス
- DM クラスタ トポロジ リファレンス
- ミラー リファレンス ガイド
- TiUP コンポーネント
- PingCAPクリニック診断サービス
- TiDB Operator
- Dumpling
- TiDB Lightning
- TiDB データ移行
- バックアップと復元 (BR)
- Binlog
- TiCDC
- Dumpling
- 同期差分インスペクター
- ティスパーク
- 参照
- クラスタ アーキテクチャ
- 主な監視指標
- セキュリティ
- 権限
- SQL
- SQL 言語の構造と構文
- SQL ステートメント
ADD COLUMN
ADD INDEX
ADMIN
ADMIN CANCEL DDL
ADMIN CHECKSUM TABLE
ADMIN CHECK [TABLE|INDEX]
ADMIN SHOW DDL [JOBS|QUERIES]
ADMIN SHOW TELEMETRY
ALTER DATABASE
ALTER INDEX
ALTER INSTANCE
ALTER PLACEMENT POLICY
ALTER TABLE
ALTER TABLE COMPACT
ALTER USER
ANALYZE TABLE
BACKUP
BATCH
BEGIN
CHANGE COLUMN
COMMIT
CHANGE DRAINER
CHANGE PUMP
CREATE [GLOBAL|SESSION] BINDING
CREATE DATABASE
CREATE INDEX
CREATE PLACEMENT POLICY
CREATE ROLE
CREATE SEQUENCE
CREATE TABLE LIKE
CREATE TABLE
CREATE USER
CREATE VIEW
DEALLOCATE
DELETE
DESC
DESCRIBE
DO
DROP [GLOBAL|SESSION] BINDING
DROP COLUMN
DROP DATABASE
DROP INDEX
DROP PLACEMENT POLICY
DROP ROLE
DROP SEQUENCE
DROP STATS
DROP TABLE
DROP USER
DROP VIEW
EXECUTE
EXPLAIN ANALYZE
EXPLAIN
FLASHBACK TABLE
FLUSH PRIVILEGES
FLUSH STATUS
FLUSH TABLES
GRANT <privileges>
GRANT <role>
INSERT
KILL [TIDB]
LOAD DATA
LOAD STATS
MODIFY COLUMN
PREPARE
RECOVER TABLE
RENAME INDEX
RENAME TABLE
REPLACE
RESTORE
REVOKE <privileges>
REVOKE <role>
ROLLBACK
SELECT
SET DEFAULT ROLE
SET [NAMES|CHARACTER SET]
SET PASSWORD
SET ROLE
SET TRANSACTION
SET [GLOBAL|SESSION] <variable>
SHOW ANALYZE STATUS
SHOW [BACKUPS|RESTORES]
SHOW [GLOBAL|SESSION] BINDINGS
SHOW BUILTINS
SHOW CHARACTER SET
SHOW COLLATION
SHOW [FULL] COLUMNS FROM
SHOW CONFIG
SHOW CREATE PLACEMENT POLICY
SHOW CREATE SEQUENCE
SHOW CREATE TABLE
SHOW CREATE USER
SHOW DATABASES
SHOW DRAINER STATUS
SHOW ENGINES
SHOW ERRORS
SHOW [FULL] FIELDS FROM
SHOW GRANTS
SHOW INDEX [FROM|IN]
SHOW INDEXES [FROM|IN]
SHOW KEYS [FROM|IN]
SHOW MASTER STATUS
SHOW PLACEMENT
SHOW PLACEMENT FOR
SHOW PLACEMENT LABELS
SHOW PLUGINS
SHOW PRIVILEGES
SHOW [FULL] PROCESSSLIST
SHOW PROFILES
SHOW PUMP STATUS
SHOW SCHEMAS
SHOW STATS_HEALTHY
SHOW STATS_HISTOGRAMS
SHOW STATS_META
SHOW STATUS
SHOW TABLE NEXT_ROW_ID
SHOW TABLE REGIONS
SHOW TABLE STATUS
SHOW [FULL] TABLES
SHOW [GLOBAL|SESSION] VARIABLES
SHOW WARNINGS
SHUTDOWN
SPLIT REGION
START TRANSACTION
TABLE
TRACE
TRUNCATE
UPDATE
USE
WITH
- データ型
- 関数と演算子
- クラスタ化インデックス
- 制約
- 生成された列
- SQL モード
- テーブル属性
- 取引
- ガベージ コレクション (GC)
- ビュー
- パーティショニング
- 一時テーブル
- キャッシュされたテーブル
- 文字セットと照合順序
- SQL の配置規則
- システム テーブル
mysql
- 情報_スキーマ
- 概要
ANALYZE_STATUS
CLIENT_ERRORS_SUMMARY_BY_HOST
CLIENT_ERRORS_SUMMARY_BY_USER
CLIENT_ERRORS_SUMMARY_GLOBAL
CHARACTER_SETS
CLUSTER_CONFIG
CLUSTER_HARDWARE
CLUSTER_INFO
CLUSTER_LOAD
CLUSTER_LOG
CLUSTER_SYSTEMINFO
COLLATIONS
COLLATION_CHARACTER_SET_APPLICABILITY
COLUMNS
DATA_LOCK_WAITS
DDL_JOBS
DEADLOCKS
ENGINES
INSPECTION_RESULT
INSPECTION_RULES
INSPECTION_SUMMARY
KEY_COLUMN_USAGE
METRICS_SUMMARY
METRICS_TABLES
PARTITIONS
PLACEMENT_POLICIES
PROCESSLIST
REFERENTIAL_CONSTRAINTS
SCHEMATA
SEQUENCES
SESSION_VARIABLES
SLOW_QUERY
STATISTICS
TABLES
TABLE_CONSTRAINTS
TABLE_STORAGE_STATS
TIDB_HOT_REGIONS
TIDB_HOT_REGIONS_HISTORY
TIDB_INDEXES
TIDB_SERVERS_INFO
TIDB_TRX
TIFLASH_REPLICA
TIKV_REGION_PEERS
TIKV_REGION_STATUS
TIKV_STORE_STATUS
USER_PRIVILEGES
VIEWS
METRICS_SCHEMA
- UI
- TiDB ダッシュボード
- 概要
- 管理
- アクセス
- 概要ページ
- クラスター情報ページ
- Top SQLページ
- キー ビジュアライザー ページ
- メトリクス関係グラフ
- SQL ステートメントの分析
- スロークエリページ
- クラスタ診断
- 検索ログ ページ
- インスタンスのプロファイリング
- セッションの管理とConfiguration / コンフィグレーション
- FAQ
- CLI
- コマンド ライン フラグ
- Configuration / コンフィグレーションファイルのパラメーター
- システム変数
- ストレージ エンジン
- テレメトリー
- エラーコード
- テーブル フィルター
- トポロジ ラベルごとにレプリカをスケジュールする
- よくある質問
- リリースノート
- すべてのリリース
- リリースのタイムライン
- TiDB のバージョニング
- v6.1
- v6.0
- v5.4
- v5.3
- v5.2
- v5.1
- v5.0
- v4.0
- v3.1
- v3.0
- v2.1
- v2.0
- v1.0
- 用語集
オプティミスティックモードでシャードテーブルからデータをマージおよび移行する
このドキュメントでは、オプティミスティックモードでデータ移行(DM)によって提供されるシャーディングサポート機能を紹介します。この機能を使用すると、アップストリームのMySQLまたはMariaDBインスタンスで同じまたは異なるテーブルスキーマを持つテーブルのデータを、ダウンストリームのTiDBで1つの同じテーブルにマージおよび移行できます。
ノート:
オプティミスティックモードとその制限について詳しく理解していない場合は、このモードを使用することはお勧めしません。そうしないと、移行の中断やデータの不整合が発生する可能性があります。
バックグラウンド
DMは、シャーディングDDLと呼ばれるシャードテーブルでのオンラインでのDDLステートメントの実行をサポートし、デフォルトで「ペシミスティックモード」を使用します。このモードでは、アップストリームのシャードテーブルでDDLステートメントが実行されると、他のすべてのシャードテーブルで同じDDLステートメントが実行されるまで、このテーブルのデータ移行が一時停止されます。それまでに、このDDLステートメントがダウンストリームで実行され、データ移行が再開されます。
ペシミスティックモードは、ダウンストリームに移行されたデータが常に正しいことを保証しますが、データ移行を一時停止します。これは、アップストリームでA/Bを変更するのに適していません。場合によっては、ユーザーは単一のシャードテーブルでDDLステートメントを実行するのに長い時間を費やし、検証期間の後にのみ他のシャードテーブルのスキーマを変更することがあります。ペシミスティックモードでは、これらのDDLステートメントはデータ移行をブロックし、多くのbinlogイベントを積み上げます。
したがって、「楽観的なモード」が必要です。このモードでは、シャードテーブルで実行されたDDLステートメントは、他のシャードテーブルと互換性のあるステートメントに自動的に変換され、すぐにダウンストリームに移行されます。このように、DDLステートメントはシャードテーブルによるDML移行の実行をブロックしません。
楽観的なモードのConfiguration / コンフィグレーション
オプティミスティックモードを使用するには、タスク構成ファイルのshard-mode
項目をoptimistic
として指定します。詳細なサンプル構成ファイルについては、 DM Advanced Task Configuration / コンフィグレーション Fileを参照してください。
制限
楽観的なモードを使用するには、いくつかのリスクが伴います。使用するときは、次のルールに従ってください。
DDLステートメントのバッチを実行する前後に、すべてのシャードテーブルのスキーマが互いに整合していることを確認してください。
A / Bテストを実行する場合は、1つのシャードテーブルでのみテストを実行してください。
A / Bテストが終了したら、最も直接的なDDLステートメントのみを最終スキーマに移行します。テストのすべての正しいステップまたは間違ったステップを再実行しないでください。
たとえば、シャードテーブルで
ADD COLUMN A INT; DROP COLUMN A; ADD COLUMN A FLOAT;
を実行した場合、他のシャードテーブルでADD COLUMN A FLOAT
を実行するだけで済みます。 3つのDDLステートメントすべてを再度実行する必要はありません。DDLステートメントを実行するときは、DM移行のステータスを確認してください。エラーが報告された場合、このDDLステートメントのバッチがデータの不整合を引き起こすかどうかを判断する必要があります。
オプティミスティックモードでは、アップストリームで実行されるほとんどのDDLステートメントは、余分な労力を必要とせずに自動的にダウンストリームに移行されます。これらのDDLステートメントは「タイプ1DDL」と呼ばれます。
列名、列タイプ、または列のデフォルト値を変更するDDLステートメントは、「タイプ2DDL」と呼ばれます。アップストリームでタイプ2DDLステートメントを実行するときは、すべてのシャードテーブルでDDLステートメントを同じ順序で実行するようにしてください。
タイプ2DDLステートメントのいくつかの例は次のとおりです。
- 列のタイプを変更します:
ALTER TABLE table_name MODIFY COLUMN column_name VARCHAR(20)
。 - 列の名前を変更します:
ALTER TABLE table_name RENAME COLUMN column_1 TO column_2;
。 - デフォルト値なしで
NOT NULL
列を追加します:ALTER TABLE table_name ADD COLUMN column_1 NOT NULL;
。 - インデックスの名前を変更します:
ALTER TABLE table_name RENAME INDEX index_1 TO index_2;
。
シャードテーブルが上記のDDLステートメントを実行するときに、実行順序が異なると、移行が中断されます。例えば:
- シャード1は列の名前を変更してから、列の種類を変更します。
- 列の名前を変更します:
ALTER TABLE table_name RENAME COLUMN column_1 TO column_2;
。 - 列タイプを変更します:
ALTER TABLE table_name MODIFY COLUMN column_3 VARCHAR(20);
。
- 列の名前を変更します:
- シャード2は列タイプを変更してから、列の名前を変更します。
- 列タイプを変更します:
ALTER TABLE table_name MODIFY COLUMN column_3 VARCHAR(20)
。 - 列の名前を変更します:
ALTER TABLE table_name RENAME COLUMN column_1 TO column_2;
。
- 列タイプを変更します:
さらに、次の制限が楽観的モードと悲観的モードの両方に適用されます。
DROP TABLE
またはDROP DATABASE
はサポートされていません。TRUNCATE TABLE
はサポートされていません。- 各DDLステートメントには、1つのテーブルのみに対する操作が含まれている必要があります。
- TiDBでサポートされていないDDLステートメントは、DMでもサポートされていません。
- 新しく追加された列のデフォルト
rand()
には、current_timestamp
を含めることはできませuuid()
。そうしないと、アップストリームとダウンストリームの間でデータの不整合が発生する可能性があります。
リスク
移行タスクにオプティミスティックモードを使用すると、DDLステートメントはすぐにダウンストリームに移行されます。このモードを誤用すると、アップストリームとダウンストリームの間でデータの不整合が発生する可能性があります。
データの不整合を引き起こす操作
各シャードテーブルのスキーマは互いに互換性がありません。例えば:
- 同じ名前の2つの列がそれぞれ2つのシャードテーブルに追加されますが、列のタイプは異なります。
- 同じ名前の2つの列がそれぞれ2つのシャードテーブルに追加されますが、列のデフォルト値は異なります。
- 同じ名前の2つの生成された列は、それぞれ2つのシャードテーブルに追加されますが、列は異なる式を使用して生成されます。
- 同じ名前の2つのインデックスが2つのシャードテーブルにそれぞれ追加されますが、キーは異なります。
- 同じ名前の他の異なるテーブルスキーマ。
シャーディングされたテーブルのデータを破損する可能性のあるDDLステートメントを実行してから、ロールバックを試みます。
たとえば、列
X
を削除してから、この列を追加し直します。
例
次の3つのシャードテーブルをマージしてTiDBに移行します。
tbl01
にAge
の新しい列を追加し、列のデフォルト値を0
に設定します。
ALTER TABLE `tbl01` ADD COLUMN `Age` INT DEFAULT 0;
tbl00
にAge
の新しい列を追加し、列のデフォルト値を-1
に設定します。
ALTER TABLE `tbl00` ADD COLUMN `Age` INT DEFAULT -1;
それまでに、 DEFAULT 0
とDEFAULT -1
は互いに互換性がないため、 tbl00
のAge
列は一貫性がありません。この状況では、DMはエラーを報告しますが、データの不整合を手動で修正する必要があります。
実装の原則
楽観的モードでは、DM-workerはアップストリームからDDLステートメントを受信した後、更新されたテーブルスキーマをDM-masterに転送します。 DM-workerは各シャードテーブルの現在のスキーマを追跡し、DM-masterはこれらのスキーマをすべてのシャードテーブルのDMLステートメントと互換性のある複合スキーマにマージします。次に、DMマスターは対応するDDLステートメントをダウンストリームに移行します。 DMLステートメントはダウンストリームに直接移行されます。
例
アップストリームのMySQLにtbl01
tbl00
およびtbl02
)があると仮定します。これらのシャーディングテーブルをマージして、ダウンストリームTiDBのtbl
テーブルに移行します。次の画像を参照してください。
アップストリームにLevel
列を追加します。
ALTER TABLE `tbl00` ADD COLUMN `Level` INT;
次に、TiDBはtbl00
( Level
列あり)からDMLステートメントを受け取り、 tbl01
およびtbl02
テーブル( Level
列なし)からDMLステートメントを受け取ります。
次のDMLステートメントは、変更せずにダウンストリームに移行できます。
UPDATE `tbl00` SET `Level` = 9 WHERE `ID` = 1;
INSERT INTO `tbl02` (`ID`, `Name`) VALUES (27, 'Tony');
また、 tbl01
にLevel
列を追加します。
ALTER TABLE `tbl01` ADD COLUMN `Level` INT;
この時点で、ダウンストリームにはすでに同じLevel
列があるため、DM-masterはテーブルスキーマを比較した後、操作を実行しません。
tbl01
にName
列をドロップします:
ALTER TABLE `tbl01` DROP COLUMN `Name`;
次に、ダウンストリームはName
列のtbl00
およびtbl02
からDMLステートメントを受信するため、この列はすぐには削除されません。
同様に、すべてのDMLステートメントは引き続きダウンストリームに移行できます。
INSERT INTO `tbl01` (`ID`, `Level`) VALUES (15, 7);
UPDATE `tbl00` SET `Level` = 5 WHERE `ID` = 5;
tbl02
にLevel
列を追加します。
ALTER TABLE `tbl02` ADD COLUMN `Level` INT;
それまでに、すべてのシャードテーブルにはLevel
列があります。
それぞれtbl00
とtbl02
にName
列をドロップします。
ALTER TABLE `tbl00` DROP COLUMN `Name`;
ALTER TABLE `tbl02` DROP COLUMN `Name`;
それまでに、 Name
列はすべてのシャーディングされたテーブルから削除され、ダウンストリームで安全に削除できます。
ALTER TABLE `tbl` DROP COLUMN `Name`;