DMワーカー紹介
DM-worker は、MySQL/MariaDB から TiDB にデータを移行するために使用されるツールです。
以下の機能があります:
- 任意のMySQLまたはMariaDBインスタンスのセカンダリデータベースとして機能します
- MySQL/MariaDBからbinlogイベントを読み取り、ローカルstorageに保存します。
- 単一のDMワーカーは、1つのMySQL/MariaDBインスタンスのデータを複数のTiDBインスタンスに移行することをサポートします。
- 複数の DM ワーカーは、複数の MySQL/MariaDB インスタンスのデータを 1 つの TiDB インスタンスに移行することをサポートします。
DMワーカー処理ユニット
DM ワーカー タスクには、リレー ログ、ダンプ処理ユニット、ロード処理ユニット、binlogレプリケーションなど、複数のロジック ユニットが含まれます。
リレーログ
リレー ログは、アップストリーム MySQL/MariaDB からのbinlogデータを永続的に保存し、binlogレプリケーションのbinlogイベントにアクセスする機能を提供します。
その原理と特徴はMySQLのリレーログに似ています。詳細についてはMySQL リレーログを参照してください。
ダンプ処理装置
ダンプ処理ユニットは、アップストリームの MySQL/MariaDB からローカル ディスクに完全なデータをダンプします。
負荷処理装置
ロード処理ユニットは、ダンプ処理ユニットのダンプされたファイルを読み取り、これらのファイルを下流の TiDB にロードします。
Binlogレプリケーション/同期処理ユニット
Binlogログレプリケーション/同期処理ユニットは、上流の MySQL/MariaDB のbinlogイベントまたはリレーログのbinlogイベントを読み取り、これらのイベントを SQL ステートメントに変換し、これらのステートメントを下流の TiDB に適用します。
DMワーカーに必要な権限
このセクションでは、DM-worker に必要な上流および下流のデータベース ユーザーの権限と、それぞれの処理ユニットに必要なユーザー権限について説明します。
上流データベースユーザー権限
アップストリーム データベース (MySQL/MariaDB) ユーザーには次の権限が必要です。
特権 | 範囲 |
---|---|
SELECT | テーブル |
RELOAD | グローバル |
REPLICATION SLAVE | グローバル |
REPLICATION CLIENT | グローバル |
db1
から TiDB にデータを移行する必要がある場合は、次のGRANT
ステートメントを実行します。
GRANT RELOAD,REPLICATION SLAVE, REPLICATION CLIENT ON *.* TO 'your_user'@'your_wildcard_of_host';
GRANT SELECT ON db1.* TO 'your_user'@'your_wildcard_of_host';
他のデータベースから TiDB にデータを移行する必要がある場合は、それぞれのデータベースのユーザーに同じ権限が付与されていることを確認してください。
下流データベースユーザー権限
ダウンストリーム データベース (TiDB) ユーザーには、次の権限が必要です。
特権 | 範囲 |
---|---|
SELECT | テーブル |
INSERT | テーブル |
UPDATE | テーブル |
DELETE | テーブル |
CREATE | データベース、テーブル |
DROP | データベース、テーブル |
ALTER | テーブル |
INDEX | テーブル |
移行する必要があるデータベースまたはテーブルに対して次のGRANT
ステートメントを実行します。
GRANT SELECT,INSERT,UPDATE,DELETE,CREATE,DROP,ALTER,INDEX ON db.table TO 'your_user'@'your_wildcard_of_host';
GRANT ALL ON dm_meta.* TO 'your_user'@'your_wildcard_of_host';
各処理ユニットに必要な最小限の権限
処理装置 | 最小限のアップストリーム(MySQL/MariaDB)権限 | 最小限のダウンストリーム (TiDB) 権限 | 最小限のシステム権限 |
---|---|---|---|
リレーログ | REPLICATION SLAVE (binlogを読み取る)REPLICATION CLIENT ( show master status , show slave status ) | ヌル | ローカルファイルの読み取り/書き込み |
ごみ | SELECT RELOAD (読み取りロックがかかったテーブルをフラッシュし、テーブルのロックを解除します) | ヌル | ローカルファイルを書き込む |
負荷 | ヌル | SELECT (チェックポイント履歴を照会)CREATE (データベース/テーブルを作成する)DELETE (チェックポイントを削除)INSERT (ダンプデータを挿入) | ローカルファイルの読み取り/書き込み |
Binlogレプリケーション | REPLICATION SLAVE (binlogを読み取る)REPLICATION CLIENT ( show master status , show slave status ) | SELECT (インデックスと列を表示)INSERT (DML)UPDATE (DML)DELETE (DML)CREATE (データベース/テーブルを作成する)DROP (データベース/テーブルを削除)ALTER (テーブルを変更する)INDEX (インデックスを作成/削除) | ローカルファイルの読み取り/書き込み |
注記:
これらの権限は不変ではなく、リクエストが変化すると変化します。