TiDBBinlogリレーログ

バイナリログをレプリケートするとき、 Drainer はアップストリームからトランザクションを分割し、分割されたトランザクションをダウンストリームに同時にレプリケートします。

上流のクラスターが利用できず、 Drainer が異常終了するという極端なケースでは、下流のクラスター (MySQL または TiDB) が中間状態になり、データが矛盾する可能性があります。このような場合、 Drainer はリレーログを使用して、ダウンストリームクラスターが一貫した状態にあることを確認できます。

Drainerレプリケーション中の一貫した状態

下流クラスターが整合性のある状態に達すると、下流クラスターのデータがtidb_snapshot = tsを設定した上流クラスターのスナップショットと同じであることを意味します。

チェックポイントの一貫性とは、Drainerチェックポイントがレプリケーションの一貫した状態をconsistentに保存することを意味します。Drainerが実行されると、 consistentはfalseになります。 Drainer が正常に終了すると、 consistentはtrueに設定されます。

次のように、ダウンストリームチェックポイントテーブルをクエリできます。

select * from tidb_binlog.checkpoint;

+---------------------+----------------------------------------------------------------+
| clusterID           | checkPoint                                                     |
+---------------------+----------------------------------------------------------------+
| 6791641053252586769 | {"consistent":false,"commitTS":414529105591271429,"ts-map":{}} |
+---------------------+----------------------------------------------------------------+

実装原則

Drainer はリレーログを有効にすると、まずbinlogイベントをディスクに書き込み、次にそのイベントをダウンストリームクラスターにレプリケートします。

上流のクラスターが使用できない場合、 Drainer はリレーログを読み取ることで、下流のクラスターを一貫した状態に復元できます。

ノート：
リレーログデータも同時に失われた場合、この方法は機能しませんが、その発生率は非常に低いです。さらに、ネットワークファイルシステムを使用して、リレーログのデータの安全性を確保できます。

Drainer がリレーログからバイナリログを消費するトリガーシナリオ

Drainerの起動時に、上流クラスターの配置Driver(PD) への接続に失敗し、チェックポイントでconsistent = falseが検出された場合、 Drainer はリレーログを読み取り、下流クラスターを一貫した状態に復元しようとします。その後、 Drainerプロセスはチェックポイントconsistentをtrueに設定して終了します。

リレーログのGC機構

データがダウンストリームにレプリケートされる前に、 Drainer はデータをリレーログファイルに書き込みます。リレーログファイルのサイズが 10 MB (デフォルト) に達し、現在のトランザクションのbinlogデータが完全に書き込まれると、 Drainer は次のリレーログファイルへのデータの書き込みを開始します。 Drainer は、データをダウンストリームに正常にレプリケートすると、データがレプリケートされたリレーログファイルを自動的にクリーンアップします。現在データが書き込まれているリレーログはクリーンアップされません。

コンフィグレーション

リレーログを有効にするには、 Drainerに次の設定を追加します。

[syncer.relay]
# It saves the directory of the relay log. The relay log is not enabled if the value is empty.
# The configuration only comes to effect if the downstream is TiDB or MySQL.
log-dir = "/dir/to/save/log"
# The size limit of a single relay log file (unit: byte).
# When the size of a relay log file reaches this limit, data is written to the next relay log file.
max-file-size = 10485760

TiDBBinlogリレー ログ