データの挿入
このドキュメントでは、さまざまなプログラミング言語で SQL 言語を使用して TiDB にデータを挿入する方法について説明します。
始める前に
このドキュメントを読む前に、次のものを準備する必要があります。
行を挿入
複数行のデータを挿入する方法は 2 つあります。たとえば、 3 人のプレーヤーのデータを挿入する必要がある場合などです。
複数行の挿入ステートメント:
INSERT INTO `player` (`id`, `coins`, `goods`) VALUES (1, 1000, 1), (2, 230, 2), (3, 300, 5);複数の単一行挿入ステートメント:
INSERT INTO `player` (`id`, `coins`, `goods`) VALUES (1, 1000, 1); INSERT INTO `player` (`id`, `coins`, `goods`) VALUES (2, 230, 2); INSERT INTO `player` (`id`, `coins`, `goods`) VALUES (3, 300, 5);
一般的に、 multi-line insertion statement
single-line insertion statements
倍数よりも速く実行されます。
- SQL
- Java
- Golang
- Python
CREATE TABLE `player` (`id` INT, `coins` INT, `goods` INT);
INSERT INTO `player` (`id`, `coins`, `goods`) VALUES (1, 1000, 1), (2, 230, 2);
この SQL の使用方法の詳細については、 TiDBクラスタへの接続参照し、クライアントを使用して TiDB クラスターに接続した後、SQL ステートメントを入力する手順に従ってください。
// ds is an entity of com.mysql.cj.jdbc.MysqlDataSource
try (Connection connection = ds.getConnection()) {
connection.setAutoCommit(false);
PreparedStatement pstmt = connection.prepareStatement("INSERT INTO player (id, coins, goods) VALUES (?, ?, ?)"))
// first player
pstmt.setInt(1, 1);
pstmt.setInt(2, 1000);
pstmt.setInt(3, 1);
pstmt.addBatch();
// second player
pstmt.setInt(1, 2);
pstmt.setInt(2, 230);
pstmt.setInt(3, 2);
pstmt.addBatch();
pstmt.executeBatch();
connection.commit();
} catch (SQLException e) {
e.printStackTrace();
}
デフォルトの MySQL JDBCDriver設定により、一括挿入のパフォーマンスを向上させるには、いくつかのパラメータを変更する必要があります。
パラメータ | 手段 | 推奨シナリオ | 推奨コンフィグレーション |
---|---|---|---|
useServerPrepStmts | サーバー側を使用して準備済みステートメントを有効にするかどうか | プリペアドステートメントを複数回使用する必要がある場合 | true |
cachePrepStmts | クライアントが準備されたステートメントをキャッシュするかどうか | useServerPrepStmts=true | true |
prepStmtCacheSqlLimit | プリペアドステートメントの最大サイズ(デフォルトでは 256 文字) | プリペアドステートメントが256文字を超える場合 | プリペアドステートメントの実際のサイズに応じて構成されます |
prepStmtCacheSize | プリペアドステートメントキャッシュの最大数 (デフォルトでは 25) | 準備されたステートメントの数が25を超える場合 | 準備されたステートメントの実際の数に応じて構成されます |
rewriteBatchedStatements | バッチステートメントを書き換えるかどうか | バッチ操作が必要な場合 | true |
allowMultiQueries | バッチ操作を開始する | クライアントのバグの場合はrewriteBatchedStatements = true とuseServerPrepStmts = true ときにこれを設定する必要があるため | true |
MySQL JDBCDriverは統合構成も提供します: useConfigs
。 maxPerformance
で構成されると、構成セットを構成するのと同等になります。 mysql:mysql-connector-java:8.0.28
例にとると、 useConfigs=maxPerformance
は次のものが含まれます:
cachePrepStmts=true
cacheCallableStmts=true
cacheServerConfiguration=true
useLocalSessionState=true
elideSetAutoCommits=true
alwaysSendSetIsolation=false
enableQueryTimeouts=false
connectionAttributes=none
useInformationSchema=true
mysql-connector-java-{version}.jar!/com/mysql/cj/configurations/maxPerformance.properties
チェックすると、対応するバージョンの MySQL JDBCDriverのuseConfigs=maxPerformance
に含まれる構成を取得できます。
以下は、JDBC 接続文字列構成の一般的なシナリオです。この例では、ホスト: 127.0.0.1
、ポート: 4000
、ユーザー名: root
、パスワード: null、デフォルト データベース: test
です。
jdbc:mysql://127.0.0.1:4000/test?user=root&useConfigs=maxPerformance&useServerPrepStmts=true&prepStmtCacheSqlLimit=2048&prepStmtCacheSize=256&rewriteBatchedStatements=true&allowMultiQueries=true
Javaの完全な例については、以下を参照してください。
package main
import (
"database/sql"
"strings"
_ "github.com/go-sql-driver/mysql"
)
type Player struct {
ID string
Coins int
Goods int
}
func bulkInsertPlayers(db *sql.DB, players []Player, batchSize int) error {
tx, err := db.Begin()
if err != nil {
return err
}
stmt, err := tx.Prepare(buildBulkInsertSQL(batchSize))
if err != nil {
return err
}
defer stmt.Close()
for len(players) > batchSize {
if _, err := stmt.Exec(playerToArgs(players[:batchSize])...); err != nil {
tx.Rollback()
return err
}
players = players[batchSize:]
}
if len(players) != 0 {
if _, err := tx.Exec(buildBulkInsertSQL(len(players)), playerToArgs(players)...); err != nil {
tx.Rollback()
return err
}
}
if err := tx.Commit(); err != nil {
tx.Rollback()
return err
}
return nil
}
func playerToArgs(players []Player) []interface{} {
var args []interface{}
for _, player := range players {
args = append(args, player.ID, player.Coins, player.Goods)
}
return args
}
func buildBulkInsertSQL(amount int) string {
return "INSERT INTO player (id, coins, goods) VALUES (?, ?, ?)" + strings.Repeat(",(?,?,?)", amount-1)
}
Golangの完全な例については、以下を参照してください。
import MySQLdb
connection = MySQLdb.connect(
host="127.0.0.1",
port=4000,
user="root",
password="",
database="bookshop",
autocommit=True
)
with get_connection(autocommit=True) as connection:
with connection.cursor() as cur:
player_list = random_player(1919)
for idx in range(0, len(player_list), 114):
cur.executemany("INSERT INTO player (id, coins, goods) VALUES (%s, %s, %s)", player_list[idx:idx + 114])
Python の完全な例については、以下を参照してください。
一括挿入
大量のデータを TiDB クラスターにすばやくインポートする必要がある場合は、 PingCAPが提供するデータ移行用のさまざまINSERT
ツールを使用することをお勧めします。3 ステートメントを使用することは、効率的ではなく、例外やその他の問題を自分で処理する必要があるため、最適な方法ではありません。
一括挿入に推奨されるツールは次のとおりです。
- データのエクスポート: Dumpling MySQL または TiDB データをローカルまたは Amazon S3 にエクスポートできます。
- データのインポート: TiDB Lightning Dumplingでエクスポートしたデータ、 CSVファイル、またはAmazon Auroraから TiDB へのデータ移行インポートできます。また、ローカル ディスクまたは Amazon S3 クラウド ディスクからのデータの読み取りもサポートされています。
- データレプリケーション: TiDB データ移行 MySQL、MariaDB、Amazon Auroraデータベースを TiDB にレプリケートできます。また、ソースデータベースからシャードされたインスタンスとテーブルをマージおよび移行することもサポートしています。
- データのバックアップと復元: バックアップと復元 (BR) Dumplingと比較して、 BR は***ビッグデータの***シナリオに適しています。
ホットスポットを避ける
テーブルを設計する際には、挿入操作が多数あるかどうかを考慮する必要があります。 多数ある場合は、テーブル設計中にホットスポットを回避する必要があります。 主キーを選択セクションを参照し、 主キーを選択する際のルールに従ってください。
ホットスポットの問題の処理方法の詳細については、 ホットスポットの問題のトラブルシューティング参照してください。
AUTO_RANDOM
主キーを持つテーブルにデータを挿入する
挿入するテーブルの主キーにAUTO_RANDOM
属性がある場合、デフォルトでは主キーを指定できません。たとえば、 bookshop
データベースでは、 users
テーブルのid
フィールドにAUTO_RANDOM
属性が含まれていることがわかります。
この場合、次のような SQL を使用して挿入することはできません。
INSERT INTO `bookshop`.`users` (`id`, `balance`, `nickname`) VALUES (1, 0.00, 'nicky');
エラーが発生します:
ERROR 8216 (HY000): Invalid auto random: Explicit insertion on auto_random column is disabled. Try to set @@allow_auto_random_explicit_insert = true.
挿入時にAUTO_RANDOM
列を手動で指定することはお勧めしません。
このエラーを処理するには 2 つの解決策があります。
(推奨) この列を INSERT ステートメントから削除し、TiDB によって初期化された
AUTO_RANDOM
値を使用します。これはAUTO_RANDOM
のセマンティクスに適合します。INSERT INTO `bookshop`.`users` (`balance`, `nickname`) VALUES (0.00, 'nicky');この列を指定する必要があることが確実な場合は、ユーザー変数を変更することで、挿入時に
SET
ステートメントを使用してAUTO_RANDOM
列を指定できるようにすることができます。SET @@allow_auto_random_explicit_insert = true; INSERT INTO `bookshop`.`users` (`id`, `balance`, `nickname`) VALUES (1, 0.00, 'nicky');
HTAPを使用する
TiDB では、HTAP 機能により、データを挿入するときに追加の操作を実行する必要がなくなります。追加の挿入ロジックはありません。TiDB はデータの一貫性を自動的に保証します。テーブルを作成した後、列指向のレプリカを使用してクエリを直接高速化する列指向レプリカ同期をオンにするで済みます。