精密計算

TiDB の高精度計算サポートは MySQL と一致しています。詳細については、 MySQL での精密計算参照してください。

数値型

正確な値演算の精密計算の範囲には、正確な値のデータ型 (整数型と DECIMAL 型) と正確な値の数値リテラルが含まれます。近似値のデータ型と数値リテラルは、浮動小数点数として処理されます。

正確な値の数値リテラル3.4 -6.78 .2整数部分または小数部分、あるいはその両方-5含まれます。符号が付けられる場合もあります。例: 1 +9.10

近似値の数値リテラルは1.2E-3仮数部と指数部を含む科学的記数法 (10 の-1.2E3 ) で表されます。いずれかまたは両方の部分に符号を付けることができます。例: 1.2E3 -1.2E-3

似ているように見える 2 つの数値が異なる方法で処理されることがあります。たとえば、 2.34は正確な値 (固定小数点) ですが、 2.34E0は近似値 (浮動小数点) です。

DECIMAL データ型は固定小数点型であり、計算は正確です。FLOAT および DOUBLE データ型は浮動小数点型であり、計算は近似値です。

DECIMALデータ型の特性

このセクションでは、DECIMAL データ型 (およびその同義語) の特性に関する次のトピックについて説明します。

  • 最大桁数
  • 保存形式
  • ストレージ要件

DECIMAL 列の宣言構文はDECIMAL(M,D)です。引数の値の範囲は次のとおりです。

  • M は最大桁数 (精度) です。1<= M <= 65。
  • D は小数点の右側の桁数 (スケール) です。1 <= D <= 30 であり、D は M より大きくてはなりません。

M の最大値 65 は、DECIMAL 値の計算が 65 桁まで正確であることを意味します。この 65 桁の精度の制限は、正確な値の数値リテラルにも適用されます。

DECIMAL 列の値は、9 桁の小数点を 4 バイトにパックするバイナリ形式を使用して保存されます。各値の整数部分と小数部分のstorage要件は個別に決定されます。9 桁の倍数ごとに 4 バイトが必要で、残りの桁には 4 バイトの一部が必要です。残りの桁に必要なstorageは、次の表に示されています。

残った数字バイト数
00
1–21
3~42
5~6歳3
7~94

たとえば、 DECIMAL(18,9)列には小数点の両側に 9 桁の数字があるため、整数部と小数部DECIMAL(20,6)はそれぞれ 4 バイトが必要です。3 列には 14 桁の整数と 6 桁の小数部があります。整数部では、9 桁に 4 バイト、残りの 5 桁に 3 バイトが必要です。小数部 6 桁には 3 バイトが必要です。

DECIMAL 列には、先頭の+文字、 -文字、または先頭の0桁は格納されません。 DECIMAL(5,1)列に+0003.1挿入すると、 3.1として格納されます。負の数の場合、リテラル-文字は格納されません。

DECIMAL 列では、列定義で指定された範囲を超える値は許可されません。たとえば、 DECIMAL(3,0)列では-999999の範囲がサポートされます。 DECIMAL(M,D)列では、小数点の左側に最大M - D桁が許可されます。

DECIMAL 値の内部形式の詳細については、TiDB ソース コードのmydecimal.go参照してください。

表現の取り扱い

精密計算を伴う式の場合、TiDB は可能な限り、指定された正確な数値を使用します。たとえば、比較の数値は、値を変更せずに指定されたとおりに使用されます。厳密な SQL モードでは、正確なデータ型を列に追加すると、その数値が列の範囲内にある場合は、正確な値で数値が挿入されます。取得すると、値は挿入されたものと同じになります。厳密な SQL モードが有効になっていない場合、TiDB では INSERT の切り捨てが許可されます。

数値式の処理方法は、式の値によって異なります。

  • 式に近似値が含まれている場合、結果は近似値になります。TiDB は浮動小数点演算を使用して式を評価します。
  • 式に近似値が含まれず、正確な値のみが含まれる場合、および正確な値に小数部分が含まれる場合、式は DECIMAL 正確な算術を使用して評価され、精度は 65 桁になります。
  • それ以外の場合、式には整数値のみが含まれます。式は正確です。TiDB は整数演算を使用して式を評価し、BIGINT (64 ビット) と同じ精度を持ちます。

数値式に文字列が含まれている場合、文字列は倍精度浮動小数点値に変換され、式の結果は近似値になります。

数値列への挿入は、SQL モードの影響を受けます。以下の説明では、厳密モードとERROR_FOR_DIVISION_BY_ZEROについて説明しています。すべての制限をオンにするには、厳密モードの値とERROR_FOR_DIVISION_BY_ZERO両方を含むTRADITIONALモードを使用するだけです。

SET sql_mode = 'TRADITIONAL`;

正確な型の列 (DECIMAL または整数) に数値を挿入する場合、その数値が列の範囲内であれば、正確な値が挿入されます。この数値の場合:

  • 値の小数部の桁数が多すぎる場合は、丸めが行われ、警告が生成されます。
  • 値の整数部分の桁数が多すぎる場合は、値が大きすぎるため、次のように処理されます。
    • 厳密モードが有効になっていない場合、値は最も近い有効な値に切り捨てられ、警告が生成されます。
    • 厳密モードが有効になっている場合、オーバーフロー エラーが発生します。

文字列を数値列に挿入する場合、文字列に数値以外の内容が含まれている場合、TiDB は次のように文字列から数値への変換を処理します。

  • 厳密モードでは、数字で始まらない文字列(空文字列を含む)を数字として使用することはできません。エラーまたは警告が発生します。
  • 数字で始まる文字列は変換できますが、末尾の非数値部分は切り捨てられます。厳密モードでは、切り捨てられた部分にスペース以外のものが含まれていると、エラーまたは警告が発生します。

デフォルトでは、0 による除算の結果は NULL となり、警告ERROR_FOR_DIVISION_BY_ZERO表示されません。SQL モードを適切に設定することで、0 による除算を制限できます。1 SQL モードを有効にすると、TiDB は 0 による除算を次のように異なる方法で処理します。

  • 厳密モードでは、挿入と更新は禁止され、エラーが発生します。
  • 厳密モードでない場合は警告が発生します。

次の SQL ステートメントでは:

INSERT INTO t SET i = 1/0;

さまざまな SQL モードで次の結果が返されます。

sql_mode結果
''警告なし、エラーなし。i は NULL に設定されます。
厳しい警告なし、エラーなし。i は NULL に設定されます。
ERROR_FOR_DIVISION_BY_ZERO警告、エラーなし。i は NULL に設定されています。
厳格、 ERROR_FOR_DIVISION_BY_ZEROエラー。行は挿入されません。

丸め動作

ROUND()関数の結果は、その引数が正確か近似かによって異なります。

  • 正確な数値の場合、 ROUND()関数は「半分を切り上げる」ルールを使用します。

  • 近似値の数値の場合、TiDB の結果は MySQL の結果と異なります。

    TiDB > SELECT ROUND(2.5), ROUND(25E-1); +------------+--------------+ | ROUND(2.5) | ROUND(25E-1) | +------------+--------------+ | 3 | 3 | +------------+--------------+ 1 row in set (0.00 sec)

DECIMAL または整数列への挿入の場合、丸めにはゼロから半分を丸める使用されます。

TiDB > CREATE TABLE t (d DECIMAL(10,0)); Query OK, 0 rows affected (0.01 sec) TiDB > INSERT INTO t VALUES(2.5),(2.5E0); Query OK, 2 rows affected, 2 warnings (0.00 sec) TiDB > SELECT d FROM t; +------+ | d | +------+ | 3 | | 3 | +------+ 2 rows in set (0.00 sec)

このページは役に立ちましたか?

Playground
登録なしで TiDB の機能をワンストップでインタラクティブに体験できます。
製品
TiDB Dedicated
TiDB Serverless
TiDB
価格
PoC お問い合わせ
エコシステム
TiKV
TiFlash
OSS Insight
© 2024 PingCAP. All Rights Reserved.
Privacy Policy.