TiDB 3.0.4 Release Notes

发版日期：2019 年 10 月 8 日

TiDB 版本：3.0.4

TiDB Ansible 版本：3.0.4

• 新特性

  • 新增系统表 performance_schema.events_statements_summary_by_digest，用于排查 SQL 级别的性能问题
  • TiDB 的 SHOW TABLE REGIONS 语法新增 WHERE 条件子句
  • Reparo 新增 worker-count 和 txn-batch 配置项，用于控制恢复速率

• 改进提升

  • TiKV 支持批量 Split 和空的 Split 命令，使得 Split 可以批量进行
  • TiKV 添加 RocksDB 双向链表支持，提升逆序扫性能
  • Ansible 新增 iosnoop 和 funcslower 两个 perf 工具，方便诊断集群状态
  • TiDB 优化慢日志输出内容，删除冗余字段

• 行为变更

  • TiDB 修改 txn-local-latches.enable 默认值为 false，默认不启用本地事务冲突检测
  • TiDB 添加全局作用域系统变量 tidb_txn_mode，允许配置使用悲观锁，请注意默认情况下，TiDB 仍然使用乐观锁
  • TiDB 慢日志中的 Index_ids 字段替换为 Index_names 字段，提升慢日志易用性
  • TiDB 配置文件中添加 split-region-max-num 参数，用于调整 SPLIT TABLE 语法允许的最大 Region 数量
  • TiDB 修改 SQL 超出内存限制后的行为，从断开链接修改为返回 Out Of Memory Quota 错误
  • 为避免误操作，TiDB 默认不再允许删除列的 AUTO_INCREMENT 属性，当确实需要删除时，请更改系统变量 tidb_allow_remove_auto_inc

• 问题修复

  • TiDB 修复特殊语法 PRE_SPLIT_REGIONS 没有使用注释的方式向下游同步的问题
  • TiDB 修复使用游标获取 PREPARE + EXECUTE 执行结果时，慢日志不正确的问题
  • PD 修复相邻小 Region 无法 Merge 的问题
  • TiKV 修复空闲集群中文件描述符泄漏导致长期运行可能会引起 TiKV 进程异常退出的问题

• 社区贡献者

  感谢以下社区贡献者参与本次发版：

  • sduzh
  • lizhenda

TiDB

• SQL 优化器
  • 修复 Feedback 切分查询范围出错的问题 #12170
  • 修改当 SHOW STATS_BUCKETS 结果中包含无效 Key 时的行为，将返回错误修改为使用 16 进制显示 #12094
  • 修复查询中包含 SLEEP 函数时（例如 select 1 from (select sleep(1)) t;)），由于列裁剪导致查询中的 sleep(1) 失效的问题 #11953
  • 当查询只关心表的行数而不关心表数据时，使用索引扫描降低 IO #12112
  • 当 use index() 中没有指定索引时不去使用任何索引，和 MySQL 兼容（如 explain select a from t use index();）#12100
  • 严格限制统计信息 CMSketch 中 TopN 记录的数量，修复快速 analyze 因为超过事务大小限制而失败的问题 #11914
  • 修复 Update 语句包含子查询时，转换子查询出现的错误 #12483
  • 将 Limit 算子下推到 IndexLookUpReader 执行逻辑中优化 select ... limit ... offset ... 的执行性能 #12378
• SQL 执行引擎
  • PREPARED 语句执行错误时，在日志中打印 SQL 语句 #12191
  • 分区表使用 UNIX_TIMESTAMP 函数分区时，支持分区裁剪 #12169
  • 修复 AUTO INCREMENT 分配 MAX int64 和 MAX uint64 没有报错的问题 #12162
  • SHOW TABLE … REGIONS 和 SHOW TABLE .. INDEX … REGIONS 语法新增 WHERE 条件子句 #12123
  • 修改 SQL 超出内存限制后的行为，从断开链接修改为返回 Out Of Memory Quota 错误 #12127
  • 修复 JSON_UNQUOTE 函数处理 JSON 文本结果不正确的问题 #11955
  • 修复 INSERT 语句中，第一行中为 AUTO_INCREMENT 列赋值，LAST INSERT ID 不正确的问题（例如 insert into t (pk, c) values (1, 2), (NULL, 3)）#12002
  • 修复 PREPARE 语句中，GroupBY 解析规则错误的问题 #12351
  • 修复点查中权限检查不正确的问题 #12340
  • 修复 PREPARE 语句类型没有记录在监控中的问题 #12331
  • 支持点查中表名使用别名（例如 select * from t tmp where a = "aa"）#12282
  • 修复向 BIT 类型列插入数值时，值没有作为无符号类型处理而导致插入负数报错的问题 #12423
  • 修复时间取整不正确的问题（例如 2019-09-11 11:17:47.999999666 应该被取整到 2019-09-11 11:17:48）#12258
  • 调整表达式黑名单系统表的用法（例如 < 与 lt 等价）#11975
  • 调整函数不存在的错误消息，添加数据库前缀（例如 [expression:1305]FUNCTION test.std_samp does not exist）#12111
• Server
  • 慢日志中添加 Prev_stmt 字段，用于最后一条语句是 COMMIT 时输出前一条语句 #12180
  • 优化慢日志输出内容，删除冗余字段 #12144
  • 修改 txn-local-latches.enable 默认值为 false，默认不启用本地事务冲突检测 #12095
  • 将慢日志中的 Index_ids 字段替换为 Index_names 字段，提升慢日志易用性 #12061
  • 添加全局作用域系统变量 tidb_txn_mode，允许配置使用悲观锁 #12049
  • 慢日志中添加 Backoff 字段，用来记录 2PC Commit 阶段的 Backoff 信息 #12335
  • 修复使用游标获取 PREPARE + EXECUTE 执行结果时，慢日志不正确的问题（例如 PREPARE stmt1FROM SELECT * FROM t WHERE a > ?; EXECUTE stmt1 USING @variable）#12392
  • 支持使用 tidb_enable_stmt_summary，开启后会对 SQL 语句进行统计，并可以使用系统表 performance_schema.events_statements_summary_by_digest 查询统计结果 #12308
  • 调整了 tikv-client 中部分日志级别（例如由于连接断开使得打印的 batchRecvLoop fails 日志级别由 ERROR 改为 INFO）#12383
• DDL
  • 新增变量 tidb_allow_remove_auto_inc，默认禁止删除列 AUTO INCREMENT 属性 #12145
  • 修复 TiDB 特殊语法 PRE_SPLIT_REGIONS 没有使用注释的方式向下游同步，导致下游数据库报错的问题 #12120
  • 在配置文件中添加 split-region-max-num 参数，使得 SPLIT TABLE 语法允许的最大 Region 数量可调整，该参数默认值 10000 #12097
  • 支持将一个 Region 切分成多个 Region，并修复打散 Region 超时的问题 #12343
  • 修复当索引包含自增列，并且该自增列被两个索引引用时删除失败的问题 #12344
• Monitor
  • 增加监控指标 connection_transient_failure_count，用于统计 tikvclient 的 gRPC 连接错误数量 #12093

TiKV

• Raftstore
  • 修复 Raftstore 统计空 Region 中 key 个数不准确问题 #5414
  • 添加 RocksDB 双向链表支持，提升逆序扫性能 #5368
  • 支持 PD 批量 Split 和空的 Split 命令，使得 Split 可以批量进行，提高 Split 效率 #5470
• Server
  • 修复查看版本命令的输出格式与 2.X 格式不一致的问题 #5501
  • 更新 Titan 至 3.0 分支最新版本 #5517
  • 更新 grpcio 至 v0.4.5 版本 #5523
  • 修复 gRPC coredump 问题，支持内存共享，以避免此处引起 OOM #5524
  • 修复空闲集群中文件描述符泄漏导致长期运行可能会引起 TiKV 进程异常退出的问题 #5567
• Storage
  • 支持悲观锁事务心跳检测 API，以使得 TiDB 的悲观锁行为与 MySQL 尽量一致 #5507
  • 修复部分情况下点查性能较低的问题 #5495 #5463

PD

• 修复相邻小 Region 无法 Merge 的问题 #1726
• 修复 pd-ctl 的 TLS 启用参数失效问题 #1738
• 修复可能导致 PD operator 被意外移除的线程安全问题 #1734
• Region syncer 支持 TLS #1739

Tools

• TiDB Binlog
  • Reparo 新增 worker-count 和 txn-batch 配置项，用于控制恢复速率 #746
  • Drainer 优化内存使用，提升同步执行效率 #737
• TiDB Lightning
  • 修复从 checkpoint 点重新导入可能会导致 TiDB Lightning 崩溃的问题 #237
  • 修改计算 AUTO_INCREMENT 的算法，降低溢出的风险 #227

TiDB Ansible

• 更新 TiSpark 版本至 2.2.0 #926
• 更新 TiDB 配置项 pessimistic_txn 的默认值为 true #933
• 新增更多系统级别监控到 node_exporter #938
• 新增 iosnoop 和 funcslower 两个 perf 工具，方便诊断集群状态 #946
• Ansible 的 Raw 模块更新成 Shell 模块，解决密码过期等场景发生的长时间等待问题 #949
• 更新 TiDB 配置项 txn_local_latches 的默认值为 false
• 优化 Grafana dashboard 监控项和告警规则 #962 #963 #969
• 新增配置文件检查功能，在部署和升级之前检查配置文件是否正确 #934 #972