TiDB 集群故障诊断
当试用 TiDB 遇到问题时,请先参考本篇文档。如果问题未解决,请收集以下信息并通过 TiDB 支持资源解决:
- 具体的出错信息以及正在执行的操作
- 当前所有组件的状态
- 出问题组件 log 中的 error/fatal/panic 信息
- 机器配置以及部署拓扑
- dmesg 中 TiDB 组件相关的问题
数据库连接不上
首先请确认集群的各项服务是否已经启动,包括 tidb-server、pd-server、tikv-server。请用 ps 命令查看所有进程是否在。如果某个组件的进程已经不在了,请参考对应的章节排查错误。
如果所有的进程都在,请查看 tidb-server 的日志,看是否有报错?常见的错误包括:
InformationSchema is out of date
无法连接 tikv-server,请检查 pd-server 以及 tikv-server 的状态和日志。
panic
程序有错误,请将具体的 panic log 提供给 TiDB 开发者。
如果是清空数据并重新部署服务,请确认以下信息:
pd-server、tikv-server 数据都已清空
tikv-server 存储具体的数据,pd-server 存储 tikv-server 中数据的元信息。如果只清空 pd-server 或只清空 tikv-server 的数据,会导致两边数据不匹配。
清空 pd-server 和 tikv-server 的数据并重启后,也需要重启 tidb-server
集群 ID 是由 pd-server 在集群初始化时随机分配,所以重新部署集群后,集群 ID 会发生变化。tidb-server 业务需要重启以获取新的集群 ID。
tidb-server 启动报错
tidb-server 无法启动的常见情况包括:
启动参数错误
请参考 TiDB 命令行参数。
端口被占用:
lsof -i:port
请确保 tidb-server 启动所需要的端口未被占用。
无法连接 pd-server
首先检查 pd-server 的进程状态和日志,确保 pd-server 成功启动,对应端口已打开:
lsof -i:port
。若 pd-server 正常,则需要检查 tidb-server 机器和 pd-server 对应端口之间的连通性,确保网段连通且对应服务端口已添加到防火墙白名单中,可通过 nc 或 curl 工具检查。
例如,假设 tidb 服务位于
192.168.1.100
,无法连接的 pd 位于192.168.1.101
,且 2379 为其 client port,则可以在 tidb 机器上执行nc -v -z 192.168.1.101 2379
,测试是否可以访问端口。或使用curl -v 192.168.1.101:2379/pd/api/v1/leader
直接检查 pd 是否正常服务。
tikv-server 启动报错
启动参数错误
请参考 TiKV 启动参数文档。
端口被占用:
lsof -i:port
请确保 tikv-server 启动所需要的端口未被占用:
lsof -i:port
。无法连接 pd-server
首先检查 pd-server 的进程状态和日志。确保 pd-server 成功启动,对应端口已打开:
lsof -i:port
。若 pd-server 正常,则需要检查 tikv-server 机器和 pd-server 对应端口之间的连通性,确保网段连通且对应服务端口已添加到防火墙白名单中,可通过 nc 或 curl 工具检查。具体命令参考上一节。
文件被占用
不要在一个数据库文件目录上打开两个 tikv。
pd-server 启动报错
启动参数错误
请参考 PD 命令行参数文档。
端口被占用:
lsof -i:port
请确保 pd-server 启动所需要的端口未被占用:
lsof -i:port
。
TiDB/TiKV/PD 进程异常退出
进程是否是启动在前台
当前终端退出给其所有子进程发送 HUP 信号,从而导致进程退出。
是否是在命令行用过
nohup+&
方式直接运行这样依然可能导致进程因终端连接突然中断,作为终端 SHELL 的子进程被杀掉。
推荐将启动命令写在脚本中,通过脚本运行(相当于二次 fork 启动)。
TiKV 进程异常重启
检查 dmesg 或者 syslog 里面是否有 OOM 信息
如果有 OOM 信息并且杀掉的进程为 TiKV,请减少 TiKV 的 RocksDB 的各个 CF 的
block-cache-size
值。检查 TiKV 日志是否有 panic 的 log
提交 Issue 并附上 panic 的 log。
TiDB panic
请提供 panic 的 log。
连接被拒绝
- 请确保操作系统的网络参数正确,包括但不限于
- 连接字符串中的端口和 tidb-server 启动的端口需要一致
- 请保证防火墙的配置正确
Too many open files
在启动进程之前,请确保 ulimit -n
的结果足够大,推荐设为 unlimited 或者是大于 1000000。
数据库访问超时,系统负载高
首先检查 SLOW-QUERY 日志,判断是否是因为某条 SQL 语句导致。如果未能解决,请提供如下信息:
- 部署的拓扑结构
- tidb-server/pd-server/tikv-server 部署了几个实例
- 这些实例在机器上是如何分布的
- 机器的硬件配置
- CPU 核数
- 内存大小
- 硬盘类型(SSD 还是机械硬盘)
- 是实体机还是虚拟机
- 机器上除了 TiDB 集群之外是否还有其他服务
- pd-server 和 tikv-server 是否分开部署
- 目前正在进行什么操作
- 用
top -H
命令查看当前占用 CPU 的线程名 - 最近一段时间的网络/IO 监控数据是否有异常