使用资源管控 (Resource Control) 实现资源隔离

使用资源管控特性,集群管理员可以定义资源组 (Resource Group),通过资源组限定读写的配额。将用户绑定到某个资源组后,TiDB 层会根据用户所绑定资源组设定的读写配额对用户的读写请求做流控,TiKV 层会根据读写配额映射的优先级来对请求做调度。通过流控和调度这两层控制,你可以实现应用的资源隔离,满足服务质量 (QoS) 要求。

TiDB 资源管控特性提供了两层资源管理能力,包括在 TiDB 层的流控能力和 TiKV 层的优先级调度的能力。两个能力可以单独或者同时开启,详情请参见参数组合效果表

  • TiDB 流控:TiDB 流控使用令牌桶算法 做流控;如果桶内令牌数不够,而且资源组没有指定 BURSTABLE 特性,属于该资源组的请求会等待令牌桶回填令牌并重试,重试可能会超时失败。
  • TiKV 调度:如果开启该特性,TiKV 使用基于资源组 RU_PER_SEC 的取值映射成各自资源组读写请求的优先级,基于各自的优先级在存储层使用优先级队列调度处理请求。

使用场景

资源管控特性的引入对 TiDB 具有里程碑的意义。它能够将一个分布式数据库集群划分成多个逻辑单元,即使个别单元对资源过度使用,也不会挤占其他单元所需的资源。利用该特性:

  • 你可以将多个来自不同系统的中小型应用合入一个 TiDB 集群中,个别应用的负载升高,不会影响其他业务的正常运行。而在系统负载较低的时候,繁忙的应用即使超过设定的读写配额,也仍然可以被分配到所需的系统资源,达到资源的最大化利用。
  • 你可以选择将所有测试环境合入一个集群,或者将消耗较大的批量任务编入一个单独的资源组,在保证重要应用获得必要资源的同时,提升硬件利用率,降低运行成本。

此外,合理利用资源管控特性可以减少集群数量,降低运维难度及管理成本。

什么是 Request Unit (RU)

Request Unit (RU) 是 TiDB 对 CPU、IO 等系统资源的统一抽象的计量单位,用于表示对数据库的单个请求消耗的资源量。请求消耗的 RU 数量取决于多种因素,例如操作类型或正在检索或修改的数据量。目前,RU 包含以下资源的统计信息:

资源类型RU 消耗
Read2 storage read batches 消耗 1 RU
8 storage read requests 消耗 1 RU
64 KiB read request payload 消耗 1 RU
Write1 storage write batch 消耗 1 RU * 副本数
1 storage write request 消耗 1 RU
1 KiB write request payload 消耗 1 RU
SQL CPU 3 ms 消耗 1 RU

相关参数

资源管控特性引入了两个新的全局开关变量:

这两个参数的组合效果见下表:

resource-control.enabledtidb_enable_resource_control= ONtidb_enable_resource_control= OFF
resource-control.enabled= true流控和调度(推荐组合)无效配置
resource-control.enabled= false仅流控(不推荐)特性被关闭

关于资源管控实现机制及相关参数的详细介绍,请参考 RFC: Global Resource Control in TiDB

使用方法

创建、修改、删除资源组,需要拥有 SUPER 或者 RESOURCE_GROUP_ADMIN 权限。

你可以通过 CREATE RESOURCE GROUP 在集群中创建资源组,再通过 CREATE USERALTER USER 语句将用户绑定到特定的资源组。

对于已有的资源组,可以通过 ALTER RESOURCE GROUP 修改资源组的读写配额,对资源组的配额修改会立即生效。

可以通过 DROP RESOURCE GROUP 删除资源组。

第 1 步:开启资源管控特性

  1. 执行以下命令开启资源管控特性:

    SET GLOBAL tidb_enable_resource_control = 'ON';
  2. 将 TiKV 参数 resource-control.enabled 设为 true

第 2 步:创建资源组,并绑定用户到资源组

下面举例说明如何创建资源组,并绑定用户到资源组。

  1. 创建 rg1 资源组,RU 的回填速度是每秒 500 RU,并且允许这个资源组的应用超额占用资源。

    CREATE RESOURCE GROUP IF NOT EXISTS rg1 RU_PER_SEC = 500 BURSTABLE;
  2. 创建 rg2 资源组,RU 的回填速度是每秒 600 RU。在系统资源充足的时候,不允许这个资源组的应用超额占用资源。

    CREATE RESOURCE GROUP IF NOT EXISTS rg2 RU_PER_SEC = 600;
  3. 将用户 usr1usr2 分别绑定到资源组 rg1rg2

    ALTER USER usr1 RESOURCE GROUP rg1;
    ALTER USER usr2 RESOURCE GROUP rg2;

完成上述创建资源组和绑定用户的操作后,用户新建立的会话对资源的占用会受到指定用量 (RU) 的限制。如果系统负载比较高,没有多余的容量,usr2 用户的资源消耗速度会严格控制不超过指定用量,由于 usr1 绑定的 rg1 配置了 BURSTABLE,所以 usr1 消耗速度允许超过指定用量。

如果资源组对应的请求太多导致资源组的资源不足,客户端的请求处理会发生等待。如果等待时间过长,请求会报错。

监控与图表

TiDB 会定时采集资源管控的运行时信息,并在 Grafana 的 Resource Control Dashboard 中提供了相关指标的可视化图表。指标详情参见 Resource Control 监控指标详解

TiKV 中也记录了来自于不同资源组的请求 QPS,详见 TiKV监控指标详解

工具兼容性

资源管控目前为实验特性,不影响数据导入导出以及其他同步工具的正常使用,BR、TiDB Lightning、TiCDC 等工具不支持对资源管控相关 DDL 的处理,这些工具的资源消耗也不受资源管控的限制。

使用限制

目前,资源管控特性具有以下限制:

  • 暂时只支持对前台客户发起的读写请求做限流和调度,不支持对 DDL 以及 Auto Analyze 等后台任务的限流和调度。
  • 资源管控将带来额外的调度开销。因此,开启该特性后,性能可能会有轻微下降。

另请参阅

下载 PDF
产品
TiDB
TiDB Cloud
© 2024 PingCAP. All Rights Reserved.
Privacy Policy.