OceanBase源码解读:新物化视图合并水位 ObMajorMVMergeInfo

物化视图的增量刷新有个隐藏前提:刷新器必须知道”我依赖的基表数据,在哪个版本上是完整且一致的”。在 OceanBase 4.3 的新物化视图(New MV)实现里,这个前提被抽象成一个挂在日志流(LS)上的三元水位结构 —— ObMajorMVMergeInfo。它同时承担三件事:记录 major 合并推进到哪、把”MDS 日志已写”和”数据已对齐”区分开、以及在加副本时充当准入闸门。本文解读 src/storage/mview/ob_major_mv_merge_info.cpp,看这三件事是怎么在一个 400 行文件里闭环的。

一、为什么需要”三级水位”

最直觉的做法是记一个数:本 LS 已经合并到 SCN X。但这条路走不通,原因在于 OceanBase 里存在两个”可见”层次:

MDS(multi data source)写入成功,只说明这条元信息已经进了日志、能被回放,属于日志层可见;而一座 tablet 的 major 合并是否真的推进到了该版本,属于数据层可见。两者之间有一个天然的时间窗。如果只用一个值,就会把”日志写了但数据还没合并”的版本当成已生效,MV 刷新器据此去读基表,读到的就是旧数据。

所以源码里给了三个 SCN,并按严格单调递增排列:

  • major_mv_merge_scn_publish_:已发布位,MDS 中最新一次写下的值,最激进;
  • major_mv_merge_scn_safe_calc_:安全计算位,中间态,代表”已被 MDS 接受、等待本地数据确认”;
  • major_mv_merge_scn_:生效位,副本间比较、副本准入校验真正使用的值,最保守。

这条不等式不是注释里的约定,而是硬编码进 is_valid() 的断言:

bool ObMajorMVMergeInfo::is_valid() const
{
  return major_mv_merge_scn_.is_valid()
      && major_mv_merge_scn_safe_calc_.is_valid()
      && major_mv_merge_scn_publish_.is_valid()
      && major_mv_merge_scn_ <= major_mv_merge_scn_safe_calc_
      && major_mv_merge_scn_safe_calc_ <= major_mv_merge_scn_publish_;
}

一旦这个不变式被打破,说明 MDS 回放顺序错乱,或者有人跳过了中间态直接赋值 —— 这是状态机被破坏的信号,必须暴露而不是静默修正。

二、MDS 载荷:一条日志只带两个字段

水位推进靠写 MDS 完成,载荷结构刻意做得极小:

struct ObUpdateMergeScnArg final
{
  OB_UNIS_VERSION(1);
  share::ObLSID ls_id_;      // 目标日志流
  share::SCN merge_scn_;     // 目标水位值
};
OB_SERIALIZE_MEMBER(ObUpdateMergeScnArg, ls_id_, merge_scn_);

它不携带”MDS 类型”。类型信息由注册时的 Helper 决定,因此同一份载荷可以被不同 Helper 复用,最终落到 LS 上不同的 set_xxx 方法。这就引出文件里最省事的一处设计 —— SET_MERGE_SCN 宏。

三、回调落地:一个宏吃掉五份样板代码

三个 Helper(ObMVPublishSCNHelper / ObMVNoticeSafeHelper / ObMVMergeSCNHelper)的 on_register 逻辑完全同构,只有最后一步调用的 setter 不同。于是它被压成一个宏:

#define SET_MERGE_SCN(set_func) 
  ObUpdateMergeScnArg arg; 
  ObLSHandle ls_handle; 
  ObLS *ls = NULL; 
  int64_t pos = 0; 
  if (OB_FAIL(ret)) { 
  } else if (OB_ISNULL(buf) || OB_UNLIKELY(len <= 0)) { 
    ret = OB_INVALID_ARGUMENT; 
  } else if (OB_FAIL(arg.deserialize(buf, len, pos))) { 
  } else if (OB_UNLIKELY(!arg.is_valid())) { 
    ret = OB_ERR_UNEXPECTED; 
  } else if (OB_FAIL(MTL(ObLSService*)->get_ls(arg.ls_id_, ls_handle,
                                              ObLSGetMod::TABLET_MOD))) { 
  } else if (OB_UNLIKELY(NULL == (ls = ls_handle.get_ls()))) { 
    ret = OB_ERR_UNEXPECTED; 
  } else if (OB_FAIL(ls->set_func(arg.merge_scn_))) { 
  } 
  LOG_INFO(#set_func" finish", KR(ret), K(arg));

六个步骤:反序列化 → 校验 → 取 LS 句柄 → 取裸指针 → 调 setter → 统一日志。这里有两个值得注意的细节。第一,get_ls 返回的是 ObLSHandle 而非裸指针,这是引用计数保护 —— 防止水位写入的瞬间 LS 被并发删除。第二,整条链路是 OB_FAIL 瀑布,任何一步出错都把错误码原样上抛给 MDS 框架,由框架决定重试,而不是在回调里自己消化。

四、on_register 与 on_replay 的分工

同一份载荷有两条到达路径:本机直接写 MDS(on_register),以及从 clog 回放别人写的 MDS(on_replay)。两者最大的区别在 on_replay 多了角色判断:

int ObMVNoticeSafeHelper::on_replay(const char *buf, const int64_t len,
                                    const share::SCN scn, mds::BufferCtx &ctx)
{
  int ret = OB_SUCCESS;
  share::ObTenantRole::Role tenant_role = MTL_GET_TENANT_ROLE_CACHE();
  if (is_invalid_tenant(tenant_role)) {
    ret = OB_EAGAIN;                       // 角色缓存无效 → 稍后重试
  } else if (is_standby_tenant(tenant_role)) {
    LOG_INFO("new mview skip in standy tenant", KR(ret));  // 备库跳过,但不报错
  } else {
    SET_MERGE_SCN(set_major_mv_merge_scn_safe_calc);
  }
  return ret;
}

角色缓存无效时返回 OB_EAGAIN 而不是硬失败,因为此刻读到的角色可能是脏值,不能据此决定”跳过还是执行”。备库分支更微妙:源码里 ret = OB_NOT_SUPPORTED 那一行是被注释掉的。原因是一份 clog 在主备切换后可能由主库身份回放,若在此处报错会直接卡住回放线程。这里的价值取向很清楚 —— 水位晚一点生效可以接受,回放不下去不可接受。

五、确认器:把”日志已写”变成”数据已对齐”

真正让三级水位收敛的是 ObMVCheckReplicaHelper::get_and_update_merge_info。它遍历本 LS 下所有 tablet,取出所有 MV tablet 的 last_major_snapshot_version,求最小值:

share::SCN min_major_mv_merge_scn;
min_major_mv_merge_scn.set_max();
while (OB_SUCC(ret) && !skip_update) {
  // ... 取 tablet,跳过 ls_inner_tablet / empty_shell
  if (storage_schema->is_mv_major_refresh()) {
    const int64_t snapshot = tablet->get_last_major_snapshot_version();
    if (0 == snapshot || 1 == snapshot) {
      skip_update = true;                  // 数据未就绪,整轮放弃
    } else if (min_major_mv_merge_scn.get_val_for_gts() > snapshot
        && OB_FAIL(min_major_mv_merge_scn.convert_for_gts(snapshot))) {
    }
  }
}

为什么取最小值而不是最大值?因为水位必须对全部 MV 成立 —— 只要有一张 MV 还没合并到该版本,整体就不能认为已对齐。这是典型的木桶原理。

拿到 min 之后是三种收敛分支:min 仍是 MAX(本 LS 里没有任何 MV tablet,全是系统表或空壳)→ 无新 MV 需要确认,直接把 safe_calc 提升为生效位;min 大于等于 safe_calc → 所有 MV 都越过了安全位,可以提升;min 小于 safe_calc → 还有 MV 没跟上,本轮不动,保持中间态等下一轮。

还有一个逃生阀:某张 MV tablet 的 major 快照为 0 或 1,说明它连第一次合并都没做过,数据尚未就绪。此时强行推进会把错误版本固化下去,所以 skip_update 让整轮直接放弃。反过来,若算出 min 比当前生效位还小,代码判 OB_ERR_UNEXPECTED 而非静默修正 —— 水位回退意味着状态机出问题,必须抛出来定位。

六、副本准入闸门

三级水位最终服务于一个硬需求:不让落后副本混进来。check_can_add_member 被 reconfig 流程回调,判定链路是:

// 1. 老版本没有 new MV 概念,跳过校验(向后兼容)
if (data_version < DATA_VERSION_4_3_4_0) { /* skip */ }
// 2. 系统表不走 MV 刷新链路
else if (ls_id.is_sys_ls()) { /* do nothing */ }
// 3. RPC 取新成员的水位(check_leader=false,允许读非 leader 视角)
else if (OB_FAIL(sync_get_ls_member_merge_info(server, tenant_id, ls_id,
                                               member_merge_info,
                                               rpc_timeout, false))) { ... }
// 4. 取本地 leader 水位
else if (OB_FAIL(get_merge_info(ls_id, leader_merge_info))) { ... }
// 5. 严格大于即拒
else if (leader_merge_info.major_mv_merge_scn_ > member_merge_info.major_mv_merge_scn_) {
  ret = NEW_MV_MAJOR_VERSION_NOT_MATCH;
}

判定用严格大于:只要 leader 领先,就拒绝。但拒绝不是终点 —— 代码给了新成员第二次机会:带 need_update=true 再拉一次水位,让对端先自我修正(对端会走前面那个确认器把 safe_calc 提升或推送过来);修正后仍落后,才真正返回错误码终止 reconfig。

这是 OceanBase 里反复出现的”先自愈、再失败”模式 —— 能自动追平的问题就不打扰上层调度。文件末尾那个 ERRSIM_POINT_DEF(ERRSIM_RECONFIG_CHECK_FAILED) 则是 OceanBase 惯用的故障注入点,用来在测试中强制走通拒绝分支。

七、小结

把这条链路串起来看:RS 侧写 MDS 推 publish 位 → MDS 回调在本节点落到 LS meta → 确认器用所有 MV tablet 的最小 major 快照把 safe_calc 提升为生效位 → 生效位用于副本准入校验。三层的存在不是为了复杂,而是为了在这套系统里精确区分”日志层可见”与”数据层可见”。

几个可复用的设计手法:用 is_valid() 把状态不变式写成可断言代码;用宏消除同构回调的样板(但保留每步的错误瀑布);在回放路径上宁可返回 OB_EAGAIN 也不硬失败;在拒绝路径上先给一次自愈机会。这些细节共同决定了这类控制面代码在故障场景下是”抖一下”还是”停一片”。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注