码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • TiDB Lightning 前置检查


    从 TiDB 5.3.0 开始,TiDB Lightning 增加了前置检查功能,可以在执行迁移前检查配置。默认开启。该功能会自动进行一些磁盘空间和执行配置的常规检查,主要目的是确保后续的整个导入过程顺利。

    下表介绍了各检查项和详细解释。

    检查项支持版本解释
    集群版本/状态是否正常>= 5.3.0检查配置中集群是否可以连接,Physical Import Mode 还会检查 TiKV/PD/TiFlash 版本是否支持。
    是否有权限读取数据>= 5.3.0检查当从云存储(Amazon S3)读取数据的时候,是否有对应的权限,确保不会因权限缺失导致导入中断。
    导入空间是否足够>= 5.3.0检查 TiKV 集群是否有足够空间导入数据。检查时会对数据源进行采样,通过采样结果预估索引大小占比。由于估算中考虑了索引,因此可能会出现尽管数据源大小低于本地盘可用空间,但依然无法通过检测的情况。Physical Import Mode 因为需要在本地进行外部排序,所以还会检查本地存储是否足够。有关 TiKV 集群空间和本地存储(即 sort-kv-dir 配置)空间大小的详细说明,参考 TiDB Lightning 下游数据库所需空间和 TiDB Lightning 运行时资源要求
    Region 分布状态>= 5.3.0检查 TiKV 集群的 Region 分布是否均匀,以及是否存在大量空 region,如果空 Region 的数量大于 max(1000, 表的数量 * 3),即大于 "1000" 和 "3 倍表数量"二者中的较大者,TiDB Lightning 无法执行导入。
    数据文件是否有大 CSV 文件>= 5.3.0当备份文件中出现大于 10 GiB 的 CSV 文件且无法进行自动切分 (StrictFormat=false) 的时候,会导致导入性能下降。该检查的目的是提醒用户确保数据格式的情况下,开启自动切分 CSV 功能。
    是否可以从断点恢复>= 5.3.0该检查是确保断点恢复过程中,不会出现对源文件和数据库中 schema 进行修改,导致导入错误数据的情况。
    是否可以导入数据到已存在的数据表中>= 5.3.0当导入到已创建好的数据表中时,该检查尽可能的检查此次导入的源文件是否和已存在的数据表匹配。检查列数是否匹配,如果源文件存在列名,则检查列名是否匹配。当源文件存在缺省列,则检查缺省列在数据表中是否存在 Default Value,如果存在,则检查通过。
    导入的目标表是否为空>= 5.3.1如果导入的目标表不为空,则 TiDB Lightning 会自动报错退出;如果开启了并行导入模式 (incremental-import = true),则会跳过此检查项。
  • 相关阅读:
    C++ Reference: Standard C++ Library reference: C Library: cstdio: putchar
    week9|查阅文章 Mac os M2芯片 arm64架构|安装paddlepaddle问题
    MFC 控制台打印,弹出对话框
    【毕业设计】机器视觉火车票识别系统 - python 深度学习
    2022.9.1 SAP RFC
    编译器设计(十一)——标量优化
    mybatis-plus自动填充
    Keil工程忽略文件.gitignore、自动删除脚本:keilkilll.bat、自动生成目录文件列表脚本
    C++ 类和对象(上)------超详细解析,小白必看系列
    (附源码)计算机毕业设计SSM基于的楼盘销售系统的设计与实现
  • 原文地址:https://blog.csdn.net/weixin_42241611/article/details/126373053
  • 最新文章
  • 攻防演习之三天拿下官网站群
    数据安全治理学习——前期安全规划和安全管理体系建设
    企业安全 | 企业内一次钓鱼演练准备过程
    内网渗透测试 | Kerberos协议及其部分攻击手法
    0day的产生 | 不懂代码的"代码审计"
    安装scrcpy-client模块av模块异常,环境问题解决方案
    leetcode hot100【LeetCode 279. 完全平方数】java实现
    OpenWrt下安装Mosquitto
    AnatoMask论文汇总
    【AI日记】24.11.01 LangChain、openai api和github copilot
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1
正则表达式工具 cron表达式工具 密码生成工具

京公网安备 11010502049817号