码农知识堂 - 1000bd
  •   Python
  •   PHP
  •   JS/TS
  •   JAVA
  •   C/C++
  •   C#
  •   GO
  •   Kotlin
  •   Swift
  • 【Flink 实战系列】Flink CDC 实时同步 Mysql 全量加增量数据到 Hudi


    【Flink 实战系列】Flink CDC 实时同步 Mysql 全量加增量数据到 Hudi

    前言

    Flink CDC 是基于 Flink 开发的变化数据获取组件(Change data capture),简单的说就是来捕获变更的数据,Apache Hudi 是一个数据湖平台,又支持对数据做增删改查操作,所以 Flink CDC 可以很好的和 Hudi 结合起来,打造实时数仓,实时湖仓一体的架构,下面就来演示一下同步的过程。

    环境

    组件 版本
    Flink 1.15.1
    Hadoop 2.9.0
    Hudi 0.12.0
    Mysql 5.x
    Flink CDC 2.3.0

    添加 Jar 包依赖

    为了方便演示,这里就直接采用 sql-client 提交任务的方式,在提交任务之前,需要先添加几个必要的 Jar 包。

    flink-sql-connector-mysql-cdc-2.3.0.jar
    hudi-flink1.15-bundle-0.12.0.jar
    mysql-connector-java-5.1.47.jar
    
    • 1
    • 2
    • 3

    把这三个 Jar 包添加到 flink/lib 下面。

  • 相关阅读:
    GO语言篇之交叉编译
    pyenv-win换国内源
    后端基础php
    理财和银保区别
    5-FITC,5-FITC(isomer I),5-异硫氰酸荧光素,5-Flourescein iso-thiocyanate
    剑指 Offer 32 - III. 从上到下打印二叉树 III(双端队列deque)
    国风频频出圈!品牌如何借势发力?小红书数据查询3招玩转国风
    2022年程序员“生存报告”出炉,仅23%月薪不足1万,你在什么段位?
    UWB定位系统源码
    Newsmy储能电源与您相约九州汽车生态博览
  • 原文地址:https://blog.csdn.net/xianpanjia4616/article/details/128113653
  • 最新文章
  • 攻防演习之三天拿下官网站群
    数据安全治理学习——前期安全规划和安全管理体系建设
    企业安全 | 企业内一次钓鱼演练准备过程
    内网渗透测试 | Kerberos协议及其部分攻击手法
    0day的产生 | 不懂代码的"代码审计"
    安装scrcpy-client模块av模块异常,环境问题解决方案
    leetcode hot100【LeetCode 279. 完全平方数】java实现
    OpenWrt下安装Mosquitto
    AnatoMask论文汇总
    【AI日记】24.11.01 LangChain、openai api和github copilot
  • 热门文章
  • 十款代码表白小特效 一个比一个浪漫 赶紧收藏起来吧!!!
    奉劝各位学弟学妹们,该打造你的技术影响力了!
    五年了,我在 CSDN 的两个一百万。
    Java俄罗斯方块,老程序员花了一个周末,连接中学年代!
    面试官都震惊,你这网络基础可以啊!
    你真的会用百度吗?我不信 — 那些不为人知的搜索引擎语法
    心情不好的时候,用 Python 画棵樱花树送给自己吧
    通宵一晚做出来的一款类似CS的第一人称射击游戏Demo!原来做游戏也不是很难,连憨憨学妹都学会了!
    13 万字 C 语言从入门到精通保姆级教程2021 年版
    10行代码集2000张美女图,Python爬虫120例,再上征途
Copyright © 2022 侵权请联系2656653265@qq.com    京ICP备2022015340号-1
正则表达式工具 cron表达式工具 密码生成工具

京公网安备 11010502049817号