1.面试 | 你真的源码了解count(*)和count(1)嘛？
2.Flink CDC：基于 Apache Flink 的流式数据集成框架
3.flink-cdc同步mysql数据到kafka
4.Flink mysql-cdc connector 源码解析
5.Hudi 基础入门篇
6.FlinkCDC数据实时同步Mysql到ES

面试 | 你真的了解count(*)和count(1)嘛？

       在数据处理领域，SQL中的源码聚合函数count(*)和count(1)常被用于统计行数。然而，源码你是源码否真正了解这两者在Spark SQL环境下的行为和性能？本文基于Spark 3.2版本，揭示了count(*)与count(1)在功能与效率上的源码等价性。

       首先，源码无视362源码给出在Spark SQL环境中，源码count(*)和count(1)在逻辑执行计划和最终结果方面表现一致。源码通过案例展示，源码我们可以看到当执行count(*)时，源码其在生成逻辑执行计划阶段即被转换为等效的源码count(1)操作。

       深入源码分析，源码我们可以发现处理count(*)与count(1)的源码逻辑在AstBuilder类的visitFunctionCall方法中被实现。在该方法中，源码处理函数节点的源码代码进行了优化，以高效判断表达式是否为null，进而节省计算资源。

       具体而言，count(*)功能如下：

       计算检索到的行总数，包括包含null的行。

       对于count(expr[, expr...])和count(DISTINCT expr[, expr...])，它们分别根据提供的表达式是否均为非空或唯一且非空来统计行数。

       在判断expression是否为null时，代码优先从expression的nullable属性进行判断，如果该属性无法提供明确结果，再通过isnull函数获取具体值是否为null的信息。这种策略有助于在一定程度上减少不必要的计算。

       为帮助读者更全面地理解Spark SQL的count函数，以下是gec区块链源码推荐阅读的内容：

       澄清 | snappy压缩到底支持不支持split? 为啥？

       以后的事谁也说不准

       转型数仓开发该怎么学

       大数据开发轻量级入门方案

       OLAP | 基础知识梳理

       Flink系列 - 实时数仓之数据入ElasticSearch实战

       Flink系列 - 实时数仓之FlinkCDC实现动态分流实战

Flink CDC：基于 Apache Flink 的流式数据集成框架

       摘要：本文整理自阿里云 Flink SQL 团队研发工程师于喜千（yux）在 SECon 全球软件工程技术大会中数据集成专场沙龙的分享。内容主要为以下四部分： 1. Flink CDC 开源社区介绍； 2. Flink CDC 的演进历史； 3. Flink CDC 3.x 核心特性解读； 4. 基于Flink CDC 的实时数据集成实践。

       1. **Flink CDC 开源社区介绍

**

        - **1.1 Flink CDC 的演进历史

**

        - Flink CDC 从 GitHub 开源社区开始，于 年 7 月在 Ververica 公司的 GitHub 仓库下以 Apache 2.0 协议开放源代码。初期主要支持从 MySQL 和 PG SQL 数据库捕获变化数据。2.0 版本增强了运行效率、稳定性和故障恢复机制，并扩展了源数据库支持范围至 Oracle、MongoDB 实时数据抽取。

        - 年 月发布的 CDC 3.0 版本引入了 YAML pipeline 作业，使其成为独立的端到端数据集成框架，通过简化语法提供更便捷的数据集成作业描述。

        - **1.2 Flink CDC 社区现状

**

        - CDC 作为 Flink 的一个子项目，于 年初正式加入 Apache 软件基金会，遵循 ASF 标准进行迭代开发。截至最新版本 3.1.1，累计超过 名贡献者提交了 余次代码提交，GitHub 收获超过 颗 star。

        - 社区生态多元，GitHub Top 代码贡献者来自 家公司，覆盖 MongoDB、Oracle、Db2、OceanBase 等连接器及 Pipeline Transform 等核心功能。社区通过多种渠道保持与用户沟通，如钉钉群、邮件列表和 Slack 频道。

       2. **Flink CDC 的演进历史

**

        - **2.1 CDC 技术简介

**

        - CDC 技术专注于实时监控数据变更，并将变化记录实时写入数据流，头脑王者 逆向源码用于数据同步、分发和加载到数据仓库或数据湖。技术包括 Query-based CDC 和 Log-based CDC，后者通过监听数据库日志来实现低延迟变化捕获，减轻数据库压力，确保数据处理一致性。

        - **2.2 早期 CDC 技术局限

**

        - 早期实现存在实用性问题，如依赖数据库查询、并发处理和状态管理的复杂性，以及对数据库性能的高要求。

        - **2.3 Flink CDC 接入增量快照框架

**

        - Flink CDC 2.0 引入增量快照算法，支持任意多并发快照读取，无需数据库加锁，实现故障恢复。通过 Netflix DBlog 论文中的无锁快照算法，实现了高效并发处理。

        - **2.4 Flink CDC 增强

**

        - 引入 SplitEnumerator 和 Reader 架构，实现数据源的逻辑划分和并发读取，增强了处理效率和吞吐量。支持 Schema Evolution，允许在不重启作业的情况下处理表结构变更，提高了作业的稳定性和维护性。

       3. **Flink CDC 3.0 核心特性解读

**

        - **3.1 Flink CDC 2.x 版本回顾

**

        - CDC 2.x 版本提供 SQL 和 Java API，但缺乏直观的 YAML API 和高级进阶能力支持。

        - **3.2 Flink CDC 3.0 设计目标

**

        - 3.0 版本引入 YAML API，提供端到端数据集成流程描述。支持 Schema Evolution、Transform 和路由功能，head first 源码资料增强数据处理灵活性。

        - **3.3 Flink CDC 3.0 核心架构

**

        - 采用无状态设计，简化部署和运维。分离连接层，保留对 Flink 生态系统的兼容性，支持多样化的部署架构和集群环境。

        - **3.4 Flink CDC 3.0 API 设计

**

        - YAML API 提供直观的数据集成任务配置，支持转换、过滤、路由等高级功能，简化了开发和配置流程。

        - **3.5 Flink CDC 3.0 Schema Evolution 功能

**

        - 提供了在不重启作业的情况下处理表结构变更的机制，确保数据处理的一致性和稳定性。

       4. **基于 Flink CDC 的实时数据集成实践

**

        - **4.1 实例：MySQL 到 Kafka 实时传输

**

        - Flink CDC 3.0 内建 Kafka 输出连接器，简化了 MySQL 数据至 Kafka 的实时传输过程，无需额外基础设施配置。

        - **4.2 实时数据集成实践

**

        - Flink CDC 3.0 支持模式进化、列操作和丰富的内置函数，提供了高度可定制的预处理能力，提升数据处理的灵活性与效率。

       总结：Flink CDC 是一个高效、易用的实时数据集成框架，通过不断演进优化，满足了数据同步、分发和加载到数据仓库或数据湖的需求。社区活跃，支持多渠道沟通，鼓励代码贡献和用户参与，黑客接单网源码是实时数据处理领域的有力工具。

flink-cdc同步mysql数据到kafka

       Flink CDC技术是用于实时捕获数据库变更数据的关键工具，它记录数据表的插入、更新和删除操作，然后将这些变化以有序的方式推送到消息中间件，以支持其他服务订阅和处理。以下是如何将MySQL数据同步到Kafka的步骤。

       环境准备

       如果没有安装Hadoop，可以选择使用Flink standalone模式。

       依赖包安装

       从指定地址下载flink的依赖，特别是flink-sql-connector-mysql-cdc。初始版本为1.4，但后来发现1.3.0更适合，因为它与connector-kafka兼容性更好。对于更高版本的Flink，可以选择从github下载源码自行编译，但这里推荐使用1.3版本的jar包。

       启动Flink SQL Client

       在YARN上启动Flink application，进入flink目录并执行相关命令，然后切换到Flink SQL命令行。

       同步数据

       首先，创建一个MySQL表，并在Flink SQL中与之关联，这样操作此表就像操作MySQL表一样。接着，设置数据表与Kafka的关联，例如创建名为product_view_kafka_sink的主题，数据同步会自动触发。执行SQL同步任务后，可以在Flink web-ui中看到MySQL数据已被同步到Kafka，MySQL的插入操作将实时反映在Kafka中。

       通过Kafka控制台验证数据同步，确认数据已从MySQL成功同步至Kafka。

       参考资源

       进一步的信息可以参考ververica.github.io/fli...。

Flink mysql-cdc connector 源码解析

       Flink 1. 引入了 CDC功能，用于实时同步数据库变更。Flink CDC Connectors 提供了一组源连接器，支持从MySQL和PostgreSQL直接获取增量数据，如Debezium引擎通过日志抽取实现。以下是Flink CDC源码解析的关键部分：

       首先，MySQLTableSourceFactory是实现的核心，它通过DynamicTableSourceFactory接口构建MySQLTableSource对象，获取数据库和表的信息。MySQLTableSource的getScanRuntimeProvider方法负责创建用于读取数据的运行实例，包括DeserializationSchema转换源记录为Flink的RowData类型，并处理update操作时的前后数据。

       DebeziumSourceFunction是底层实现，继承了RichSourceFunction和checkpoint接口，确保了Exactly Once语义。open方法初始化单线程线程池以进行单线程读取，run方法中配置DebeziumEngine并监控任务状态。值得注意的是，目前只关注insert, update, delete操作，表结构变更暂不被捕捉。

       为了深入了解Flink SQL如何处理列转行、与HiveCatalog的结合、JSON数据解析、DDL属性动态修改以及WindowAssigner源码，可以查阅文章。你的支持是我写作的动力，如果文章对你有帮助，请给予点赞和关注。

       本文由文章同步助手协助完成。

Hudi 基础入门篇

       探索Hudi：Apache大数据湖的革新之作

       Hudi，由Uber技术先驱者打造并在年开源，自那时起，它凭借其强大的数据处理能力与卓越的可扩展性，一路晋升为Apache顶级项目，如今最新版本已是0.9.0。Hudi的诞生标志着对实时数据湖处理的革新，它最初支持Spark的数据摄入，而后在0.7.0版本中与Flink无缝融合，提供了Flink SQL CDC功能，满足了日益增长的实时数据处理需求。

       从年O'reilly文章中提出的增量处理核心思想，Hudi迅速成长，于年由Uber创建并扩展至所有关键业务场景。年开源后，它开始承载Uber庞大的PB数据湖，同年吸引了大量用户，随着云计算的普及，Hudi的影响力与日俱增。年，Hudi进入Apache孵化器，随后的年，社区发展与采用率暴增，标志着Hudi在大数据领域的显著突破。

       进入年，Hudi的版图进一步扩大，支持PB数据湖的处理，不仅提供了SQL DML操作，还强化了与Flink的集成，实现了分钟级的实时性，满足了业务对准实时数仓的严苛要求。Hudi的湖仓一体架构让实时处理与批处理无缝对接，数据一致性、计算引擎和存储统一，为数据处理带来了前所未有的效率和灵活性。

       快速入门Hudi

       要体验Hudi的魅力，首先确保大数据环境的准备。从Maven的安装开始，下载0.9.0源码包，然后添加Maven镜像以优化依赖下载。将Hudi源码解压并编译，最后通过Hudi CLI进行验证，确保一切顺利。

       Hudi的平台架构是基于HDFS存储和Spark操作的，所以安装HDFS是必不可少的。这包括解压软件、配置环境变量、设置Hadoop和HDFS相关配置，以及格式化和启动集群。完成后，可以通过HDFS Web UI来监控和管理数据。

       在国内众多企业中，Hudi已成为构建数据湖和大数据仓库的核心组件，助力企业实现数据湖与仓库的高效整合，打造湖仓一体化的现代化数据处理平台。

       深入学习资源

       想深入了解Hudi？可以参考黑马程序员的大数据数据湖架构Hudi视频教程，从基础概念到实战项目，涵盖HDFS、Spark、Flink、Hive等关键技术，让你从零开始，逐步领略Hudi的强大功能。

FlinkCDC数据实时同步Mysql到ES

       当需要将数据库数据实时同步到其他系统，如Elasticsearch，一个高效的方法是利用Apache Flink的CDC（Change Data Capture）技术。Flink CDC通过监控数据库日志，捕获数据的增删改操作，并实时将这些变化数据传输到目标系统，满足高实时性的需求。Flink CDC凭借Flink的强大实时处理能力，支持集群部署和高可用性，且与MySQL、Oracle、MongoDB等主流数据库兼容，其Java实现为开发者提供了灵活的开发环境和源码可定制性。

       例如，通过Flink SQL，仅需寥寥几行代码就能实现MySQL数据到Elasticsearch的实时同步。首先，确保安装了相关的Flink和SQL插件，如flink-1..0和flink-sql-connector-组件。启动Flink后，通过窗口功能创建与MySQL的连接表，以及与Elasticsearch同步的表。接着编写SQL任务，任务运行后，MySQL的数据即可实时流入Elasticsearch。此外，Flink CDC还支持其他数据源，如Oracle、MongoDB等，可以灵活地通过Kafka等中间件进行进一步处理和分发。

       想了解更多关于Flink CDC的细节和使用方法，可以参考以下链接：

       Flink CDC官网

       Flink CDC GitHub仓库

       Flink官方文档

       通过以上Flink CDC的介绍，实时同步MySQL到Elasticsearch的任务变得简单而强大。