sf_www
深耕大数据领域,可相互交流
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
Flink读写Kafka(Table API)
讲解使用flink table api读写kafka 以及相关配置原创 2025-01-21 11:05:20 · 854 阅读 · 0 评论 -
Flink类加载机制详解
讲解flink的类加载的分类、顺序以及如何解决冲突等原创 2025-01-13 13:30:31 · 863 阅读 · 0 评论 -
Flink错误系列(1):could not be determined automatically, due to type erasure. You can give type informati
遇到could not be determined automatically, due to type erasure的原因分析和解决办法原创 2025-01-07 10:25:12 · 222 阅读 · 0 评论 -
Flink分区方式有哪些
讲解flink重分区的方式原创 2025-01-06 16:26:42 · 697 阅读 · 0 评论 -
Flink如何设置合理的并行度
讲解如何合理设置并行度原创 2025-01-06 13:06:14 · 808 阅读 · 0 评论 -
Flink 读取Kafka无法触发window计算
讲解读取kafka数据却无法触发下游窗口计算的原因分析以及解决办法 窗口触发的过程等原创 2025-01-03 14:43:03 · 451 阅读 · 0 评论 -
Flink读写Kafka(DataStream API)
讲解flink读写kafka的使用,相关的重要配置说明,以及并行度的合理设置,并行度对watermark的影响等原创 2024-12-31 08:32:33 · 1284 阅读 · 0 评论 -
Flink Data Source详解
实现flink 数据源 source原创 2024-12-25 16:57:15 · 606 阅读 · 0 评论 -
Flink执行模式(批和流)如何选择
讲解如何在flink的流和批处理模式之间做出选择原创 2024-12-19 13:45:37 · 787 阅读 · 0 评论 -
Flink DataStream API 编程指南
讲解使用 Flink DataStream API 开发的大体流程原创 2024-12-17 14:41:07 · 688 阅读 · 0 评论 -
Flink日志配置
Flink的日志配置详解原创 2024-12-05 14:14:00 · 1485 阅读 · 0 评论 -
Flink历史服务器-History Server
讲解 flink的历史服务器 如何查看历史作业信息原创 2024-12-03 13:18:35 · 1209 阅读 · 0 评论 -
Flink高可用配置(HA)
flink程序实现高可用配置原创 2024-11-27 14:19:25 · 975 阅读 · 0 评论 -
Flink细粒度的资源管理
本文讲解flink在细粒度的资源管理,默认是粗粒度的资源管理(coarse-grained resource management)原创 2024-11-26 14:21:38 · 839 阅读 · 0 评论 -
Flink监控checkpoint
本文讲解 flink checkpoint页面的详细信息原创 2024-11-18 13:15:15 · 818 阅读 · 0 评论 -
Flink应用在生产环境上线前的注意事项
本文讲解 编写的flink应用程序在生产环境上线前应该做哪些检查原创 2024-11-18 08:31:19 · 506 阅读 · 0 评论 -
Flink升级程序和版本
讲解如何升级flink程序和flink框架版本原创 2024-11-15 09:29:17 · 700 阅读 · 0 评论 -
Flink 开发工程应加载哪些依赖
讲解flink打包时 依赖相关配置原创 2024-11-13 15:56:52 · 890 阅读 · 0 评论 -
Flink on YARN是如何确定TaskManager个数的
flink on yarn如何确定taskmanager个数原创 2024-11-08 10:07:29 · 1078 阅读 · 0 评论 -
flink 内存配置(五):网络缓存调优
通过启用缓冲区去膨胀机制,可以简化Flink中网络的内存配置调优。您可能需要对其进行调优。如果这不起作用,你可以禁用缓冲区去膨胀机制,并手动配置内存段大小和缓冲区数量。使用最大吞吐量的默认值减小内存段大小和/或减少独占缓冲区数量,以加快检查点操作速度并降低网络堆栈的内存消耗。原创 2024-11-06 13:52:23 · 1373 阅读 · 0 评论 -
flink 内存配置(四):内存调优和问题处理
本节解释如何根据用例设置内存,以及每种用例中哪些选项是重要的。原创 2024-11-05 10:33:08 · 1505 阅读 · 0 评论 -
flink 内存配置(三):设置JobManager内存
JobManager是Flink集群的控制元素。Flink由3部分组成:资源管理器(Resource Manager)、调度器(Dispatcher)和每个运行的Flink作业对应的JobMaster。注意下面的讲解适用于JobManager 1.11之后的版本。原创 2024-11-05 08:31:54 · 1979 阅读 · 0 评论 -
flink 内存配置(二):设置TaskManager内存
TaskManager在Flink中运行用户代码。根据需要配置内存使用,可以极大地减少Flink的资源占用,提高作业的稳定性。注意下面的讲解适用于TaskManager 1.10之后的版本。与JobManager进程的内存模型相比,TaskManager内存组件具有类似但更复杂的结构。原创 2024-11-04 14:59:10 · 2732 阅读 · 0 评论 -
flink 内存配置(一):设置Flink进程内存
Apache Flink通过严格控制各个组件的内存使用,在JVM之上提供了高效的工作负载。虽然Flink社区努力为所有配置提供合理的默认值,但由于用户部署在Flink上的应用范围很广,这并不总是可行的。为了给用户提供最大的生产价值,Flink支持对集群内的内存分配进行高层和细粒度的调优。下面进一步描述的内存配置适用于1.10版本之后的TaskManager进程和1.11版本之后的JobManager进程。原创 2024-11-04 08:57:30 · 1419 阅读 · 0 评论 -
Flink命令行提交时参数的传递
flink 外部参数传递原创 2024-03-07 10:44:32 · 1328 阅读 · 0 评论 -
flink反压
flink反压过程介绍原创 2024-02-21 09:30:00 · 3577 阅读 · 0 评论 -
Flink Format系列(2)-CSV
flink csv原创 2024-02-07 14:35:02 · 1548 阅读 · 0 评论 -
Flink SQL join类型
flink sql join类型讲解原创 2023-03-07 10:59:36 · 2406 阅读 · 0 评论 -
Flink Format系列(1)-JSON
Flink sql解析复杂json原创 2022-07-22 15:53:05 · 3743 阅读 · 0 评论 -
Flink Watermark机制
flink watermark详解原创 2022-06-23 08:38:05 · 2136 阅读 · 0 评论 -
Flink sql-client.sh使用
讲解flink sql-client.sql的关键点以及不足原创 2022-06-17 17:08:46 · 4488 阅读 · 2 评论 -
Flink Task、Sub-Task、task slot和parallelism
flink task subtask slot相关概念解释原创 2022-06-13 11:22:43 · 1787 阅读 · 0 评论 -
Flink 时间流处理
讲解flink中时间的分类,以及时间在水位线、窗口计算中的应用原创 2022-03-29 11:14:16 · 3125 阅读 · 0 评论 -
Flink state使用
讲解flink的state的分类以及如何使用原创 2022-03-21 08:01:36 · 3780 阅读 · 0 评论 -
Flink 生产环境配置建议
讲解flink 上生产的一些建议配置项原创 2022-03-15 13:43:14 · 9622 阅读 · 0 评论 -
Flink函数系列(2)-CheckpointedFunction
讲解实现CheckpointedFunction的关键点原创 2022-03-07 10:40:26 · 4231 阅读 · 0 评论 -
Flink函数系列(1)-rich function
rich function,即“富”函数,即相比一般的function来说,他提供了更多的功能。它定义了函数生命周期的一些方法,并可以获取函数运行时的上下文。原创 2022-03-06 00:56:23 · 2680 阅读 · 0 评论 -
flink checkpoint配置详解
讲解flink的checkpoints的相关配置及建议值原创 2022-02-26 09:50:56 · 18476 阅读 · 8 评论 -
Flink 并行度的理解(parallel)
讲解flink的并行度的理解原创 2022-02-20 10:47:43 · 2228 阅读 · 1 评论 -
Flink重启策略
讲解flink的重启策略原创 2022-02-11 09:27:22 · 3160 阅读 · 0 评论