遇事不决,可问春风 Kafka副本同步策略(ISR) Kafka对于Producer生产的消息怎么保证可靠性?简单说就是每个Partation都分配给副本,做数据同步,保证数据不丢失。 副本同步策略(ISR): kafka不是完全同步,也不是完全异步,是一种ISR机制,先来了解下完全同步的优势劣势 完全同步的优点:同样为了容忍N台节点的故障, 2024-01-18 389 0 Kafka
遇事不决,可问春风 Hadoop和Spark的联系 一、Hadoop 到 Spark 的变化 Spark 运算比 Hadoop 的 MapReduce 框架快的原因是因为 Hadoop 在一次 MapReduce 运算之后,会将数据的运算结果从内存写入到磁盘中,第二次 Mapredue 运算时在从磁盘中读取数据,所以其瓶颈在2次运算间的多余 IO 消 2023-12-29 115 0 Spark Scala
图片加载失败 Flink中的多事件Join 流式计算中的 2 个问题: 流式数据到达计算引擎的时间不一定:比如 A 流的数据先到了,A 流不知道 B 流对应同 key 的数据什么时候到,没法关联(数据质量问题) 流式数据不知何时、下发怎样的数据: A 流的数据到达后,如果 B 流的数据永远不到,那么 A 流的数据在什么时候以及是否要填充一个 2023-12-28 217 0 Flink
遇事不决,可问春风 字符串的最长公共前缀 需求:编写一个函数来查找字符串数组中的最长公共前缀。如果不存在公共前缀,返回空字符串。 示例 1: 输入: ["flower","flow","flight"] 输出: "fl" 示例 2: 输入: ["dog","racecar","car"] 输出: "" 一、实现思路 获取第一个index的字 2023-12-25 125 0 数据结构与算法 Java
遇事不决,可问春风 两两交换链表节点(链表相邻节点交换) 需求:现在输入一个链表,1->2->3->4,对其相邻两个节点进行交换后得到新链表:2->1->4->3,请给出具体的实现。 一、实现思路 创建一个辅助的头节点,这样可以统一处理头节点和其他节点的交换逻辑。 使用两个指针,一个指向当前要交换的两个节点的前一个节点(prev),另一个指向当前要交换的第 2023-12-25 137 0 数据结构与算法 Java
图片加载失败 面试-笔试题集锦 1.[Hive]统计用户月访问量 统计每个用户 [月总访问次数],和 [从1月累计到当前月的总访问次数] uid,date,vcnt u01,2023-01-01,5 u02,2023-01-02,6 u02,2023-01-03,7 u02,2023-02-04,8 u03,2023-0 2023-10-16 153 0 Hive 数据仓库 Spark Java Hadoop
图片加载失败 二叉树的遍历 树的遍历是树的一种重要的运算。所谓遍历是指对树中所有结点的信息的访问,即依次对树中每个结点访问一次且仅访问一次,我们把这种对所有节点的访问称为遍历(traversal)。那么树的两种重要的遍历模式是深度优先遍历和广度优先遍历,深度优先一般用递归,广度优先一般用队列。一般情况下能用递归实现的算法大部分 2023-10-12 115 0 数据结构与算法
图片加载失败 Spark基础-基础必备 1、Spark宽窄依赖 窄依赖(Narrow Dependency): 指父RDD的每个分区只被子RDD的一个分区所使用。例如map、filter等这些算子的一个RDD,对它的父RDD只有简单的一对一的关系,RDD的每个partition仅仅依赖于父RDD 中的一个partition,父RDD和子R 2023-10-09 125 0 Spark