当前位置:网站首页 > 大数据架构 > 正文

最新架构设计之大数据架构(Lambda架构、Kappa架构)_架构大数据:大数据技术及算法解析

Kafka:一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者在网站中的所有动作流数据。

ZooKeeper:开放源码的分布式应用程序协调服务,是Hadoop和Hbase的重要组件。它是一个为分布式应用提供一致性服务的软件,提供的功能包括:配置维护、域名服务、分布式同步、组服务等。

三. Lambda架构

3.1 Lambda架构分解为三层

在这里插入图片描述

  • 批处理层(Batch Layer):两个核心功能,存储数据集和生成Batch View。
  • 加速层(Speed Layer):存储实时视图并处理传入的数据流,以便更新这些视图。
  • 服务层(Serving Layer):用于响应用户的查询请求,合并 Batch View 和 Real-time View 中的结果数据集到最终的数据集。

3.2 优缺点

其优点:
 容错性好、查询灵活度高 、易伸缩、易扩展

其缺点:
 全场景覆盖带来的编码开销。 针对具体场景重新离线训练一遍,益处不大。重新部署和迁移成本很高。

3.3 实际案例

到此这篇最新架构设计之大数据架构(Lambda架构、Kappa架构)_架构大数据:大数据技术及算法解析的文章就介绍到这了,更多相关内容请继续浏览下面的相关推荐文章,希望大家都能在编程的领域有一番成就!

版权声明


相关文章:

  • 云原生大数据架构:实施与优化_云原生大数据平台2024-10-30 16:12:35
  • 大数据架构_etl数据抽取工具2024-10-30 16:12:35
  • 五种主流大数据架构介绍_大数据 架构2024-10-30 16:12:35
  • 大数据架构和模式(一): 大数据分类和架构简介_大数据的架构体系是什么2024-10-30 16:12:35
  • 大数据——大数据架构_大数据架构详解2024-10-30 16:12:35
  • 最全架构设计之大数据架构(Lambda架构、Kappa架构)(1)_大数据架构工具2024-10-30 16:12:35
  • 大数据最全架构设计之大数据架构(Lambda架构、Kappa架构),2024年最新不可多得的干货_最受欢迎的云计算架构2024-10-30 16:12:35
  • 大数据——大数据架构_大数据架构详解2024-10-30 16:12:35
  • 平安大数据架构_中国平安组织架构图2024-10-30 16:12:35
  • 大数据架构简介_大数据技术架构2024-10-30 16:12:35
  • 全屏图片