Kafka:一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者在网站中的所有动作流数据。
ZooKeeper:开放源码的分布式应用程序协调服务,是Hadoop和Hbase的重要组件。它是一个为分布式应用提供一致性服务的软件,提供的功能包括:配置维护、域名服务、分布式同步、组服务等。
三. Lambda架构
3.1 Lambda架构分解为三层
- 批处理层(Batch Layer):两个核心功能,存储数据集和生成Batch View。
- 加速层(Speed Layer):存储实时视图并处理传入的数据流,以便更新这些视图。
- 服务层(Serving Layer):用于响应用户的查询请求,合并 Batch View 和 Real-time View 中的结果数据集到最终的数据集。
3.2 优缺点
其优点:
容错性好、查询灵活度高 、易伸缩、易扩展
其缺点:
全场景覆盖带来的编码开销。 针对具体场景重新离线训练一遍,益处不大。重新部署和迁移成本很高。
3.3 实际案例
到此这篇最新架构设计之大数据架构(Lambda架构、Kappa架构)_架构大数据:大数据技术及算法解析的文章就介绍到这了,更多相关内容请继续浏览下面的相关推荐文章,希望大家都能在编程的领域有一番成就!版权声明:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如若内容造成侵权、违法违规、事实不符,请将相关资料发送至xkadmin@xkablog.com进行投诉反馈,一经查实,立即处理!
转载请注明出处,原文链接:https://www.xkablog.com/kjbd-jg/5755.html