课程简介:
大数据市场成熟的技术,这套课程是根据多易教育最新4.6版的技术大纲来讲解
全新hadoop培训大纲,非常适合想从事大数据开发离线数据处理学习的朋友们
课程目录
第一天hadoop的基本概念
01-hadoop职位需求状况
02-hadoop序列化机制详解
03-hadoop服务概念详解--socket个性化开发服务
04-hadoop服务概念详解--web服务
05-hadoop服务概念详解--web服务加强
06-hadoop服务概念详解--多端口多功能服务
07-hadoop服务概念详解--RPC服务简介
08-序列化总结
09-服务概念总结
10-hadoop简单RPC框架开发11-进程和线程的概念解析
12-迭代器详解
13-文件格式详解及列式存储示例
第二天hdfs的核心设计思想、搭建、原理
01-大数据导论1
02-大数据导论2
03-HDFS核心设计思想
04-HDFS核心配置参数项解析
05-HDFS集群安装和启动
06-hadoop安装遇到的问题1
07-hadoop安装遇到的问题2
08-hdfs集群的自动化启动、关闭脚本详解
09-hdfs访问方式
10-hdfs命令行客户端的运行机制和配置参数
11-hdfs命令行客户端常用操作命令
12-hdfs运行机制的观察-block快的丢失问题
第三天HDFS案例分析
01-客户端核心参数-副本数-块大小
02-客户端身份和权限验证问题
03-hadoop-libc本地库告警问题
04-HDFS客户端API编程基本操作
05-HDFS客户端下载-Windows本地库配置
06-HDFS客户端移动改名操作
07-HDFS客户端查看目录
08-HDFS客户端写文件内容
09-HDFS客户端案例需求1
10-HDFS应用--web日志采集程序开发
11-namenode元数据管理原理-checkpoint
12-HDFS客户端读写数据流程
13-HDFS案例2--分布式wordcount-maptask
第四天mapreduce核心设计思想及案例
01-复习
02-mapreduce框架的设计思想
03-mapreduce入门程序-wordcount-代码开发
04-mapreduce程序运行机制-yarn安装启动
05-mapreduce-架构-流程-代码-整体梳理
06-mr编程示例-流量求和
07-mr程序对脏数据的处理办法(过滤)
08-mr编程示例--电影评分topn
09-mr编程示例--修正-迭代器注意事项
10-mr编程示例--去重-线段重叠数
11-mr编程示例--去重的思路
12-mr编程示例--线段重叠次数统计
第五天mr任务调动机制及内部运行流程
01-mr编程案例-全局topn-join算法-setup-cleanup-filesplit
02-mr编程模型总结
03-mr编程案例-索引创建
04-mr的任务并行度设置机制
05-mr的高级组件编程案例-partitioner-Groupingcomparator-writableComparable
06-mr内部运行流程
07-远程启动程序的模拟
08-mr程序的启动-调度过程
09-mr运行模式详解-yarn-local
第六天mr详解
01-sequencefile文件格式应用示例
02-combinerTextInputFormat使用示例
03-自定义outputformat组件-复杂mapreduce编程案例--日志增强
04-mapreduce的输出压缩配置
05-mapreduce程序传递配置参数
06-mapreduce的全局计数器
07-mapreduce的多路输出器
08-mapreduce框架中的分布式cache机制和应用示例-map端join
09-maptask的局部聚合组件Combiner
10-mapreduce申请容器以及yarn的资源总量等配置
11-mapreduce的job信息历史存档服务器jobhistoryserver
12-如何通过命令kill掉yarn中运行的一个job
13-hdfs扩容和元数据损坏解决
14-hadoop的HA模式集群搭建
版权声明:
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如若内容造成侵权、违法违规、事实不符,请将相关资料发送至xkadmin@xkablog.com进行投诉反馈,一经查实,立即处理!
转载请注明出处,原文链接:https://www.xkablog.com/rfx/49643.html