当前位置: 首页 > news >正文

【Ambari Plus】04.HDFS 安装

HDFS 安装

HDFS是后面很多组件的底座。YARN、MapReduce2、Tez、Hive、HBase、Spark、Hue 都会不同程度依赖它,所以我会把 HDFS 放在 Knox 之后、YARN 之前安装。

当前集群已经开启了 Kerberos,也已经接入了 Ranger 和 Knox。安装 HDFS 时会多一个动作:向导需要提交一次 KDC 管理员凭据,用来为 HDFS 生成和分发 Kerberos Principal。这个步骤不要跳过,否则组件包可能装完了,但服务启动和 Service Check 会卡住。

本次主机规划如下:

主机HDFS 角色
hadoop1.test.comNAMENODEDATANODEHDFS_CLIENT
hadoop2.test.comSECONDARY_NAMENODEDATANODEHDFS_CLIENT
hadoop3.test.comDATANODEHDFS_CLIENT

::: tip
这里继续使用 FQDN 主机名,不要在 HDFS、Kerberos、Knox 之间混用 IP、短主机名和完整域名。后面接 WebHDFS、Hive、Hue、Knox 拓扑时,统一主机名能少掉很多莫名其妙的认证问题。
:::

1. 选择 HDFS 服务

进入服务与组件,点击新增服务。在服务列表中找到HDFS,勾选它。

这一步只选择 HDFS。页面会显示已选服务 1,说明本次向导只处理 HDFS,不会把 YARN、MapReduce2、Hive 等后续组件一并装进去。

HDFS 的依赖里已经有 ZooKeeper 和 Kerberos 环境,前面的准备文章已经完成,所以这里可以直接下一步。

2. 分配 Master 角色

Master 分配页里有两个 HDFS Master 角色:

组件分配主机
NAMENODEhadoop1.test.com
SECONDARY_NAMENODEhadoop2.test.com

我这里保留默认分配。hadoop1.test.com是平台入口和主要管理节点,把NAMENODE放在这里,后面看 HDFS 状态、接 Hive、接 Hue 时都比较直观。SECONDARY_NAMENODE放到hadoop2.test.com,可以把 checkpoint 角色和 NameNode 分开。

::: warning
SecondaryNameNode 不是 NameNode 的热备。它主要做 checkpoint,不等于 HDFS HA。生产环境要做 NameNode HA,需要单独规划 JournalNode、ZKFC 和两个 NameNode。
:::

3. 分配 DataNode 和 HDFS Client

Slave 与 Client 分配页里,HDFS 有两个要看的角色:

角色本次分配
DATANODEhadoop1.test.comhadoop2.test.comhadoop3.test.com
HDFS_CLIENThadoop1.test.comhadoop2.test.comhadoop3.test.com

演示环境三台机器都作为 DataNode,这样 HDFS 能看到 3 个存储节点。HDFS_CLIENT也三台都装,后续在任意节点上执行hdfs dfs命令会方便一些。

如果是生产环境,DataNode 是否部署到管理节点,要结合磁盘、内存、角色隔离和运维规范决定;教程环境为了完整演示,三台都保留。

4. 补齐代理用户配置

进入自定义配置页后,页面会提示有1 个必填配置项尚未填写。点击待填写,只看缺失项。

缺失项在core-site.xml,配置名是hadoop.proxyuser.*。这里填写:

配置项示例值
hadoop.proxyuser.**

这个配置和后面的 Hive、Hue、Knox 代理访问有关。教程环境写*,可以减少后面组件接入时的代理用户报错;生产环境建议按具体服务用户收紧,例如只给hiveknoxhue等代理用户开放指定主机和组。

5. 确认安装清单

配置补齐后进入确认页。这里不要直接点开始安装,我会先对照三项:

检查项本次结果
新增服务HDFS
Master 分配NAMENODE -> hadoop1.test.comSECONDARY_NAMENODE -> hadoop2.test.com
Slave / Client 分配DATANODEHDFS_CLIENT都在三台主机
配置校验必填项已填写

确认无误后点击开始安装

6. 提交 KDC 管理员凭据

因为集群已经启用了 Kerberos,HDFS 安装过程中会弹出KDC 管理员凭据。这里使用前面 Kerberos 文章里创建的管理员:

配置项示例值
管理员 Principaladmin/admin@TEST.COM
管理员密码填写实际 KDC 管理员密码

填写后点击提交并继续安装。这个凭据只用于本次创建 HDFS Principal 和下发 keytab,页面不会保存管理员密码。

7. 等待安装与 Service Check

提交凭据后,向导会进入安装进度页。这里不要只看包安装是否完成,还要看后面的启动和HDFS_SERVICE_CHECK

这个阶段我重点看:

检查项期望结果
DATANODE三台主机都启动成功
NAMENODEhadoop1.test.com启动成功
SECONDARY_NAMENODEhadoop2.test.com启动成功
HDFS_SERVICE_CHECK最终执行成功
失败任务0

如果卡在启动阶段,优先点开失败主机的日志看 Kerberos、目录权限、端口占用和磁盘目录问题。HDFS 的启动链路比较长,DataNode成功不代表整套服务已经可用,Service Check 通过才算这一轮安装收口。

8. 完成安装向导

服务启动和检查完成后,向导进入最后一步,页面会显示 HDFS 安装完成。

这里可以点击返回服务列表。我一般会先回到服务总览看一次,确认 HDFS 已经被归到基础存储分类里,并且核心角色显示运行中。

9. 回到 HDFS 服务页确认状态

最后进入 HDFS 服务详情页,状态应显示为运行中

这个页面我会看几项:

检查项期望结果
服务状态HDFS运行中
核心实例NameNodeSNameNodeDataNode显示运行中
待刷新配置0
失败请求0

HDFS Client是客户端组件,状态通常是已安装,不会像 DataNode 那样作为守护进程显示运行中。只要服务状态是运行中、核心实例正常、失败请求为 0,这一篇就可以收口。

HDFS 装好以后,下一步继续安装 YARN。YARN 会把资源调度层补上,后面的 MapReduce2、Tez、Hive、Spark 才有比较完整的运行基础。

http://www.jsqmd.com/news/1099644/

相关文章:

  • 以社区登录为例,对接社区如微信登录后,在keycloak登录页点微信按钮,
  • 新手用AI写长篇小说全流程教学,深度使用指南(附提示词)
  • ESP32 + 传感器:手把手教你做土壤监测终端
  • Windows本地实时语音转文字:TMSpeech让你的电脑变身智能会议助手
  • 大模型技术之深度学习
  • Java 26 发布了, 我人麻了。。
  • AI Agent 新概念: Loop Engineering 是什么? 一篇文章讲清楚定义、组成、应用场景
  • Redis缓存实战:彻底解决缓存穿透、击穿、雪崩三大难题
  • 软件工程从业所需的技能:正确认识行业,并走出可持续的职业生涯
  • 整群随机抽样
  • 可视化学科发展脉络浅梳(学习笔记)
  • 京东开源实时视频视觉语言交互模型:全栈方案解析与落地实践
  • sdfsfds
  • 2026 年本地部署的 AI 数字人直播系统到底有多省钱?
  • 开源模型技术总结-3————FireRed(小红书)开源模型
  • 北京心商科技发布GEO优化产品 助力企业合规营销
  • 从Prompt到Loop,拆解Agent 进化的底层逻辑
  • Agent推理快到API成瓶颈:Responses API WebSocket如何提速40%
  • 51单片机数码管电压表
  • 大模型评测与AI产品质量保障:第3篇 用 Python 调用 模型API
  • OpenAI SDK 环境搭建教程
  • Xshell+Xftp使用教程
  • 主流三维光学轮廓仪国产品牌与技术解析
  • 操作简便吗?8款AI写作辅助网站综合榜,毕业答辩稳了!
  • TactiX实测:星际2战术训练神器,支持离线REP解析与MOD扩展
  • 2026 在上海如何找一家专业又靠谱的小程序定制开发公司
  • 告别命令行!用JGit在Java项目里优雅地操作Git(附完整API使用示例)
  • SpringBoot(springboot的类加载和传统的双亲委派有什么区别、如何按顺序实例化Bean)
  • 】[SampleVirtualTexture节点]原理解析与实际应用
  • 只看光明的一面:当机器学习失去“反面教材“时 | Positive-Only Learning深度解读