当前位置: 首页 > news >正文

大数据运维:分布式集群基础配置

一、教学目标

通过本篇的学习,掌握以下内容:

  1. 集群基础配置的主要内容

  2. 常见的上网模式

  3. 网络配置文件的存放目录

  4. 关闭防火墙的原因及方法

  5. SSH协议的基本概念

  6. 免密登录的实现过程

二、连网模式

1.检查上网模式

(2).ping www.baidu.com

(2).dhclient

(3).ping www.baidu.com

(4).Windows下查看虚拟机

(5).虚拟机下查看上网模式

2.虚拟机常见的三种上网模式:

模式说明
桥接模式虚拟机与物理机在同一网段,可直接互访
NAT模式虚拟机通过地址转换访问外网,与物理机不在同一网段
仅主机模式仅能与宿主机通信,无法访问外网

桥接模式:

NAT模式:

仅主机模式:

3.多网卡设置

默认只有一个网卡,生产环境需要多网卡。

查看网卡信息 (1)ip a (2)ifconfig (查看激活的网卡) (3)ifconfig –a (查看全部网卡)

网卡IP设置 vi /etc/sysconfig/network-scripts/ifcfg-eth0

重启网络 service network restart (网卡IP设置生效)

查看默认网关: route -n

添加网卡

三、主机网络配置

1. 查看网卡信息

bash

ip a ifconfig # 查看激活的网卡 ifconfig -a # 查看全部网卡

2. 配置静态IP

编辑网卡配置文件:

bash

vi /etc/sysconfig/network-scripts/ifcfg-eth0

常用配置项说明:

参数含义
DEVICE设备名称
ONBOOT是否开机激活
BOOTPROTOIP获取方式(static/dhcp)
IPADDR静态IP地址
NETMASK子网掩码
GATEWAY默认网关
DNS1首选DNS

3. 重启网络服务

bash

service network restart # CentOS6 systemctl restart network.service # CentOS7

四、防火墙与时钟同步

1. 关闭防火墙

原因:为防止乌龙事件,在学习的时候要关闭防火墙。

2.关闭的方法

(1)关闭centos防火墙 systemctl stop firewalld.service关闭防火墙

(2)查看防火墙状态 firewall-cmd –state

(3)开启防火墙:systemctl start firewalld.service

3.时钟同步

(1).作用:

在hadoop环境的搭建过程中,需要对几台机器配置ntp服务,目的是让集群中的所有机器保持时间一致。

如果时间相差较大,在后续过程中会出现很多问题,因此,我们需要配置NTP服务、他可以提供高精度时间校准,同时使用加密的方式防护病毒的协议攻击。

(2).相关操作

rpm -qa | grep ntp 查看是否安装

ntp yum install ntp ntpdate -y 安装ntp,已安装则跳过此步骤

systemctl status ntpd 查看ntp服务器状态

vi /etc/ntp.conf 配置同步ntp-server时间,文件内容如下

systemctl start ntpd 启动ntp服务

systemctl enable ntpd 设置开机启动

ntpdate -u 10.82.71.73手动同步一次时间

五、安装JDK开发环境

注意:rpm下载的文件全部在/usr下

注意:环境变量生效: source 文件名

六、集群网络配置

1. 克隆虚拟机

用于快速复制多台节点。

2. 唯一性配置

克隆后需修改:

  • 主机名

  • IP地址

  • MAC地址

  • UUID

3. 优化配置

防止重启后恢复为原始设置。

七、免密登录与用户管理

1. 为什么要免密登录?

集群内节点之间频繁通信,免密登录可提高效率,避免重复输入密码。

2.免密原理

(1).公钥和私钥匹配

(2). SSH协议 是一种加密的网络传输协议。可在不安全的网络中为网络服务提供安全的传输环境。SSH通过在网络中创建安全隧道来实现SSH客户端与服务器之间的连接。

3.生成密钥

生成密钥:ssh-keygen -t rsa -C "xxxxx@xxxxx.com"

密钥存放位置:/root/.ssh

生成密钥有几种:私钥( id_tsa )、公钥( id_tsa.pub)

发送私钥给自己:ssh-copy-id id_tsa localhost

发送公钥给他人:ssh-copy-id id_tsa.pub hadoop2

注意:三台机器都如此过程

4.测试免密登录

ssh localhost

ssh bigdata01

5.用户管理

(1).为什么要用户管理 root用户权限太高,普通人拥有root权限风险太大,在生产环境要使用普通用户权限。

(2).添加普通用户

添加用户组bd: groupadd bd

添加普通用户py: useradd –g bd py

设置用户密码: password py

(3).赋予用户权限

(4).切换用户

切换到普通用户:su py

切换到超级用户:su

(5).删除用户

userdel py

http://www.jsqmd.com/news/619158/

相关文章:

  • 基于下垂控制的光储直流微电网模型:光伏、储能与直流负载的协调运行策略
  • 2026年ICF教练认证机构选择指南:为何埃里克森成为行业首选? - 资讯焦点
  • 大模型再聪明也不懂你的公司内部文档?RAG 让通用模型学会“你的知识“,Java 开发者轻松实现智能问答系统!
  • Vue3 + TypeScript 组合式API实战技巧:从入门到项目实战
  • strlen 和 sizeof 的核心区别
  • Pinia介绍及Vue3配置示例
  • 意想不到,网络安全今年更卷了:不仅要会挖洞,还得懂云原生 + AI 攻防,成 “六边形战士” 才够格!
  • 5分钟掌握Windows和Office智能激活:KMS_VL_ALL_AIO终极方案
  • 专业教练认证机构选哪个?埃里克森以多年深耕定义行业新高度 - 资讯焦点
  • 基于PLC的电机调速控制系统设计
  • VS2017登录失败终极解决方案:从Edge升级到凭证刷新的完整避坑指南
  • Balboa32U4库深度解析:面向平衡机器人的嵌入式硬件抽象设计
  • Aegisub字幕制作三阶工作流:从零基础到专业特效
  • AI原生≠Prompt+API!SITS2026标准强制要求的3类可审计智能合约、2种运行时验证机制全披露
  • 从GitLab到知识中枢:AI原生研发平台搭建全流程(含可复用的17个YAML配置模板)
  • 2026抗衰变天!沙特入场、新加坡拟纳保:NMN如何从“富人游戏”变全民刚需? - 资讯焦点
  • 如何用bili2text快速将B站视频转为文字:三步搞定视频转文字工具指南
  • 漫画脸描述生成实战案例:为VR社交应用生成用户可定制化动漫形象
  • 打卡信奥刷题(3091)用C++实现信奥题 P7133 小 P 的星空
  • 【2026奇点大会权威解码】:AI原生开源生态的5大技术拐点与3类开发者必抢入场券
  • 基于plc材料分拣控制系统设计
  • TMS320F280049系列文章之第N章 Flash API实战:从零构建Bootloader核心流程
  • AI时代,出海工厂如何抢占“AI推荐流量”?一篇讲透GEO新红利
  • BepInEx插件框架:5分钟掌握Unity游戏模组开发与注入技术
  • 拆穿名词诈骗!用大白话理解晦涩难懂的AI概念坊
  • 智能配电网的双时间尺度随机优化调度
  • React Native Decompiler:三层插件架构下的JavaScript打包代码逆向工程深度解析
  • beeline报错JavaHotSpot64-BitServerVM warning:INFO:os:commit_memorfailed:error=‘Cannot allocate memory‘
  • 为什么你的AI项目总卡在“最后一公里”?——组织适配度低于阈值62%的致命真相
  • 千问3.5-9B算法学习伴侣:LeetCode解题思路分析与代码生成