广告
返回顶部
首页 > 资讯 > 数据库 >在Hadoop2.X/YARN环境下如何搭建CentOS7.0系统配置
  • 389
分享到

在Hadoop2.X/YARN环境下如何搭建CentOS7.0系统配置

2024-04-02 19:04:59 389人浏览 独家记忆
摘要

这篇文章主要讲解了“在hadoop2.X/YARN环境下如何搭建Centos7.0系统配置”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“在Hadoop2.X

这篇文章主要讲解了“在hadoop2.X/YARN环境下如何搭建Centos7.0系统配置”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“在Hadoop2.X/YARN环境下如何搭建CentOS7.0系统配置”吧!

一、我缘何选择CentOS7.0

    14年7月7日17:39:42发布了CentOS 7.0.1406正式版,我曾使用过多款linux,对于Hadoop2.X/YARN的环境配置缘何选择CentOS7.0,其原因有:

1、界面采用RHEL7.0新的GNOME界面风,这可不是CentOS6.5/RHEL6.5所能比的!(当然,Fedora早就采用这种风格的了,但是现在的Fedora缺包已然不成样子了)

2、曾经,我也用了RHEL7.0,它最大的问题就是YUM没法用,而且总会有Warning提示注册购买!为此,必须去修改YUM源,还有修改其他的文件使之不提示才能用,看了这么麻烦,想必有很多童鞋滴心就已经凉了4/7了吧!

3、当然,ubuntu系列我用过Ubuntu14.04/12.04和elementaryOS,不知为何,一用Ubuntu14.04就觉得好丑呀!!但是有很多人都说CentOS和RHEL更丑,但殊不知哪个才是企业级的,那个才是霸主。

另一方面,要求视觉效果的话,建议去装个elementaryOS试试,当然,elementaryOS也有缺陷:它已经许久没有提供更新了,12年推出的,已逾2年未曾发布新版本的系统,也未曾更新网站,与此同时,elementaryOS的模型Ubuntu早就更新换代了,所以,暴露了不少问题,其中麻烦的是不要随意更新系统,否则黑屏,那就真的纯命令行了,漂亮的系统突然被打回原型,那心铁定疤凉疤凉的,而且它更新后的apt-get是无法安装某些匹配某些,所以elementaryOS只供欣赏把玩!

4、也有人用过openSUSE,据说是最华丽的系统,在我看来,花哨的KDE打开文件/软件时显示的一跳一跳的,我心里就痒痒的,没事儿你弄个没用又难看的东东干嘛??干嘛??另外,最新的openSUSE对中文的设计的确无法令人满意。另外,就是openSUSE的环境不怎么熟悉,欧洲人设计的GNU/Linux还有些难适应,当然,我也不打算改旗易帜向欧洲SUSE倒戈。

其实,GNU/Linux版本众多,选择一个适合自己的一款一直玩下去、用下去就足够了,Linux版本众多,设计各有千秋,但使用大同小异,了解“异”点即可!当然,还是奉劝一句:初学者仅仅跑跑虚拟机看看效果就好,莫要将每款都用会了!毕竟,体验也是学习的动力之一!

二、体验CentOS7与之前版本的“异”

初次启动

装完机后,开机进系统的界面换了,乍一看以为是两个内核,原来有一个是rescue选择,而且按e后,会发现所有的grub.conf的信息全出来了,好不容易找到内核启动的地方,写了个 1(要进单用户模式),然后进了rescue模式。

字符界面

进系统后,是图形界面,想进字符界面,结果找到/etc/inittab,发现几乎是个空文件,文件中提示想改runlevel的话,可以把/lib/systemd/system/runlevel*.target 软连到 /etc/systemd/system/default.target下(当然考过来,覆盖也行),试了一下还行,能改到字符界面runlevel3。

配置网络和主机名

然后,想配置网络,进/etc/sysconfig/network-script/一看,我靠,网卡改名了enp1s5,好有趣,配置完网络后改主机名, 到/etc/sysconfig/network去改名字,发现这个文件也是空的,按原6版本的去修改,重启后没效果,man了一下hostname, 发现7中改名要到/etc/hostname去改名字。

本地yum源和挂载

接着,想配置一个本地yum源,配上后要挂光盘,手动挂上了,然后直接echo“mount ......”到rc.local中,毕竟是启动执行脚本,重启之后竟然没挂上,进去rc.local中看了一下,7中竟然要手动的把chmod +x rc.local, 是的,要手动加执行权限,难道我之前装的6以前的系统中这个都要手动加执行权限,我不记得啊!!!! 当然,加了权限后,开机后启动执行了rc.local的mount命令。

LVM和xfs

后来,想着装一个lvm玩玩,于是啊就分区,格式化(特意格式化为了xfs),pv,vg,lv一步一步,都没问题,然后想着放大,缩小,这时出问题了,执行resize2fs时,怎么一直报superblock什么的出错,这是怎么回事,然后man resize2fs一下,发现这命令只支持ext的文件系统,我艹,那我装系统是怎么是lvm的,这个问题我还没解决,应该有解决方法。

dhcp和服务

接着,想着装一个dhcp玩玩,惊奇的发现所有dhcp的包装上之后,不能service dhcpd start,然后发现/etc/init.d/中竟然没一个dhcp类似的东西,毕竟6之前有dhcpd,dhcpd6,dhcrelay的,然后发现 /sbin/dhcpd有启动文件,难道,难道,以后的服务想service启,都要手动自己编?错了,是在/usr/lib/systemd/system/dhcpd.service,还要修改好多,然后加权限,执行service 服务 restart/stop。。。。。。可以,但是指向了systemctl restart/start/stop 服务.service

iptables

又发现iptables这次也不是作为一个服务在/etc/init.d/下面了,/sbin下有;

防火墙由iptables更换成了firewalld

三、系统配置之关闭防火墙

systemctl stop firewalld.service #停止firewall

systemctl disable firewalld.service #禁止firewall开机启动

systemctl命令的基本操作格式是:
systemctl   动作   服务名.service
动作:start,stop,restart,status,enable,disable,is-enabled

四、配置Linux网络

1、修改hostname

CentOS 7.0的hostname在/etc/hostname中用root用户修改:

[root@hadoop1 ~]# vim /etc/hostname    #编辑/etc/hostname
[root@hadoop1 ~]# cat /etc/hostname    #查看/etc/hostname
hadoop1
[root@hadoop1 ~]#

以前版本的CentOS在/etc/sysconfig/network中用root用户修改:

[root@hadoop1 ~]# vim /etcsysconfig/network

在Hadoop2.X/YARN环境下如何搭建CentOS7.0系统配置

"/etc/sysconfig/network"的设定项目如下:

NETWORKING 是否利用网络
GATEWAY 默认网关与接下来配置IP的属性文件中默认网关一致
IPGATEWAYDEV 默认网关的接口名
HOSTNAME 主机名
DOMaiN 域名

reboot后hostname生效

2、修改当前机器的IP

        Step1:进入配置文件目录

        现在已经是root权限了,我们cd到网络配置文件的目录,并列出目录下的文件。

在Hadoop2.X/YARN环境下如何搭建CentOS7.0系统配置

在Hadoop2.X/YARN环境下如何搭建CentOS7.0系统配置

Step2:修改配置文件

该目录下,文件名“ifcfg-ens192”文件就是网络配置的主文件。vi它!

修改或添加一下:

ONBOOT=yes  
BOOTPROTO=static  
IPADDR=IP地址  
NETMASK=255.255.255.0 #子网掩码 
GATEWAY=192.168.30.1  #网关地址

在Hadoop2.X/YARN环境下如何搭建CentOS7.0系统配置

Step3:重启网络服务

修改完配置文件后,:wq!保存退出!然后重启网络。

在Hadoop2.X/YARN环境下如何搭建CentOS7.0系统配置

Step4:测试

通过ifconfig命令查看ip是否设置成功,然后ping一下网络。这个时候应该成功了!

3、修改DNS(看情况,非必选)

若网络环境有DNS要求,则配置,否则,勿配!

格式:

nameserver DNS地址

[root@hadoop1 ~]# vi /etc/resolv.conf 
nameserver 202.131.80.1  #依需求而定 
nameserver 202.131.80.5  #依需求而定

4、配置hosts文件

"/etc/hosts"这个文件是用来配置主机将用的DNS服务器信息,是记载LAN内接续的各主机的对应[HostName和IP]用的。当用户在进行网络连接时,首先查找该文件,寻找对应主机名(或域名)对应的IP地址。

我们要测试两台机器之间知否连通,一般用"ping 机器的IP",如果想用"ping 机器的主机名"发现找不见该名称的机器,解决的办法就是修改"/etc/hosts"这个文件,通过把LAN内的各主机的IP地址和HostName的一一对应写入这个文件的时候,就可以解决问题。

例如:机器为"hadoop1:59.67.107.80"对机器为"hadoop2:59.67.107.79"用命令"ping"记性连接测试。测试结果如下:

在Hadoop2.X/YARN环境下如何搭建CentOS7.0系统配置

从上图中的值,直接对IP地址进行测试,能够ping通,但是对主机名进行测试,若没有ping通,提示"unknown host——未知主机",这时查看"hadoop1"的"/etc/hosts"文件内容。

若ping hadoop1不通则显示:

在Hadoop2.X/YARN环境下如何搭建CentOS7.0系统配置

若ping hadoop1通则显示:

在Hadoop2.X/YARN环境下如何搭建CentOS7.0系统配置

若发现里面没有"59.67.107.79 hadoop2"内容,故而本机器是无法对机器的主机名为"hadoop2" 解析。

在进行Hadoop集群配置中,需要在"/etc/hosts"文件中添加集群中所有机器的IP与主机名,这样Master与所有的Slave机器之间不仅可以通过IP进行通信,而且还可以通过主机名进行通信。所以在所有的机器上的"/etc/hosts"文件末尾中都要添加如下内容:

因为本文以已经配置好的环境说明,所以我的/etc/hosts显示:

在Hadoop2.X/YARN环境下如何搭建CentOS7.0系统配置

一般处于内网下,照此添加(192.168.1.1为网关):

192.168.1.2 hadoop1
192.168.1.3 hadoop2
192.168.1.4 hadoop3
192.168.1.5 hadoop4

用以下命令进行添加:

vim /etc/hosts

现在我们在进行对机器为"hadoop2"的主机名进行ping通测试,看是否能测试成功。

在Hadoop2.X/YARN环境下如何搭建CentOS7.0系统配置

从上图中我们已经能用主机名进行ping通了,说明我们刚才添加的内容,在局域网内能进行DNS解析了,那么现在剩下的事儿就是在其余的Slave机器上进行相同的配置。然后进行测试。

感谢各位的阅读,以上就是“在Hadoop2.X/YARN环境下如何搭建CentOS7.0系统配置”的内容了,经过本文的学习后,相信大家对在Hadoop2.X/YARN环境下如何搭建CentOS7.0系统配置这一问题有了更深刻的体会,具体使用情况还需要大家实践验证。这里是编程网,小编将为大家推送更多相关知识点的文章,欢迎关注!

您可能感兴趣的文档:

--结束END--

本文标题: 在Hadoop2.X/YARN环境下如何搭建CentOS7.0系统配置

本文链接: https://www.lsjlt.com/news/61106.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

本篇文章演示代码以及资料文档资料下载

下载Word文档到电脑,方便收藏和打印~

下载Word文档
猜你喜欢
  • 在Hadoop2.X/YARN环境下如何搭建CentOS7.0系统配置
    这篇文章主要讲解了“在Hadoop2.X/YARN环境下如何搭建CentOS7.0系统配置”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“在Hadoop2.X...
    99+
    2022-10-18
  • 如何实现在Hadoop2.X/YARN环境下搭建CentOS7.0 JDK配置
    这篇文章主要讲解了“如何实现在Hadoop2.X/YARN环境下搭建CentOS7.0 JDK配置”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“如何实现在H...
    99+
    2022-10-18
  • Linux系统下SystemC环境如何配置
    这篇文章将为大家详细讲解有关Linux系统下SystemC环境如何配置,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。以下为centos7下配置方法将压缩包放置到用户目录下,并解压tar -zxv...
    99+
    2023-06-21
  • windows系统下如何搭建Golang开发环境
    本文小编为大家详细介绍“windows系统下如何搭建Golang开发环境”,内容详细,步骤清晰,细节处理妥当,希望这篇“windows系统下如何搭建Golang开发环境”文章能帮助大家解决疑惑,下面跟着小编的思路慢慢深入,一起来学习新知识吧...
    99+
    2023-07-04
  • 在window系统中如何搭建maven环境
    今天就跟大家聊聊有关在window系统中如何搭建maven环境,可能很多人都不太了解,为了让大家更加了解,小编给大家总结了以下内容,希望大家根据这篇文章可以有所收获。具体内容如下下载maven:进入官网下载:http://maven.apa...
    99+
    2023-05-31
    window maven mave
  • 如何在windows7系统中配置java环境变量
    本篇文章给大家分享的是有关如何在windows7系统中配置java环境变量,小编觉得挺实用的,因此分享给大家学习,希望大家阅读完这篇文章后可以有所收获,话不多说,跟着小编一起来看看吧。首先在官网下载好java版本双击安装好以后使用鼠标右击 ...
    99+
    2023-06-06
  • 如何在Win10操作系统上搭建本地PHP环境
    随着互联网技术的不断发展,网络应用的开发越来越重要。PHP作为一门非常流行的服务器端脚本语言,被广泛应用于Web开发中。在本地搭建PHP环境,可以方便地进行开发和测试,本文将带你详细介绍如何在Win10操作系统上搭建本地PHP环境。一、下载...
    99+
    2023-05-14
  • 如何在 Windows 系统中快速搭建 Python 框架环境?
    Python 是一种高级编程语言,其简单易学、高效实用、可移植性强等特点,使其成为了众多编程语言中最流行的一种。但是,在 Windows 系统中搭建 Python 框架环境并不是一件容易的事情,这篇文章将会向您展示如何在 Windows 系...
    99+
    2023-07-24
    框架 shell windows
  • 阿里云服务器如何搭建php8.0环境变量系统设置
    阿里云服务器搭建php8.0环境变量系统需要按照以下步骤进行: 安装CentOS操作系统: 将阿里云服务器升级至CentOS操作系统,并开启相应的CentOS软件,如:Nginx、MySQL、Apache、IIS等,可以自行选择安装或...
    99+
    2023-10-26
    阿里 系统设置 环境变量
  • 如何在 Unix 系统上安装和配置 Python 编程环境?
    在Unix系统上安装和配置Python编程环境是一项非常重要的任务,因为Python是一种非常流行的编程语言,广泛用于数据分析、机器学习、Web开发等领域。在这篇文章中,我们将介绍如何在Unix系统上安装和配置Python编程环境。 检查...
    99+
    2023-07-23
    编程算法 日志 unix
  • 如何在 Windows 环境中搭建 PHP 分布式系统?求职必看!
    在当今互联网时代,分布式系统已经成为了一个不可或缺的技术。而 PHP 分布式系统则是其中的一种,它可以让我们快速搭建一个高可靠、高可扩展性的分布式系统。本文将介绍如何在 Windows 环境中搭建 PHP 分布式系统。 第一步:安装 PH...
    99+
    2023-09-29
    windows 分布式 面试
  • Go Path学习笔记:如何在Linux系统中配置环境变量?
    Go语言是Google开发的一种编程语言,它的诞生主要是为了解决C++和Java在开发大型系统时所面临的问题。Go语言在效率、易用性、并发性等方面都有着优异的表现,因此在近年来逐渐成为了一种热门的编程语言。在使用Go语言进行开发时,我们需...
    99+
    2023-07-05
    path 学习笔记 linux
  • ASP IDE Windows框架:如何在Windows操作系统上快速搭建开发环境?
    在进行ASP开发时,搭建一个高效的开发环境是非常重要的。而在Windows操作系统上,我们可以使用ASP IDE Windows框架来快速搭建开发环境。本文将介绍ASP IDE Windows框架的基本概念和搭建方法,并配合演示代码帮助读...
    99+
    2023-09-12
    ide windows 框架
  • 手把手教小白如何在Window系统下搭建Nginx服务器环境并部署前端项目
    一、认识Nginx 这里日后补充… 二、Nginx环境搭建 1.下载并安装Nginx 在nginx官网http://nginx.org/en/download.html 下载稳定版至自己想要的目录下。 然后解压文件(没有exe的安装过程)...
    99+
    2023-08-21
    nginx 服务器 前端
  • 如何在Ubuntu系统上构建Android环境以及从Google Play上下载APK
    这篇文章主要讲解了“如何在Ubuntu系统上构建Android环境以及从Google Play上下载APK”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“如何在Ubuntu系统上构建Andro...
    99+
    2023-06-13
  • Windows系统下,如何快速搭建PHP分布式开发环境?这里有推荐的IDE!
    PHP是一种非常流行的编程语言,广泛应用于Web开发领域。而在实际开发中,我们经常需要搭建PHP分布式开发环境,以便多人协同开发。本文将介绍如何在Windows系统下快速搭建PHP分布式开发环境,并推荐一些优秀的IDE。 一、搭建PHP分...
    99+
    2023-10-26
    分布式 ide windows
  • 如何在 Linux 系统上搭建 Python 开发环境,实现高效自然语言处理?
    Python 是一种高级编程语言,已经成为了自然语言处理领域的事实标准。如果你想在 Linux 系统上进行自然语言处理的开发,那么你需要搭建一个 Python 开发环境。在本文中,我们将向你介绍如何在 Linux 系统上搭建 Python...
    99+
    2023-08-10
    开发技术 自然语言处理 linux
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作