当前位置:首页 > CN2资讯 > 正文内容

linux hadoop升级 hadoop安装linux

2天前CN2资讯


2.1 在Linux上安装与配置Hadoop
在Linux上安装Hadoop之前,需要先安装两个程序:
1)JDK 1.6(或更高版本)。Hadoop是用Java编写的程序,Hadoop的编译及MapReduce的运行都需要使用JDK。因此在安装Hadoop前,必须安装JDK 1.6或更高版本。
2)SSH(安全外壳协议),推荐安装OpenSSH。Hadoop需要通过SSH来启动Slave列表中各台主机的守护进程,因此SSH也是必须安装的,即使是安装伪分布式版本(因为Hadoop并没有区分开集群式和伪分布式)。对于伪分布式,Hadoop会采用与集群相同的处理方式,即按次序启动文件conf/slaves中记载的主机上的进程,只不过在伪分布式中Salve为localhost(即为自身),所以对于伪分布式Hadoop,SSH一样是必需的。

2.1.1 安装JDK 1.6
下面介绍安装JDK 1.6的具体步骤。
(1)下载和安装JDK 1.6
确保可以连接到互联网,从http://www.oracle.com/technetwork/java/javase/downloads页面下载JDK 1.6安装包(文件名类似jdk-*-linux-i586.bin,不建议安装JDK 1.7版本,因为并不是所有软件都支持1.7版本)到JDK安装目录(本章假设IDK安装目录均为/usr/lib/jvm/jdk)。
(2)手动安装JDK 1.6
在终端下进入JDK安装目录,并输入命令:

sudo chmod u+x jdk-***-linux-i586.bin 修改完权限之后就可以进行安装了,在终端输入命令: sudo -s ./jdk-***-linux-i586.bin

安装结束之后就可以开始配置环境变量了。
(3)配置环境变量
输入命令:

sudo gedit /etc/profile 输入密码,打开profile文件。 在文件最下面输入如下内容: #set Java Environment export JAVA_HOME=/usr/lib/jvm/jdk export CLASSPATH=".:$JAVA_HOME/lib:$CLASSPATH" export PATH="$JAVA_HOME/:$PATH" 这一步的意义是配置环境变量,使系统可以找到JDK。 (4)验证JDK是否安装成功 输入命令: java –version 会出现如下JDK版本信息: java version "1.6.0_22" Java(TM) SE Runtime Environment (build 1.6.0_22-b04) Java HotSpot(TM) Client VM (build 17.1-b03, mixed mode, sharing) 如果出现上述JDK版本信息,说明当前安装的JDK并未设置成Ubuntu系统默认的JDK,接下来还需要手动将安装的JDK设置成系统默认的JDK。 (5)手动设置系统默认JDK 在终端依次输入命令: sudo update-alternatives --install /usr/bin/java java /usr/lib/jvm/jdk/bin/java 300 sudo update-alternatives --install /usr/bin/javac javac /usr/lib/jvm/jdk/bin/javac 300 sudo update-alternatives --config java

接下来输入java –version就可以看到所安装的JDK的版本信息了。

2.1.2 配置SSH免密码登录
同样以Ubuntu为例,假设用户名为u:
1)确认已经连接上互联网,然后输入命令:

sudo apt-get install ssh 2)配置为可以免密码登录本机。首先查看在u用户下是否存在.ssh文件夹(注意ssh前面有“.”,这是一个隐藏文件夹),输入命令: ls –a /home/u 一般来说,安装SSH时会自动在当前用户下创建这个隐藏文件夹,如果没有,可以手动创建一个。 接下来,输入命令(注意下面命令中不是双引号,是两个单引号): ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa

解释一下,ssh-keygen代表生成密钥;-t(注意区分大小写)表示指定生成的密钥类型;dsa是dsa密钥认证的意思,即密钥类型;-P用于提供密语;-f指定生成的密钥文件。
在Ubuntu中,~代表当前用户文件夹,此处即/home/u。
这个命令会在.ssh文件夹下创建id_dsa及id_dsa.pub两个文件,这是SSH的一对私钥和公钥,类似于钥匙和锁,把id_dsa.pub(公钥)追加到授权的key中去。
输入命令:

cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys 这条命令的功能是把公钥加到用于认证的公钥文件中,这里的authorized_keys是用于认证的公钥文件。 至此免密码登录本机已配置完毕。 3)验证SSH是否已安装成功,以及是否可以免密码登录本机。 输入命令: ssh –version 显示结果: OpenSSH_5.8p1 Debian-7ubuntu1, OpenSSL 1.0.0e 6 Sep 2011 Bad escape character 'rsion'. 显示SSH已经安装成功了。 输入命令: ssh localhost 会有如下显示: The authenticity of host 'localhost (::1)' can't be established. RSA key fingerprint is 8b:c3:51:a5:2a:31:b7:74:06:9d:62:04:4f:84:f8:77. Are you sure you want to continue connecting (yes/no)? yes Warning: Permanently added 'localhost' (RSA) to the list of known hosts. Linux master 2.6.31-14-generic #48-Ubuntu SMP Fri Oct 16 14:04:26 UTC 2011 i686 To access official Ubuntu documentation, please visit: http://help.ubuntu.com/ Last login: Sat Feb 18 17:12:40 2012 from master admin@Hadoop:~$

这说明已经安装成功,第一次登录时会询问是否继续链接,输入yes即可进入。
实际上,在Hadoop的安装过程中,是否免密码登录是无关紧要的,但是如果不配置免密码登录,每次启动Hadoop都需要输入密码以登录到每台机器的DataNode上,考虑到一般的Hadoop集群动辄拥有数百或上千台机器,因此一般来说都会配置SSH的免密码登录。

2.1.3 安装并运行Hadoop
介绍Hadoop的安装之前,先介绍一下Hadoop对各个节点的角色定义。
Hadoop分别从三个角度将主机划分为两种角色。第一,最基本的划分为Master和Slave,即主人与奴隶;第二,从HDFS的角度,将主机划分为NameNode和DataNode(在分布式文件系统中,目录的管理很重要,管理目录相当于主人,而NameNode就是目录管理者);第三,从MapReduce的角度,将主机划分为JobTracker和TaskTracker(一个Job经常被划分为多个Task,从这个角度不难理解它们之间的关系)。
Hadoop有官方发行版与cloudera版,其中cloudera版是Hadoop的商用版本,这里先介绍Hadoop官方发行版的安装方法。
Hadoop有三种运行方式:单机模式、伪分布式与完全分布式。乍看之下,前两种方式并不能体现云计算的优势,但是它们便于程序的测试与调试,所以还是很有意义的。
你可以在以下地址获得Hadoop的官方发行版:http://www.apache.org/dyn/closer.cgi/Hadoop/core/。
下载hadoop-1.0.1.tar.gz并将其解压,本书后续都默认将Hadoop解压到/home/u/目录下。
(1)单机模式配置方式
安装单机模式的Hadoop无须配置,在这种方式下,Hadoop被认为是一个单独的Java进程,这种方式经常用来调试。
(2)伪分布式Hadoop配置
可以把伪分布式的Hadoop看做只有一个节点的集群,在这个集群中,这个节点既是Master,也是Slave;既是NameNode,也是DataNode;既是JobTracker,也是TaskTracker。
伪分布式的配置过程也很简单,只需要修改几个文件。
进入conf文件夹,修改配置文件。
指定JDK的安装位置

: export JAVA_HOME=/usr/lib/jvm/jdk 这是Hadoop核心的配置文件,这里配置的是HDFS(Hadoop的分布式文件系统)的地址及端口号。 conf/core-site.xml: <configuration> <property> <name></name> <value>hdfs://localhost:9000</value> </property> </configuration>

以下是Hadoop中HDFS的配置,配置的备份方式默认为3,在单机版的Hadoop中,需要将其改为1。

conf/hdfs-site.xml: <configuration> <property> <name>dfs.replication</name> <value>1</value> </property> </configuration> 以下是Hadoop中MapReduce的配置文件,配置JobTracker的地址及端口。 conf/mapred-site.xml: <configuration> <property> <name>mapred.job.tracker</name> <value>localhost:9001</value> </property> </configuration> 接下来,在启动Hadoop前,需要格式化Hadoop的文件系统HDFS。进入Hadoop文件夹,输入命令: bin/Hadoop NameNode –format 格式化文件系统,接下来启动Hadoop。 输入命令,启动所有进程: bin/ 最后,验证Hadoop是否安装成功。 打开浏览器,分别输入网址: http://localhost:50030 (MapReduce的Web页面) http://localhost:50070 (HDFS的Web页面)

如果都能查看,说明Hadoop已经安装成功。
对于Hadoop来说,启动所有进程是必须的,但是如果有必要,你依然可以只启动HDFS()或MapReduce()。
关于完全分布式的Hadoop会在2.4节详述。

    你可能想看:

    扫描二维码推送至手机访问。

    版权声明:本文由皇冠云发布,如需转载请注明出处。

    本文链接:https://www.idchg.com/info/25822.html

    分享给朋友:

    “linux hadoop升级 hadoop安装linux” 的相关文章

    解析cn2gt:全球网络传输的新标杆

    在数字化转型的浪潮中,企业对网络传输的依赖程度日益加深。无论是数据的实时传输、跨国通信,还是云服务的稳定性,网络质量已成为企业竞争力的关键因素之一。在复杂的国际网络环境中,延迟、丢包、抖动等问题常常困扰着企业,影响业务的正常运行。在这样的背景下,cn2gt以其实力和技术脱颖而出,成为全球网络传输领域...

    如何利用闲置VPS赚钱 - 探索多种盈利方式

    在互联网蓬勃发展的背景下,很多人手中会有闲置的VPS(虚拟私人服务器)。这些资源如果不加利用,往往就是一笔浪费。因此,了解闲置VPS赚钱的方法十分必要。这不仅可以让我们的小投资产生回报,也能为我们探索更广阔的网络世界提供平台。 闲置VPS的定义相对简单,指的是那些未被充分利用的服务器资源。它们通常具...

    注册域名的全面指南:选择合适域名的重要性和流程

    在当今数字化的时代,注册域名对企业和个人来说都是至关重要的。域名不仅是一个网站的名字,更是一个在网络空间中的唯一标识符。它能帮助用户快速记住你的品牌,提升他们对你的信任度。如果没有一个合适的域名,用户可能会在茫茫互联网中迷失方向,导致潜在客户流失。 我个人在选择域名时,充分意识到其独特的价值。一个好...

    支付宝与PayPal充值攻略:如何选择适合的支付方式

    支付宝和PayPal是当今全球最受欢迎的支付平台之一,它们各自具有独特的特点和广泛的用户群体。支付宝成立于2004年,由阿里巴巴集团推出,最初是为了支持电子商务交易,逐渐发展成一个多功能的支付应用。用户不仅可以通过它进行在线支付,还可以进行转账、充值、理财等多种活动。随着移动支付的兴起,支付宝也积极...

    如何使用 Linode Backups 保障数据安全与恢复

    在现代数字世界中,数据的安全性与可恢复性至关重要。Linode Backups 正是为此而生的一项服务。Linode Backups 是 Linode 提供的一项付费服务,旨在自动化用户数据的备份过程,能够让用户更加轻松地管理和恢复数据。对我来说,这项服务让人感到安心,尤其是在处理重要项目时,存在这...

    Oracle Cloud 教学:从免费资源到项目实践的全方位指南

    在这个数字化的时代,云计算成为了技术发展的重要方向,而Oracle Cloud则为学习者提供了丰富的教学资源,涵盖从初学者到高级用户的各个层次。通过这些资源,我们可以轻松地开始云计算的学习之旅,更加熟悉这个领域的核心知识和技能。在Oracle Cloud的学习中,我发现了几个特别有帮助的项目,接下来...