超详细单机版搭建hadoop环境图文解析Word下载.docx

上传人:b****8 文档编号:22654618 上传时间:2023-02-05 格式:DOCX 页数:15 大小:652.06KB
下载 相关 举报
超详细单机版搭建hadoop环境图文解析Word下载.docx_第1页
第1页 / 共15页
超详细单机版搭建hadoop环境图文解析Word下载.docx_第2页
第2页 / 共15页
超详细单机版搭建hadoop环境图文解析Word下载.docx_第3页
第3页 / 共15页
超详细单机版搭建hadoop环境图文解析Word下载.docx_第4页
第4页 / 共15页
超详细单机版搭建hadoop环境图文解析Word下载.docx_第5页
第5页 / 共15页
点击查看更多>>
下载资源
资源描述

超详细单机版搭建hadoop环境图文解析Word下载.docx

《超详细单机版搭建hadoop环境图文解析Word下载.docx》由会员分享,可在线阅读,更多相关《超详细单机版搭建hadoop环境图文解析Word下载.docx(15页珍藏版)》请在冰豆网上搜索。

超详细单机版搭建hadoop环境图文解析Word下载.docx

我们是在windows中安装linux系统的,选择的是ubuntu11.10,介于有些朋友是第一次安装双系统,下面我就介绍一种简单的安装方法:

1、下载ubuntu-11.10-desktop-i386.iso镜像文件,用虚拟光驱打开,执行里面的wubi.exe程序,如图

(1)

 

2、选择在widows中安装,如图

(2)

3、在弹出的窗口中设置一些具体的参数,自动跟新完成后需要重启。

重启时,就会出现ubuntu系统的选择了,系统一般默认开机启动windows系统,所以这里要自己手动选择哦~,进入ubuntu后,系统就自动下载,跟新、安装了。

(注:

安装的过程中可能会卡在一个阶段很长时间(我卡了半个小时),这时我选择了强制关机,重启时同样选择进入ubuntu。

一般第二次就不会卡,具体原因我也不是很清楚,可能和wubi.exe程序有关吧。

在网上看到,有些人认为用wubi.exe安装ubuntu不是很好,可能这就是它的不好之处吧。

不过这是非常简单的方法,所以我们还是选择这种安装方法吧。

二、在Ubuntu下创建hadoop用户组和用户

这里考虑的是以后涉及到hadoop应用时,专门用该用户操作。

用户组名和用户名都设为:

hadoop。

可以理解为该hadoop用户是属于一个名为hadoop的用户组,这是linux操作系统的知识,如果不清楚可以查看linux相关的书籍。

1、创建hadoop用户组,如图(3)

2、创建hadoop用户,如图(4)

3、给hadoop用户添加权限,打开/etc/sudoers文件,如图(5)

按回车键后就会打开/etc/sudoers文件了,给hadoop用户赋予root用户同样的权限。

在root 

ALL=(ALL:

ALL) 

ALL下添加hadoop 

ALL,如图(6)

三、在Ubuntu下安装JDK(

四、修改机器名

每当ubuntu安装成功时,我们的机器名都默认为:

ubuntu,但为了以后集群中能够容易分辨各台服务器,需要给每台机器取个不同的名字。

机器名由/etc/hostname文件决定。

1、打开/etc/hostname文件,如图(7)

2、回车后就打开/etc/hostname文件了,将/etc/hostname文件中的ubuntu改为你想取的机器名。

这里我取“s15“。

重启系统后才会生效。

五、安装ssh服务

这里的ssh和三大框架:

spring,struts,hibernate没有什么关系,ssh可以实现远程登录和管理,具体可以参考其他相关资料。

1、安装openssh-server,如图(8)

自动安装openssh-server时,可能会进行不下去,可以先进行如下操作:

2、更新的快慢取决于您的网速了,如果中途因为时间过长您中断了更新(Ctrl+z),当您再次更新时,会更新不了,报错为:

“Ubuntu无法锁定管理目录(/var/lib/dpkg/),是否有其他进程占用它?

“需要如下操作,如图(10)

操作完成后继续执行第1步。

这时假设您已经安装好了ssh,您就可以进行第六步了哦~

六、建立ssh无密码登录本机

ssh生成密钥有rsa和dsa两种生成方式,默认情况下采用rsa方式。

1、创建ssh-key,,这里我们采用rsa方式,如图(11)

回车后会在~/.ssh/下生成两个文件:

id_rsa和id_rsa.pub这两个文件是成对出现的)

2、进入~/.ssh/目录下,将id_rsa.pub追加到authorized_keys授权文件中,开始是没有authorized_keys文件的,如图(12)

(完成后就可以无密码登录本机了。

3、登录localhost,如图(13)

(注:

当ssh远程登录到其它机器后,现在你控制的是远程的机器,需要执行退出命令才能重新控制本地主机。

4、执行退出命令,如图(14)

七、安装hadoop

我们采用的hadoop版本是:

hadoop-0.20.203(),因为该版本比较稳定。

1、假设hadoop-0.20.203.tar.gz在桌面,将它复制到安装目录/usr/local/下,如图(15)

2、解压hadoop-0.20.203.tar.gz,如图(16)

3、将解压出的文件夹改名为hadoop,如图(17)

4、将该hadoop文件夹的属主用户设为hadoop,如图(18)

5、打开hadoop/conf/hadoop-env.sh文件,如图(19)

6、配置conf/hadoop-env.sh(找到#exportJAVA_HOME=...,去掉#,然后加上本机jdk的路径)

7、打开conf/core-site.xml文件,编辑如下:

Java代码

1.<

?

xml 

version="

1.0"

>

 

2.<

xml-stylesheet 

type="

text/xsl"

href="

configuration.xsl"

3. 

4.<

!

-- 

Put 

site-specific 

property 

overrides 

in 

this 

file. 

-->

5. 

6.<

configuration>

7.<

property>

8. 

<

name>

fs.default.name<

/name>

9. 

value>

hdfs:

//localhost:

9000<

/value>

10. 

/property>

11.<

/configuration>

xmlversion="

xml-stylesheettype="

href="

--Putsite-specificpropertyoverridesinthisfile.-->

<

8、打开conf/mapred-site.xml文件,编辑如下:

6. 

7. 

mapred.job.tracker<

localhost:

9001<

11. 

9、打开conf/hdfs-site.xml文件,编辑如下:

3.<

dfs.name.dir<

/usr/local/hadoop/datalog1,/usr/local/hadoop/datalog2<

5.<

dfs.data.dir<

8.<

/usr/local/hadoop/data1,/usr/local/hadoop/data2<

9.<

10.<

dfs.replication<

12.<

2<

13.<

14.<

10、打开conf/masters文件,添加作为secondarynamenode的主机名,作为单机版环境,这里只需填写localhost就Ok了。

11、打开conf/slaves文件,添加作为slave的主机名,一行一个。

作为单机版,这里也只需填写localhost就Ok了。

八、在单机上运行hadoop

1、进入hadoop目录下,格式化hdfs文件系统,初次运行hadoop时一定要有该操作,如图(21)

当你看到下图时,就说明你的hdfs文件系统格式化成功了。

3、启动bin/start-all.sh,如图(23)

4、检测hadoop是否启动成功,如图(24)

如果有Namenode,SecondaryNameNode,TaskTracker,DataNode,JobTracker五个进程,就说明你的hadoop单机

版环境配置好了,呵呵,多么宏伟的工程呀!

九、Linux下的快捷键:

Ctrl+Alt+t:

弹出终端

Ctrl+空格:

中英文输入法切换

十、Hadoop执行WordCount程序()。

展开阅读全文
相关资源
猜你喜欢
相关搜索

当前位置:首页 > 自然科学 > 天文地理

copyright@ 2008-2022 冰豆网网站版权所有

经营许可证编号:鄂ICP备2022015515号-1