Hadoop大数据统计分析与挖掘实战
沉沙 2018-09-29 来源 : 阅读 945 评论 0

摘要:本篇教程介绍了Hadoop大数据统计分析与挖掘实战,希望阅读本篇文章以后大家有所收获,帮助大家对大数据云计算大数据分析的理解更加深入。

本篇教程介绍了Hadoop大数据统计分析与挖掘实战,希望阅读本篇文章以后大家有所收获,帮助大家对大数据云计算大数据分析的理解更加深入。

<


1.配置VMware网络
  我使用了桥接模式(复制物理网络连接状态),和真实机使用了相同的网关,没有按照书中的进行查询。
2.准备机器
  通过VMware新建一台CentOS 7虚拟机,使用root用户登录,添加一个新用户hadoop。设置hadoop用户的密码并授予hadoop用户sudo权限。
[root@localhost ~]$ useradd hadoop
[root@localhost ~]$ passwd hadoop
[root@localhost ~]$ chmod u + w /etc/sudoers
[root@localhost ~]$ vim /etc/sudoers
#在root ALL=(ALL) ALL下添加hadoop ALL=(ALL) ALL
[root@localhost ~]$ chomd u - w /etc/sudoers
  其中chmod的用法和vim编辑器的用法可以自行百度。
3.设置静态IP
  VMware默认使用动态IP,但是由于Hadoop集群是使用机器名进行定位的,在/etc/hosts中配置了机器名和IP的映射,如果IP不断变化,则需要不断修改配置文件,所以这里需要把IP设置为静态,方便后面的操作。
  1)修改/etc/sysconfig/network-scripts/ifcfg-******。
  每个人需要修改的文件名不同,书中修改的文件为ifcfg-eth0,其中eth0是其网卡名。在我的虚拟机中修改的是ifcfg-ens33。可以自行使用ifconfig命令进行查看。
[root@localhost ~]$ vim /etc/sysconfig/network-scripts/ifcfg-ens33
#需要修改的内容如下(如果没有这一项就自己添加上):
DEVICE=ens33 #名称填自己网卡名称
BOOTPROTO=static #静态IP
ONBOOT=yes #设置开机自动启动
IPADDR=192.168.0.131 #IP地址
GATEWAY=192.168.0.1 #网关
DNS1=192.168.0.1 #DNS服务器
HWADDR=00:0C:29:B7:73:4F #MAC地址①注
NETMASK=255.255.255.0 #这么填就对了
TYPE=Ethernet #这一块我也不懂
IPV6INIT=no #禁用IPV6
  注①:mac地址查看方法:虚拟机——设置——网络适配器——高级——MAC地址
  2)修改/etc/sysconfig/network。设置主机名称和启动NETWORK与否。
[root@localhost ~]$ vim /etc/sysconfig/network
NETWORKING=yes
NETWORKING_IPV6=no
HOSTNAME=localhost.localdomain
GATEWAY=192.168.0.1
  3)修改DNS信息。
  书中手工设置 /etc/resolv.conf 里的DNS,使用source(!)时会对nameserver和search报错,找不到命令。于是我找到了一篇博客文章:《CentOS 7 下,如何设置DNS服务器》
  以下为文中内容:
  在CentOS 7下,手工设置 /etc/resolv.conf 里的DNS,过了一会,发现被系统重新覆盖或者清除了。和CentOS 6下的设置DNS方法不同,有几种方式:
   ①使用全新的命令行工具 nmcli 来设置
#显示当前网络连接
#nmcli connection show
NAME   UUID                                  TYPE            DEVICE
ens33   76d23444-4b71-498b-9a0b-fd2d2d9de735  802-3-ethernet  ens33  virbr0  a1015131-ba11-4ecc-81a3-9c9e27eaba32  bridge          virbr0 
#修改当前网络连接对应的DNS服务器,这里的网络连接可以用名称或者UUID来标识
#nmcli con mod ens33 ipv4.dns "192.168.0.1"
#将dns配置生效
#nmcli con up ens33
  ②使用传统方法,手工修改 /etc/resolv.conf
修改 /etc/NetworkManager/NetworkManager.conf 文件,在main部分添加 “dns=none” 选项:
[main]
plugins=ifcfg-rh
dns=none
NetworkManager重新装载上面修改的配置
# systemctl restart NetworkManager.service
手工修改 /etc/resolv.conf
nameserver 192.168.0.1
  详细参见:
# man NetworkManager.conf
# man nmcli
  4)关闭防火墙并修改其启动策略为不开机启动。
  CentOS 6中使用service iptables stop 及 chkconfig iptables off进行设置。
  CentOS 7中使用systemctl工具管理这些服务。
  可以使用systemctl list-unit-files | grep enabled查看服务中enabled项,可以看到firewalld.service已启用。
#禁用防火墙
[root@localhost ~]$ systemctl stop firewalld.service
#禁止开机启动防火墙,如需启用,把disable改成enable
[root@localhost ~]$ systemctl disable firewalld.service
#显示一个服务状态
[root@localhost ~]$ systemctl status firewalld.service
4.安装JDK
  1)使用yum search jdk在线查找jdk列表,任意选择一个版本,我选择了最新版,即1.8.0。
[root@localhost ~]$ yum search jdk
[root@localhost ~]$ yum install java-1.8.0-openjdk-devel.x86_64 -y
  2)配置Java环境变量。
  其中还配置了maven的环境变量,但是maven没有安装过,不知道是为什么。我找了一下,maven的下载地址是://mirrors.hust.edu.cn/apache/maven/maven-3/3.3.9/binaries/apache-maven-3.3.9-bin.tar.gz ,下载完成后直接解压即可使用,我解压到了/home/hadoop/opt中,所以下文中配置环境变量添加了一条/home/hadoop/opt/apache-maven-3.3.9/bin
[root@localhost ~]$ whereis java
[root@localhost ~]$ ll /usr/bin/java
[root@localhost ~]$ ll /etc/alternatives/java #这时可以看到JDK路径了
#修改配置文件
[root@localhost ~]$ vim /etc/profile
#在末尾追加export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk-1.8.0.111-2.b15.el7_3.x86_64export MAVEN_HOME=/home/hadoop/opt/apache-maven-3.3.9export JRE_HOME=$JAVA_HOME/jreexport PATH=$JAVA_HOME/bin:$MAVEN_HOME/bin:$PATHexport CLASSPAHT=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar#保存配置后使用source命令使配置立即生效[root@localhost ~]$ source /etc/profile
  3)使用java -version命令查看环境变量配置是否成功。
[root@localhost ~]# java -version
openjdk version "1.8.0_111"
OpenJDK Runtime Environment (build 1.8.0_111-b15)
OpenJDK 64-Bit Server VM (build 25.111-b15, mixed mode)
  至此,完成JDK的安装和配置,接下来使用VMware克隆两台机器,并分别设置静态IP地址为192.168.0.132,192.168.0.133。(创建连接克隆)

   

本文由职坐标整理并发布,希望对同学们有所帮助。了解更多详情请关注职坐标大数据云计算大数据分析频道!

本文由 @沉沙 发布于职坐标。未经许可,禁止转载。
喜欢 | 0 不喜欢 | 0
看完这篇文章有何感觉?已经有0人表态,0%的人喜欢 快给朋友分享吧~
评论(0)
后参与评论

您输入的评论内容中包含违禁敏感词

我知道了

助您圆梦职场 匹配合适岗位
验证码手机号,获得海同独家IT培训资料
选择就业方向:
人工智能物联网
大数据开发/分析
人工智能Python
Java全栈开发
WEB前端+H5

请输入正确的手机号码

请输入正确的验证码

获取验证码

您今天的短信下发次数太多了,明天再试试吧!

提交

我们会在第一时间安排职业规划师联系您!

您也可以联系我们的职业规划师咨询:

小职老师的微信号:z_zhizuobiao
小职老师的微信号:z_zhizuobiao

版权所有 职坐标-一站式AI+学习就业服务平台 沪ICP备13042190号-4
上海海同信息科技有限公司 Copyright ©2015 www.zhizuobiao.com,All Rights Reserved.
 沪公网安备 31011502005948号    

©2015 www.zhizuobiao.com All Rights Reserved