jjzjj

centOS 7下Hadoop伪分布式搭建

wicjwnx 2024-05-13 原文

记录笔记,尝试在centOS下安装Hadoop伪分布式(之前是在Ubuntu下安装的),查漏补缺。

步骤

第一步:先把在window系统中下载好的关于Hadoop、jdk压缩包用Xftp传输到centos

名称自定义,主机我写的是IP地址,需要去centOS的终端输入ifconfig,划黄线的是IP地址 

 用户名如果在安装centos中没有创建的话,默认是root,密码是登陆密码。点击连接,弹出下面这个对话框,我选的是一次性接受(自行选择)。

 成功会亮起小绿点,然后直接把从此电脑中的目标压缩包拖拽到新建会话那边你想放的地方,能记住地址就行。这个地址建议简洁,之后的安装会出现多次

 第二步:设置centOS的静态IP

(之前在Ubuntu安装完后Hadoop伪分布式出现了连不上网的情况,右上角的少了个有线网图标,记得多去搜索尝试,我也是试了好几种才成功。)

言归正传,在centOS的终端输入su跟换成超级用户,再输入“vi /etc/sysconfig/network-scripts/ifcfg-ens33”,回车,进入文件编辑页面,然后点击字母“i”进入插入模式,修改、添加我用荧光笔画起来的信息,IPADDR(IP地址)是主机的IP地址(ifconfig命令),GATEWAY(网关)是需要你点击编辑>>虚拟网络编辑器查看,最后按esc键,冒号加wq----->“:wq“进行保存退出。

 

设置完毕后需要输入”systemctl restart network.service"重启虚拟机的网路服务,最后输入

“ip addr"查看当前的虚拟机的IP地址。(IP地址在ens33那,认准ens33)

 第三步关闭防火墙

输入”firewall-cmd --state"检查防火墙状态,running就输入

“systemctl stop firewalld.service"命令

 第四步修改主机名

输入"vi /etc/hostname",将原来的值随意替换其他,但那个值要记得,不易复杂。

 第五步配置主机名与IP映射

输入”vi /etc/hosts",回车,增添 ”IP地址 主机名“这条。

第六步设置 SSH免密登陆 

输入“rpm -qa | grep ssh"查看是否已经安装,没有的话输入”yum-y install openssh“,成功如下图

 再输入”ssh-keygen -t rsa"生成密钥

 输入“cd ~;cd .ssh"查看已生成的密钥文件

输入”cat id_rsa.pub >> authorized_keys"把公钥(id_rsa.pub)复制到当前目录也就是.ssh目录下authorized_keys中,输入“chmod 600 authorized_keys”修改权限,最后输入“ssh 主机名”,如果不用输入密码就成功了

 第七步安装java和Hadoop运行环境

把第一步移动到centos的jdk和Hadoop压缩包解压,cd到你放压缩包的路径下,输入“tar -zxvf jdk或者hadoop-xxxxxx.tar.gz",重新命名解压后的文件为”jdk和hadoop”,主要是为了后续敲jdk-xxxxxx.不那么费劲,输入“mv jdkxxxxx jdk",hadoop一样的重新命名。

配置环境变量喽,输入”vi /etc/profile" ,添加我用荧光笔画起来的信息。记住,JAVA_HOME和HADOOP_HOME后面写的是你存储jdk和Hadoop的路径,不能照抄(千万别错)

 验证是否配置成功,输入”source /etc/profile" 和“java -version"、”hadoop version",注意hadoop后面没有“-”!!!

 第八步修改Hadoop的配置文件

前提:不管处于哪个路径下,一定要cd到你存放Hadoop的路径下+etc/hadoop

(1)修改hadoop-env.sh文件,输入“vi hadoop-env.sh",找下图这个地方

再增添荧光笔画出来的信息。把#删了,JAVA_HOME后面跟得是你储存jdk的路径!!!

2)修改hdf-site.xml文件,输入"vi hdfs-site.xml",增添用荧光笔画起来的信息。记住,file后面跟的是你储存Hadoop的路径+tmp/dfs/name和/tmp/dfs/data

 (3)修改core-site.xml文件,输入“vi core-site.xml",增添用荧光笔画起来的信息,常年不变记得修改成自己的主机名和Hadoop途径+/tmp(4)修改mapred-site.xml,输入 “vi mapred-site.xml",增添用荧光笔画起来的信息

(5)修改yarn-site.xml文件,输入”vi yarn-site.xml",增碳用荧光笔画起来的信息

 最后一步启动和停止hadoop

(1)NameNode格式化,前提:输入“cd 你储存Hadoop的路径/bin”

输入"hdfs namenode -format"

我得到的结果是下图所示

 (2)启动HDFS和YARN,前提:输入“cd 你储存hadoop的路径/sbin"

用vi进入start-dfs.sh和stop-dfs.sh文件进行修改,用vi进入start-yarn.sh和stop-yarn.sh进行修改,添加的信息去这个网站查看吧(5条消息) Attempting to operate on hdfs namenode as root_子清.的博客-CSDN博客

最后输入“start-all.sh"执行完后使用”jps“命令(我这就直接全部启动了,也可以分别启动HDFS和YARN,(自行选择吧)

(3)访问Hadoop,打开浏览器,在其地址栏上输入“你的静态IP地址+:18088”,检查YARN的启动情况,成功如下图

 在地址栏上输入“http://你的静态IP地址+:50070”,检查HDFS的启动情况,成功如下图

 终于完成了~

有关centOS 7下Hadoop伪分布式搭建的更多相关文章

  1. ruby-on-rails - 无法在centos上安装therubyracer(V8和GCC出错) - 2

    我正在尝试在我的centos服务器上安装therubyracer,但遇到了麻烦。$geminstalltherubyracerBuildingnativeextensions.Thiscouldtakeawhile...ERROR:Errorinstallingtherubyracer:ERROR:Failedtobuildgemnativeextension./usr/local/rvm/rubies/ruby-1.9.3-p125/bin/rubyextconf.rbcheckingformain()in-lpthread...yescheckingforv8.h...no***e

  2. ruby - 分布式事务和队列,ruby,erlang,scala - 2

    我有一个涉及多台机器、消息队列和事务的问题。因此,例如用户点击网页,点击将消息发送到另一台机器,该机器将付款添加到用户的帐户。每秒可能有数千次点击。事务的所有方面都应该是容错的。我以前从未遇到过这样的事情,但一些阅读表明这是一个众所周知的问题。所以我的问题。我假设安全的方法是使用两阶段提交,但协议(protocol)是阻塞的,所以我不会获得所需的性能,我是否正确?我通常写Ruby,但似乎Redis之类的数据库和Rescue、RabbitMQ等消息队列系统对我的帮助不大——即使我实现某种两阶段提交,如果Redis崩溃,数据也会丢失,因为它本质上只是内存。所有这些让我开始关注erlang和

  3. kvm虚拟机安装centos7基于ubuntu20.04系统 - 2

    需求:要创建虚拟机,就需要给他提供一个虚拟的磁盘,我们就在/opt目录下创建一个10G大小的raw格式的虚拟磁盘CentOS-7-x86_64.raw命令格式:qemu-imgcreate-f磁盘格式磁盘名称磁盘大小qemu-imgcreate-f磁盘格式-o?1.创建磁盘qemu-imgcreate-fraw/opt/CentOS-7-x86_64.raw10G执行效果#ls/opt/CentOS-7-x86_64.raw2.安装虚拟机使用virt-install命令,基于我们提供的系统镜像和虚拟磁盘来创建一个虚拟机,另外在创建虚拟机之前,提前打开vnc客户端,在创建虚拟机的时候,通过vnc

  4. hadoop安装之保姆级教程(二)之YARN的配置 - 2

    1.1.1 YARN的介绍 为克服Hadoop1.0中HDFS和MapReduce存在的各种问题⽽提出的,针对Hadoop1.0中的MapReduce在扩展性和多框架⽀持⽅⾯的不⾜,提出了全新的资源管理框架YARN. ApacheYARN(YetanotherResourceNegotiator的缩写)是Hadoop集群的资源管理系统,负责为计算程序提供服务器计算资源,相当于⼀个分布式的操作系统平台,⽽MapReduce等计算程序则相当于运⾏于操作系统之上的应⽤程序。 YARN被引⼊Hadoop2,最初是为了改善MapReduce的实现,但是因为具有⾜够的通⽤性,同样可以⽀持其他的分布式计算模

  5. ruby - 停止分布式 Ruby 服务 - 2

    我有一个启动DRb服务的脚本,然后生成处理程序对象并通过DRb.thread.join等待。我希望脚本一直运行直到被明确杀死,所以我添加了trap"INT"doDRb.stop_serviceend在Ruby1.8下成功停止DRb服务并退出,但在1.9下似乎死锁(在OSX10.6.7上)。对该进程进行采样显示在semaphore_wait_signal_trap中有几个线程在旋转。我假设我在调用stop_service时做错了什么,但我不确定是什么。谁能给我任何关于如何正确处理它的指示? 最佳答案 好的,我想我已经找到了解决方案。如

  6. ruby - 为什么 openssl 在 windows 上产生错误但在 centos 上不产生错误:PKCS12_parse: mac verify failure (OpenSSL::PKCS12::PKCS12Error) - 2

    require'openssl'ifARGV.length==2pkcs12=OpenSSL::PKCS12.new(File.read(ARGV[0]),ARGV[1])ppkcs12.certificateelseputs"Usage:load_cert.rb"end运行它会在Windows上产生错误,但在Linux上不会。错误:OpenSSL::PKCS12::PKCS12Error:PKCS12_parse:macverifyfailurefrom(irb):21:ininitializefrom(irb):21:innewfrom(irb):21fromC:/Ruby192/

  7. centos 安装 最新版 skywalking 8.9.1 - 2

    一、相关网址1、官网(可以下载,查看文章)https://skywalking.apache.org/downloads/2、github地址:(可提问题寻求帮助)https://github.com/apache/skywalking二、 实验环境操作系统 centos7.9先安装好 elasticsearch7.16.2操作系统安装好jdk8-17,实验机器jdk11java下载地址:https://www.oracle.com/java/technologies/downloads/#java8IP地址为192.168.24.160三、安装skywalking 1、下载skywalkin

  8. Centos7-yum安装mysql-修改密码-无密码登录-安全配置 - 2

    目录1、yum安装mysql修改密码(1)在mysql里面修改(2)第二种方式,利用mysqladmin修改密码2、没有密码,登录mysql修改密码3、mysql的安全设置1、yum安装mysql在CentOS中默认安装有MariaDB(MySQL的一个分支),安装完成之后可以直接覆盖MariaDB。rpm-qa|grepmariadb查询是否安装了mariadbrpm-e--nodepsmariadb-libs-5.5.60-1.el7_5.x86_64卸载mariadwgethttp://dev.mysql.com/get/mysql57-community-release-el7-11.

  9. Linux操作系统CentOS7安装Nginx[详细版] - 2

    Nginx安装1.官网下载Nginx2.使用XShell和Xftp将压缩包上传到Linux虚拟机中3.解压文件nginx-1.20.2.tar.gz4.配置nginx5.启动nginx6.拓展(修改端口和常用命令)(一)修改nginx端口(二)常用命令1.官网下载Nginxhttp://nginx.org/en/download.html这里我下载的是1.20.2版本,大家按需下载对应稳定版即可2.使用XShell和Xftp将压缩包上传到Linux虚拟机中没有XShell可以参考《Linux操作系统CentOS7连接XShell》3.解压文件nginx-1.20.2.tar.gz1)检查是否存

  10. 大数据之Hadoop数据仓库Hive - 2

    目录:一、简介二、HQL的执行流程三、索引四、索引案例五、Hive常用DDL操作六、Hive常用DML操作七、查询结果插入到表八、更新和删除操作九、查询结果写出到文件系统十、HiveCLI和Beeline命令行的基本使用十一、Hive配置一、简介Hive是一个构建在Hadoop之上的数据仓库,它可以将结构化的数据文件映射成表,并提供类SQL查询功能,用于查询的SQL语句会被转化为MapReduce作业,然后提交到Hadoop上运行。特点:简单、容易上手(提供了类似sql的查询语言hql),使得精通sql但是不了解Java编程的人也能很好地进行大数据分析;灵活性高,可以自定义用户函数(UDF)和

随机推荐