返回顶部
首页 > 资讯 > 精选 >Hadoop伪分布式安装方法是什么
  • 234
分享到

Hadoop伪分布式安装方法是什么

2023-06-03 01:06:22 234人浏览 八月长安
摘要

这篇文章主要介绍“hadoop伪分布式安装方法是什么”,在日常操作中,相信很多人在Hadoop伪分布式安装方法是什么问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”Hadoop伪分布式安装方法是什么”的疑惑有所

这篇文章主要介绍“hadoop分布式安装方法是什么”,在日常操作中,相信很多人在Hadoop伪分布式安装方法是什么问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”Hadoop伪分布式安装方法是什么”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!


mapReduce+Yarn
部署Yarn:
ResourceManager 
nodeManager

1.Yarn部署
[root@hadoop02 hadoop]# cp mapred-site.xml.template mapred-site.xml
[root@hadoop02 hadoop]# vi mapred-site.xml
<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
</configuration>[root@hadoop02 hadoop]# vi yarn-site.xml 
<?xml version="1.0"?>
<configuration><!-- Site specific YARN configuration properties -->
    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>

</configuration>
~
[root@hadoop02 hadoop]# chown hadoop:hadoop *
[root@hadoop02 hadoop]# su - hadoop
[hadoop@hadoop02 ~]$ 
[hadoop@hadoop02 ~]$ cd /opt/software/hadoop
[hadoop@hadoop02 hadoop]$ [hadoop@hadoop02 hadoop]$ sbin/start-yarn.sh
starting yarn daemons
starting resourcemanager, logging to /opt/software/hadoop-2.8.1/logs/yarn-hadoop-resourcemanager-rzdatahadoop002.out
hadoop002: starting nodemanager, logging to /opt/software/hadoop-2.8.1/logs/yarn-hadoop-nodemanager-rzdatahadoop002.out
[hadoop@hadoop02 hadoop]$ WEB界面: Http://192.168.137.201:8088/

2.MR Job测试
MapReduce: java代码写的,map(映射)函数和reduce(归约)函数
[hadoop@hadoop02 hadoop]$ find ./ -name "*example*"
./share/hadoop/mapreduce/lib-examples
./share/hadoop/mapreduce/hadoop-mapreduce-examples-2.8.1.jar
./share/hadoop/mapreduce/sources/hadoop-mapreduce-examples-2.8.1-sources.jar
./share/hadoop/mapreduce/sources/hadoop-mapreduce-examples-2.8.1-test-sources.jar
./lib/native/examples
./etc/hadoop/ssl-client.xml.example
./etc/hadoop/ssl-server.xml.example
[hadoop@rhadoop02 hadoop]$ 
[hadoop@hadoop02 hadoop]$ bin/hadoop jar ./share/hadoop/mapreduce/hadoop-mapreduce-examples-2.8.1.jar pi 5 10
3.停止Yarn
[hadoop@hadoop02 sbin]$ ll
total 92
-rwxr-xr-x. 1 hadoop hadoop 2752 Dec 10 11:54 distribute-exclude.sh
-rwxr-xr-x. 1 hadoop hadoop 6465 Dec 10 11:54 hadoop-daemon.sh
-rwxr-xr-x. 1 hadoop hadoop 1360 Dec 10 11:54 hadoop-daemons.sh
-rwxr-xr-x. 1 hadoop hadoop 1427 Dec 10 11:54 hdfs-config.sh
-rwxr-xr-x. 1 hadoop hadoop 2291 Dec 10 11:54 httpfs.sh
-rwxr-xr-x. 1 hadoop hadoop 3719 Dec 10 11:54 kms.sh
-rwxr-xr-x. 1 hadoop hadoop 4080 Dec 10 11:54 mr-jobhistory-daemon.sh
-rwxr-xr-x. 1 hadoop hadoop 1648 Dec 10 11:54 refresh-namenodes.sh
-rwxr-xr-x. 1 hadoop hadoop 2145 Dec 10 11:54 slaves.sh
-rwxr-xr-x. 1 hadoop hadoop 1471 Dec 10 11:54 start-all.sh
-rwxr-xr-x. 1 hadoop hadoop 1128 Dec 10 11:54 start-balancer.sh
-rwxr-xr-x. 1 hadoop hadoop 3734 Dec 10 11:54 start-dfs.sh
-rwxr-xr-x. 1 hadoop hadoop 1357 Dec 10 11:54 start-secure-dns.sh
-rwxr-xr-x. 1 hadoop hadoop 1347 Dec 10 11:54 start-yarn.sh
-rwxr-xr-x. 1 hadoop hadoop 1462 Dec 10 11:54 stop-all.sh
-rwxr-xr-x. 1 hadoop hadoop 1179 Dec 10 11:54 stop-balancer.sh
-rwxr-xr-x. 1 hadoop hadoop 3206 Dec 10 11:54 stop-dfs.sh
-rwxr-xr-x. 1 hadoop hadoop 1340 Dec 10 11:54 stop-secure-dns.sh
-rwxr-xr-x. 1 hadoop hadoop 1340 Dec 10 11:54 stop-yarn.sh
-rwxr-xr-x. 1 hadoop hadoop 4295 Dec 10 11:54 yarn-daemon.sh
-rwxr-xr-x. 1 hadoop hadoop 1353 Dec 10 11:54 yarn-daemons.sh
[hadoop@hadoop02 sbin]$ 

到此,关于“Hadoop伪分布式安装方法是什么”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注编程网网站,小编会继续努力为大家带来更多实用的文章!

--结束END--

本文标题: Hadoop伪分布式安装方法是什么

本文链接: https://lsjlt.com/news/232125.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

猜你喜欢
  • Hadoop伪分布式安装方法是什么
    这篇文章主要介绍“Hadoop伪分布式安装方法是什么”,在日常操作中,相信很多人在Hadoop伪分布式安装方法是什么问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”Hadoop伪分布式安装方法是什么”的疑惑有所...
    99+
    2023-06-03
  • hadoop伪分布式集群怎么安装
    Hadoop伪分布式集群是在单台机器上模拟多台机器的Hadoop集群环境,可以用来进行开发和测试。以下是Hadoop伪分布式集群的安...
    99+
    2024-03-13
    hadoop
  • hadoop伪分布式的安装步骤
    本篇内容主要讲解“hadoop伪分布式的安装步骤”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“hadoop伪分布式的安装步骤”吧! 解压缩 /opt/software/hadoop-2...
    99+
    2023-06-03
  • Hadoop伪分布安装搭建
      Hadoop伪分布安装搭建 搭建Hadoop的环境======================================一、准备工作 1、安装Linux、JDK、关闭防火墙、配置主机名 解压:tar -zxvf hado...
    99+
    2017-02-06
    Hadoop伪分布安装搭建
  • hbase 0.94.16 伪分布模式安装
    本篇文章描述的是在1.2.1版本的基础上安装hadoop加上0.94.16版本的hbase,呵呵!现在看来这些版本都有些过时了,写这篇稿子的时候hadoop刚出2.3.0版。如果你是新手或是刚踏入hadoo...
    99+
    2024-04-02
  • ubuntu安装hadoop的方法是什么
    本篇内容主要讲解“ubuntu安装hadoop的方法是什么”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“ubuntu安装hadoop的方法是什么”吧!1.在hadoop官网下载对应的hadoop...
    99+
    2023-07-04
  • Linux下启动伪分布式HADOOP与MySQL命令及脚本是什么
    这篇文章主要介绍“Linux下启动伪分布式HADOOP与MySQL命令及脚本是什么”,在日常操作中,相信很多人在Linux下启动伪分布式HADOOP与MySQL命令及脚本是什么问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希...
    99+
    2023-06-03
  • hadoop cdh2.6.0-5.7.0伪分布式版本怎么搭建
    本篇内容主要讲解“hadoop cdh2.6.0-5.7.0伪分布式版本怎么搭建”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“hadoop cdh2.6.0-5.7.0伪分布式版本怎么搭建”吧!...
    99+
    2023-06-02
  • linux下安装Hadoop的方法是什么
    本篇内容介绍了“linux下安装Hadoop的方法是什么”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!一:安装JDK1.执行以下命令,下载J...
    99+
    2023-07-05
  • 分布式计算Hadoop指的是什么
    这篇文章给大家介绍分布式计算Hadoop指的是什么,内容非常详细,感兴趣的小伙伴们可以参考借鉴,希望对大家能有所帮助。Hadoop是什么:Hadoop是一个开发和运行处理大规模数据的软件平台,是Appach的一个用java语言实现开源软件框...
    99+
    2023-06-16
  • Hadoop 2.x中怎么搭建伪分布式环境
    这期内容当中小编将会给大家带来有关Hadoop 2.x中怎么搭建伪分布式环境,文章内容丰富且以专业的角度为大家分析和叙述,阅读完这篇文章希望大家可以有所收获。1、修改hadoop-env.sh、yarn-e...
    99+
    2024-04-02
  • docker安装hadoop集群的方法是什么
    要在Docker中安装Hadoop集群,可以按照以下步骤进行:1. 首先,确保已经安装了Docker和Docker Compose。...
    99+
    2023-08-16
    docker hadoop
  • linux系统怎么安装hadoop真分布式集群
    这篇“linux系统怎么安装hadoop真分布式集群”文章的知识点大部分人都不太理解,所以小编给大家总结了以下内容,内容详细,步骤清晰,具有一定的借鉴价值,希望大家阅读完这篇文章能有所收获,下面我们一起来看看这篇“linux系统怎么安装ha...
    99+
    2023-06-30
  • Hadoop单机版和全分布式(集群)安装
    Hadoop,分布式的大数据存储和计算, 免费开源!有Linux基础的同学安装起来比较顺风顺水,写几个配置文件就可以启动了,本人菜鸟,所以写的比较详细。为了方便,本人使用三台的虚拟机系统是Ubuntu-12...
    99+
    2022-06-04
    分布式 集群 单机版
  • 如何安装Hadoop单机版和全分布式
    这篇文章主要介绍“如何安装Hadoop单机版和全分布式”,在日常操作中,相信很多人在如何安装Hadoop单机版和全分布式问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”如何安装Hadoop单机版和全分布式”的疑...
    99+
    2023-06-09
  • 完全分布式hadoop搭建的步骤是什么
    搭建完全分布式Hadoop集群通常包括以下步骤: 准备环境:确保所有节点都有相同的操作系统和Java版本,并且具有网络互通的能力...
    99+
    2024-03-05
    hadoop
  • linux系统安装hadoop真分布式集群详解
    Hadoop真分布式完全集群安装,基于版本2.7.2安装,在两台linux机器上面分别安装Hadoop的master和slave节点。 1.安装说明 不管NameNode还是DataNode节点,安装的用户名需要一致。m...
    99+
    2022-06-05
    linux系统安装hadoop分布式集群 hadoop分布式集群安装教程 hadoop真分布式集群安装教程
  • CentOS 6.4如何安装Hadoop-2.5.1完全分布式集群
    这篇文章主要介绍了CentOS 6.4如何安装Hadoop-2.5.1完全分布式集群,具有一定借鉴价值,感兴趣的朋友可以参考下,希望大家阅读完这篇文章之后大有收获,下面让小编带着大家一起了解一下。环境介绍:在两台装有CentOS 6.4(3...
    99+
    2023-06-03
  • redis分布式应用的方法是什么
    Redis分布式应用的方法包括:1. 数据分片(Sharding):将数据分散存储在多个Redis节点上,每个节点负责存储部分数据。...
    99+
    2023-08-30
    redis
  • java分布式部署的方法是什么
    Java分布式部署有多种方法,以下是常用的几种:1. 垂直扩展:通过增加服务器的硬件资源(例如CPU、内存)来增加系统的处理能力。这...
    99+
    2023-09-05
    java
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作