返回顶部
首页 > 资讯 > 精选 >hadoop YARN配置参数有哪些
  • 515
分享到

hadoop YARN配置参数有哪些

2023-06-03 02:06:16 515人浏览 独家记忆
摘要

本篇内容主要讲解“hadoop YARN配置参数有哪些”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“hadoop YARN配置参数有哪些”吧!mapReduce相关配置参数分为两部分,分别是Jo

本篇内容主要讲解“hadoop YARN配置参数有哪些”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“hadoop YARN配置参数有哪些”吧!

mapReduce相关配置参数分为两部分,分别是JobHistory Server和应用程序参数,Job History可运行在一个独立节点上,而应用程序参数则可存放在mapred-site.xml中作为默认参数,也可以在提交应用程序时单独指定,注意,如果用户指定了参数,将覆盖掉默认参数。

以下这些参数全部在mapred-site.xml中设置。

1.    MapReduce JobHistory相关配置参数

在JobHistory所在节点的mapred-site.xml中配置。

(1) mapreduce.jobhistory.address

参数解释:MapReduce JobHistory Serve IPC host:port 地址。

默认值: 0.0.0.0:10020

(2) mapreduce.jobhistory.WEBapp.address

参数解释:MapReduce JobHistory Server Web UI 地址。

默认值: 0.0.0.0:19888

(3) mapreduce.jobhistory.intermediate-done-dir

参数解释:MapReduce作业产生的日志存放位置。

默认值:${yarn.app.mapreduce.am.staging-dir}/history/done_intermediate

(4) mapreduce.jobhistory.done-dir

参数解释:MR JobHistory Server管理的日志的存放位置。

默认值: ${yarn.app.mapreduce.am.staging-dir}/history/done

2.    MapReduce作业配置参数

可在客户端的mapred-site.xml中配置,作为MapReduce作业的缺省配置参数。也可以在作业提交时,个性化指定这些参数。

参数名称缺省值说明
mapreduce.job.name 作业名称
mapreduce.job.priorityNORMAL作业优先级
yarn.app.mapreduce.am.resource.mb1536MR ApplicationMaster占用的内存量
yarn.app.mapreduce.am.resource.cpu-vcores1MR ApplicationMaster占用的虚拟CPU个数
mapreduce.am.max-attempts2MR ApplicationMaster最大失败尝试次数
mapreduce.map.memory.mb1024每个Map Task需要的内存量
mapreduce.map.cpu.vcores1每个Map Task需要的虚拟CPU个数
mapreduce.map.maxattempts4Map Task最大失败尝试次数
mapreduce.reduce.memory.mb1024每个Reduce Task需要的内存量
mapreduce.reduce.cpu.vcores1每个Reduce Task需要的虚拟CPU个数
mapreduce.reduce.maxattempts4Reduce Task最大失败尝试次数
mapreduce.map.speculativefalse是否对Map Task启用推测执行机制
mapreduce.reduce.speculativefalse是否对Reduce Task启用推测执行机制
mapreduce.job.queuenamedefault作业提交到的队列
mapreduce.task.io.sort.mb100任务内部排序缓冲区大小
mapreduce.map.sort.spill.percent0.8Map阶段溢写文件的阈值(排序缓冲区大小的百分比)
mapreduce.reduce.shuffle.parallelcopies5Reduce Task启动的并发拷贝数据的线程数目

注意,MRv2重新命名了MRv1中的所有配置参数,但兼容MRv1中的旧参数,只不过会打印一条警告日志提示用户参数过期。MapReduce新旧参数对照表可参考Java类org.apache.hadoop.mapreduce.util.ConfigUtil  。

到此,相信大家对“hadoop YARN配置参数有哪些”有了更深的了解,不妨来实际操作一番吧!这里是编程网网站,更多相关内容可以进入相关频道进行查询,关注我们,继续学习!

--结束END--

本文标题: hadoop YARN配置参数有哪些

本文链接: https://lsjlt.com/news/232224.html(转载时请注明来源链接)

有问题或投稿请发送至: 邮箱/279061341@qq.com    QQ/279061341

猜你喜欢
  • hadoop YARN配置参数有哪些
    本篇内容主要讲解“hadoop YARN配置参数有哪些”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“hadoop YARN配置参数有哪些”吧!MapReduce相关配置参数分为两部分,分别是Jo...
    99+
    2023-06-03
  • Hadoop YARN配置中RM与NM相关参数有哪些
    Hadoop YARN配置中RM与NM相关参数有哪些,针对这个问题,这篇文章详细介绍了相对应的分析和解答,希望可以帮助更多想解决这个问题的小伙伴找到更简单易行的方法。注意,配置这些参数前,应充分理解这几个参...
    99+
    2024-04-02
  • Hadoop YARN常见问题有哪些
    本篇内容主要讲解“Hadoop YARN常见问题有哪些”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“Hadoop YARN常见问题...
    99+
    2024-04-02
  • hadoop和yarn的区别有哪些
    Hadoop是一个开源的分布式存储和计算框架,而YARN是Hadoop的一个资源管理器。它们之间的主要区别在于: 功能:Hado...
    99+
    2024-04-02
  • Hadoop YARN中权限与日志聚集的相关参数有哪些
    这期内容当中小编将会给大家带来有关Hadoop YARN中权限与日志聚集的相关参数有哪些,文章内容丰富且以专业的角度为大家分析和叙述,阅读完这篇文章希望大家可以有所收获。注意,配置这些参数前,应充分理解这几...
    99+
    2024-04-02
  • Hadoop Yarn的资源调度器有哪些
    这篇文章主要介绍“Hadoop Yarn的资源调度器有哪些”,在日常操作中,相信很多人在Hadoop Yarn的资源调度器有哪些问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”Hadoop Yarn的资源调度器...
    99+
    2023-06-02
  • PPTP的配置参数有哪些
    这篇文章主要介绍“PPTP的配置参数有哪些”的相关知识,小编通过实际案例向大家展示操作过程,操作方法简单快捷,实用性强,希望这篇“PPTP的配置参数有哪些”文章能帮助大家解决问题。PPTP是在PPP协议的基础上开发的一种新的增强型安全协议,...
    99+
    2023-06-27
  • PHP FPM配置参数有哪些
    今天小编给大家分享一下PHP FPM配置参数有哪些的相关知识点,内容详细,逻辑清晰,相信大部分人都还太了解这方面的知识,所以分享这篇文章给大家参考一下,希望大家阅读完这篇文章后有所收获,下面我们一起来了解一下吧。PHP-FPM 是一个 PH...
    99+
    2023-06-27
  • Linux安装PHP配置参数有哪些
    这篇文章将为大家详细讲解有关Linux安装PHP配置参数有哪些,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。Linux安装PHP配置参数有:1、“--prefix”;2、“--with-config-fi...
    99+
    2023-06-25
  • 云服务器配置参数有哪些
    云服务器配置参数可以包括以下几个方面: CPU:服务器的主要处理器,主要用于计算密集型工作负载,如计算、图形图像处理等。 内存:服务器的重要资源,用于存储数据、应用程序数据等。通常包括物理内存、虚拟内存等。 存储:存储服务器上的软件应用...
    99+
    2023-10-27
    服务器配置 参数 有哪些
  • hadoop的RM与NM相关参数有哪些
    本篇内容介绍了“hadoop的RM与NM相关参数有哪些”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成! 参数均需要在yarn-sit...
    99+
    2023-06-03
  • 服务器配置参数命令有哪些
    服务器配置参数命令因不同操作系统和应用程序而异,以下是一些常见的服务器配置参数命令:1、CPU信息lscpu、cat /proc/c...
    99+
    2023-03-22
    服务器配置参数 服务器
  • 视频服务器配置参数有哪些
    视频服务器配置参数包括:1. 处理器:通常使用多核心的处理器,如Intel Xeon、AMD EPYC等。2. 内存:视频服务器需要...
    99+
    2023-06-04
    视频服务器配置 服务器
  • hadoop 2.2.X 配置参数说明:hbase-site.xml
    <!--Mon Aug 19 12:45:45 2013-->  <configuration>    <property>   ...
    99+
    2024-04-02
  • uniapp安装包参数有哪些?如何配置?
    uniapp(全称:Universal Application)是一种基于Vue.js开发跨平台应用的框架。由于其跨平台的特点,目前在市场上越来越受欢迎,开发人员也越来越多地开始使用它来开发移动应用和小程序。在uniapp中,我们可以通过安...
    99+
    2023-05-14
  • 云服务器配置参数有哪些类型
    CPU:云服务器通常使用处理器来管理资源的分配和控制计算机的操作。CPU是云服务器中最关键的配置参数之一。CPU的性能对云服务器的性能和稳定性有很大的影响。 内存:云服务器通常使用内存来存储数据和资源。内存的大小决定了云服务器的可扩展性和...
    99+
    2023-10-28
    服务器配置 参数 类型
  • hadoop 2.2.X弃用的配置属性有哪些
    这篇文章主要介绍“hadoop 2.2.X弃用的配置属性有哪些”,在日常操作中,相信很多人在hadoop 2.2.X弃用的配置属性有哪些问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”hadoop 2.2.X弃...
    99+
    2023-06-03
  • 数据库服务器硬件配置参数有哪些
    数据库服务器的硬件配置参数主要包括以下几个方面:1、处理器(CPU)处理器是数据库服务器的核心组件,需要选择高性能的CPU,如英特尔...
    99+
    2023-03-21
    数据库服务器硬件配置 数据库服务器 服务器
  • Java数据库连接池Druid的配置参数有哪些
    这篇文章主要介绍“Java数据库连接池Druid的配置参数有哪些”,在日常操作中,相信很多人在Java数据库连接池Druid的配置参数有哪些问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”Java数据库连接池D...
    99+
    2023-06-25
  • hadoop集群参数配置的方法是什么
    Hadoop集群的参数配置可以通过两种方式进行:命令行方式和配置文件方式。 命令行方式:可以通过在Hadoop集群的主节点上使用...
    99+
    2024-03-13
    hadoop
软考高级职称资格查询
编程网,编程工程师的家园,是目前国内优秀的开源技术社区之一,形成了由开源软件库、代码分享、资讯、协作翻译、讨论区和博客等几大频道内容,为IT开发者提供了一个发现、使用、并交流开源技术的平台。
  • 官方手机版

  • 微信公众号

  • 商务合作