1.容量调度器多队列 1.为何需要多队列 调度器默认就1个default队列,不能满足生产的要求。 1个队列在任务极限的情况下,容易资源耗尽。 特殊时期通过对任务的区分可以保证重要的任务队列资源充足 按照框架区分队列,如hive/spark/flink 每个框架的任务放入指定的队列(企业用的不是特别多) 按照业务模块区分队列,主流。 2.本栏目推荐文章第二章 Spring Boot 整合 Kafka消息队列 生产者Spark On YARN架构Spark on YARN的两种部署模式消息队列面试题:为什么要使用消息队列?Hadoop YARN ResourceManager 未授权访问Spark - spark on yarn 的作业提交流程消息队列RabbitMQ队列和消息的优先级RabbitMQ延迟队列hadoop和spark队列 Hadoop Yarn队列hadoop yarn hadoop yarn hadoop资源yarn cgroups hadoop资源yarn resourcemanager hadoop yarn 接口hadoop yarn tool 集群 命令hadoop yarn yarn yarn-site 流程yarn