集群rocketmq进程 多个
【RocketMQ】负载均衡源码分析
RocketMQ在集群模式下，同一个消费组内，一个消息队列同一时间只能分配给组内的某一个消费者，也就是一条消息只能被组内的一个消费者进行消费，为了合理的对消息队列进行分配，于是就有了负载均衡。 接下来以集群模式下的消息推模式DefaultMQPushConsumerImpl为例，看一下负载均衡的过程 ......
Pytorch：单卡多进程并行训练
在深度学习的项目中，我们进行单机多进程编程时一般不直接使用multiprocessing模块，而是使用其替代品torch.multiprocessing模块。它支持完全相同的操作，但对其进行了扩展。Python的multiprocessing模块可使用fork、spawn、forkserver三种方... ......
Keepalived高可用集群部署
KeepAlived KeepAlived安装 1.yum源安装 yum install keepalived 2.官网源码包编译 KeepAlived官网提供可编译源码包，可直接下载。 官网地址： https://www.keepalived.org/ 官网提供的软件包，解压编译安装即可。 Kee ......
Redis+Hbase+RocketMQ 实际使用问题案例分享
##需求 将Hbase数据，解析后推送到RocketMQ。 redis使用list数据类型，存储了需要推送的数据的RowKey及表名。 简单画个流程图就是： ##分析及确定方案 Redis 明确list中元素结构{"rowkey":rowkey,"table":table}解析出rowkey； 一次 ......
linux环境编程(2): 使用pipe完成进程间通信
1. 写在前面 linux系统内核为上层应用程序提供了多种进程间通信(IPC)的手段，适用于不同的场景，有些解决进程间数据传递的问题，另一些则解决进程间的同步问题。对于同样一种IPC机制，又有不同的API供应用程序使用，目前有POSIX IPC以及System V IPC可以为应用程序提供服务。后续 ......
SpringBoot 项目中配置多个 Jackson 的 ObjectMapper ，以及配置遇到的坑
问题说明 我们都知道，SpringBoot 项目中，如果引入了 Jackson 的包，哪怕不配置，SpringBoot 也会帮我们配置（JacksonAutoConfiguration）。 由于我的项目中需要使用多个不同的配置参数的 ObjectMapper，我同事直接配置了两个@Bean，并且其中 ......
COM 进程注入技术
COM PROCESS INJECTION for RUST 项目地址：https://github.com/0xlane/com-process-inject Process Injection via Component Object Model (COM) IRundown::DoCallba ......
ActiveMQ 常见集群模式
Master Slave 架构模式 这种模式是基于文件共享锁的高可用集群，个人理解其实是一种 Failover 模式，可以是一主一从，也可以是一主两从。 本文使用 Docker 搭建一个主从模式的 ActiveMQ 5.8.0 集群，一个主节点，两个从节点。 ActiveMQ 镜像的创建可以参考 构 ......
对 Pulsar 集群的压测与优化
前言 这段时间在做 MQ（Pulsar）相关的治理工作，其中一个部分内容关于消息队列的升级，比如： 一键创建一个测试集群。 运行一批测试用例，覆盖我们线上使用到的功能，并输出测试报告。 模拟压测，输出测试结果。 本质目的就是想直到新版本升级过程中和升级后对现有业务是否存在影响。 一键创建集群和执行测 ......
Apache RocketMQ 5.0 笔记
RocketMQ 5.0：云原生“消息、事件、流”实时数据处理平台，覆盖云边端一体化数据处理场景。 核心特性 云原生：生与云，长与云，无限弹性扩缩，K8s友好 高吞吐：万亿级吞吐保证，同时满足微服务与大数据场景 流处理：提供轻量、高扩展、高性能和丰富功能的流计算引擎 金融级：金融级的稳定性，广泛用于 ......
【环境搭建】RocketMQ集群搭建
环境搭建第9篇rocketmq集群文章，方便学习中复现和使用，时间宝贵，踩坑艰难。包含集群搭建，管理台搭建，springboot本地请求等。 ......
openEuler 部署Kubernetes（K8s）集群
openEuler官方文档部署K8s集群比较复杂，并且网上相关资料较少，本文是通过实践与测试整理的 openEuler 22.03 部署 Kubernetes 1.20.2 集群操作方法。 ......
Centos下部署最后一版支持Docker的k8s集群
部署版本 首先要确定部署的版本 查询Kubernetes对Docker支持的情况 kubernetes/dependencies.yaml at master · kubernetes/kubernetes (github.com) 查询Kubernetes Dashboard对Kubernetes ......
JAVA中使用最广泛的本地缓存？Ehcache的自信从何而来3 —— 本地缓存变身分布式集群缓存，打破本地缓存天花板
作为JAVA本地缓存综合实力天花板的Ehcache，还提供了对于集群能力的支持，这也使其不仅仅是个单机缓存，更是一个分布式缓存。本篇一起探讨Ehcache的各种集群方案。 ......
如何指定多个项目的 InternalsVisibleTo
InternalsVisibleTo 属性允许你指定一个或多个程序集，这些程序集可以访问当前程序集中的内部类型。经常在进行单元测试时使用，例如，你可以在一个项目中定义一个内部类型，然后在另一个项目中进行单元测试。本文将介绍如何指定多个项目的 InternalsVisibleTo，从而不需要在每个项目 ......
如何在多个应用程序中共享日志配置
有的时候你有多个应用程序，它们需要使用相同的日志配置。在这种情况下，你可以将日志配置放在一个共享的位置，然后通过项目文件快速引用。方便快捷，不用重复配置。 Directory.Build.props 通过在项目文件夹中创建一个名为 Directory.Build.props 的文件，可以将配置应用于 ......
终于弄明白了 RocketMQ 的存储模型
RocketMQ 优异的性能表现，必然绕不开其优秀的存储模型 。 这篇文章，笔者按照自己的理解 , 尝试分析 RocketMQ 的存储模型，希望对大家有所启发。 1 整体概览 首先温习下 RocketMQ 架构。 整体架构中包含四种角色 : Producer ：消息发布的角色，Producer 通过 ......
基于云基础设施快速部署 RocketMQ 5.0 集群
如何解决在云基础设施上部署 RocketMQ 时面临多节点部署带来的高操作成本等诸多挑战？快来了解 RocketMQ Operator 是怎样支撑 RocketMQ 集群在云基础设施上的自动化运维与管理吧！ ......
RocketMQ Compaction Topic的设计与实现
Compaction Topic 是一种基于 key 的数据过期机制，即对于相同 key 的数据只保留最新值。该特性的应用场景主要为维护状态信息，或者在需要用到 KV 结构时，可以通过 Compaction Topic 将 key-value 信息直接保存到 MQ，从而解除对外部数据库的依赖。快来... ......
Ubuntu 22.04 搭建K8s集群
本文基于Mac平台和Parallels软件，在其中创建三个Ubuntu系统，搭建了一个3个节点（1个master和2个Node）的K8s集群。 ......
【RocketMQ】主从模式下的消费进度管理
在【RocketMQ】消息的拉取一文中可知，消费者在启动的时候，会创建消息拉取API对象PullAPIWrapper，调用pullKernelImpl方法向Broker发送拉取消息的请求，那么在主从模式下消费者是如何选择向哪个Broker发送拉取请求的？ 进入pullKernelImpl方法中，可以 ......
本地同时启停多个中间件的优雅方案
"I don’t care if it works on your machine! We are not shipping your machine!" - Vidiu Platon “我才不管它能不能在你的机器上运行捏！我们又不会给你提供机器！” —— 韦都·柏拉图 0x00 大纲 0x01 前 ......
作者推荐 | 【分布式技术专题】「架构设计方案」图解学习法总结集群模式下的各种软负载均衡策略实现及原理分析
通常来说，负载均衡分为硬件负载均衡及软件负载均衡。硬件负载均衡，顾名思义，在服务器节点之间安装专门的硬件进行负载均衡的工作，F5或者A10便为其中的佼佼者。软件负载均衡则是通过在服务器上安装的特定的负载均衡软件或是自带负载均衡模块完成对请求的分配派发。例如，平时我们使用的Nginx或者API-Gat... ......
【秒杀购物商城业务服务】「分布式架构服务」盘点中间件服务的高可用模式及集群技术的方案分析
- 基于MySQL数据库集群技术实现服务的高可用
- 基于Tomcat的集群负载机制实现Tomcat服务器的高可用
- 基于Nginx负载均衡机制实现负载均衡（介绍和配置）
- 基于Redis缓存服务实现数据缓存控制相关介绍和技术点分析
- 对未来的分布式技术架构扩展和延伸介绍（包含云原生部分） ......
RabbitMQ、RocketMQ、Kafka延迟队列实现
延迟队列在实际项目中有非常多的应用场景，最常见的比如订单未支付，超时取消订单，在创建订单的时候发送一条延迟消息，达到延迟时间之后消费者收到消息，如果订单没有支付的话，那么就取消订单。 那么，今天我们需要来谈的问题就是RabbitMQ、RocketMQ、Kafka中分别是怎么实现延时队列的，以及他们对 ......
监控Kubernetes集群证书过期时间的三种方案
前言 Kubernetes 中大量用到了证书, 比如 ca证书、以及 kubelet、apiserver、proxy、etcd等组件，还有 kubeconfig 文件。 如果证书过期，轻则无法登录 Kubernetes 集群，重则整个集群异常。 为了解决证书过期的问题，一般有以下几种方式： 大幅延长 ......
CPU 和 CPU Core 有啥区别？多核 CPU？多个 CPU？
CPU 全称 Central Processing Unit，中央处理器，计算机的大脑，长这个样子： CPU 通过一个插槽安装在主板上，这个插槽也叫做 CPU Socket，它长这个样子： 而我们说的多核 CPU，一个 CPU 有几个核，这个核就是 Core 其实在很久之前是没有 Core 的概念的 ......
Docker进阶-Dockerfile建立一个自定义的镜像执行自定义进程
前言 docker对我来说是一个很方便的工具，，上一篇文章也写了docker基本的一些使用，这篇文章重点描述一下Dockerfile的使用，从零建立一个自己定制化的镜像，并可以执行我们需要的任务。 作者：良知犹存 转载授权以及围观：欢迎关注微信公众号：羽林君 或者添加作者个人微信：become_me ......
RocketMQ 在网易云音乐的实践
最佳实践丨网易云音乐线上场景众多，比如直播、评论、广告等各个业务线都会有消息场景，一起来看看 RocketMQ 在云音乐的落地实战经验分享吧~ ......