链路 分布式opentelemetry rocketmq
RabbitMQ、RocketMQ和Kafka的不同之处
RabbitMQ、RocketMQ和Kafka是三种常见的消息队列系统，它们在设计和使用方面有一些不同之处： 架构设计： RabbitMQ：RabbitMQ是一个基于AMQP（高级消息队列协议）的开源消息队列系统，采用的是传统的Broker架构模式，其中包括生产者、消费者和中间件（Broker）。 ......
分布式实时通信—DDS概述
https://blog.yanjingang.com/?p=6716 分布式实时通信—DDS概述 DDS最早应用在美国海军系统，目前已广泛应用于军工、机器人、自动驾驶等领域，国际主流军工厂商、ROS2操作系统等均将DDS作为其控制系统的核心中间件，为各类战舰、机器人等提供可靠、高实时的分布式通信功 ......
cookie和session的区别，分布式环境怎么保存用户状态
1、cookie数据存放在客户的浏览器上，session数据放在服务器上。 2、cookie不是很安全，别人可以分析存放在本地的COOKIE并进行COOKIE欺骗，考虑到安全应当使用session。 3、session会在一定时间内保存在服务器上。当访问增多，会比较占用你服务器的性能，考虑到减轻服务 ......
Redis从入门到放弃（10）：分布式锁
Redis从入门到放弃（10）：分布式锁 在分布式系统中，实现对共享资源的安全访问是一个关键问题。Redis作为一种高性能的内存数据库，提供了多种方式来实现分布式锁，以解决多个节点之间对共享资源的并发访问问题。 本文将介绍五种Redis分布式锁的解决方案及其原理、应用场景以及Java代码的实现步骤。 ......
理解可观测性与Opentelemetry
理解可观测性与Opentelemetry l 介绍可观测性 l 介绍Opentelemetry的核心概念 一、重新认识可观测性 管理学大师彼得德鲁克有一句话：“如果你无法衡量它，你就无法管理它”。在企业中，无论是管理人，还是管理事，抑或是管理系统，首先都需要衡量。衡量的过程其实是搜集信息的过程，有了 ......
我是如何用 redis 分布式锁来解决线上历史业务问题的
近期发现，开发功能的时候发现了一个 mq 消费顺序错乱（历史遗留问题），导致业务异常的问题，看看我是如何解决的 问题抛出 首先，简单介绍一下情况： 线上 k8s 有多个 pod 会去消费 mq 中的消息，可是生产者发送的消息是期望一定要有序去消费，此时要表达的是，例如 生产者如果发送了 3 个通知消 ......
xxl-job实现java分布式定时任务
1 前言 1.1 业务场景 业务数据同步(线上数据同步到线下，新平台老平台数据的同步)，消息通知，业务数据的补偿。 1.2 什么是定时任务 定时任务是指基于给定的时间点，给定的时间间隔或者给定执行次数自动的执行程序。任务调度是系统的重要组成部分。任务调度直接影响着系统的实时性。任务调度涉及到多线程并 ......
LAXCUS分布式操作系统是什么？
今天收集了一些用户对Laxcus分布式操作系统的提问，贴出来给大家看看，也许对各位理解Laxcus分布式操作有些帮助。 1. 华为META60手机能够摆脱CIA监控，Laxcus分布式操作系统能不能做到这一点？ 答：完成没问题！Laxcus分布式操作系统是我们团队的全体系自主设计研发，全域安全模 ......
RocketMQ 系列(四) 消息存储
RocketMQ 系列(四) 消息存储 本文是 RocketMQ 系列的第四篇，下面是前面几篇的文章，不清楚的话点击看一下吧。 RocketMQ系列(一) 基本介绍 RocketMQ 系列(二) 环境搭建 RocketMQ 系列(三) 集成 SpringBoot RocketMQ 作为一款优秀的分布 ......
RocketMQ源码(五)：RocketMQ消息存储流程
在RocketMQ源码(四)：RocketMQ生产者发送消息流程中已经对生产者同步发送消息的源码做了分析，下面继续分析，消息发送到Broker做了哪些处理。 一、Broker处理请求消息的入口 在RocketMQ源码(三)：RocketMQ服务端启动流程中提到，在启动BrokerControler流 ......
【RocketMQ】消息的拉取总结
在上一讲中，介绍了消息的存储，生产者向Broker发送消息之后，数据会写入到CommitLog中，这一讲，就来看一下消费者是如何从Broker拉取消息的。 RocketMQ消息的消费以组为单位，有两种消费模式： 广播模式：同一个消息队列可以分配给组内的每个消费者，每条消息可以被组内的消费者进行消费。 ......
【分布式锁】
【引入】 【1】为什么要使用分布式锁 我们在开发应用的时候，如果需要对某一个共享变量进行多线程同步访问的时候，可以使用我们学到的锁进行处理，并且可以完美的运行，毫无Bug！ 注意这是单机应用，后来业务发展，需要做集群，一个应用需要部署到几台机器上然后做负载均衡，大致如下图： 上图可以看到 变量A存在 ......
14、liunx环境下部署分布式压测集群
一、java环境安装与配置 官网下载jdk-15.0.1_linux-x64_bin.tar.gz，上传到liunx服务器（官网跳转） 解压文件：tar -xzf jdk-15.0.1_linux-x64_bin.tar.gz，生成文件夹jdk-15.0.1 在/usr/目录下创建java文件夹，将 ......
大规模分布式训练并行模式
大规模分布式训练并行模式 数据并行 Data Parallelism 模型在不同GPU上具有完全一致的副本，包括模型参数、模型梯度、模型优化器状态，这些都是完全相同的。唯一不同的是不同GPU上处理的数据是不同的，在每次梯度更新时，对所有数据产生梯度之和求平均，然后更新。 管道并行 Pipeline ......
分布式缓存与本地缓存的优缺点
本地缓存：1.访问速度快，但是无法进行大数据存储2.集群数据更新问题3.数据随应用的重启而丢失分布式缓存：1.支持大数据量存储，不受应用进程影响2.数据集中存储，保证数据的一致性3.数据读写分离，高性能，高可用4.数据跨网络传输，性能低于本地缓存 ......
RocketMQ 入门实战(3)--Admin Tool 介绍
本文主要介绍 RocketMQ 管理工具(mqadmin)的使用，文中所使用到的软件版本：RocketMQ 5.1.3、CentOS 7.9.2009。 1、mqadmin 说明 A、执行命令方法：./mqadmin {command} {args}B、几乎所有命令都需要配置 -n 表示 NameS ......
1-centOS7搭建伪分布式Hadoop
前言：虚拟机快照的使用 VMware Workstation 软件可以用快照进行迅速的虚拟机状态的切换 ※. 类似于虚拟机备份， 可以使用备份进行快速恢复。 比如没安装jdk之前拍摄快照来备份 ※. 若jdk没安装好或者jdk环境变量配置的有问题， 可以用安装之前的快照快速恢复虚拟机 1.拍摄快照： ......
分布式下AP与CP的区别
在分布式中有一种理论叫CAP理论，C表示数据一致性，A表示系统可用性，P表示分区容错性，提出这个理论的人也指出了CAP这三者间只能有两个同时成立。 先来解释一下P分区容错性,在分布式的情况下，应用都会搭一个集群，比如用户在使用一个服务的时候可能会有多个用户服务端，当一个用户在一个服务端进行了修改了数 ......
docker安装rocketmq
docker pull rocketmqinc/rocketmq mkdir -p /mydata/rocketmq/data/namesrv/logs /mydata/rocketmq/data/namesrv/store docker run -d \ --restart=always \ -- ......
深入分布式一致性：Raft 和 etcdRaft
分布式一致性是构建可靠的分布式系统的关键要素之一。为了确保数据的一致性和可用性，一致性算法的设计变得至关重要。在这篇博文中，我们将深入探讨两个与分布式一致性密切相关的主题：Raft 算法和 etcdRaft 存储系统。 ## Raft 算法：分布式一致性的基石 Raft 算法是一种分布式一致性算法， ......
大企业才用的分布式唯一Id，它比GUID好
支持.Net Core(2.0及以上)与.Net Framework(4.5及以上) 可以部署在Docker, Windows, Linux, Mac。 分布式唯一Id，顾名思义，是指在全世界任何一台计算机上都不会重复的唯一Id。 在单机/单服务器/单数据库的小型应用中，不需要用到这类东西。但在高并 ......
locust：Python 分布式压力测试（带WebUI）
Locust 介绍 它采用纯 Python 实现，是一个分布式用户负载测试的工具。 使用基于 Requests 库的客户端发起请求，使编写脚本大大简化; 在模拟并发方面摒弃进程和线程，完全基于时间驱动，采用协程（gevent）提供的非阻塞 IO 和 coroutine 来实现网络层的并发请求。因此单 ......
探索语言的奥秘：我与英汉词性分布的碰撞
在我的语言学之旅中，我一直对比较英语和汉语的词性分布特别感兴趣。最近，我有了一个深入探讨这一题目的机会。下面是我对这一话题的深度探讨和个人见解。 #### 第一章：词性分布的奇妙世界 一天，我被一个看似简单但实则具有深度的问题吸引：“英语是不是比汉语更喜欢用名词？”这使我陷入了沉思。我首先想到的是寻 ......
从一台电脑怎么到的分布式架构？
从单台服务器到分布式服务器的演化过程 1.单台服务器 并发量过大就会出现各种问题 2.把服务器和数据库分离 我把应用和数据库分别部署到不同的服务器上，缓解了负载压力 3.应用服务器集群 出现的问题是： a.需要使用session和cookie维护用户： session用来跟踪用户状态，cookie用 ......
从高斯分布到信息矩阵
# 从高斯分布到信息矩阵 > 本文章的所有证明推导均为个人记录，如有错误欢迎指出，且所有均参考贺一家博士和高翔博士的相关证明，其他的部分参考文献也在文末给出。 [TOC] ## 1. SLAM 问题概率建模 考虑某个状态 $\boldsymbol{\xi}$ ，以及一次与该状态相关的观测 $\mat ......
RocketMQ 系列(三) 集成 SpringBoot
## RocketMQ 系列(三) 集成 SpringBoot 前两篇文章介绍了 RocketMQ 基本概念与搭建，现在以它与 SpringBoot 的结合来介绍其基本的用法。 - [RocketMQ系列(一) 基本介绍 ](https://www.cnblogs.com/CF1314/p/1766 ......
《动手学深度学习 Pytorch版》 4.9 环境和分布偏移
# 4.9.1 分布偏移的类型 整节理论，详见书本。 # 4.9.2 分布偏移示例 整节理论，详见书本。 # 4.9.3 分布偏移纠正 整节理论，详见书本。 # 4.9.4 学习问题的分类法 整节理论，详见书本。 # 4.9.5 机器学习中的公平、责任和透明度 整节理论，详见书本。 # 练习 （1） ......
pytorch分布式训练报错：Duplicate GPU detected : rank 1 and rank 0 both on CUDA device 35000
之前使用的比较老的torch 1.8.1，换到torch 2.0后报错 "rank 1 and rank 0 both on CUDA device 35000" 将main函数开头部分的初始化 ```python distributed.init_process_group(backend='nc ......
数据链路层设备-网卡和网桥
数据链路层的设备有：网卡、网桥、交换机 1 网卡 网卡(网络接口卡) 网卡工作在数据链路层和物理层。其作用是将数据链路层的以太网报文变换成高低电平传输到物理层；将物理层到达的高低电平信号传输到数据链路层，数据链路层再进行以太网报文的组装。 2 网桥 网桥是连接两个局域网的存储转发设备。在两个局域网之 ......