链路 分布式opentelemetry rocketmq
Redis 使用Redisson+Rlock实现分布式锁
使用setnx+Lua脚本实现分布式锁会有一个问题：如果操作共享资源的时间大于过期时间，就会出现锁提前过期的问题，进而导致分布式锁直接失效。如果锁的超时时间设置过长，又会影响到性能。 如果操作共享资源的操作还未完成，锁过期时间能够自己续期就好了 对这个问题 Redisson 提供了现成的解决方案。 ......
Jmeter搭建分布式压测环境
最近在做性能测试，本来以为一台压力机就够啦，但是在压测一个查询接口的时候，当TPS达到500多的时候就开始报错，经过定位是压力机出现啦瓶颈，于是决定对压力机做一下分布式，经过调试环境部署成功，再次压测时候问题解决。下面记录一下部署分布式环境的过程。 使用的工具及版本： JDK：1.8.0_211 J ......
免费广告效果监测服务，实现全链路营销效果跟踪
广告主们都希望以低预算获得更高的广告投放收益，在投放广告后，想要了解高回报的渠道，往往需要收集并分析繁杂的数据，耗时耗力。通过广告监测，广告主可以准确的追溯用户渠道来源，看到不同流量的用户价值，分析广告投放效果，从而指导广告的出价和投放素材的优化，把预算花在刀刃上。 针对广告主们广告监测的需求，华为 ......
使用 Solon Cloud 的 Jaeger 做请求链路跟踪
<dependency> <groupId>org.noear</groupId> <artifactId>jaeger-solon-cloud-plugin</artifactId> </dependency> 1、描述 分布式扩展插件。基于 jaeger 适配的 solon cloud 插件。基 ......
分布式系统——分布式ID方案
分布式ID介绍 在分布式系统中，我们经常需要生成全局唯一的标识符，例如订单号，用户id，消息id等。这些标识符通常被称为分布式id。分布式id有以下几个常见的要求： 全局唯一：不同的节点或服务不能生成重复的id。 高性能：生成id的速度要快，不能成为系统的瓶颈。 低延迟：生成id的过程要尽可能简单， ......
分布式系统——并发条件下如何保证缓存与DB数据一致性
什么是数据一致性 我们常说的数据一致性指的是在程序运行过程中本地缓存、分布式缓存、数据库三者之间的数据一致性 常见的本地缓存有 hashmap、currenthashmap、guava cache、caffeine 分布式缓存常见的有 redis、memcache 常见数据不一致常见有： 本地缓存与 ......
多维随机变量及其分布
《二维随机变量》 注意 在分布函数中 P{X<=x 且 Y<=y} 而且有性质： 这个性质在求概率密度的未知数时有用 这个公式结合一下二维前缀和算法就能很好明白了 《二维离散型随机变量》 注意一下分布律的求法，其中的概率记住：X与Y是 且 《二维连续型随机变量》 具体练习看书P65 《高数知识》 到 ......
Hive 如何巧用分布函数percent_rank()剔除极值求均值
场景描述 前期写过一篇关于剔除订单极值求订单均值的案例，之前使用的是 dense_rank 函数对订单金额进行排序后，过滤掉最大值最小值后进行处理，最近工作刚好使用到分布函数percent_rank，想起来应该也可以用到这个场景； percent_rank() 简介 percent_rank() 函 ......
分布式系统——基于Redis的分布式锁的实现
分布式锁的介绍 分布式锁是分布式系统中用于协调多个进程或线程之间并发访问共享资源的一种机制。在分布式系统中，由于各个节点之间的通信存在延迟、故障等问题，可能会导致数据的不一致性。为了保证数据的一致性，需要使用分布式锁来协调各个节点的并发访问。 在分布式系统中，多个节点同时访问共享资源可能会导致以下问 ......
大数据经典论文解读 - 分布式锁 Chubby
Chubby 在谷歌“三驾马车”中3个系统都是单Master系统，这个Master是系统的单点，一旦Master故障集群就无法提供服务。使用Backup Master，通过监控机制进行切换。但是： 如何实现Backup Master和Master完全同步？ 监控程序也是单点，如何确定是Master宕 ......
Redis添加分布式锁
1.不是高并发的场景 stringRedisTemplate.opsForValue.setIfAbsent("zql","人在代码在",10,TimeUnit.SECONDS);//只加过期限制 2.高并发的场景 如果加锁的过期时间小于业务执行时间，那么需要给每个线程的锁加这个线程的唯一标识，让每 ......
ceph分布式存储搭建
CEPH分布式存储搭建 本文通过参考臧 雪 园 老师的文档根据实际操作做修改，详细视频链接参考： https://edu.51cto.com/course/15982.html 集群配置信息： 安装的ceph版本： 配置所需源的地址 wget -O /etc/yum.repos.d/CentOS-B ......
redis使用setnx+lua实现分布式锁
在Redis中，使用SETEX命令（对应RedisTemplate的setIfAbsent方法）可以实现一个最简易的分布锁。SETEX命令当key不存在的话，才会设置key的值，如果可以已经存在，就不做任何操作。 为了避免锁无法被释放，就给这个key（也就是锁）设置一个过期时间。 为了保证解锁操作的 ......
使用篇丨链路追踪（Tracing）其实很简单：请求轨迹回溯与多维链路筛选
本章我们将以业务 Owner（小帅）的视角，逐步了解分布式链路追踪的各种基础用法：小到单次用户请求的异常根因诊断，大到全局系统的强弱依赖梳理，分布式链路追踪都能给予确定性答案。 ......
windows下使用pytorch进行单机多卡分布式训练
现在有四张卡，但是部署在windows10系统上，想尝试下在windows上使用单机多卡进行分布式训练，网上找了一圈硬是没找到相关的文章。以下是踩坑过程。 首先，pytorch的版本必须是大于1.7，这里使用的环境是： pytorch==1.12+cu11.6 四张4090显卡 python==3. ......
rocketmq-spring : 实战与源码解析一网打尽
RocketMQ 是大家耳熟能详的消息队列，开源项目 rocketmq-spring 可以帮助开发者在 Spring Boot 项目中快速整合 RocketMQ。 这篇文章会介绍 Spring Boot 项目使用 rocketmq-spring SDK 实现消息收发的操作流程，同时笔者会从开发者的角 ......
tcp/ip协议二、数据链路层
以太网和IEEE802.2封装格式 环回口： 传给唤回地址（一般是127.0.0.1，但只要是以127开头都一样）的任何数据作为IP输入 MTU与路径MTU ......
对于数据链路层滑动窗口协议中窗口大小的总结
3.4节中介绍了三种滑动窗口协议:1位滑动窗口协议、GBN协议、SR协议。1位滑动窗口协议本质上就是一种全双工的停等式协议，它的发送窗口和接收窗口大小都是1，在此不做赘述，我主要分析后两种协议的窗口大小。 在SR协议中，窗口大小默认满足如下两个基本条件:发送窗口大小= 接收窗口大小发送窗口大小+接收 ......
Using publicly 使用公开遥感数据做非洲贫困分布制图
Using publicly 使用公开遥感数据做非洲贫困分布制图 Abstract 使用了约20000个village-level的点，得到village-level的精度是$r^2$=70% 在时间维度上，使用了district-aggregated change 作为评估尺度，精度是$r^2$= ......
.NetCore中使用分布式事务DTM的二阶段消息
一、概述 二阶段消息是DTM新提出的，可以完美代替现有的事务消息和本地消息表架构。无论从复杂度、性能、便利性还是代码量都是完胜现有的方案。 相比现有的消息架构借助于各种消息中间件比如RocketMQ等，DTM自己实现了无需额外的学习成本。它能够保证本地事务的提交和全局事务提交是“原子的”，适合解决不 ......
分布式事务讲解之CAP，2PC，3PC，TCC
学习此篇分布式事务前先学习Spring事务讲解 1 CAP 1.1 CAP原则 CAP原则又称CAP定理， 指的是在一个分布式系统中， Consistency（一致性） 、Availability（可用性） 、 Partition tolerance（分区容错性） ， 三者不可兼得。 |原则分类|详 ......
SB-RocketMQ-Provider-Consumer20230331
一、生产者 1、pom.xml <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-web</artifactId> </dependency> <dependency> < ......
RocketMQ-Windows安装-客户端rocketmq-dashboard 20230331
一、Windows安装 https://github.com/apache/rocketmq/releases 1、解压rocketmq-all-4.8.0-bin-release.zip到 D:\XXXA\rocketmq-all-4.8.0 2、RocketMQ配置环境变量： ROCKETMQ_ ......
分析微信好友数据，可以可视化好友男女比例分布，可视化省份来源，可视化签名的情感强度值
一、分析数据可视化好友男女分布比例 1 plt.rcParams['font.sans-serif']=['SimHei'] 2 #用来正常显示中文标签 3 plt.rcParams['axes.unicode_minus']=False 4 5 # 1.读取csv文件，把性别信息读取出来 6 de ......
数据链路层
封装成帧： MAC没有帧定界，因为他们有时间间隔地发送帧，不需要区别。 差错检测： 法一：奇偶校验：主机一个主机二规定0，1的个数为奇数或者偶数，如果有误，奇数偶数发生变化，那么就知道出现了误码。但如果正好出现2个误码，就没有改变奇偶性，则无法辨别是否出现误码。 法二：循环冗余校验：发送方用发送数据 ......
DG储能选址定容模型matlab 程序采用改进粒子群算法，考虑时序性得到分布式和储能的选址定容模型
DG储能选址定容模型matlab 程序采用改进粒子群算法，考虑时序性得到分布式和储能的选址定容模型，程序运行可靠YID:87140641990659957 ......
Python小练习：从正态分布中采样
Python小练习：从正态分布中采样 作者：凯鲁嘎吉 - 博客园 http://www.cnblogs.com/kailugaji/ 本文用Python实现三种从正态(高斯)分布中的采样方式：确定性采样、重参数化技巧(推荐)、直接采样。 1. normal_test.py 1 # -*- codin ......
.NET 的分布式锁类库
自己动手基于 Redis 实现一个 .NET 的分布式锁类库 分布式锁的核心其实就是采用一个集中式的服务，然后多个应用节点进行抢占式锁定来进行实现，今天介绍如何采用Redis作为基础服务，实现一个分布式锁的类库，本方案不考虑 Redis 集群多节点问题，如果引入集群多节点问题，会导致解决成本大幅上升 ......
SequoiaDB分布式数据库2023.3月刊
本月看点速览 赋能行业，参编《分布式数据库金融应用发展报告》 脱颖而出，入选2022专精特新黑马大赛年度十强 激烈角逐，成功晋级全国信创优秀解决方案决赛 新穗新彩，多家权威媒体走进巨杉 青杉计划2023持续进行，一起攀登更高的“杉” 赋能行业，参编《分布式数据库金融应用发展报告》 本月，北京金融科技 ......