分布式 集群 事务seata

《Java架构师的第一性原理》38分布式计算之微服务SpingCloud

1 微服务简介 1.1 什么是微服务 微服务是最近的一两年的时间里是很火的一个概念。感觉不学习一下都快跟不上时代的步伐了,下边做一下简单的总结和介绍。 何为微服务?简而言之,微服务架构风格这种开发方法,是以开发一组小型服务的方式来开发一个独立的应用系统的。其中每个小型服务都运行在自己的进程中,并经常 ......
第一性 分布式 SpingCloud 架构 原理

《Java架构师的第一性原理》36分布式计算之分布式监控分布式链路跟踪(CAT、SkyWalking、Zipkin)

分布式链路跟踪 99 直接读这些牛人的原文 大众点评CAT开源监控系统剖析 一文带你看懂,SkyWalking分布式追踪系统原理及实践 SkyWalking —— 分布式应用监控与链路追踪 全面解析微服务系统监控分层,啃透服务治理核心! ......
分布式 第一性 链路 SkyWalking 架构

《Java架构师的第一性原理》33分布式计算之分布式注册中心、分布式配置中心

待补充 1 分布式注册中心 2 分布式配置中心 2.1 Apollo 2.1.1 Apollo是怎样注入到SpringBean的容器里的 99 直接读这些牛人的原文 apollo不使用 MQ 如何实现 pub/sub 场景? 13张图彻底搞懂分布式系统服务注册与发现原理 为什么 @Value 可以获 ......
分布式 第一性 架构 原理 Java

《Java架构师的第一性原理》30分布式计算之分布式算法

极客时间 韩健 121.分布式协议与算法实战 00 开篇词 | 想成为分布式高手?那就先把协议和算法烂熟于心吧 为什么要单独讲分布式协议和算法呢? 在我看来,它其实就是决定分布式系统如何运行的核心规则和关键步骤。 如果一个人想真正搞懂分布式技术,开发出一个分布式系统,最先需要掌握的就是这部分知识。 ......
分布式 第一性 算法 架构 原理

《Java架构师的第一性原理》32分布式计算之分布式锁(Redis、Zookeeper)

1 这才是真正的分布式锁 技术领域,我觉得了解来龙去脉,了解本质原理,比用什么工具实现更重要: (1)进程多线程如何互斥? (2)一个手机上两个APP访问一个文件如何互斥? (3)分布式环境下多个服务访问一个资源如何互斥? 归根结底,是利用一个互斥才能访问的公共资源来实现分布式锁,具体这个公共资源是 ......
分布式 第一性 架构 Zookeeper 原理

《Java架构师的第一性原理》32分布式计算之分布式缓存第3篇LevelDB

互联网业务,绝大部分场景,会使用缓存服务。 但有时候,确实会使用到进程内存缓存/数据库,这个时候,LevelDB就能派上用场了。啥是LevelDB?LevelDB是Google开发的,一个速度非常块的KV存储库(storage library),它支持字符串的key与字符串的value,并且这种映射 ......
分布式 第一性 缓存 架构 原理

《Java架构师的第一性原理》32分布式计算之分布式缓存第1篇如何使用Redis搭建玩家排行榜

今天我们用 Redis 搭建一个玩家的排行榜,假设一个服务器存储了 10 万名玩家的数据,我们想给这个区(这台服务器)上的玩家做个全区的排名,该如何用 Redis 实现呢? 不妨一起来思考下面几个问题: MySQL 是如何实现玩家排行榜的?有哪些难题需要解决? 如何用 Redis 模拟 10 万名玩 ......
分布式 第一性 缓存 架构 原理

《Java架构师的第一性原理》31分布式计算之微服务RPC(Dubbo)

1 互联网架构,究竟为啥要做服务化 互联网架构,究竟为啥要做服务化? 2 微服务架构,多“微”才合适? 微服务架构,多“微”才合适? 3 离不开的微服务架构,脱不开的RPC细节 离不开的微服务架构,脱不开的RPC细节 3.1 服务化解决的问题 1)服务化需要解决的问题: 一套序列化、反序列化、网络框 ......
第一性 分布式 架构 原理 Dubbo

一套分布式IM即时通讯系统的技术选型和架构设计

为了更好的理解分布式IM即时通讯系统的设计,我站在架构师的角度,在充分了解系统需求、业务流程和技术流程后,从全局视角为系统设定方案目标,对技术方案进行选型,对系统进行总体架构设计和分层架构设计,并梳理清楚发送消息的交互链路、单聊和群聊的交互链路。希望对你有帮助。 ......
通讯系统 分布式 架构 通讯 系统

从分布式计算的角度看pytorch和TensorFlow哪个更优?

背景: pytorch框架是一个从学术圈出来的框架,因此pytorch并不原生支持分布式计算,而且在大模型火爆的今年以外好像在深度学习领域使用分布式计算的场景确实不多,所以pytorch并不原生支持分布式计算的事情好像也并无大碍,而且pytorch可以通过安装第三方库的方式实现同步形式的分布式计算。 ......
分布式 TensorFlow 角度 pytorch

分布式缓存

单点redis的问题 数据丢失问题:Redis是内存存储,服务重启可能会丢失数据。解决:数据持久化 并发能力问题:单节点并发能力不足。解决:主从集群,读写分离。 故障恢复:需要自动的故障恢复手段。解决:Redis哨兵,实现健康检测和自动恢复。 存储能力问题:单节点Redis难以满足海量数据存储。解决 ......
分布式 缓存

SpringAOP之@Transactional处理事务

跟着孙哥学Spring,b站:https://www.bilibili.com/video/BV185411477k/?spm_id_from=333.337.search-card.all.click 引言 在现代的Java应用开发中,Spring框架提供了丰富的功能来简化复杂性。其中,事务管理是 ......
Transactional SpringAOP 事务

redis分布锁

1.什么是redis分布式锁 Redis分布式锁是一种利用Redis实现的锁机制,用于在分布式系统中保护共享资源的访问。它利用Redis的原子性操作和过期时间设置来实现互斥访问。 在分布式环境中,多个进程或线程可能同时访问共享资源,如果没有合适的机制来保护共享资源,就会导致数据不一致或竞争条件的发生 ......
redis

ceph分布式存储的学习:

支持的存储类型:对象存储、块存储、文件系统存储 ceph版本 ......
分布式 ceph

Seata:打造行业首个分布式事务产品

在 2019 年,我们基于 Dubbo Ecosystem Meetup,收集了 2000 多份关于“在微服务架构,哪些核心问题是开发者最关注的痛点?”的调研问卷。最终分布式事务问题在调研中占比最大,约占 54%。 ......
分布式 事务 行业 Seata 产品

将Abp默认事件总线改造为分布式事件总线

@目录原理创建分布式事件总线实现自动订阅和事件转发使用启动Redis服务配置传递Abp默认事件传递自定义事件项目地址 原理 本地事件总线是通过Ioc容器来实现的。 IEventBus接口定义了事件总线的基本功能,如注册事件、取消注册事件、触发事件等。 Abp.Events.Bus.EventBus是 ......
总线 事件 分布式 Abp

seata分布式事务不生效

Fegin调用使用了Fallback降级或抛出的异常被全局处理 解决: 1.通过 GlobalTransactionContext.reload(RootContext.getXID()).rollback() 进行手动回滚 服务A @Service public class ServiceAImp ......
分布式 事务 seata

DeepSpeed分布式训练

一、DeepSpeed 总纲 官方文档:DeepSpeed 官方英文文档 cpoy下来的原版 DeepSpeed 模型的训练是使用DeeSpeed引擎完成的 DeepSpeed引擎可以包装任何 torch.nn.module 类型的模型 二、训练 1、通过 deepspeed.initialize ......
分布式 DeepSpeed

分布式资源管理和调度

分布式资源管理和调度 分布式资源管理和调度是指在分布式系统中有效地管理和调度系统中的资源,以满足各种任务的需求。在一个分布式系统中,资源可以包括计算资源(如CPU、内存)、存储资源(如磁盘空间)、网络带宽等。 分布式资源管理的目标是实现高效的资源利用和公平的资源分配。它需要考虑以下几个方面: 资源发 ......
分布式 资源管理 资源

C++聊天集群服务器解决客户端注销登录问题

客户端如何处理注销登录问题? 问题描述: ​ 在客户端登录后进行注销选择,然后重新登录刚才注销的账号,直接卡死。注意这是概率发生,因为是主线程和子线程抢服务器发送的信息,只有子线程抢到才会发生卡死 问题产生原因分析: ​ 前置条件:主线程循环等待用户输入选择(第一张图是死循环,send后立马recv ......
集群 客户端 客户 服务器 问题

李强 分布式计算、云计算与大数据 作者:林伟伟 著出版社:机械工业出版社出版时间:2015年11月

前 言背景分布式计算从20世纪六七十年代发展到现在,一直是计算机科学技术的理论与应用的热点问题,特别是*近几年,随着互联网、移动互联网、社交网络应用的发展,急需分布式计算的新技术——云计算、大数据,以满足和实现新时代计算机的应用需求。云计算、大数据等新技术本质上是分布式计算的发展和延伸,现有的书籍一 ......
出版社 分布式 时间 工业 作者

分布式限流

Spring - 高并发系统限流-漏桶算法和令牌桶算法_spring 限流_当走的路甚远的博客-CSDN博客6种 分布式限流方案,我替你整理好了_Micrle_007的博客-CSDN博客 ......
分布式

集群模式

一、Redis Cluster 1、Redis集群方案的演变 大规模数据存储系统都会面临的一个问题就是如何横向拓展。 当你的数据集越来越大,一主多从的模式已经无法支撑这么大量的数据存储,于是你首先考虑将多个主从模式结合在一起对外提供服务,但是这里有两个问题就是如何实现数据分片的逻辑和在哪里实现这部分 ......
集群 模式

MySQL集群

一、MySQL集群方案 1、常见MySQL集群方案 1.1、Replication 特点: 速度快 弱一致性 适用于低价值数据: 日志 新闻 帖子 1.2、PXC 特点: 速度慢 强一致性 适用于高价值数据: 订单 账户 财务 1.2.1、PXC原理 全称(Percona XtraDB Cluste ......
集群 MySQL

Redis 主从集群搭建并使用 RedisTemplate 实现读写分离

单机版的 Redis 能够承载并发访问的能力有限,对于绝大多数的系统而言,都是读多写少,系统之所以宕机,一般都是因为并发读操作太高导致的宕机,因此搭建 Redis 主从集群,实现读写分离,是一种有效的提高并发访问能力的方案。 本篇博客介绍在一台虚拟机上,使用 docker-compose 模拟搭建一 ......
主从 集群 RedisTemplate Redis

PostgreSQL中的事务隔离级别

PostgreSQL中的事务隔离级别在确保多用户数据库环境中的数据一致性、完整性和并发控制方面起着至关重要的作用。当多个事务并发执行时,隔离级别定义了它们之间的相互隔离的程度。PostgreSQL提供了一系列的隔离级别,每个级别都有自己的一套保证和权衡,允许开发人员根据特定的需求定制应用程序的行为。 ......
PostgreSQL 级别 事务

【转载】Springboot2.x 使用 Redisson 分布式可重入锁

参考 https://blog.csdn.net/weixin_43749805/article/details/131399516 https://github.com/redisson/redisson (官方仓库) https://github.com/redisson/redisson/tr ......
分布式 Springboot2 Springboot Redisson

prometheus监控k8s集群信息(通过kube-state-metrics)

prometheus监控k8s集群信息(通过kube-state-metrics) 因为通过k8s集群中kubelet和apiserver自带的一些接口来获取的信息太少,当然如果只需要监控POD的cpu、内存等信息,可能使用kubelet也够了,但是更多的信息还需要其他的工具,这里使用kube-st ......

Kubernetes集群存储解决方案GlusterFS

1、工具简介 1.1、GlusterFS 是一个开源的分布式文件系统 具有强大的横向扩展能力 通过扩展能够支持数PB存储容量和处理数千客户端 将物理分布的存储资源聚集在一起,使用单一全局命名空间来管理数据 1.2、Heketi 是一个基于RESTful API的GlusterFS卷管理框架 可以方便 ......

启动微服务报错:java.lang.IllegalStateException: Service id not legal hostname (seata_storage_micro_service)

Order微服务通过 opneFeign 调用 storage 和 account 时报错 原因分析: 服务名称不能有下划线,可以使用中划线,Springcloud无法识别下划线,将下划线改为中划线即可 注意:这个改了之后,你在进行远程调用的时候,接口对应的方法接口也需要相应改变【分布式开发,一个微 ......