分布式

分布式配置中心

为什么要有分布式配置中心: 1、项目背景 现在有一个项目,使用SSM进行开发的,配置文件的话我们知道是一个叫做application.properties的文件。 #业务参数相关配置 user.register.default.name=小强 user.register.default.sex=男 ......
分布式

分布式缓存

分布式系统中常用的缓存方案有哪些? 客户端缓存:页面和浏览器缓存,APP缓存,H5缓存,localStorage和sessionStorage CDN缓存: 内存存储:数据的缓存 内容分发:负载均衡 nginx缓存:本地缓存,外部缓存 数据库缓存:持久层缓存(mybatis,hibernate多级缓 ......
分布式 缓存

分布式事务

什么是分布式事务? 对于分布式系统而言,需要保证分布式系统中的数据一致性,保证数据在子系统中始终保持一致,避免业务出现问题。 简单的说,在分布式系统上,一次大的操作由不同的小操作组成,这些小的操作分布在不同的服务节点上,且属于不同的应用,分布式事务需要保证这些小操作要么全部成功,要么全部失败。 举个 ......
分布式 事务

分布式锁

为什么需要分布式锁? 在多线程环境中,如果多个线程同时访问共享资源(例如商品库存、外卖订单),会发生数据竞争,可能会导致出现脏数据或者系统问题,威胁到程序的正常运行。我们需要使用互斥操作对共享资源进行保护,即同一时刻只允许一个线程访问共享资源,其他线程需要等待当前线程释放后才能访问。这样可以避免数据 ......
分布式

基于Docker容器搭建hadoop完全分布式集群环境

简介 物理机:windows10 宿主机:Centos7虚拟机,需要安装Docker服务 hadoop集群节点:3个centos7的容器,hadoop1、hadoop2、hadoop3 组件: 容器镜像:Centos7 Docker CE 24.0.7 JDK1.8.0_181 Hadoop3.1. ......
分布式 集群 容器 环境 Docker

分布式ID

1.分布式ID 什么是 ID? 日常开发中,我们需要对系统中的各种数据使用 ID 唯一表示,比如用户 ID 对应且仅对应一个人,商品 ID 对应且仅对应一件商品,订单 ID 对应且仅对应一个订单。 简单来说,ID 就是数据的唯一标识。 什么是分布式 ID? 分布式 ID 是分布式系统下的 ID。 举 ......
分布式

鸿蒙原生应用开发——分布式数据对象

01、什么是分布式数据对象 在可信组网环境下,多个相互组网认证的设备将各自创建的对象加入同一个sessionId,使得加入的多个数据对象之间可以同步数据,也就是说,当某一数据对象属性发生变更时,其他数据对象会检测到这一变更,同时将自身属性更新。此时,该sessionId下的所有数据对象属性相同,这样 ......
鸿蒙 应用开发 分布式 对象 数据

.NET使用分布式网络爬虫框架DotnetSpider快速开发爬虫功能

前言 前段时间有同学在微信群里提问,要使用.NET开发一个简单的爬虫功能但是没有做过无从下手。今天给大家推荐一个轻量、灵活、高性能、跨平台的分布式网络爬虫框架(可以帮助 .NET 工程师快速的完成爬虫的开发):DotnetSpider。 注意:为了自身安全请在国家法律允许范围内开发网络爬虫功能。 框 ......
爬虫 分布式 DotnetSpider 框架 功能

分布式系统-异步

异步,是分布式系统重要的设计原则之一。 为什么异步很重要呢? 试想一个场景,在电商业务中,用户下单并支付成功后,需要给店家推送一个消息,告诉店家来订单了,抓紧发货。 这个推送功能,如果和支付回调接口做成同步,会有什么问题呢? 要知道,系统总是不可能绝对稳定的。如果推送接口异常或者超时了,主流程就会受 ......
分布式 系统

分布式系统-负载均衡

分布式系统中,业务系统都是集群部署,而且一般会做微服务化。那么,从一个系统rpc请求到另一个系统,应该路由到哪一台节点呢?这,就涉及到负载均衡。 负载均衡的核心,便是负载均衡算法,算法有很多,主要介绍其中六种,并说一说各自算法的优缺点。 1. 加权随机 加权随机,顾名思义,就是路由到哪一台节点,是通 ......
分布式 系统

分布式资源调度框架YARN

1、YARN=Yet Another Resource Negotiator 2、主从架构,一主多从3、主=ResourceManager,从=NodeManager4、ResourceManager由ApplicationManager和ResourceScheduler组成5、NodeManag ......
分布式 框架 资源 YARN

redis分布式锁实现原理

在.net core 中,可以使用StackExchange.Redis实现redis分布式锁, /// <summary>/// 分布式锁/// </summary>/// <param name="Redis">RedisDB</param>/// <param name="Key">锁标识</ ......
分布式 原理 redis

分布式系统的困难点

分布式系统在技术上需要注意的问题 问题1:异构系统的不标准问题 问题2:系统架构中的服务依赖性问题 问题3:故障发生的概率更大 问题4:多层架构的运维复杂度更大 ......
分布式 难点 系统

分布式事务-Seata解决方案

一、定义 Seata解决方案是分布式事务解决方案之一。常用的分布式事务解决方案有:2PC,3PC,TCC,SAGA(seata)、本地消息表、MQ消息事务、最大努力通知。 Seata是一款分布式解决方案,致力于提供高性能和简单易用的分布式事务服务。提供事务模式有:AT,TCC,SAGA,XA。其中A ......
分布式 解决方案 事务 方案 Seata

分布式主键

核心概念 :: ShardingSphere https://shardingsphere.apache.org/document/current/cn/features/sharding/concept/ 分布式主键 传统数据库软件开发中,主键自动生成技术是基本需求。而各个数据库对于该需求也提供了 ......
分布式

Zookeeper——分布式一致性协议及Leader选举原理

一、引言 随着业务的增长,单体架构发展为分布式架构,大大提升了业务的处理能力,但同时也带来了很多单体架构不存在的问题,如: 各节点之间网络通信的异常以及因其引起的脑裂问题(网络分区)。 引出“三态”。在单体架构中只会存在“成功”或“失败”两种结果,但是在分布式架构中由于网络异常将会出现“未知”的结果 ......
一致性 分布式 Zookeeper 原理 Leader

使用分布式事务 Seata 的 TCC 模式

Seata 的 TCC 模式需要通过人工编码来实现数据的回滚恢复,有点麻烦,但是性能最高。TCC 是 3 个方法的首字母缩写,即 Try 方法、Confirm 方法、Cancel 方法。Try 方法进行资源的检查和冻结,Confirm 方法是当所有事务都成功后调用的方法,Cancel 方法是当整体事 ......
分布式 事务 模式 Seata TCC

Seata 分布式事务

Seata 分布式事务 ​#Seata中间件#​ Seata是 2019 年 1 月份蚂蚁金服和阿里巴巴共同开源的分布式事务解决方案。致力于提供高性能和简单易用的分布式事务服务,为用户打造一站式的分布式解决方案。 官网地址:http://seata.io/ CAP定理和Base理论 这两个在前面弄N ......
分布式 事务 Seata

StackGres 数据库平台工程,使用 Citus + Patroni 创建生产级高可用分布式 PostgreSQL 分片集群

系列 StackGres, 可私有部署的云原生数据库平台工程 StackGres 数据库平台工程功能介绍与快速上手 StackGres 1.6 数据库平台工程集群配置管理(K8S Pods/PostgreSQL/PgBouncer) StackGres 1.6 数据库平台工程,集群高可用(Patro ......

HydroOJ 踩坑指南(1)狡猾的分布式官方文档

本系列旨在记录使用HydroOJ时的一些坑点,更全的说明文档请查看官方文档。 欢迎联系本人 QQ 补充: 2422609586. HydroOJ 官方QQ群: 1085853538. 入门第一坑:官方文档不止一处! 都说学习项目要先认真读文档,HydroOJ的文档使用了分布式阅读系统,并异地多中心部 ......
分布式 HydroOJ 文档 指南 官方

使用Slurm集群进行分布式图计算:对Github网络影响力的系统分析

本文在华为云弹性云服务器集群中部署Slurm作业调度系统,并运行针对Github协作网络影响力分析的分布式图计算应用程序。 ......
分布式 集群 影响力 Github 系统

使用分布式事务 Seata 的 AT 模式

有了上篇博客实现 XA 模式的基础,本篇博客在实现 AT 模式时,不需要修改任何代码,只需要增加一张数据库表,修改以下 application.yml 配置即可实现。AT 模式也是分两个阶段提交的事务模型,它缺弥补了 XA 模型中资源锁定周期过长的问题。 其实现的两个阶段的工作原理如下: 第一阶段注 ......
分布式 事务 模式 Seata AT

分布式协同(万字长文)

分布式协同 分布式协同,也叫分布式协调,是在计算机网络中,不同的硬件或软件组件完成各自的任务,然后通过协同工作来解决问题。 在分布式系统中,不同的节点需要进行信息的交换,以达到一致的状态。这个过程就需要分布式协调。例如,我们要保证在分布式系统中的所有节点上的数据是最新的,就需要用到分布式协调。 分布 ......
长文 分布式

分布式事务~seata的使用

springcloud-nacos-seata 分布式事务组件seata的使用demo,AT模式,集成nacos、springboot、springcloud、mybatis-plus,数据库采用mysql demo中使用的相关版本号,具体请看代码。如果搭建个人demo不成功,验证是否是由版本导致, ......
分布式 事务 seata

Laxcus分布式操作系统的产品规划和发展阶段

又是一位网友的提问,把回答贴出来给大家看看,欢迎大家在下方留言交流。 问: 关注你们很久了,我想问一问,Laxcus分布式操作系统有没有具体的产品规划,如果有是什么,打算怎么做?你们的主要着眼点在哪里?目前Laxcus分布式操作系统发展到什么阶段了? 答: 感谢关注!Laxcus做为全球第一款纯粹的 ......
分布式 阶段 Laxcus 系统 产品

使用分布式事务 Seata 的 XA 模式

上篇博客已经搭建了分布式事务 Seata 的集群,本篇博客主要介绍如何使用 Seata 的 XA 模式。 XA 模式的规范是 X/Open 组织定义的分布式事务处理(DTP,Distributed Transaction Processing)标准,XA 模式规范描述了全局的 TM 与局部的 RM ......
分布式 事务 模式 Seata XA

如何使用mysql实现分布式锁

如何使用mysql实现可重入的分布式锁 目录 什么是分布式锁? 如何实现分布式锁? 定义分布式表结构 定义锁统一接口 使用mysql来实现分布式锁 ① 生成线程标记ID ② 加锁 ③ 解锁 ④ 重置锁 写在最后 1. 什么是分布式锁? 百度百科:分布式锁是控制分布式系统之间同步访问共享资源的一种方式 ......
分布式 mysql

.NET开源的处理分布式事务的解决方案

前言 在分布式系统中,由于各个系统服务之间的独立性和网络通信的不确定性,要确保跨系统的事务操作的最终一致性是一项重大的挑战。今天给大家推荐一个.NET开源的处理分布式事务的解决方案基于 .NET Standard 的 C# 库:CAP。 CAP项目介绍 CAP 是一个基于 .NET Standard ......
分布式 解决方案 事务 方案 NET

微服务定时任务解决方案-分布式定时任务解决方案(讨论)

市面上的要么集成项目里,要么单独一个项目。我说的虽然也要单独集成,但可以通过python,shell多种方式去做更轻量、灵活,而且难度为0,不需要任何文档。 外部单机的定时任务,每个任务执行通过http去调用网关。失败了再调个短信通知的接口,最差就是单独加一个定时任务专用的网关 ......
解决方案 任务 方案 分布式

系统设计面试指南之分布式任务调度

1 简介 任务是需要资源(CPU 时间、内存、存储、网络带宽等)在指定时间内完成的一段计算工作。 通过智能地将资源分配给任务以满足任务级和系统级目标的系统称为任务调度程序。 任务调度程序: 及时决定和分配资源给任务的过程称为任务调度。 当我们在 Facebook 发表评论时。我们不会让评论发布者等待 ......
分布式 任务 指南 系统
共2000篇  :5/67页 首页上一页5下一页尾页