526互联

分布式elasticsearch redis-cluster cluster

elasticsearch安装-集群

下载安装包 国内镜像，速度非常快 https://mirrors.huaweicloud.com/elasticsearch/ https://mirrors.huaweicloud.com/kibana/ wget https://mirrors.huaweicloud.com/elasticse ......
集群 elasticsearch

elasticsearch安装

下载安装包 国内镜像，速度非常快 https://mirrors.huaweicloud.com/elasticsearch/ https://mirrors.huaweicloud.com/kibana/ wget https://mirrors.huaweicloud.com/elasticse ......
elasticsearch

从根上理解elasticsearch(lucene)查询原理(2)-lucene常见查询类型原理分析

大家好，我是蓝胖子，在上一节我提到要想彻底搞懂elasticsearch 慢查询的原因，必须搞懂lucene的查询原理，所以在上一节我分析了lucene查询的整体流程，除此以外，还必须要搞懂各种查询类型内部是如何工作，比如比较复杂的查询是将一个大查询分解成了小查询，然后通过对小查询的结果进行合并得到 ......
原理 lucene elasticsearch 常见 类型

torch 多进程训练和分布式训练

通常来说，多进程没有涉及到梯度同步的概念。 分布式则设计梯度同步。分布式中，如果用cpu，则指定gloo后端。用gpu，则指定nccl后端。 多进程训练 只需要mp.spawn即可，每个进程只负责自己的模型训练，不涉及梯度同步。 例子 https://www.geeksforgeeks.org/mu ......
分布式 进程 torch

ElasticSearch之Node query cache settings

对于filter查询，ElasticSearch提供了缓存查询结果的特性，当缓存中存在满足查询条件要求的数据时，直接从缓存中提取查询结果。 对于ElasticSearch节点，该节点上的所有shard共享同一个缓存区域。 ElasticSearch基于LRU算法来管理缓存中的数据，当空间不足以承载最 ......
ElasticSearch settings query cache Node

SQL server不同域之间搭建分布式可用性组

配置 Always On 分布式可用性组 要创建分布式可用性组，必须创建两个具有各自侦听程序的可用性组。 然后将这些可用性组合并到分布式可用性组中。 两个可用性组无需处于同一位置：它们可以跨物理机、虚拟机；跨内网、云上；跨有域、无域；甚至跨平台（如Linux、Windows）。只要两个可用性组可以进 ......
可用性 分布式 之间 server SQL

论文笔记: Attributed Graph Clustering: A Deep Attentional Embedding Approach

论文笔记: Attributed Graph Clustering: A Deep Attentional Embedding Approach 中文名称: 属性图聚类：一种深度注意力嵌入方法 论文链接: https://arxiv.org/abs/1906.06532 背景: ​ 图聚类是发现网络 ......
Attentional Attributed Clustering Embedding Approach

分布式配置中心

为什么要有分布式配置中心： 1、项目背景 现在有一个项目，使用SSM进行开发的，配置文件的话我们知道是一个叫做application.properties的文件。 #业务参数相关配置 user.register.default.name=小强 user.register.default.sex=男 ......
分布式

分布式缓存

分布式系统中常用的缓存方案有哪些？ 客户端缓存：页面和浏览器缓存，APP缓存，H5缓存，localStorage和sessionStorage CDN缓存： 内存存储：数据的缓存 内容分发：负载均衡 nginx缓存：本地缓存，外部缓存 数据库缓存：持久层缓存（mybatis，hibernate多级缓 ......
分布式 缓存

分布式事务

什么是分布式事务？ 对于分布式系统而言，需要保证分布式系统中的数据一致性，保证数据在子系统中始终保持一致，避免业务出现问题。 简单的说，在分布式系统上，一次大的操作由不同的小操作组成，这些小的操作分布在不同的服务节点上，且属于不同的应用，分布式事务需要保证这些小操作要么全部成功，要么全部失败。 举个 ......
分布式 事务

分布式锁

为什么需要分布式锁？ 在多线程环境中，如果多个线程同时访问共享资源（例如商品库存、外卖订单），会发生数据竞争，可能会导致出现脏数据或者系统问题，威胁到程序的正常运行。我们需要使用互斥操作对共享资源进行保护，即同一时刻只允许一个线程访问共享资源，其他线程需要等待当前线程释放后才能访问。这样可以避免数据 ......
分布式

基于Docker容器搭建hadoop完全分布式集群环境

简介 物理机：windows10 宿主机：Centos7虚拟机，需要安装Docker服务 hadoop集群节点：3个centos7的容器，hadoop1、hadoop2、hadoop3 组件： 容器镜像：Centos7 Docker CE 24.0.7 JDK1.8.0_181 Hadoop3.1. ......
分布式 集群 容器 环境 Docker

elasticsearch 索引操作命令

一、创建索引 PUT /{索引名} 创建一个索引： king_test_person PUT /king_test_person { "settings": { "refresh_interval": "1s", "number_of_shards": "3", "number_of_replica ......
elasticsearch 索引 命令

分布式ID

1.分布式ID 什么是 ID？ 日常开发中，我们需要对系统中的各种数据使用 ID 唯一表示，比如用户 ID 对应且仅对应一个人，商品 ID 对应且仅对应一件商品，订单 ID 对应且仅对应一个订单。 简单来说，ID 就是数据的唯一标识。 什么是分布式 ID？ 分布式 ID 是分布式系统下的 ID。 举 ......
分布式

ElasticSearch之Shard request cache settings

对于查询操作，Elasticsearch提供了缓存特性来暂存结果。 对于相同条件的查询请求，在缓存中的数据失效前，响应后续的查询操作时可以直接从缓存中提取结果，有效降低检索操作的时延，提升检索数据时的体验。 提到缓存相关的特性，即要关注如下几点： 缓存的开关 缓存中的数据哪里来 缓存占用的空间 缓存 ......
ElasticSearch settings request Shard cache

从根上理解elasticsearch(lucene)查询原理(1)-lucece查询逻辑介绍

大家好，我是蓝胖子，最近在做一些elasticsearch 慢查询优化的事情，通常用分析elasticsearch 慢查询的时候可以通过profile api 去分析，分析结果显示的底层lucene在搜索过程中使用到的函数调用。所以要想彻底弄懂elasticsearch慢查询的原因，还必须将luce ......
elasticsearch 逻辑 原理 lucene lucece

鸿蒙原生应用开发——分布式数据对象

01、什么是分布式数据对象 在可信组网环境下，多个相互组网认证的设备将各自创建的对象加入同一个sessionId，使得加入的多个数据对象之间可以同步数据，也就是说，当某一数据对象属性发生变更时，其他数据对象会检测到这一变更，同时将自身属性更新。此时，该sessionId下的所有数据对象属性相同，这样 ......
鸿蒙 应用开发 分布式 对象 数据

.NET使用分布式网络爬虫框架DotnetSpider快速开发爬虫功能

前言 前段时间有同学在微信群里提问，要使用.NET开发一个简单的爬虫功能但是没有做过无从下手。今天给大家推荐一个轻量、灵活、高性能、跨平台的分布式网络爬虫框架（可以帮助 .NET 工程师快速的完成爬虫的开发）：DotnetSpider。 注意：为了自身安全请在国家法律允许范围内开发网络爬虫功能。 框 ......
爬虫 分布式 DotnetSpider 框架 功能

分布式系统-异步

异步，是分布式系统重要的设计原则之一。 为什么异步很重要呢？ 试想一个场景，在电商业务中，用户下单并支付成功后，需要给店家推送一个消息，告诉店家来订单了，抓紧发货。 这个推送功能，如果和支付回调接口做成同步，会有什么问题呢？ 要知道，系统总是不可能绝对稳定的。如果推送接口异常或者超时了，主流程就会受 ......
分布式 系统

分布式系统-负载均衡

分布式系统中，业务系统都是集群部署，而且一般会做微服务化。那么，从一个系统rpc请求到另一个系统，应该路由到哪一台节点呢？这，就涉及到负载均衡。 负载均衡的核心，便是负载均衡算法，算法有很多，主要介绍其中六种，并说一说各自算法的优缺点。 1. 加权随机 加权随机，顾名思义，就是路由到哪一台节点，是通 ......
分布式 系统

分布式资源调度框架YARN

1、YARN=Yet Another Resource Negotiator 2、主从架构，一主多从3、主=ResourceManager,从=NodeManager4、ResourceManager由ApplicationManager和ResourceScheduler组成5、NodeManag ......
分布式 框架 资源 YARN

redis分布式锁实现原理

在.net core 中，可以使用StackExchange.Redis实现redis分布式锁， /// <summary>/// 分布式锁/// </summary>/// <param name="Redis">RedisDB</param>/// <param name="Key">锁标识</ ......
分布式 原理 redis

分布式系统的困难点

分布式系统在技术上需要注意的问题 问题1：异构系统的不标准问题 问题2：系统架构中的服务依赖性问题 问题3：故障发生的概率更大 问题4：多层架构的运维复杂度更大 ......
分布式 难点 系统

分布式事务-Seata解决方案

一、定义 Seata解决方案是分布式事务解决方案之一。常用的分布式事务解决方案有：2PC,3PC,TCC,SAGA(seata)、本地消息表、MQ消息事务、最大努力通知。 Seata是一款分布式解决方案，致力于提供高性能和简单易用的分布式事务服务。提供事务模式有：AT,TCC,SAGA,XA。其中A ......
分布式 解决方案 事务 方案 Seata

分布式主键

核心概念 :: ShardingSphere https://shardingsphere.apache.org/document/current/cn/features/sharding/concept/ 分布式主键 传统数据库软件开发中，主键自动生成技术是基本需求。而各个数据库对于该需求也提供了 ......
分布式

一次elasticsearch 查询瞬间超时案例分析

问题背景# 在晚上9点左右，刚从外面逛街回到家，就接到了电话报警(幸好前不久刚好把电话报警机制加上，不然可能我就要去洗澡了👻)，电话告警告知线上业务存在大量请求失败的情况。于是赶紧打开电脑，排查了起来。 错误日志我们都是直接打到了钉钉上，发现大量的报警都是elasticsearch 访问超时发生的 ......
案例分析 elasticsearch 案例

【解决方案】MySQL5.7 百万数据迁移到 ElasticSearch7.x 的思考

在日常项目开发中，可能会遇到使用 ES 做关键词搜索的场景，但是一般来说业务数据是不会直接通过 CRUD 写进 ES 的。 因为这可能违背了 ES 是用来查询的初衷，数据持久化的事情可以交给数据库来做。那么，这里就有一个显而易见的问题：ES 里的数据从哪里来？ 本文介绍的就是如何将 MySQL ... ......
ElasticSearch7 ElasticSearch 解决方案 方案 数据

Zookeeper——分布式一致性协议及Leader选举原理

一、引言 随着业务的增长，单体架构发展为分布式架构，大大提升了业务的处理能力，但同时也带来了很多单体架构不存在的问题，如： 各节点之间网络通信的异常以及因其引起的脑裂问题（网络分区）。 引出“三态”。在单体架构中只会存在“成功”或“失败”两种结果，但是在分布式架构中由于网络异常将会出现“未知”的结果 ......
一致性 分布式 Zookeeper 原理 Leader

使用SQL查询elasticsearch

目录SQL REST APIkibana DevToolsJava其他 elasticsearch Query DSL 太难写了，所以我放弃啦🤣 SQL REST API kibana DevTools 直接POST /_sql端点即可调试。示例: POST /_sql?format=csv { ......
elasticsearch SQL

使用分布式事务 Seata 的 TCC 模式

Seata 的 TCC 模式需要通过人工编码来实现数据的回滚恢复，有点麻烦，但是性能最高。TCC 是 3 个方法的首字母缩写，即 Try 方法、Confirm 方法、Cancel 方法。Try 方法进行资源的检查和冻结，Confirm 方法是当所有事务都成功后调用的方法，Cancel 方法是当整体事 ......
分布式 事务 模式 Seata TCC
共4000篇  :8/134页 首页上一页8下一页尾页