分布式elasticsearch redis-cluster cluster
Node.js精进（12）——ElasticSearch
ElasticSearch（简称 ES）是一款基于 Lucene 的分布式、可扩展、RESTful 风格的全文检索和数据分析引擎，擅长实时处理 PB 级别的数据。 一、基本概念 1）Lucene Lucene 是一款开源免费、成熟权威、高性能的全文检索库，是 ES 实现全文检索的核心基础，而检索的关 ......
分布式追踪的核心概念是 Trace 和 Span
使用 OpenTelemetry 构建 .NET 应用可观测性（1）：什么是可观测性 目录 什么是系统的可观测性（Observability） 为什么软件系统需要可观测性 可观测性的三大支柱 日志（Logging） 指标（Metrics） 分布式追踪（Distributed Tracing） Tra ......
分布式锁
上一篇文章简单的介绍了单机的情况下如何进行加锁，防止高并发带来的问题。然而现实中，一般会高并发的应用，很少会单机部署。当用户量达到一定的程度，分布式、集群部署是必然的选择。在分布式部署的情况下，之前的单机锁还会有效吗？代码还是之前的代码： private static object lck = ne ......
每日一题003 | 证明：连续分布函数序列的点态收敛可以推出相应的分位数随机变量序列的依概率收敛。
?概率极限理论经典习题2：连续分布函数序列的点态收敛可以推出相应的分位数随机变量序列的依概率收敛。来自茆诗松《概率论与数理统计》第四章的习题。 ......
python 数据可视化：直方图、核密度估计图、箱线图、累积分布函数图
python数据可视化，以2023年数学建模c题数据为例，选择其中一小部分数据，绘制直方图、核密度估计图、箱线图、累积分布函数图 ......
Elasticsearch入门
1、什么是Elasticsearch？ Elasticsearch 是基于 Lucene 的 Restful 的分布式实时全文搜索引擎，每个字段都被索引并可被搜索，可以快速存储、搜索、分析海量的数据。全文检索是指对每一个词建立一个索引，指明该词在文章中出现的次数和位置。当查询时，根据事先建立的索引进 ......
org.elasticsearch.client.transport.NoNodeAvailableException: None of the configured nodes are available es端口号及集群名称
org.elasticsearch.client.transport.NoNodeAvailableException: None of the configured nodes are available elasticsearch有两个端口：http_port和transport.tcp.por ......
Unity实现Voronoi图（性能友好，分布较为均匀
这是一种性能友好的并且生成较为均匀的Voronoi图的实现方式 在一张网格中生成随机点，然后在取每个点周围点就不需要去做全局遍历，在自己周围的格子遍历即可 using UnityEngine; using UnityEngine.UI; public class VoronoiDiagram : M ......
记录代码审查发现的一处分布式锁错误用法
今天测试反应在商品入库存的时候会出现一个偶现的问题，多次入库后，突然发现商品的库存量是乱的，但是专门针对这个功能去测试的时候，却发现功能又是正常的，无法稳定复现问题，测试希望开发审查下代码看下是哪里的原因。 于是开发我们立马定位到商品入库存的那段代码，大致代码如下： 1 @Transactional ......
Redis之分布式锁
前言 日常开发中，秒杀下单、抢红包等等业务场景，都需要用到分布式锁。而Redis非常适合作为分布式锁使用。 什么是分布式锁 方案一：SETNX + EXPIRE 方案二：SETNX + value值是（系统时间+过期时间） 方案三：使用Lua脚本(包含SETNX + EXPIRE两条指令) 方案四： ......
分布式核心
1. CAP理论 cap理论是分布式系统的理论基石 Consistency (一致性)： “all nodes see the same data at the same time”,即更新操作成功并返回客户端后，所有节点在同一时间的数据完全一致，这就是分布式的一致性。一致性的问题在并发系统中不可避 ......
Hadoop学习(一) 搭建伪分布式集群
文章结构 1.准备工作 1.1 配置IP 1.2 关闭防火墙 1.3 修改主机名并与IP绑定 1.4 创建新用户 1.5 配置免密匙 2.安装并配置Hadoop伪分布式集群 2.1 安装Java 2.2 安装配置Hadoop伪分布式集群 1.准备工作 1.1 配置IP 首先进入该路径下 cd /et ......
Apache Kylin4 分布式的分析型数据仓库
https://kylin.apache.org/cn/docs/index.html Apache Kylin4 概述 欢迎来到 Apache Kylin™ Analytical Data Warehouse for Big Data Apache Kylin™是一个开源的、分布式的分析型数据仓库 ......
独立同分布
"独立同分布" 是统计学和机器学习中一个重要的概念。让我们更详细地探讨这个概念的含义： 独立性（Independence）： 独立性的意义： 当我们说随机变量是独立的时，意味着一个随机变量的取值不会提供关于另一个随机变量取值的任何信息。换句话说，知道一个随机变量的取值并不会改变对另一个随机变量的预测 ......
【ElasticSearch】数据迁移方案
一、需求背景 ES环境要从单机迁移到集群上面 现在已有的数据也要搬过去，有几个索引三四千万数据大概 二、实现方案 有两种，使用ElasticDump和LogStash的ES插件 1、ElasticDump迁移工具 相关资料 资料参考： https://blog.csdn.net/weixin_438 ......
SignalR 分布式部署
分布式部署意味着有多台SignalR服务器，一台服务器有多个客户端连接。 SignalR 要求对于某一个特定连接的所有HTTP 请求都需要被一个相同服务进程处理，当SignalR 运行在一个服务场时（多个服务器），则必须使用“粘性会话”（服务器开启）或者”跳过协商“（用websocket） 问题：某 ......
ubuntu安装elasticsearch
以下操作在root用户下进行 下载安装包 cd /elasticsearch && wget https://mirrors.huaweicloud.com/elasticsearch/7.6.2/elasticsearch-7.6.2-linux-x86_64.tar.gz 解压tar -zxvf ......
一、如何构建一个可靠的分布式系统？
构师如何才能让一系列来自不同开发者、不同厂商、不同版本、不同语言、质量也良莠不齐的软件模块，在不同的物理硬件和拓扑结构随时变动的网络环境中，依然能保证可靠的运行质量。 我一直认为，技术人员的成长是有“捷径”的，做技术不仅要去看、去读、去想、去用，更要去写、去说。 把自己“认为掌握了的”知识给叙述出来 ......
【ElasticSearch】突破深度分页数据限制的方案
一、场景需求 最近在忙一个新的项目，数据源是ES，但是功能就是对文档进行翻页查询 ES提供了分页查询，就是from + size深度查找，但是使用有限制，只能在1万条内 我和同事的意见是1万条之后的数据没有任何意义，就限制1万吧 但是后面内部测试后产品对这个方案是不满意的，既要又要 所以ES现有的几 ......
分布式应用服务的拆分
需求落地分布式应用服务 将需求转化为分布式应用服务的过程可以按照以下步骤进行： 理解需求：首先，你需要仔细阅读和理解业务需求。与相关的利益相关者（如业务分析师、产品经理等）进行沟通，确保你对需求的理解是准确的。 设计架构：根据需求，设计一个适合的分布式应用架构。这包括确定应用的组件和模块，以及它们之 ......
Elasticsearch 8.7.1 with Spring
Elasticsearch是一个基于Lucene的搜索引擎，提供了分布式、多租户的全文搜索引擎功能。它可以快速地存储、搜索和分析大量数据，适用于各种类型的应用程序，如日志分析、实时搜索等。 使用Docker启动Elasticsearch & Kibana 运行命令启动Elasticsearch do ......
基于JuiceFS 的低成本 Elasticsearch 云上备份存储
杭州火石创造是国内专注于产业大数据的数据智能服务商，为了解决数据存储及高效服务客户需求，选择了 Elasticsearch 搜索引擎进行云上存储。基于性能和成本的考虑，在阿里云选择用本地 SSD ECS 机型自建集群。但由于是自建集群，如何同步解决数据备份问题并实现最优成本呢？ 1.背景介绍 Ela ......
.net core Serilog + Elk（Elasticsearch、Logstash、Kibana） 部署Linux及使用
部署 Elasticsearch 官方地址 ，这里只需要装ES 和Kibana 。 Serilog 会直接把数据写入ES，绕开了 Logstash,所以不需要装Logstash Elasticsearch 部署 1. 方便后面集群通信，先创建网络 docker network create elas ......
Redisson分布式锁的实现
分布式锁 在多线程环境下，如果多个线程同时访问共享资源（数据库），往往会发生数据竞争。要想在某一线程访问资源时，令其他线程阻塞等待，就需要使用分布式锁，确保共享资源同时只有一个线程访问。 实现思路： 向Redis中插入同一key： A插入key，如果成功则获取到锁，B再来插入式发现key已经存在了， ......
本地Elasticsearch 结合内网穿透实现远程连接
Elasticsearch是一个基于Lucene库的分布式搜索和分析引擎，它提供了一个分布式、多租户的全文搜索引擎，具有HTTP Web接口和无模式JSON文档,同时也是是一个非常强大的工具，可以用于各种用途，例如日志分析、搜索引擎、安全分析等等。 远程连接的好处在于可以让用户从远程位置访问Elas ......
云原生雪花改进型分布式id服务
1，概述 一个基于雪花改进型分布式id基础服务 demo地址：http://uid.activeclub.site/web/v1/uuid/get 1.1，入参样例： 请求路径：GET http://{url}:{port}/web/uuid/get 入参说明： 类目 字段名 说明 url 对外暴露 ......
【交换机、路由器、双码流、分布式、VKM的基本概念学习】
分布式节点： 分布式就是把传统的音视频设备矩阵切换器、拼接处理器、录播系统、KVM切换器、中央控制系统等这些设备的功能打包成一个等于X功能的节点，然后每个信号输入输出的区域，布置一个这样的X节点，在通过一条网线接到交换机，实现上述的各种功能。 可视化： 可视化是利用图像传输和处理技术，让用户能够直观 ......
HarmonyOS分布式文件系统开发指导
分布式文件系统概述 分布式文件系统（hmdfs，HarmonyOS Distributed File System）提供跨设备的文件访问能力，适用于如下场景： ● 两台设备组网，用户可以利用一台设备上的编辑软件编辑另外一台设备上的文档。 ● 平板保存的音乐，车载系统直接可见并可播放。 ● 户外拍摄的 ......
scrapy解析数据、配置文件、整站爬取cnblogs=》爬取详情=》数据传递、持久化、爬虫中间件和下载中间件、scrapy继承selenium、源码去重规则（布隆过滤器）、分布式爬虫
scrapy解析数据 ##### 运行爬虫 scrapy crawl cnblogs ##### 可以项目目录下写个main.py from scrapy.cmdline import execute execute(['scrapy','crawl','cnblogs','--nolog']) # ......