分布式elasticsearch redis-cluster cluster
分布式和集群概念
分布式和集群概念 分布式：每台机器上部署不同组件集群：每台机器上部署相同组件 大数据分布式存储、分布式计算 linux 桌面操作系统：mac os、windows、linux嵌入式操作系统：μlinux、wince、RTOS服务器操作系统：unxi、linux、Windows server、netw ......
爬虫中间件和下载中间件，scrapy集成selenium，源码去重规则（布隆过滤器），分布式爬虫
1 爬虫中间件和下载中间件 ⏳ 1.1 爬虫中间件(一般不用) # 第一步：写个爬虫中间件类 class ScrapyDemoSpiderMiddleware: @classmethod def from_crawler(cls, crawler): # This method is used by ......
kube-controller-manager加分布式锁
k8s v1.19.0 kube-controller-manager加分布式锁lease，完成leader选举，与kube-scheduler相同。 cmd/kube-controller-manager/app/controllermanager.goRun函数 staging/src/k8s. ......
Grafana Elasticsearch 分组数据 如何配置 大盘百分比、分组百分比
一、分组百分比（分组后，内部筛选条件数据占比） Query：分组聚合、计算指标（隐藏显示）、计算脚本 二、大盘百分比（分组后数在分组之前所有数据中占比） 使用Transform功能2.1、Query 配置分组聚合、总数聚合。 A：选择分组字段、筛选条件、count聚合 B：筛选条件、count聚合、 ......
分布式亿级流量整体架构设计原则
架构目标 高可用性 整体系统可用性最低99.9%，目标99.99%。全年故障时间整个系统不超过500分钟，单个系统故障不超过50分钟。 高可扩展性 系统架构简单清晰，应用系统间耦合低，容易水平扩展，业务功能增改方便快捷。 低成本 增加服务的重用性，提高开发效率，降低人力成本； 最终一致性 服务设计能 ......
GO实现分布式爬虫—掌握go语言通道与协程项目架构设计
GO实现分布式爬虫—掌握go语言通道与协程项目架构设计 Go高并发微服务分布式 1.命令行的用户管理 用户信息存储 => 内存 => 结构 [] map => 用户 ID name age tel addr [len] [] map 值类型使用string 用户添加 用户的查询 用户修改 // 请输 ......
Go语言开发分布式任务调度 轻松搞定高性能Crontab，技能储备+项目开发
写在前面 最近离职交接空档期，在慕课网上学习了下go语言实现分布式crontab任务调度系统。自己也跟随视频实现了一把（跟原版略有不同）。现把成果记录一下。 最终代码： https://github.com/funkol2007/distributed_crontab 系统介绍 实现目标： 实现一个 ......
我心中的分布式操作系统
这是一位网友发给我的文字，我原样复制粘贴发出来给大家，他的观点我不过多评论，也不代表公司和研发团队的立场，但是最后一段本人不同意，因为Laxcus分布式操作系统已经发布了六个版本，在很多领域广泛部署使用。目前Laxcus分布式操作系统正经历类似微软的Windows 3.x到Windows 95的过渡 ......
多元高斯分布
https://www.bilibili.com/video/BV1zf4y1L7mQ/?spm_id_from=333.337.search-card.all.click&vd_source=5a8099d424866bf1cdbfa5a7afadeca6 ......
Tradeoffs in scalable data routing for deduplication clusters 文献阅读
前言 本文提出了一个基于集群的数据去重存储系统 GOLD 1. 高吞吐量 2. 可扩容 3. 高数据去重 问题 以何种粒度路由数据 提出原因：块大小的减小，数据去重速率会增加，但是对于更大的块大小，由于流和文件间的局部性，吞吐量会增加 方法：构建超级块 如何将超级块分配给节点 方法：使用称为bin的 ......
分布式文件系统FastDFS
目录目前系统存在的缺点分布式文件系统FastDFS介绍概念架构文件上传文件下载 目前系统存在的缺点 目前是通过tomcat提供虚拟目录的方式供用户访问；当然也可以通过nginx实现静态资源访问的方式 文件冗余在tomcat挂了的情况下不能提供服务； 目前是单一文件服务的存储（依赖tomcat不能进行 ......
【限流】Redis + Lua 实现分布式限流器
目录Redis + Lua 限流实现1. 导入依赖2. 配置application.properties3. 配置RedisTemplate实例4. 定义限流类型枚举类5. 自定义注解6. 切面代码实现7. 控制层实现8. 测试 Redis + Lua 限流实现 技术栈：自定义注解 + aop + ......
世界上最全面的elasticsearch学习之路，祝你早日学成归来
开胃菜，核心知识篇 elasticsearch安装和使用 elasticsearch 索引curd ,mapping映射, query DSL elasticsearch分词器 character filter ,tokenizer,token filter elasticsearch聚合查询 El ......
分布式锁，怎么个事？
平时的工作中，由于生产环境中的项目是需要部署在多台服务器中的，所以经常会面临解决分布式场景下数据一致性的问题，那么就需要引入分布式锁来解决这一问题。 本文参考文章： https://www.cnblogs.com/niceyoo/p/13711149.html https://cloud.tence ......
Microsoft SQL Server 2012 SP4 中可以通过一些技术和方法来实现分布式数据库的功能
Microsoft SQL Server 2012 SP4 中，虽然没有内置的原生支持分布式数据库的功能，但您仍然可以通过一些技术和方法来实现分布式数据库的功能。下面我将介绍几种常见的实现方式： 分布式查询 您可以使用 SQL Server 的链接服务器功能，建立到其他 SQL Server 实例的 ......
elasticsearch在Java中查询指定列的方法
背景 ES在查询时如果数量太多，而每行记录包含的字段很多，那就会导致超出ES的查询上线，默认是100MB，但是很多场景下我们只需要返回特定的字段即可，那么如何操作呢。 主要代码 @Autowired private RestHighLevelClient client; public List<Ma ......
linux 安装 elasticsearch
1、创建一个新用户 创建用户：useradd elastic 设置密码：passwd elastic 2、创建所需文件夹 安装路径：mkdir /usr/local/elasticsearch 日志：mkdir /usr/local/elasticsearch/esdata/log 数据：mkdir ......
docker方式安装的 elasticsearch升级
当前环境： docker-compose安装的分机多节点 elasticsearch 7.15.0 node1 192.168.1.194 node2 192.168.1.195 node3 192.168.1.198 安装参见： https://www.cnblogs.com/xiaoyou201 ......
一文带你零基础深入理解随机变量，概率分布与统计量
一. 随机事件与概率 1.1 随机现象 在自然界和人类活动中，发生的现象多种多样，比如下列这些现象： 1. 偶数能被2整除 2. 光的速度是常数 3. 一家门店一天之内的订单量 4. 一个新生儿可能是男生也可能是女生 5. AB实验存在对照组和实验组 6. 李华上厕所的时间 不难发现，其中①②⑤这类 ......
Seata分布式事务框架-AT模式与TCC模式介绍
Seata AT事务方案Seata 的 AT 模式（Automatic Transaction）是一种无侵入的分布式事务解决方案。下面结合具体业务场景来分析其执行的原理。 业务场景订单系统 当用户下订单时，执行以下三步流程： 订单系统保存订单 订单系统调用库存服务，减少商品库存 订单系统调用账户服务 ......
分布式任务调度(00)--Quartz
1 任务调度整体流程 2 组件 调度器 ：工厂类创建Scheduler，根据触发器定义的时间规则调度任务 任务：Job表示被调度的任务 触发器：Trigger 定义调度时间的元素，按啥时间规则执行任务。一个Job可被多个Trigger关联，但是一个Trigger 只能关联一个Job import o ......
这次弄下k8s 分布式多机测试，这次专门多创建了几个机器进行安装，实时监控机器状态
k8s 实机分布式测试，这次弄一下这个，上次弄的是单机版本的minikube, 在单机上minikube替代了kubectl的工作，在单机上可以创建多个布署等，实际使用会有多个系统，分布式才是正常生产时发按它效率的时间。 k8s说明上要求机器要有2g内存，这里我创建了四个vm, 每个4g内存，这样可 ......
记录ElasticSearch分片被锁定导致无法分配处理过程
本篇文章记录最近ES做节点替换，从shard迁移过程中被锁定导致无法分配，主shard正常，希望可以帮助其它人 failed to create shard，failed to obtain in-memory shard lock，ShardLockObtainFailedException 一、 ......
【发布】DDD 工程脚手架 + 一键安装分布式技术栈环境！
作者：小傅哥 博客：https://bugstack.cn 沉淀、分享、成长，让自己和他人都能有所收获！😄 大家好，我是技术UP主小傅哥。 写了那么多案例工程，开发了那么多技术项目。那小傅哥做的这些案例和项目是每一个都要手动创建一遍吗？🤔 如果不是一个个都手动创建，那么有什么提效工具吗？ 不用， ......
多元高斯分布/高斯过程全解析
大纲 公式推导 参数估计 高斯分布运算 高斯分布性质 高斯过程（Gaussian process） 高斯混合模型 概念区分 边缘分布(marginal distribution)和联合分布 概率密度函数和概率分布函数 1. 多元高斯分布公式推导 首先我们知道一元高斯分布是：\(N(x|u,\sigm ......
一种Mysql和Mongodb数据同步到Elasticsearch的实现办法和系统
本文分享自天翼云开发者社区《一种Mysql和Mongodb数据同步到Elasticsearch的实现办法和系统》，作者：l****n 核心流程如下： 核心逻辑说明： MySQL Binlog解析: 首先，从MySQL的二进制日志（Binlog）中解析出表名。这一步骤非常关键，因为我们只关注特定表的数 ......
分布式图算法Pregel
最近看了Google的Pregel论文，图算法有一些经典且不可被替代的应用场景，如社交网络，相互引用等。但是在单个结点上的运算量往往过少，注重的是消息传播和逻辑处理，而不是单纯的大规模计算。虽然已经过去了十几年，但是其中的messsage passing，combiner，aggregator，gr ......
[机器学习复习笔记] Spectral Clustering 谱聚类
Spectral Clustering 谱聚类 1. 邻接矩阵 无向图 \(G = (V, E)\)，所有顶点之间的权重构成一个 \(n \times n\) 的矩阵： \[W = \begin{bmatrix} w_{11} & w_{12} & \cdots & w_{1n} \\ w_{21} ......
[机器学习复习笔记] Clustering 聚类 （K-means实现）
Cluster (KMeans实现) 1. KMeans 介绍及符号说明 给定样本集 \(D = \{ x_1, x_2, ..., x_m \}\)，\(\text{KMeans}\) 算法针对聚类所得的簇划分 \(\mathcal C = \{ C_1, C_2, ..., C_k \}\)（分 ......
elasticsearch笔记一
安装 官网链接：[Installation and Upgrade Guide 7.2] | Elastic =》 Installing the Elastic Stack https://www.elastic.co/guide/en/elastic-stack/7.2/installing-el ......