分布式elasticsearch redis-cluster cluster
新起点！大数据分布式可视化的 DAG 任务调度系统 Taier 正式发布1.4版本
我们很高兴向大家宣布，2023年4月14日，Taier 正式发布 1.4 版本。自2022年2月份 Taier 正式开源以来，收到了很多开发者和行业用户的积极评价，在诸多生产环境中已得到充分应用。Taier 1.4版本正是吸收了各类实践经验及大家的建议，进行了此次迭代优化。 本次更新不仅包含了性能优 ......
【获奖案例巡展】信创先锋之星——江西金发基于分布式数据库的互联网金融业务系统
为表彰使用大数据、人工智能等基础软件为企业、行业或世界做出杰出贡献和巨大创新的标杆项目，星环科技自2021年推出了“新科技 星力量” 星环科技科技实践案例评选活动，旨在为各行业提供更多的优秀产品案例，彰显技术改变世界的力量，目前已成功举办两届，收到了来自各界的积极参与。 第二届星环科技科技实践案例评 ......
第 2 章分布式系统中的调度
介绍 在分布式计算中，调度器负责管理传入的容器请求，并确定接下来要运行哪些容器，在哪个节点上运行它们，以及在该节点上并行运行多少个容器。调度器的复杂性各不相同，最简单的调度器具有简单的先进先出 (FIFO) 策略。不同的调度器偏重于各种（某些层面上是相互冲突的）目标，例如： 尽可能充分利用集群资源 ......
Elasticsearch应用
vivo 互联网的垂直搜索业务刚开始用 Elasticsearch 时，从 0 到 1 的过程没有太大挑战，很快就能实现垂搜的基本功能。但是一旦实现了这个功能之后，搜索引擎需要持续优化迭代，大家会发现诸如分词效果不好，数据召回率或准确率不够等方面的问题。数据索引、检索以及排序这三个方面都有做深入的干 ......
Day 25 25.2 Scrapy框架之分布式爬虫(scrapy_redis)
分布式爬虫(scrapy_redis) 分布式爬虫是指将一个大型的爬虫任务分解成多个子任务，由多个爬虫进程或者多台机器同时执行的一种爬虫方式。 在分布式爬虫中，每个爬虫进程或者机器都具有独立的爬取能力，可以独立地爬取指定的网页或者网站，然后将爬取到的数据进行汇总和处理。 分布式爬虫相对于单机爬虫的优 ......
Docker安装ElasticSearch
1 安装说明 在平时工作的时候，开发环境大多数会安装单机ElasticSearch，但生产环境基本会安装ElasticSearch集群版，所以我们接下来实现一下ElasticSearch单机安装，下一节实现集群安装，但安装也大多数采用Docker安装。不过中文搜索，会实现分词器集成，可以采用IK分词 ......
spring-data-elasticsearch 字段如何驼峰转下划线，并实现ES查询
spring-data-elasticsearch 字段如何驼峰转下划线 使用spring-data-elasticsearch，但是想在es中存储的时候使用下划线。 解决：实体中采用@Field(name = "test_id") 注解； 例如： ES查询： import org.springfr ......
ASP.NET Core - 缓存之分布式缓存
分布式缓存是由多个应用服务器共享的缓存，通常作为访问它的应用服务器的外部服务进行维护。 分布式缓存可以提高 ASP.NET Core 应用的性能和可伸缩性，尤其是当应用由云服务或服务器场托管时。 与其他将缓存数据存储在单个应用服务器上的缓存方案相比，分布式缓存具有多个优势。 当分发缓存数据时，数据： ......
由浅入深详解四种分布式锁
在多线程环境下，为了保证数据的线程安全，锁保证同一时刻，只有一个可以访问和更新共享数据。在单机系统我们可以使用synchronized锁或者Lock锁保证线程安全。synchronized锁是Java提供的一种内置锁，在单个JVM进程中提供线程之间的锁定机制，控制多线程并发。只适用于单机环境下的并发 ......
实现声明式锁，支持分布式锁自定义锁、SpEL和结合事务
工作中遇到事务一般使用声明式事务，一个注解@Transactional搞定。编程式事务则显得略繁琐。 @Autowired private PlatformTransactionManager transactionManager; public void service() throws Exce ......
Elasticsearch搜索功能的实现（六）-- function score详解
一 、function score详解 1.1 function score 查询中包含四部分内容： 1）原始查询条件：query部分，基于这个条件搜索文档，并且基于BM25算法给文档打分，原始算分（query score) 2）过滤条件：filter部分，符合该条件的文档才会重新算分 3）算分函数 ......
Elasticsearch搜索功能的实现（五）-- 实战
本文主要使用目前较新版本elastic search 8.5.0 + kibna 8.5.0 + springboot 3.0.2 + spring data elasticsearch 5.0.2 + jdk 17 进行搜索功能的开发。 ......
Elasticsearch搜索功能的实现（三）-- 相似度
一、开箱即用的相似度配置 Elasticsearch允许您配置文本评分算法或每个字段的相似度。相似度设置提供了一种选择缺省BM25之外的文本相似度算法的简单方法，例如：boolean 只有基于文本的字段类型（如文本和关键字）支持此配置。 唯一可以开箱即用的相似之处，无需任何进一步 配置包括： BM2 ......
Elasticsearch搜索功能的实现（四）--使用ECK安装Elasticsearch开发环境
一、ECK安装ES 1、在k8s 集群上安装 ECK 1.1 安装自定义资源 root@DESKTOP-H5OMIME:~# kubectl create -f https://download.elastic.co/downloads/eck/2.6.1/crds.yaml customresou ......
Elasticsearch搜索功能的实现（二）--Elasticsearch中的核心概念与DSL
一、Elasticsearch中的核心概念 1、索引 index 一个索引就是一个拥有几分相似特征的文档的集合。比如说，可以有一个客户数据的索引，另一个产品目录的索引，还有一个订单数据的索引 一个索引由一个名字来标识（必须全部是小写字母的），并且当我们要对对应于这个索引中的文档进行索引、搜索、更新和 ......
Elasticsearch搜索功能的实现（一）--搜索引擎为什么选ES
一、应用场景 Elasticsearch 具有广泛的应用场景，包括全文搜索、日志分析、运维监控、安全分析等。 Elasticsearch 是开源的实时分布式搜索分析引擎，内部使用 Lucene 做索引与搜索。适用场景包含信息检索、舆情分析、推荐系统、广告系统等多种对综合检索&召回有需求的场景。 二、 ......
Windows下 Elasticsearch 0基础安装
1.java jdk 1.8以上 安装 https://www.oracle.com/java/technologies/downloads/#jdk20-windows 2.Elasticsearch 7.6 安装 https://elasticsearch.cn/download/ 3.Elas ......
ElasticSearch 入门篇
一 . 什么是 ElasticSearch Elaticsearch，简称为ES，是一个开源的高扩展的分布式全文检索引擎，它可以近乎实时的存储、检索数据； 本身扩展性很好，可以扩展到上百台服务器，处理PB级别的数据。 ES也使用Java开发并使用Lucene作为其核心来实现所有索引和搜索的功能， 但 ......
基于Mongodb分布式锁简单实现，解决定时任务并发执行问题
前言 我们日常开发过程，会有一些定时任务的代码来统计一些系统运行数据，但是我们应用有需要部署多个实例，传统的通过配置文件来控制定时任务是否启动又太过繁琐，而且还经常出错，导致一些异常数据的产生 网上有很多分布式锁的实现方案，基于redis、zk、等有很多，但是我的就是一个用了mysql和mongo的 ......
微服务 - Redis缓存 · 数据结构 · 持久化 · 分布式 · 高并发
分布式解决 Session 的问题，内存数据库 Redis 特性，单线程IO多路复用，重要配置项，数据类型，常用命令，Redis数据结构，动态字符串 SDS，压缩列表 ziplist，紧凑列表 listpack，跳跃列表 skiplist，持久化 RDB/AOF，分布式集群，虚拟插槽，分布式锁，Lu... ......
部署多节点elasticsearch集群的shell脚本
以下是一个部署多个节点的elasticsearch集群的shell脚本示例： #!/bin/bash # 设置集群名称 CLUSTER_NAME="my_cluster" # 设置elasticsearch版本号 ES_VERSION="7.10.2" # 设置elasticsearch安装目录 E ......
elasticsearch优化思路
一、优化方案 调整并发线程数 在高并发场景下，Elasticsearch服务的并发线程数需要调整到合适的值，避免线程数过多导致CPU资源浪费和内存开销增加。同时也需要避免线程数过少导致请求响应时间过长。可以通过调整Elasticsearch的线程池参数来实现。 调整分片数量 Elasticsearc ......
集群高并发情况下如何保证分布式唯一全局Id生成
集群高并发情况下如何保证分布式唯一全局Id生成 问题 为什么需要分布式全局唯一ID以及分布式ID的业务需求 在复杂分布式系统中，往往需要对大量的数据和消息进行唯一标识，如在美团点评的金融、支付、餐饮、酒店 猫眼电影等产品的系统中数据逐渐增长，对数据库分库分表后需要有一个唯一ID来标识一条数据或信息； ......
lamp分布式（FGCI）部署+discuz论坛
环境： 主机名 | IP地址 |部署服务 | | | root@httpd|192.168.1.61 | httpd网站服务 root@mysql|192.168.1.62|mysql数据库| root@php|192.168.1.63|php动态页面 一.搭建httpd服务（192.168.1.6 ......
Seata分布式事务
Seata 目录旁边可以查询具体的目录结构和跳转 一.分布式事务 1.原子性（atomicity）：个事务是一个不可分割的工作单位，事务中包括的诸操作要么都做，要么 都不做。 2.一致性（consistency）：事务必须是使数据库从一个一致性状态变到另一个一致性状态，事务 的中间状态不能被观察到的 ......
含分布式电源的三相潮流计算，程序采用前推回代法开展潮流计算
含分布式电源的三相潮流计算，程序采用前推回代法开展潮流计算，考虑了三相不平衡的情况，通过求解，得到了三相的电压分布和相角分布，同时，还与单相的结果开展对比YID:4450652403033247 ......
JMeter 逻辑控制器、定时器、分布式、报告、并发数计算方法、性能监控
一、逻辑控制器 可以按照设定的逻辑控制取样器的执行顺序 1、IF 控制器（没有 else，如果有其他分支，则一直加 IF控制器即可） 控制它下面的测试元素是否运行 位置：测试计划 线程组 （右键添加）逻辑控制器 如果（IF）控制器 参数： 案例：（用户定义变量：在里面添加变量：name = baid ......
爬取的数据存mysql中、加代理，cookie，header，加入selenium、布隆过滤器、scrapy-redis实现分布式爬虫
上节回顾 # 1 scrapy架构 -爬虫：写的一个个类 -引擎： -调度器：排队，去重 -下载器 -pipline -下载中间件 -爬虫中间件 # 2 命令 -scrapy startproject 项目名 -scrapy gensipder 爬虫名 网址 -scrapy crawl 爬虫名字 - ......