elasticsearch索引
elasticsearch oom问题分析
背景 线上发现elasticsearch集群状态red，并且有个es节点jvm内存使用不断升高，直到gc后依然内存不够使用，服务停止。查看日志，elasticsearch出现OOM报错。 [2023-12-06T08:21:26,706][ERROR][o.e.b.ElasticsearchUnca ......
Elasticsearch专栏 集群管理
Elasticsearch 集群管理 简介 Elasticsearch 是一个开源的分布式搜索和分析引擎，用于处理大规模的结构化和非结构化数据。集群管理是确保 Elasticsearch 在生产环境中高效运行的关键任务之一。 集群基础知识 节点（Nodes）： Elasticsearch 集群由一个 ......
Elasticsearch专栏 基础知识
Elasticsearch 基础知识 1. 什么是 Elasticsearch？ Elasticsearch 是一个开源、分布式、实时搜索和分析引擎，建立在 Apache Lucene 基础之上。它提供了一个强大的 RESTful API，用于进行复杂的搜索和分析操作。 2. 核心概念 2.1 节点 ......
Elasticsearch专栏 集群分片管理
Elasticsearch 集群分片管理 简介 Elasticsearch 是一个分布式搜索和分析引擎，数据在集群中被分割成多个分片，以实现高性能和可伸缩性。在管理 Elasticsearch 集群时，分片的合理分配和监控是至关重要的。 分片基础知识 主分片（Primary Shard）： 每个索引 ......
Elasticsearch专栏 集群安全认证
Elasticsearch 集群安全认证 简介 Elasticsearch 的安全认证功能用于确保只有经过授权的用户才能访问集群和执行特定操作。这有助于保护集群中的数据和资源。 安全认证组件 1. X-Pack Security 插件 X-Pack 是 Elastic 提供的官方插件，包含了 Ela ......
Oracle在什么情况下可不使用索引
数据库AWR报告监控到耗时160s。此表有200w数据，rr_time创建了索引。分析发现还是执行了全表扫描。 SELECT max(rr_time) FROM cpoint where uid='12' and rr_time<=to_date('2024-1-5 23:59:59','yyyy- ......
elasticsearch集群red恢复损坏的索引
背景 客户磁盘损坏，修复磁盘后，重启机器，发现elasticsearch启动成功，ES状态正常green，但是历史数据都没有加载进，查看ES存储数据目录，发现数据还在。 解决方案 首先，需要确认indices目录下的lucene 索引正常。需要关闭ES（实际操作索引处于close状态也可以）。 # ......
MySQL索引详解
1、联合索引 使用表中的多个字段创建索引，就是 联合索引，也叫 组合索引 或 复合索引。 以 score 和 name 两个字段建立联合索引： ALTER TABLE `cus_order` ADD INDEX id_score_name(score, name); 2、最左前缀匹配原则 最左前缀匹 ......
9解决elasticsearch深度分页问题
前面说到，分页可以使用from和size参数，类似于mysql的分页offset和limit。但是如果数据量比较大时，elasticsearch会对分页做出限制，因为此时会比较消耗性能。 为什么要限制 分页的时候，elasticsearch会根据查询条件到每个分片取出数据来，然后再由coordina ......
7.elasticsearch重建索引
什么时候需要重建索引 索引的mappings发生变更 索引的setting发生变更 集群内，集群间，需要做数据迁移 update by query 在现有索引重建 比如需要给一个text新增一个子字段，用english分词器。那么新添加的数据会被索引，之前的数据不会被索引。此时可以用_update_ ......
4.elasticsearch中查询条件
目录一、URI查询指定字段、泛查询分组和phraseBool条件must条件范围查询通配符查询正则表达式模糊匹配与近似查询二、RequestBody&DSLignore_unavailableprofileexplainqueryfrom、sizesort_sourcescript_fieldsma ......
5.elasticsearch中聚合查询
elasticsearch聚合查询 什么是聚合，就是目的不是查询具体的文档，而是查询文档的相关性，此外还可以对聚合的文档在按照其他维度再聚合。 包含以下四种聚合 Bucket Aggregation 一些列满足特定条件的文档的集合 terms 对某个字段统计每个不同的内容，以及出现文档的个数 ran ......
6.elasticsearch中search template和alias
什么是search template 顾名思义，查询模版，就是提前设定好查询的DSL，再次查询时，只需要指定对应的模版，然后传入相应的参数就好。一是可以每次不用构建复杂的DSL，二是可以供开发直接使用查询DSL模版，减少学习和对接成本。 有如下两种方法 一、创建脚本_script/template, ......
1.elasticsearch运行
在docker中运行elasticsearch、kibana 一、MacOs 首先需要安装doceker，提供两种方式，选一种方便的就好 1.命令行安装方式 安装命令行 xcode-select --install 安装homebrew /usr/bin/ruby -e "$(curl -fsSL ......
2.elasticsearch中的mapping
mapping 顾名思义，代表了映射关系。是文档中字段和数据类型的映射关系 为什么要了解mapping 虽然elasticsearch中已尽有的动态mapping(Dynamic Mapping)，而且新增字段默认也会添加新的mapping，但是毕竟是机器，有时会推算的不对，比如地理位置信息，特殊格 ......
MySQL中between...and的使用对索引的影响
问题场景： 一开始在某个字段加了普通索引，SQL语句查找该字段范围内的数据。开始加索引的时候是能使用上索引的，但是过了几天，数据量增大，发现检索语句没有走索引了 准备测试表 创建测试表 CREATE TABLE `test_index` ( `id` int(10) UNSIGNED NOT NUL ......
Elasticsearch对接MinIO存储Snapshot快照
服务器配置 MinIO集群节点(4节点) IP 节点1 miniotest1.ip.tp-link.com 172.29.145.80 生产环境需要增加一个Nginx负载均衡前端用于ELK对接，此处直接对接节点1 ELK集群（3节点） Elasticsearch版本为7.17.12 iamdemo1 ......
MySQL索引篇
1、索引原理： 索引是帮助MySQL高效获取数据的数据结构。 索引好比是一本书的目录，可以直接根据页码找到对应的内容，目的就是为了加快数据库的查询速度。 索引是对数据库表中一列或多列的值进行排序的一种结构，使用索引可快速访问数据库表中的特定信息。 索引是一种能帮助mysql提高了查询效率的数据结构： ......
Elasticsearch监控
Kibana集群监控 https://www.cnblogs.com/h--d/p/13192992.html 监控elasticsearch集群方案 https://www.cnblogs.com/1zhangwenjing/p/12312142.html#_label4 MetricBeat + ......
Elasticsearch使用系列-ES简介和环境搭建
Elasticsearch使用系列-ES简介和环境搭建 目录 一、简介 二、Windows搭建ES 三、Linux搭建ES 四、Docker搭建ES Elasticsearch使用系列-ES简介和环境搭建 Elasticsearch使用系列-ES增删查改基本操作+ik分词 Elasticsearch ......
创建索引库--ES
代码： package cn.itcast.hotel; import org.apache.http.HttpHost; import org.elasticsearch.action.admin.indices.delete.DeleteIndexRequest; import org.elas ......
mysql表的多字段作为唯一索引
找到对应表，设置多字段的唯一索引，下发数据库。 姓名+身份证号是唯一索引，进行验证： 场景一：允许出现相同证件号，不同姓名存储；也允许出现相同姓名，不同证件号存储。 场景二：不允许出现相同姓名和相同证件号存储（手动修改数据库数据相同，发现无法保存） 唯一索引，报错详细信息 ......
elasticsearch activemq 进程
[root@mvp1 ~]# ps -ef | grep elaes 23985 1 0 2023 ? 01:02:42 /opt/elasticsearch/jdk/bin/java -Xshare:auto -Des.networkaddress.cache.ttl=60 -Des.networ ......
【ElasticSearch】Scroll滚动查询
REST API Java Client BoolQueryBuilder boolQueryBuilder = QueryBuilders.boolQuery(); boolQueryBuilder.must(QueryBuilders.termQuery("enable", 1)); final ......
常用创建索引 20240102
哪些情况需要主键自动建立唯一索引 频繁作为查询条件的字段应该创建索引(where 后面的语句) 查询中与其它表关联的字段，外键关系建立索引 多字段查询下倾向创建组合索引 查询中排序的字段，排序字段若通过索引去访问将大大提高排序速度 查询中统计或者分组字段 哪些情况不推荐建立索引:表记录太少经常增删改 ......
ElasticSearch更新延迟问题记录
问题描述：使用ElasticSearch做个大数据实时更新接口，接口实际效果字段更新后页面调用查询不及时显示更新 通过查阅资料，es在更新之后并不是立即可见(可查询)的，会有1s的延迟，可以通过设置refresh_interval参数来修改刷新的间隔。 但是在实际应用中，1s的延迟已经算是很久了，在 ......
ElasticSearch集成SpringBoot实践
Search API Search Request，用于搜索文档，聚合，相关的任何操作，还提供了高亮显示结果文档的方法 //创建，如果没有参数，会对所有索引运行 SearchRequest searchRequest = new SearchRequest(); //大多数搜索参数都能添加到Sear ......
Elasticsearch 分词功能
分词器定义： 从一串文本中切分出一个一个的词条，并对每个词条进行标准化 分词处理过程： 1、分词前预处理：过滤HTML标签、特殊符号转换 2、分词： 3、标准化：大小写转换、单复数转换、同义词转换 ES内置分词器： 1、standard分词器：默认将词汇单元转换成小写形式，去掉领用词和标点符号，中文 ......
基于 Windows10 搭建 ELK （Elasticsearch 8 + Kibana + Logstash）
参考 https://www.cnblogs.com/hualess/p/11540477.html https://blog.csdn.net/susu1083018911/article/details/124551632 https://blog.csdn.net/Dyanxier/artic ......