elasticsearch宝库logstash文件
ffmpeg第8篇：使用ffprobe采集文件信息
1、 前言 ffprobe是ffmpeg的其中一个模块，主要用于查看文件信息，咱们知道一个MP4文件其实不仅仅包含了音视频数据，还有如元数据等其它信息，但是实际上咱们关心的往往是音视频数据部分，今天来看下如何使用ffprobe来获取音视频信息。 先看看ffprobe的帮助信息 ffprobe -v ......
学习ASP.NET Core Blazor编程系列二十——文件上传（完）
我们通过前面的二篇文章的学习，已经实现了文件上传功能之中的上传文件功用，将文件信息保存到数据库的功能，以及删除文件功能。我们已经实现的文件上传功能，还存在着两个问题。
第一个问题，在删除上传文件信息时，没有任何时间，用户在删除时，并不知道自己要不要删除，没有让用户再次确认。 ......
Java中Elasticsearch 实现分页方式(三种方式)
目录 ES 简介 ES 的特点： 一、from + size 浅分页 二、scroll 深分页 scroll删除 三、search_after 深分页 ES 简介 Elasticsearch 是一个基于 Lucene 实现的搜索服务器。它提供了一个分布式多用户能力的全文搜索引擎，基于 RESTful ......
ElasticSearch必知必会-进阶篇
京东物流：康睿 姚再毅 李振 刘斌 王北永 说明：以下全部均基于elasticsearch8.1 版本 一.跨集群检索 - ccr 官网文档地址： https://www.elastic.co/guide/en/elasticsearch/reference/8.1/modules-cross-cl ......
Curve 文件存储在 Elasticsearch 冷热数据存储中的应用实践
Elasticsearch在生产环境中有广泛的应用，本文介绍一种方法，基于网易数帆开源的Curve文件存储，实现Elasticsearch存储成本、性能、容量和运维方面的显著提升。 ES 使用 CurveFS 的四大收益 1.CurveFS提供的成本优势 为了高可靠，ES如果使用本地盘的话一般会使用 ......
C++可执行文件绝对路径获取与屏蔽VS安全检查
前言 前几天写新项目需要用到程序所在绝对路径的时候，发现网上居然一点相关分享都没有。 > _pgmptr 翻箱倒柜找出了几本教程，发现了一个叫_pgmptr的东西。 进去看了一下，在stdlib.h里拓展到了函数__p__pgmptr()，函数原型： _CRT_INSECURE_DEPRECATE_ ......
docker搭建Elasticsearch、Kibana、Logstash 同步mysql数据到ES
一、前言 在数据量大的企业级实践中，Elasticsearch显得非常常见，特别是数据表超过千万级后，无论怎么优化，还是有点力不从心！使用中，最首先的问题就是怎么把千万级数据同步到Elasticsearch中，在一些开源框架中知道了，有专门进行同步的！那就是Logstash 。在思考，同步完怎么查看 ......
elasticsearch之单请求多查询
一、需要解决的问题 有的时候我们需要同时执行多个查询，并且需要得到每个单独查询的搜索结果，elasticsearch提供了multi search此需求的支持； 二、elasticsearch multi search简介 elasticsearch提供了multi search api来支持一个请 ......
.gitignore文件配置以及gitee提交报Push rejected...错误解决
.gitignore文件配置 .gitignore 文件可以用来忽略被指定的文件或文件夹的改动。记录在.gitignore文件里的文件或文件夹是不会被 git 跟踪到，也就是被忽略的文件是不会被上传到远程仓库的，如果文件已经存在于远程仓库中就无法通过.gitignore文件来忽略。 下面总结了一些可 ......
.Net引用根目录子文件夹下的dll文件
在.Net开发的时候，有时候会引用一套库，这些库是由多个dll文件。正常情况下，这些dll文件需要拷贝到运行根目录下。如果这些dll文件比较多，加上其他直接引用的dll，这样会导致根目录下非常乱。我们希望可以把引用的这套库单独放在根目录下一个单独的文件夹中，让系统可以直接引用，该如何做呢？ 例如我们 ......
C#应用程序配置文件（XML序列化） - 开源研究系列文章
上次写了一个C#线程池及管理器的博文（ C#开发的线程池和管理器 - 开源研究系列文章 ），收到了不小的浏览量，在此感谢各位网友的支持。这次将另一个功能放出来单独讲解：C#应用程序的配置文件，使用的是XML文件保存程序的配置信息，通过XML序列化和反序列化，将配置文件规范起来。 一、 项目目录； 项 ......
使用JsonConverter处理上传文件的路径
场景 我们上传一个文件，把文件保存到服务器上，会有一个明确的物理路径，由于需要从前端访问这个文件，还需要web服务器中的一个虚拟路径。这个虚拟路径的存储会有一个问题，我们应该在数据库里存什么？是带域名的全路径，还是相对于web根目录的相对路径？ 现在很多架构都是前后分离的，所以前端访问的url是全路 ......
elasticsearch之metric聚合
1、背景 此篇文章简单的记录一下 elasticsearch的metric聚合操作。比如求 平均值、最大值、最小值、求和、总计、去重总计等。 2、准备数据 2.1 准备mapping PUT /index_person { "settings": { "number_of_shards": 1 }, ......
分布式文件系统之FastDFS
目录结构： 一 分布式文件系统 二 FastDFS入门 三 FastDFS环境搭建 四 FastDFS在Java项目中开发示例 五 FastDFS分布式文件系统集群 一 分布式文件系统 分布式文件系统 (Distributed File System) 是一个软件/软件服务器，这个软件可以用来管理文 ......
（四）elasticsearch 源码之索引流程分析
1.概览 前面我们讨论了es是如何启动，本文研究下es是如何索引文档的。 下面是启动流程图，我们按照流程图的顺序依次描述。 其中主要类的关系如下: 2. 索引流程 (primary) 我们用postman发送请求，创建一个文档 我们发送的是http请求，es也有一套http请求处理逻辑，和sprin ......
（数据科学学习手札148）geopandas直接支持gdb文件写出与追加
本文示例代码已上传至我的Github仓库https://github.com/CNFeffery/DataScienceStudyNotes 1 简介 大家好我是费老师，在我之前的某篇文章中为大家介绍过如何在windows系统上，基于ESRI FileGDB驱动为geopandas补充针对gdb文件 ......
学习ASP.NET Core Blazor编程系列十八——文件上传（中）
上篇学习ASP.NET Core Blazor编程系列十七——文件上传（上）文章我们学习了如何将文件上传至服务器，但是我们并没有将文件的一些信息保存下来，无法进行查询，无法得知我们上传了一些什么文件。本篇文章演示如何将上传文件的一些基本信息保存到数据库，从而可以对上传文件进行简单管理。 ......
学习ASP.NET Core Blazor编程系列十九——文件上传（下）
我们在“多文件上传示例”页面中选择一个上传文件，然后应用程序会自动上传文件，并会在数据库中记录了一上传文件的相关信息，并会在页面中显示一个已经上传的文件列表。 ......
Google分布式文件系统GFS论文学习
GFS作为最著名的分布式文件系统，首先具备了大规模、可扩展、适配大文件、自动运维等高级特性。虽然是比较早期的分布式文件系统，但是它里面的设计思想还是值得现代分布式系统设计参考的，并且还有很多后期著名的分布式文件系统就是根据 GFS 来的。 一、设计预期 在论文前面，列举了设计预期，也就是 GFS 是 ......
Elasticsearch查询及聚合类DSL语句宝典
随着使用es场景的增多，工作当中避免不了去使用es进行数据的存储，在数据存储到es当中以后就需要使用DSL语句进行数据的查询、聚合等操作，DSL对SE的意义就像SQL对MySQL一样，学会如何编写查询语句决定了后期是否能完全驾驭ES，所以至关重要，本专题主要是分享常用的DSL语句，拿来即用。 ......
实现简单的csv文件上传和bootstrap表格的下载
一、写一个简单的页面并发送文件 引入bootstrap.js，jQuery.js等，具体的网页就不细写了，很简单。 加入input框，button控件，进度条。如下： <li class="list-group-item" id="input-file-group"> <div class="inp ......
C# Log4net配置文件 总结
前言 因为项目日志太杂乱而且很大，打开一个就卡死了，何况用户电脑也扛不住日志积累，要做一个日志记录器管理日志。但对里面的配置有一些不熟悉(毕竟都是复制粘贴的)，所以记录一下各个项的作用。方便后续复习。 1.0 使用配置文件 众所周知，如果要使用一个配置文件，则需要声明: [assembly: log ......
echarts map地图中绘制浙江省市区县乡镇多级联动边界下钻的最新geojson数据文件获取和更新
ECharts Map地图的显示 ECharts支持地理坐标显示，专门提供了一个geo组件，在setOption中提供option.geo配置即可显示地图。 option.geo配置中有个map属性，取值为已通过 echarts.registerMap("name", geojson) 注册的nam ......
Python 大数据量文本文件高效解析方案代码实现
大数据量文本文件高效解析方案代码实现 测试环境 Python 3.6.2 Win 10 内存 8G，CPU I5 1.6 GHz 背景描述 这个作品来源于一个日志解析工具的开发，这个开发过程中遇到的一个痛点，就是日志文件多，日志数据量大，解析耗时长。在这种情况下，寻思一种高效解析数据解析方案。 解决 ......
像go 一样 打造.NET 单文件应用程序的编译器项目bflat 发布 7.0版本
现代.NET和C#在低级/系统程序以及与C/C++/Rust等互操作方面的能力完全令各位刮目相看了，有人用C#开发的64位操作系统: GitHub - nifanfa/MOOS: C# x64 operating system pro...，截图要介绍的是一个结合Roslyn和NativeAOT的实 ......
【openEuler系列】部署文件共享服务Samba
个人名片： 对人间的热爱与歌颂，可抵岁月冗长:sun_with_face: Github👨🏻💻：念舒_C.ying CSDN主页✏️：念舒_C.ying 个人博客:earth_asia: ：念舒_C.ying 1 配置环境 挂载系统ISO，并配置好本地dnf源。(前面的文章讲过，这里就略过. ......
【Spring专题】「开发指南」夯实实战基础功底之解读logback-spring.xml文件的详解实现
logback的maven配置 <dependency> <groupId>org.slf4j</groupId> <artifactId>slf4j-api</artifactId> <version>2.0.3</version> </dependency> <dependency> <grou ......
微软出品自动化神器【Playwright+Java】系列（六） 之 字符输入、单元素键盘事件操作、上传文件、聚焦、拖拽、悬浮操作
前言： 今天一早起床，就一直太阳穴疼，吃了四片去痛片已经无效，真的是疼的直恶心。 如果说学习或者写文章，能够缓解头疼的话，那我想说，我还能坚持一会..... 很久没更新这系列的文章了，那么我们将Playwright+Java系列延续，带上自己的那份快乐开始吧！ 想系统学习请参考：Playwright ......
超详细讲解如何搭建自己的文件服务器
由于FTP、HTTP、Telnet等协议的数据都是使用明文进行传输的，因此从设计上就是不可靠的。人们为了满足以密文方式传输文件的需求，发明了vsftpd服务程序。vsftpd（very secure ftp daemon，非常安全的FTP守护进程）是一款运行在Linux操作系统上的FTP服务程序，不... ......
elasticsearch global 、 filters 和 cardinality 聚合
1. 背景 此处将单记录一下 global 、 filters和cardinality的聚合操作。 2、解释 1、global global聚合是全局聚合，是对所有的文档进行聚合，而不受查询条件的限制。 global 聚合器只能作为顶级聚合器，因为将一个 global 聚合器嵌入另一个桶聚合器是没有 ......