容器 数据库 数据docker
python 中序列ID从fasta文件中批量提取序列数据
001、 [root@pc1 test1]# ls a.fa chr.list test.py [root@pc1 test1]# cat a.fa ## 测试fasta文件 >chr1 tttcccggg >chr2 tttggg ccc >chr3 cccttt >chr4 aaaaattt [ ......
hive大数据测试（时间数据清洗UDF打包到hive中调用自定义函数，hive表数据导出到本机）
1.数据清洗 pom依赖： <properties> <maven.compiler.source>8</maven.compiler.source> <maven.compiler.target>8</maven.compiler.target> <project.build.sourceEnco ......
cefsharp 循环从多个页面提取数据
foreach(var url in urls) { var loaded = false; Action<object, FrameLoadEndEventArgs> frameLoadEndProc = (s, args) => { if (args.Frame.IsMain && args.F ......
docker搭建gitlab，集成CI/CD(gitlab-runner)
搭建gitlab和gitlab-runner 首先配置GITLAB_HOME export GITLAB_HOME=/srv/gitlab 如果你是在BASH下，可以将以上配置放到~/.bash_profile文件中，使用source ~/.bash_profile使其永久生效。 docker ru ......
使用PasteSpider把你的代码升级到服务器的Docker/Podman上，K8S太庞大，PasteSpider极易上手！
如果你的服务器的内存小于16GB，那么K8S就和你无缘了，但是你可以使用PasteSpider来实现发布你的项目到服务器上！ PasteSpider是一个运维工具，使用NET编写的，部署于服务器的Docker/Podman上，他可以帮助你把你的项目发布到服务器上，支持源码模式，支持发布模式，支持一键 ......
数据结构
目录二、数据结构2.1 链表2.1.1 单链表2.1.2 双链表2.2 栈2.3 队列2.4 单调栈2.5 单调队列2.6 KMP算法2.7 Trie树2.8 并查集2.9 手写堆2.10 哈希2.10.1 整数哈希2.10.1.1 拉链法2.10.1.2 开放寻址法2.10.2 字符串哈希（解决字 ......
Apipost连接数据库详解
Apipost提供了数据库连接功能，在接口调试时可以使用数据库获取入参或进行断言校验。目前的Apipost支持：Mysql、SQL Sever、Oracle、Clickhouse、达梦数据库、PostgreSQL、Redis、MongoDB 8种数据库的连接操作 新建数据库连接： 在「项目设置」-「 ......
logstash数据无法写入到es
现象：偶发性某天应用服务日志数据丢失，查看es无数据 架构：filebeat >logstash >es logstash 上报错现象： 2023-10-13T13:05:14,161][WARN ][logstash.outputs.elasticsearch][main] Could not i ......
可以用于科学计算和数据分析项目的工具简介
在科学计算和数据分析项目中，有许多工具可以使用。以下是一些常用的工具和库： 1. Python：Python是一种功能强大的编程语言，它提供了众多用于科学计算和数据分析的库和工具，如NumPy、Pandas、Matplotlib、SciPy等。Python具有简单易学的语法和丰富的生态系统，非常适合 ......
数据清洗以及相关自动化工具
数据清洗是数据分析过程中非常重要的一步，它旨在准备数据以进行后续的分析和建模。数据清洗的步骤通常包括以下几个方面： 1. 缺失值处理：检测和处理数据中的缺失值，可以通过删除缺失值、插值填充或者使用其他合适的方法来处理。 2. 异常值处理：检测和处理数据中的异常值，可以通过删除异常值、替换为合适的值或 ......
探索性数据分析（EDA）简介及Python代码示例
当进行探索性数据分析（EDA）时，您可以使用各种统计和可视化工具来深入了解数据，并识别其中的模式和趋势。以下是一些常用的EDA技术和方法： 1. 描述性统计：计算每列数据的基本统计指标，例如均值、中位数、标准差等。这可以帮助您了解数据的集中趋势和离散程度。 2. 直方图：绘制每列数据的直方图，以展示 ......
seqkit软件根据染色体名称从fasta文件中批量提取数据
001、 [root@pc1 test1]# ls a.fa chr.list [root@pc1 test1]# cat a.fa ## 测试fasta >chr1 tttcccggg >chr2 tttggg ccc >chr3 cccttt >chr4 aaaaattt [root@pc1 t ......
各个数据库存二进制大文件的性能测试
1前言 有个项目软件前端将二进制大文件存在了indexDB,每次给后端传文件（需要传到底层C++进行调用）都会导致内存占用飙升，想着使用前后端都能共同操作的数据库来解决这个内存占用的问题，并且希望这个更具尽可能的轻量，可以嵌入到程序中是最好的，通过一个安装包进行安装。 2各个数据库的性能比较 2 ......
ORA-28001: the password has expired Smartbi配置数据连接
smartbi config配置数据库连接，报获取数据库连接失败 ORA-28001: the password has expired 密码超时 登录数据库服务器，使用 sqlplus / as sysdba命令，进入oracle数据库 使用：select * from dba_profiles ......
数据分析-数据可视化-matplotlib-01
matplotlib基本函数 2.2.1 函数调用：pyplot、pylab¶ pylot: 创建画板、示例图 pylab: 结合pyplot和numpy函数的调用，功能比较复杂，不建议使用 2.2.2 创建画板(操作对象)¶ plt.figure,设置图形大小，返回figure画板对象 plt.s ......
wireshark 抓包出现两包相同数据
最近在测试时，发现主机通过UDP发送1包数据，会出现wireshark抓到两包相同数据，但是目标处只接收到1包数据的问题。 反复排查，发现只要使用USB转网口，就会出现这个问题。 最后确认是使用混杂模式的原因 怀疑是转接板接收到主机msg后，会将该msg发送出去，不巧的是混杂模式抓到了这包数据，因此 ......
如何使用Python和Pandas处理SQLite数据库
代码： import sqlite3 import pandas as pd conn = sqlite3.connect('database.db') data = {'A':['x','y','z'],'B':[1000,2000,3000],'C':[10,20,30]} df = pd.Da ......
Sqoop不能正常导出文件到Mysql数据库的问题解决
之前在使用sqoop输入以下命令时 bin/sqoop export \ --connect jdbc:mysql://node1:3306/journal \ --username root \ --password 123456 \ --table top_courses_by_traffic ......
数据结构——左偏树/可并堆学习笔记
引入 作为树形数据结构的一员——堆，对于取极值拥有着优秀的复杂度，但是，合并两个堆却成为了一个问题。除了朴素算法外，还有什么算法可以合并两个堆呢？ 正文 那么，可并堆是个啥呢？简单来说，它是一个支持合并操作的二叉堆（好像是废话）。 首先，简单介绍一下二叉堆的性质，学过的读者可自行跳过。 二叉堆是一棵 ......
java运行时数据区
Java运行时数据区域 众所周知，Java 虚拟机有自动内存管理机制，如果出现内存泄漏和溢出方面的问题，排查错误就必须要了解虚拟机是怎样使用内存的。 包含：程序计数器（PC）、堆、本地方法栈、虚拟机栈、元空间 下图是 JDK8 之后的 JVM 内存布局。 程序计数器（PC） 内存中一块较小的空间，每 ......
WPF中Image控件绑定数据源，解决图片被占用问题
WPF中Image控件的数据源如果设置为路径，或者后台通过Image.FromFile来绑定，该图片将被占用，如要进行图片压缩、删除等操作则会报错；所以可以从内存中加载图片进行绑定。 以下为MVVMLight模式，首先增加一个图片路径值转换的类 public class ImageConvert : ......
可观测性数据收集集大成者 Vector 介绍
如果企业提供 IT 在线服务，那么可观测性能力是必不可少的。“可观测性” 这个词近来也越发火爆，不懂 “可观测性” 都不好意思出门了。但是可观测性能力的构建却着实不易，每个企业都会用到一堆技术栈来组装建设。比如数据收集，可能来自某个 exporter，可能来自 telegraf，可能来自 OTEL， ......
搭建Halo博客教程（阿里云 Docker）
搭建Halo博客教程（阿里云 Docker） 购买阿里云服务器ECS 在阿里云购买需要的服务器ECS 这里选择安装的操作系统CentOS 8.2 64位 连接阿里云的服务器 用SSH 客户端进行连接服务器 用PuTTY进行连接服务器 打开阿里云控制台服务器ECS 第一次创建的服务器要进行重置实例密码 ......
Docker dnmp 多版本php安装 php8.2
Laravel9 开发需要用到php8.1以上的版本，而dnmp只支持到php8.0。安装php8.2的步骤如下： 1. 从/services/php80目录复制一份出来，重命名为php82，extensions目录只保留 install.sh 和 install-php-extensions 这两 ......
BI工具：让数据分析井然有序一望而知
BI（Business Intelligence）工具是一类专门用于数据分析和决策支持的软件工具。 它们能够将企业内部和外部的数据进行整合、处理和可视化，帮助用户从海量数据中获取有价值的见解和洞察，并以直观、易懂的方式展示给决策者和相关人员。以下是对BI工具的详细介绍： 1. 数据整合和连接： BI ......
转载 https://www.cnblogs.com/star521/p/13385181.html --PGSQL-脏数据清理，频繁delete\update高水位线问题,vacuum full 、vacuum
查看表大小 -- 查出所有表（包含索引）并排序 -- 查出所有表（包含索引）并排序 SELECT table_schema , table_name AS table_full_name, pg_size_pretty(pg_total_relation_size('"' || table_sche ......