数据结构 队列linkedblockingqueue原理
使用必读-使用Iceberg数据湖需要注意的点
一、开发注意事项 1、Iceberg选择合适的表版本 简述：Iceberg目前有两个表版本（V1和V2），根据数据选择合适的表版本。 V1表只支持增量数据插入，适合做纯增量写入场景，如埋点数据。 V2表才支持行级更新，适合做状态变化的更新，如订单表同步。 使用方式：建表语句时指定版本'format- ......
安全数据交换系统：大幅提升网间文件交换能力
各级政府部门和金融、能源、电力这些行业，以及一些大中型企业组织，为了保护内部的重要数据不外泄，普遍都采用了多网络并行的方式，也是做了网络隔离划分，不同的网络拥有不同的密级以及人员权限。然后再通过安全数据交换系统来进行跨网络、跨区域的文件数据交互，解决“数据孤岛”的问题。 然后，要解决网络隔离下的数据 ......
向量数据库~milvus
本文主要基于milvus官方的材料外加自己的一些理解整理而来，欢迎交流 设计理念 云原生：存&算分离; 读写分离; 增量存量分离; 微服务架构，极致弹性； 日志即数据：通过message queue解耦生产者、消费着，降低系统复杂度; 提升index、data、query模块弹性; 流批一体：表和日 ......
读算法霸权笔记09_信用数据的陷阱
1. 信用评级模型 1.1. 评估个人贷款违约风险的模型为FICO 1.1.1. 唯一评分参数就是贷款者的资产，主要依据是贷款者的债务负担和账单支付记录 1.1.2. 这种信用评分模型相对透明 1.1.3. 信用评分行业受政府管制 1.1.4. 信用评分系统的使用得到了广泛普及 1.2. 脸书就发明 ......
INFINI Labs 产品更新 | Console 数据迁移支持 Percentiles 均匀分区
INFINI Labs 产品又更新啦~，包括 Console v1.14.0，Gateway 1.21.0。其中 Console 数据迁移支持 Percentiles 均匀分区，修复已知 Bug 等。以下是本次更新的详细说明。 INFINI Console v1.14.0 INFINI Consol ......
KubeEdge介绍和设计原理
http://bingerambo.com/posts/2021/05/kubeedge%E4%BB%8B%E7%BB%8D%E5%92%8C%E8%AE%BE%E8%AE%A1%E5%8E%9F%E7%90%86/#edgecore KubeEdge介绍和设计原理 Binge 收录于 K8S 20 ......
优先队列（堆的使用）
如何定义 大根堆：每个节点的值都大于等于其子节点的值，在大根堆中，最大值总是在堆顶 小根堆：每个节点的值都小于等于其子节点的值，在小根堆中，最小值总是在堆顶 #include <queue>//头文件 //通用写法 std::priority_queue<TypeName> q; ∕∕ 数据类型为 ......
处理不平衡数据的过采样技术对比总结
前言 本文对处理不平衡数据的过采样技术进行了对比总结。 本文转载自Deephub Imba 作者：Abdallah Ashraf 仅用于学术分享，若侵权请联系删除 欢迎关注公众号CV技术指南，专注于计算机视觉的技术总结、最新技术跟踪、经典论文解读、CV招聘信息。 CV各大方向专栏与各个部署框架最全教 ......
pandas替换数据 典型应用 replace
替换数据 replace方法可以对数据进行批量替换： s.replace(0, 5) # 将列数据中的0换为5 df.replace(0, 5) # 将数据中的所有0换为5 df.replace([0, 1, 2, 3], 4) # 将0～3全换成4 df.replace([0, 1, 2, 3], ......
使用Golang Validator包实现数据验证
使用Golang Validator包实现数据验证 原创 沙蒿 程序员的碎碎念 2024-01-01 08:20 发表于北京 听全文 引言 在开发过程中，数据验证是一个非常重要的环节。它可以确保输入的数据的合法性和有效性，从而保证系统的稳定性和安全性。Golang是一种强类型的静态编程语言，它提供了 ......
StarRocks 技术内幕：查询原理浅析
一条查询 SQL 在关系型分布式数据库中的处理，通常需要经过 3 大步骤： 1. 将 SQL 文本转换成一个 “最佳的”分布式物理执行计划 2. 将执行计划调度到计算节点 3. 计算节点执行具体的物理执行计划 本文将详细解释在 StarRocks 中如何完成一条查询 SQL 的处理。 首先来了解 S ......
07.DDL 数据库操作 - 查看
目录 选择数据库语法 查看数据库语法 查看数据库的定义信息语法 实例 查看数据库语法 DATABASES：必选项，用于列出当前用户权限范围内所能查看到的所有数据库名称 -- 查看所有数据库 SHOW DATABASES; 选择数据库语法 -- 选择数据库为当前数据库 USE 数据库名; 查看数据库的 ......
06.DDL 数据库操作 - 创建
目录 创建数据库语法 创建数据库注意事项 创建基本数据库 创建指定字符集的数据库 创建数据库前判断是否存在同名数据库 创建数据库语法 IF NOT EXISTS：可选项，创建前先判断，未存在时才执行创建语句 数据库名：必须指定的 CHARACTER SET =字符集：可选项，用于指定数据库的字符集 ......
【C语言学习】01. 数据类型、常量、变量
数据类型 数据类型的分类： 基本类型 整型 int 浮点型 float 字符型 char 构造类型 数组 [] 结构体 struct 指针类型 * 空类型 void 常量 常量是指在程序运行过程中，其值不发生变化的量。 常量的分类： 整型常量：100, 123, -100, 0 浮点型常量（也称实型 ......
03.数据库客户端工具
目录 WorkBench Navicat WorkBench 安装 官方提供的图形界面交互工具 官网下载：https://dev.mysql.com/downloads/workbench/ 网盘下载： https://pan.baidu.com/s/1VtEXIogo_GS7iGh3f0nklw ......
高性能内存消息队列 Disruptor
01 什么是 Disruptor disruptor 是 lmax 开源的一个高性能并发内存队列，和日常使用的 ArrayBlockingQueue 的性能对比如下图 02 高性能的原因 2.1 避免伪共享内存 什么是 CPU 高速缓存？ 首先介绍一下 CPU 缓存的定义： 在计算机系统中，CPU高 ......
01.数据库的基本概念
目录 数据库简介 数据库分类 常用数据库简介 使用场景 数据库简介 数据库(DataBase) 就是一个以某种有组织的方式存储的数据集合 是存储和管理数据的仓库 其本质是一个文件系统 数据库管理系统（DBMS）是一款管理软件 数据库分类 关系型数据库（RDB: Relationship DataBa ......
SPFA -----队列优化的Bellman-Ford
SPFA 队列优化的Bellman-Ford 由Bellman-Ford算法实现带有负权边的单源最短路，时间复杂度是O(VE)，也就是边数乘顶点数。但是根据Bellman-Ford的状态转移方程$$dist[i] = min(dist[i] , last[k] + w[k -> i])$$可知，当且 ......
2023CANN训练营第2季————Ascend C算子Tiling切分原理与实战
使用Ascend C进行昇腾AI芯片算子开发，开发者仅需要把关注点放在数据切分和计算逻辑实现上。固定shape算子切分相对简单，动态shape的算子需要如何去实现呢？本篇笔记从复习切分的基本概念出发，讲述了一种动态shape的切分方法，并编程进行了验证。 ......
SQLServer命令行备份数据库
SQLServer命令行备份数据库 背景 SQLServer on linux 想设置计划任务自动备份数据库 感觉sqlcmd应该是最简单快捷的方式了 所以进行一下处理. 安装必备软件 sudo curl -o /etc/yum.repos.d/msprod.repo https://package ......
数据类型转换
'''复习数据类型整数类型 int 写法：a = 1小数类型 float 写法： a = 1.1字符串类型 str 写法： a = 'string'布尔类型 bool 写法： a = True列表类型 list 写法： a = ['小明','小红','小溪']元组类型 tuple 写法： a = ( ......
MySQL shell 备份数据库
MySQL shell 备份数据库 背景 之前使用 mysqldump 和 mysql source 的方式备份数据库非常缓慢 有时候要耗费非常长的时间 今天发现有一个可以快速备份数据库的 mysqlshell的方法这里总结一下. 注意如果存在超过 8126的列定义, 可能要慎重一下. 介绍 MyS ......
MATLAB连接MySQL数据库
今天开始看《MATLAB数据分析与挖掘实战》，学习了下用MATLAB连接MySQL数据库，环境win7,32bit,MySQL5.7.12,MATLAB2013B 首先，从这里下载驱动的压缩文件(我选的第一个)，解压，将mysql-connector-java-5.1.39-bin.jar放到MAT ......
如果后端API一次返回10万条数据，前端应该如何处理？
这个问题其实是考察面试者对性能优化的理解，涉及的话题很多。 创建服务器 为了方便后续测试，我们可以使用node创建一个简单的服务器。 服务器端代码： const http = require('http')const port = 8000;let list = []let num = 0// cr ......
大数据技术框架
大数据技术框架: 1.存储引擎 1>分布式文件系统HDFS:block,replication 2>NoSQL数据库:Hbase:Table,region 实时存储引擎 3>分布式消息队列Kafka:Topic,Partition 实时存储引擎 4>分布式搜索引擎:Elasticserarch:in ......
二叉树结构与递归实现前中后序遍历
1. 二叉树存储结构 二叉树中每一个节点使用孩子表示法结构创建 以A节点(根)为例: A的左孩子(左子树) 等于 B节点对象的引用，A的右孩子(右子树) 等于 C节点对象的引用 class TreeNode { // 左孩子 public TreeNode left; // 右孩子 public T ......
TF246017: Team Foundation Server 未能连接到数据库。 请验证是否 已正确指定实例，承载数据库的服务器是否能够正常运行，且没有网络 问题阻止与服务器通信
最近在工作中使用TFS中突然遇到TFS未能连接到数据库的问题，当初TFS服务是自己部署的，问题也得自己解决。下面是当时在VS和TFS服务器管理工具上的错误截图。 经过一番查找，是运维那边改服务器管理员账号administrator的密码了，刚好之前部署TFS服务的时候是把服务器的administra ......
关于数据库归档
目录1.数据库归档是什么2.MySQL 归档工具有哪些 本文主要介绍数据库归档基本概念和目的，以及对于MySQL来说，有哪些归档工具。 1.数据库归档是什么 数据库归档是一种数据管理策略，它涉及将旧的、不经常访问的数据移动到一个单独的存储设备，以便在需要时可以检索，同时保持数据库的性能和效率。 数据 ......
快速上手 dbt 数据转换工具 -- dbt core 命令进阶篇
引 根据第一篇文章的约定，我想通过接下来的几篇文章带大家进一步了解 dbt 的用法，原计划这篇文章我会介绍 dbt 命令的进阶用法，进一步认识 dbt 的配置以及如何创建增量表等等零零散散十几个方面的知识点，结果在我写完命令部分发现篇幅就过长了，考虑到大家对于知识的吸收，想了想还是把命令单独作为一个 ......
考场上手捏数据的小寄巧
前言 大家都打过 CF，而对于 CF 特殊的赛制，大家也有所耳闻。其中最激动人心的环节也就是 Hack 环节了。其实赛时捏数据，也无非就是对着自己的代码定向爆破罢了。 多捏边界条件，例如询问总是询问修改的边界，再或者题目中某操作可能的特殊性质。 多捏特殊的图，有的图因为其特殊的性质，对复杂度检验很有 ......