乱码 文件 内容 数据
Hive文件存储格式
结论： Text File，Parquet ，ORC Files结合使用，优先使用前两种，对存储及查询性能有极高要求时使用ORC。 存储格式 使用场景 Text File 数据直观，便于查看和编辑，数据量较小的维表可以使用. Parquet 支持深度嵌套，可用于多种数据处理框架（Hive/Spark ......
Hive 数据写入流程
概念简介 外部表：删除表时，外部表只删除元数据,不删除数据。适用于数据源被多处使用的场景，便于数据共享。 内部表：删除表时，内部表的元数据和数据会被一起删除。适用于不需要共享的原始数据或中间数据。 分区表：数据较多，为提高计算速度时使用。 内部表&外部表写入流程图 具体流程Demo 以外部表为例： ......
hive分区表数据导入
数据库分区的主要目的是为了在特定的SQL操作中减少数据读写的总量以缩减响应时间，主要包括两种分区形式：水平分区与垂直分区。水平分区是对表进行行分区。而垂直分区是对列进行分区，一般是通过对表的垂直划分来减少目标表的宽度，常用的是水平分区. 1. hive建立分区表 create external ta ......
Hive 复杂数据类型Array，Map，Struct
建表语句，支持嵌套 CREATE TABLE parquet_test ( id int, str string, mp MAP<STRING,STRING>, lst ARRAY<STRING>, strct STRUCT<A:STRING,B:STRING>) PARTITIONED BY (p ......
Hive写入JSON数据
优缺点： 1.JsonSerDe对json数据格式有严格要求，创建的表结果必须与json结构能对应上，否则会报错。 配置 org.openx.data.jsonserde.JsonSerDe 能解决格式异常报错导致整个任务终止的问题。 必须定义好详细字段嵌套的规则类型，不适合提取ODS原文。 2.g ......
Hive Array数据处理
建表 CREATE TABLE IF NOT EXISTS default.array_test( id String COMMENT 'id', name Array<String> COMMENT '名称' ) COMMENT 'array测试' ROW FORMAT DELIMITED FIE ......
vue实现虚拟滚动（面试题：后端给你十万条数据，你怎么处理？）
<template> <div class="viewport" @scroll="scroll"> <div class="list-phantom" :style="{height: totalHeight+'px'}"></div> <div class="list-area" :style= ......
Flink写文件
简介 StreamingFileSink 提供了将数据分桶写入文件系统的功能。 如何分桶是可以配置，默认使用基于时间的分桶策略，每个小时创建一个新的桶，也可以自定义分桶策略。 文件滚动策略支持两种方式，基于时间和文件大小的DefaultRollingPolicy策略和基于Flink检查点的OnChe ......
超大日志文件分割工具和方法
来源：https://blog.csdn.net/sangser/article/details/123169275 1. 直接运行：MobaXterm1_CHS1.exe，如下画面： 2. 点击：Start local terminal： 切换到大文件所在目录，执行命令：split -l 6000 ......
scrapy使用文件管道FilesPipeline下载视频
1.爬虫文件 class MeiShiSpider(scrapy.Spider): name = 'meishi' allowed_domains = ['baidu.com'] start_urls = ['https://tieba.baidu.com/f?kw=美食'] def parse(s ......
Power BI - 5分钟学习修改数据类型
每天5分钟，今天介绍Power BI修改数据类型 Power BI加载数据时，会尝试将源列的数据类型转换为更高效的存储、计算和数据可视化的数据类型。例如，如果从Excel导入的值的列没有小数值，Power BI Desktop会将整个数据列转换为整数数据类型，这能更好地优化存储提高计算效率。 但是某 ......
文件加密解密工具类
：需求：文件上传到系统后，只能通过系统预览或者下载，其他方式下载下来的文件，对方看不了， 实现思路：上传文件时，对文件进行加密处理，数据库存放文件名，把加密文件存到指定目录下 预览、下载文件时，通过指定目录+文件名，找到该文件，并进行解密处理，根据前端需求，对解密后的文件进行处理（下载到指定目录/直 ......
安防视频云平台/可视化监控云平台ARM版EasyCVR无法下载录像文件，如何解决？
视频集中存储/云存储/视频监控管理平台EasyCVR能在复杂的网络环境中，将分散的各类视频资源进行统一汇聚、整合、集中管理，实现视频资源的鉴权管理、按需调阅、全网分发、智能分析等。GB28181视频监控/AI智能大数据视频分析EasyCVR平台已经广泛应用在工地、工厂、园区、楼宇、校园、仓储等场景中 ......
如何直接将GitHub中的notebook/ipynb文件在colab中打开
Colab可直接从github打开Jupyter notebooks，只需将“http:// github.com/”替换为“https://colab.research.google.com/github/”，就会直接加载到Colab中。 ......
数据结构-单调队列
单调队列使用范围： 滑动区间的极值查询与维护 单调队列的原理： 单调队列需要持续维护队列的单调性，我们假设该队列为单增队列，那么最小值可以在队尾取得。 如图是一个刚建立的队列 接下来思考插入一个元素怎么处理：我们从队首开始看，如果队首的元素比目前需要插入的值大，那么原先队列的那个值在滑动过程中就不会 ......
列式云数据库与关系型云数据库：区别、优缺点与选择
列式云数据库与关系型云数据库的区别
数据存储方式
列式云数据库以列为单位组织数据，将同一列的数据存储在一起，每个列都有一个相关的列式存储文件。这种数据存储方式适合于大量数据分析和高性能计算的场景，因为列式云数据库能够更好地压缩数据并提高查询效率。而关系型云数据库则采用传统的关系型数据模型，以行为单位... ......
mysql数据库行锁-表锁
1.数据库的锁 从性能上分为乐观锁和悲观锁：乐观锁是利用版本号，比如数据字段新增一个版本号字段，操作的时候进行版本的比对，需要开发者自己实现；悲观锁就是在操作数据时，认为此操作会出现数据冲突，所以在进行每次操作时都要通过获取锁才能进行对相同数据的操作，这点跟java中的synchronized很相似 ......
让数据要素合规高效流通！海南这么干！
1月4日，国家数据局会同中央网信办、科技部、工业和信息化部等17个部门联合印发《“数据要素×”三年行动计划（2024—2026年）》，旨在充分发挥数据要素乘数效应，赋能经济社会发展。 ......
云数据库与Web网站：构建高效、可扩展的网络应用
云数据库与Web网站的关系
云数据库与Web网站之间存在着密切的关系。Web网站需要数据库来存储和管理用户数据、交易信息、内容资料等关键信息。而云数据库提供的弹性和可扩展性，使得Web网站能够根据业务需求快速地增加或减少存储资源，从而更加高效地应对用户访问和数据增长。
同时，云数据库还为Web网站提... ......
el-table导出当前页数据
下载依赖 npm i --save https://cdn.sheetjs.com/xlsx-0.20.1/xlsx-0.20.1.tgz npm install file-saver --save el-table添加id <el-table id="outTable" >//添加id 拼接导出函 ......
sqlserver不同服务器数据库联合查询
测试语句 添加服务器 EXEC sp_addlinkedserver @server = '127.0.0.1', @srvproduct = '', @provider = 'SQLOLEDB', @datasrc = ''、 测试查询 SELECT * FROM [127.0.0.1].[myD ......
数据库索引概念及其如何使用的相关介绍
在日常开发中，难免会与数据库打交道，然而对数据库中数据的操作又会与另一个名词挂钩，“索引”，下面简单介绍一下索引的相关概念以及何时使用索引最合适。 一、什么是索引？索引是一种数据结构，它可以把表中的数据按照某种规则（如B树、哈希表等）进行排序，以便快速查询和访问数据。使用索引能减少磁盘I/o操作和数 ......
简单地配置MySQL数据库application.properties
在springboot项目中，有两种配置文件，一种是application.properties,另一种是application.yml,两种都可以配置spring boot 项目中的一些变量的定义，参数的设置等。下面来说说两者的区别： 用简单配置数据库为例： application.propert ......
动手学深度学习v2：数据操作+数据预处理
数据操作 import torch x=torch.arange(12) # x的output为 tensor([0,1,2,3,4,5,6,7,8,9,10,11]) # 可以通过张量的shape属性来访问张量的形状和张量中元素的总数 x.shape # output: torch.Size([1 ......
java springboot项目启动脚本，指定jdk、指定yml配置文件
start.bat @echo off rem 设置Java路径，根据你的实际情况修改 set JAVA_PATH="./jdk-17_windows-x64_bin/jdk-17.0.6/bin/java.exe" rem 设置JAR文件路径，根据你的实际情况修改 set JAR_PATH="./ ......
WSL2镜像文件压缩
WSL2的镜像文件（*.vhdx）支持自动扩容，但是一般不会自动缩容。一旦某次存放过大文件以后，即使后续删除，镜像文件体积仍然不会缩小，导致大量磁盘空间浪费。因此，可以定期对镜像文件进行手动压缩。 ......
C# 如何读取Excel文件
当处理Excel文件时，从中读取数据是一个常见的需求。通过读取Excel数据，可以获取电子表格中包含的信息，并在其他应用程序或编程环境中使用这些数据进行进一步的处理和分析。本文将分享一个使用免费库来实现C#中读取Excel数据的方法。具体如下： 准备工作： 在VS中通过Nuget安装免费Excel读 ......
vm - 释放linux删除文件后的物理磁盘
关闭vm的需要释放磁盘的虚拟机 然后进入vm 的安装根目录 需要用到里面的 vmware-vdiskmanager.exe 工具 找到需要释放的虚拟机的vmdk文件 拼接指令后执行 vmware-vdiskmanager.exe -k "F:/vm/xxx/CentOS 7 64 位-cl4.vmd ......
数据治理9大核心领域（转）
转自：https://blog.csdn.net/xiyuzhanshen123/article/details/96484520 数据治理不仅需要完善的保障机制，还需要理解具体的治理内容，比如我们的数据该怎么进行规范，元数据又该怎么来管理，每个过程需要哪些系统或者工具来进行配合呢？这些问题都是数据 ......