日常工作 比例 文件 数据
《中国人民银行业务领域数据安全管理办法》与个人信息保护关键技术研究 | 京东云技术团队
在大数据环境下，通过个人用户网络活动产生的数据，可以清晰地分析出用户的年龄、职业、行为规律和兴趣爱好。特别是随着电子商务和移动网络的应用和普及，个人用户的地址、联系方式和银行账户信息也可以通过大数据挖掘或网络爬虫等手段获取。因此，个人信息安全管理压力增大，用户个人信息泄露事件时有发生。莫名其妙的销售 ......
elementUI上传组件，上传单个文件后隐藏上传按钮
vue代码 <el-upload ref="AvatarUpload" list-type="picture-card" action="" accept=".jpg, .png" :limit="1" :auto-upload="false" :file-list="fileList" :on-c ......
解读logback-spring.xml文件
来源：今日头条（作者-小心程序猿QAQ） logback的maven配置 <dependency> <groupId>org.slf4j</groupId> <artifactId>slf4j-api</artifactId> <version>2.0.3</version> </dependenc ......
vivo 数据库备份恢复系统演化
作者：vivo 互联网数据库团队 - Han Chaobing 介绍 vivo 数据库备份恢复功能的演化，以及对备份文件的功能扩展。 一、概述 vivo互联网领域拥有的数据库组件分别为 MySQL、MongoDB、TiDB 等，其中MySQL集群占比绝大部分， MongoDB 集群占比小部分， Ti ......
前后端数据传输的编码格式
前后端数据传输的编码格式（contentType） # 前后端传输的时候请求方式有两种： GET,POST # 我们只研究POST请求的编码格式： POST的三种编码格式：urlencoded、form-data、json # 有哪些方式可以发送POST请求？ form表单、Ajax、postman ......
Django中对数据的改、删、查
如何动态的展示我们的数据 1、先获取到数据库中的信息内容 def user_info(request): userinfo_all = models.user_info.objects.all() # 获取所有的用户对象 # <QuerySet [<user_info: user_info obje ......
数据导出为excel，并压缩成zip文件夹
/** * 生成企业数据 excel .xlsx格式 并压缩 zip格式 * @param response */ @Override public void exportEnterprise(HttpServletResponse response) { // 1.得到企业数据 List<Dept ......
常用工作模板
1、周报模板 2、发布（版本）模板 发布模板{ 1、版本归档路径 2、版本节点信息 3、版本各个组件信息{ 组件 版本 组件注意事项 } 4、版本刷新bug 5、注意事项 } ......
银行业绩数据监控大屏：金融领域的智慧之眼
银行业绩数据监控大屏作为一种新型的管理工具，正逐渐改变传统银行业的运营模式。通过实时监控、深入分析、预测未来、协同工作和保障安全等功能，大屏为银行管理者和员工提供全面的数据支持和服务。在金融市场的激烈竞争中，银行业绩数据监控大屏将成为银行驾驭金融海洋的重要航标，引领银行业稳健前行。 ......
aspectjweaver文件写入的一些发现
最近分析aspectjweaver该java组件链的一些发现记录 所用到环境 windows java环境 1.8.0_291 aspectjweaver 1.9.21 使用到依赖 <dependencies> <dependency> <groupId>commons-collections</g ......
腾讯数据集成工具报告
标题 测试报告 背景目标 大航海databus任务在合并阶段费资源，且大表执行时间较长，期望缩短同步时间可以10分钟抽10亿条数据。数据同步需要先建表，再建任务，配置不方便。 结论 在满足配置时可以达到期望速度，配置如下 所需环境信息 mysql CPU:16核 内存:32G IOPS:32000 ......
大数据生态组件WEB UI地址汇总
(1) Hadoop Web UI http://master-1:50070/dfshealth.html#tab-overview (2) YARN应用Web UI http://master-1:8088/ (3) Spark Web UI http://master-1:18089/ (4) ......
Iceberg小文件合并测试
总结 指标 合并前 合并后（因测试中多次合并，数据会偏多） 查询速度 246秒 13秒 表总大小 9.2G 26.4G 单个文件大小 1-25MB 60MB左右 metadata目录文件数 37 75 data目录文件数 900 1501 小文件合并后历史版本数据不会自动清理，需要做快照清理 快照清 ......
【FMC211】基于VITA57.1的16路LVDS数据采集、1路光纤数据收发处理平台
板卡概述 FMC211是一款基于VITA57.1标准规范的实现16路LVDS数据采集、1路光纤数据收发处理FMC子卡模块。 该板卡支持2路CVBS（复合视频）视频输入，能够自动检测标准的模拟基带电视信号，并将其转变为8位ITU-R.656接口信号或者4:2:2分量视频信号。 该板卡支持2路标清（SD ......
Iceberg元数据合并-metadata.json文件
一、背景描述 元数据文件随时间增多，导致查询变慢。通过如下方式可以指定metadata个数，超过指定数量自动清理。 metadata文件对应Iceberg概念是Snapshots 二、解决方案 1、在建表时增加参数 ‘write.metadata.delete-after-commit.enable ......
hdf5文件读取orm
点击查看代码 class BaseNode: """hdf5 file object relational model basic node class Including establishing model relationships and data sets, attribute value ......
4款协同办公软件，方便实用，让你工作效率大幅提升
在当今信息化时代，协同办公软件已成为企业和个人提高工作效率的重要工具。通过协同办公软件，团队成员可以实时共享文件、协作编辑文档、安排任务以及在线沟通，从而提高工作效率和协作能力。今天给大家分享4款实用的协同办公软件，帮助你更好地管理工作，提高工作效率。 01、语雀（团队知识库工具） 语雀是蚂蚁集团旗 ......
一文带你了解内外网数据摆渡系统！
全球数字化浪潮下，数据安全永远是被关注的焦点和重点课题。总之，不管是什么规模和类型的企业，都需要建立一套适合自身的数据安全保护体系和机制，保护核心数据，提升企业核心竞争力。网络隔离可以很好的对企业的核心数据起到保护作用，是众多科技研发型企业在进行网络安全建设中的首选方式，隔离之后，在选择一套安全可靠 ......
大数据开发的总体架构
很多小伙伴在学习了多年大数据后，最后不得不感慨：“大数据的知识太繁杂了，我已经被淹没在大数据的海洋里了！”确实是的，在大数据学习的过程中，随着学习的深入，越来越多的新名词和新框架让学习者有种欲哭无泪的感觉，那么，这篇博文就对大数据开发的一个总体架构做一个介绍吧，让大家学习过程中，不至于迷失方向。先上 ......
使用-数据湖Iceberg和现有hive数仓打通并使用
一、集群配置 1、版本使用 技术 版本 iceberg 1.3.1 flink 1.16.1 spark 3.2.1 hive 2.3.7 dlc-presto 待定 2、集群配置调整 （1）使用hive查询的话所有hiveserver2节点修改hive-site.xml文件，添加jar包，添加如下 ......
【Linux】用Xshell通过SSH连接ubuntu报错“服务器发送了一个意外的数据包”
安装了Ubuntu20.04， 安装了ssh：sudo apt-get install ssh 想用Xshell通过SSH连接，结果报错：“服务器发送了一个意外的数据包”，如下图所示： ①在/etc/ssh/sshd_config配置文件最后面添加下面一行： KexAlgorithms curve2 ......
使用必读-使用Iceberg数据湖需要注意的点
一、开发注意事项 1、Iceberg选择合适的表版本 简述：Iceberg目前有两个表版本（V1和V2），根据数据选择合适的表版本。 V1表只支持增量数据插入，适合做纯增量写入场景，如埋点数据。 V2表才支持行级更新，适合做状态变化的更新，如订单表同步。 使用方式：建表语句时指定版本'format- ......
安全数据交换系统：大幅提升网间文件交换能力
各级政府部门和金融、能源、电力这些行业，以及一些大中型企业组织，为了保护内部的重要数据不外泄，普遍都采用了多网络并行的方式，也是做了网络隔离划分，不同的网络拥有不同的密级以及人员权限。然后再通过安全数据交换系统来进行跨网络、跨区域的文件数据交互，解决“数据孤岛”的问题。 然后，要解决网络隔离下的数据 ......
向量数据库~milvus
本文主要基于milvus官方的材料外加自己的一些理解整理而来，欢迎交流 设计理念 云原生：存&算分离; 读写分离; 增量存量分离; 微服务架构，极致弹性； 日志即数据：通过message queue解耦生产者、消费着，降低系统复杂度; 提升index、data、query模块弹性; 流批一体：表和日 ......
读算法霸权笔记09_信用数据的陷阱
1. 信用评级模型 1.1. 评估个人贷款违约风险的模型为FICO 1.1.1. 唯一评分参数就是贷款者的资产，主要依据是贷款者的债务负担和账单支付记录 1.1.2. 这种信用评分模型相对透明 1.1.3. 信用评分行业受政府管制 1.1.4. 信用评分系统的使用得到了广泛普及 1.2. 脸书就发明 ......
3种依赖管理工具实现requirements.txt文件生成
1.pip 实现方式 要使用 pip 生成 requirements.txt 文件，可以使用以下命令： pip freeze > requirements.txt 这个命令会将当前环境中所有已安装的 Python 包及其版本信息输出到 requirements.txt 文件中。这个文件可以用于共享项 ......
INFINI Labs 产品更新 | Console 数据迁移支持 Percentiles 均匀分区
INFINI Labs 产品又更新啦~，包括 Console v1.14.0，Gateway 1.21.0。其中 Console 数据迁移支持 Percentiles 均匀分区，修复已知 Bug 等。以下是本次更新的详细说明。 INFINI Console v1.14.0 INFINI Consol ......
Mac 使用 open 命令，快速打开文件
今天突然发现Mac 有个很好用的命令，open xxx，使用这个命令可以用默认软件打开这个文件，比如各种文本格式的文件会用txt文本打开，mp4 格式的文件会用 player打开。 open aaa.txt open ddd.mp4 ......
国内的开源AI模型共享网站（AI模型的GitHub）—— mindscope —— 使用git lfs方式下载模型文件基本不可行——速度太慢，几十KB/s的速度
参考前文： 国内的开源AI模型共享网站（AI模型的GitHub）—— mindscope —— 对标外网的“huggingface”，mindscope好用吗？ ......