数据处理 字符串 脚本 字符
在excel表格插入标黄的这列数据 实现合并单元格，并统计单元格个数？
大家好，我是皮皮。 一、前言 前几天在Python最强王者交流群【哎呦喂 是豆子～】问了一个Python自动化办公的问题，一起来看看吧。 下图是他的原始数据和他想得到的目标数据，如下所示： 需要在标黄的两行里边进行相关操作。 二、实现过程 这里【瑜亮老师】给了一个思路，groupby系统.漏洞数.s ......
2023数据采集与融合技术实践作业一
第一次作业 作业①: 要求：用requests和BeautifulSoup库方法定向爬取给定网址（http://www.shanghairanking.cn/rankings/bcur/2020 ）的数据，屏幕打印爬取的大学排名信息。 输出信息： 排名 学校名称 省市 学校类型 总分 1 清华大学 ......
Hive中创建ETL表进行数据清洗
问题描述 今天看到这么一个问题： 看到清洗这两个字，就觉得可高级可高级了！！！ 所以，就把这个问题的解决方法也看了看，学了学； 问题的具体解决方法 看到了对ETL的分析（抽取-->过滤-->加载）： 首先创建一个在原表的结构基础上，新增我们所需数据的字段的表； 然后执行insert+select操作 ......
2023数据采集与融合技术实践作业1
作业① o 要求：用requests和BeautifulSoup库方法定向爬取给定网址（http://www.shanghairanking.cn/rankings/bcur/2020 ）的数据，屏幕打印爬取的大学排名信息。 o 输出信息： 排名 学校名称 省市 学校类型 总分 1 清华大学 北京 ......
手写数字数据集AutoEncoder降噪算法
对训练数据加噪声的方法，在训练里面对 x 做如下处理，添加椒盐噪声： bs, ch, h, w = x.shape x = x.reshape(bs, ch, h*w) + 0.2*np.random.normal(size=28*28) x = x.to(torch.float32) 数据集里面的 ......
Springboot简单功能示例-6 使用加密数据源并配置日志
博主尝试通过gitee的发行版，使用Springboot为基础框架，逐步整合JWT、JPA、VUE等常用功能项目。【本节完成】配置logback；配置了数据源，对数据库账号密码进行加密；增加了系统启动配置 ......
102102146洪松渝数据采集与融合技术作业1
作业①: 要求：用requests和BeautifulSoup库方法定向爬取给定网址（http://www.shanghairanking.cn/rankings/bcur/2020）的数据，屏幕打印爬取的大学排名信息。 输出信息： 排名 学校名称 省市 学校类型 总分 1 清华大学 北京 综合 8 ......
2023数据采集与融合技术实践作业一
作业1： 要求：用REQUESTS和BEAUTIFULSOUP库方法定向爬取给定网址（HTTP://WWW.SHANGHAIRANKING.CN/RANKINGS/BCUR/2020）的数据，屏幕打印爬取的大学排名信息。 输出信息： 排名 学校名称 省市 学校类型 总分 1 清华大学 北京 综合 8 ......
单次查询log，预处理线性求路径mex的方法
首先要一种能在 \(\log n\) 时间复杂度求路径 \(mex\) 的方法。 我们先把所有点的编号加一，从 \(1\) 开始。我们再记 \(l_u\) 表示 \(u\) 属于 \(1\) 的哪个儿子的子树中。（特别的 \(l_1=1\)） 然后我们考虑一条路径 \(u,v\) ，如果 \(lca ......
数据结构优化
写在前面：本蒟蒻并没有足够的实力与自信去完成这样一件作品，所谓的“优化”也不过是我个人拙劣理解，但是形成这样一个完整的知识框架必然有益无害，与我而言，这件事一定要做，所以本蒟蒻会坚持很长时间，去完善本篇博客。因此本博客在某种意义上相当于我个人成长记录，在它逐渐成型的过程中必然伴随着漏洞，谬误，以及幼 ......
vite中静态资源的处理
public目录 public 目录是存放静态资源的一种方式。 2.项目初始化时默认public作为静态资源服务的文件夹。我们可以在vite.config.js中修改publicDir。 3.该目录中的文件开发期间在 / 处提供，并在构建期间将public文件夹下的文件（不包含public本身）复制 ......
Hive数据仓库的学习——DML学习
1、load加载 load语法： 2、Hive3.X新特性 能够使用load将文件数据存储到分区中，将分区默认作为表格数据的最后一列； 3、insert+select向表插入数据 这个语法就是在上次测试的时候遇到过的问题嘞！ insert+values这个语法执行效率就很慢，而换用insert+se ......
异质数据环境下的联邦学习
近年来，大量数据的产生和边缘设备算力的提高，以及对数据隐私的要求使得以联邦学习为代表的分布式机器学习得到研究关注。传统的联邦学习优化方法如FEDAVG由于其简单实现且具有较低的通信代价得到了广泛的应用，但是其在异质数据环境下很难取得优秀的效果。联邦学习中各客户端的数据分布是非独立同分布的（Non-I ......
【Docker】使用 Docker 启动 mysql，配置挂载数据文件夹与配置文件
# 1 :先创建挂载文件夹 mkdir -p /mysql/config ; mkdir -p /mysql/data ; mkdir -p /mysql/logs # 2: 创建配置文件 vim /mysql/config/my.cnf # 3: 修改权限 chmod 777 /mysql/con ......
利用Python 去重聚合Excel数据并对比两份数据的差异
需求描述: 现在有两份Excel数据 数据结构一致 需要根据订单号和店铺名称去重聚合之后，再把两份数据合并对比差异，需要对比出两份数据的差异 import pandas as pd import numpy as np # 读取两个 Excel 文件 left_df = pd.read_excel( ......
C# 简单实现对字符串加密和解密
C# 简单实现对字符串加密和解密有两种方式，供参考： 1 /// <summary> 2 /// 编译字符串 3 /// </summary> 4 /// <param name="strUnicode"></param> 5 /// <returns></returns> 6 public sta ......
大数据职业规划
为什么报大数据？ 1.便宜 2.随便选的 简历：技能深的一个不会，浅的 c++,java,python,网络初级HCIA 坚持两个原则，脚踏实地，循序渐进 网络工程hcia 想学的东西 sql python flink spark ......
102102124杨恺晖数据采集与融合技术作业1
******作业一 ** 要求：用REQUESTS和BEAUTIFULSOUP库方法定向爬取给定网址（HTTP://WWW.SHANGHAIRANKING.CN/RANKINGS/BCUR/2020）的数据，屏幕打印爬取的大学排名信息。 输出信息： 排名 学校名称 省市 学校类型 总分 1 清华大学 ......
Hive数据仓库的学习——DDL之内部表、外部表、分区表、分桶表
1、内部表和外部表 没有指定建表的类型的话，默认为内部表（Internal Table或者是Managed Table） 可以通过这行代码查看表的类型： describe formatted 表名; 内部表和外部表的区别以及适合使用的范围： 2、分区表--避免全表扫描，提高查询效率 需要注意的是，在 ......
ios 识别emoji 表情 java数据库
INSERT into app_emoji(code) VALUES('0x1F603'),('0x1F604'),('0x1F601'),('0x1F606'),('0x1F979'),('0x1F605'),('0x1F602'),('0x1F923'),('0x1F972'),('0x263A ......
成功实现FaceTime语音,FaceTime视频,FaceTime数据筛选,检测手机号是否开通FaceTime的实现原理
FaceTime是苹果公司iOS和macOS（以前称Mac OS X或OS X）内置的一款视频通话软件，通过Wi-Fi或者蜂窝数据接入互联网，在两个装有FaceTime的设备之间实现视频通话。其要求通话双方均具有装有FaceTime的苹果设备，苹果ID以及可接入互联网的3G/4G/5G或者Wi-Fi ......
os.path：Python操作和处理文件路径
前言 os.path是平台独立的文件名管理库，使用该库能够很方便来处理多个平台上的文件。即使程序不打算在平台之间移值，也应当使用os.path库来完成可靠的文件名解析。 本篇博文将详细介绍os.path库的用法。 解析路径的基本用法 os.path中的第一组函数可以用来将表示文件名的字符串解析为文件 ......
数据结构---树
数据结构 树 二叉树 特征 二叉树每个结点最多有2个子结点 二叉树的子树有左右之分 引理 二叉树中层数为 i 的结点至多有2^i个，i≥0 高度为k (k >=0)的二叉树中至少有k+1个结点。含有k (k >=1)个结点的二叉树高度至多为k-1 高度为k的二叉树中至多有2^(k+1)－1 (k>= ......
IOS返回上一页面数据不刷新
在ios上，返回上一页ios内核会直接从缓存中拿到上一个页面，而不会重新请求服务器，这也就意味着，整个页面拿出来后是静止的状态，无论是html css还是js都是处于一个暂停的状态。页面不会数据不会刷新。导致某些场景必须刷新页面数据的情况下产生bug。以下方式可以解决这一问题（亲测有效）。 在需要刷 ......
gunicorn dango nginx 实现同时处理并发请求
项目是采用 gunicorn dango nginx 方式部署的。 gunicorn.py采用如下方式配置， workers = 1 bind = '0.0.0.0:8000' backlog = 2048 timeout = 6000 keepalive = 6000 errorlog = '.. ......
shell脚本批量自动分发文件
1、安装expect yum -y install expect 2、创建iplist.txt文件（要分发的IP地址） vim iplist.txt 192.168.100.22 192.168.100.23 3、创建pwd.txt（里面包含密码） vim pwd.txt 123456 123123 ......
JavaScript——判断0, NaN, false, null, underfined, 空字符串
1. 判断NaN // NaN出现的原因：（Not a Number） // 操作两个类型不一致的数、用NaN值计算最终得到NaN、不合法运算（如0 / 0）let num = 0/0; if (isNaN(num)) { console.log("num为NaN！") } 2. 判断undefin ......
爱数anybackup——控制台建立对应的ofs卷、重删卷、自备份卷、元数据卷
以admin登录系统，点击【存储】>【节点管理】>【配置】>【卷管理】 选择对应的【卷类型】 点击【+新建】 输入【卷名称】，选择【挂载路径】，输入【容量】，然后点击创建即可 ......
爱数anybackup——在后台完成VG、LV划分，并挂载到对应AnyBackup的数据卷，并设置开机自动挂载
安装lvm2 yum install lvm2 PV、VG创建 方式一：PV建在分区上 lsblk parted /dev/sdb mklabel msdos parted /dev/sdc mklabel msdos parted /dev/sdd mklabel msdos parted /de ......