数据 物流技术 数据源 团队

2023数据采集与融合技术实践作业一

第一次作业 作业①: 要求:用requests和BeautifulSoup库方法定向爬取给定网址(http://www.shanghairanking.cn/rankings/bcur/2020 )的数据,屏幕打印爬取的大学排名信息。 输出信息: 排名 学校名称 省市 学校类型 总分 1 清华大学 ......
数据采集 数据 技术 2023

Hive中创建ETL表进行数据清洗

问题描述 今天看到这么一个问题: 看到清洗这两个字,就觉得可高级可高级了!!! 所以,就把这个问题的解决方法也看了看,学了学; 问题的具体解决方法 看到了对ETL的分析(抽取-->过滤-->加载): 首先创建一个在原表的结构基础上,新增我们所需数据的字段的表; 然后执行insert+select操作 ......
数据 Hive ETL

2023数据采集与融合技术实践作业1

作业① o 要求:用requests和BeautifulSoup库方法定向爬取给定网址(http://www.shanghairanking.cn/rankings/bcur/2020 )的数据,屏幕打印爬取的大学排名信息。 o 输出信息: 排名 学校名称 省市 学校类型 总分 1 清华大学 北京 ......
数据采集 数据 技术 2023

手写数字数据集AutoEncoder降噪算法

对训练数据加噪声的方法,在训练里面对 x 做如下处理,添加椒盐噪声: bs, ch, h, w = x.shape x = x.reshape(bs, ch, h*w) + 0.2*np.random.normal(size=28*28) x = x.to(torch.float32) 数据集里面的 ......
算法 AutoEncoder 数字 数据

Springboot简单功能示例-6 使用加密数据源并配置日志

博主尝试通过gitee的发行版,使用Springboot为基础框架,逐步整合JWT、JPA、VUE等常用功能项目。【本节完成】配置logback;配置了数据源,对数据库账号密码进行加密;增加了系统启动配置 ......
数据源 示例 Springboot 功能 数据

DNA重组--团队展示

队名:DNA重组 团队项目描述:谁不想用电脑摸鱼的时候上网页点个外卖呢?所以我们做了网页外卖平台。 队员风采: 学号:2023021871成员姓名:周佳宁博客园地址:https://www.cnblogs.com/t-travel/性格:开朗、乐观擅长的技术:java后端、web前端角色:后端宣言: ......
团队 DNA

102102146洪松渝数据采集与融合技术作业1

作业①: 要求:用requests和BeautifulSoup库方法定向爬取给定网址(http://www.shanghairanking.cn/rankings/bcur/2020)的数据,屏幕打印爬取的大学排名信息。 输出信息: 排名 学校名称 省市 学校类型 总分 1 清华大学 北京 综合 8 ......
数据采集 102102146 数据 技术

2023数据采集与融合技术实践作业一

作业1: 要求:用REQUESTS和BEAUTIFULSOUP库方法定向爬取给定网址(HTTP://WWW.SHANGHAIRANKING.CN/RANKINGS/BCUR/2020)的数据,屏幕打印爬取的大学排名信息。 输出信息: 排名 学校名称 省市 学校类型 总分 1 清华大学 北京 综合 8 ......
数据采集 数据 技术 2023

数据结构优化

写在前面:本蒟蒻并没有足够的实力与自信去完成这样一件作品,所谓的“优化”也不过是我个人拙劣理解,但是形成这样一个完整的知识框架必然有益无害,与我而言,这件事一定要做,所以本蒟蒻会坚持很长时间,去完善本篇博客。因此本博客在某种意义上相当于我个人成长记录,在它逐渐成型的过程中必然伴随着漏洞,谬误,以及幼 ......
数据结构 结构 数据

在写python数据可视化是遇到点问题,求帮助

哪里写错了吗,还是有地方写落了,来个大佬帮我疑惑解答吧 ......
数据 python 问题

Hive数据仓库的学习——DML学习

1、load加载 load语法: 2、Hive3.X新特性 能够使用load将文件数据存储到分区中,将分区默认作为表格数据的最后一列; 3、insert+select向表插入数据 这个语法就是在上次测试的时候遇到过的问题嘞! insert+values这个语法执行效率就很慢,而换用insert+se ......
仓库 数据 Hive DML

异质数据环境下的联邦学习

近年来,大量数据的产生和边缘设备算力的提高,以及对数据隐私的要求使得以联邦学习为代表的分布式机器学习得到研究关注。传统的联邦学习优化方法如FEDAVG由于其简单实现且具有较低的通信代价得到了广泛的应用,但是其在异质数据环境下很难取得优秀的效果。联邦学习中各客户端的数据分布是非独立同分布的(Non-I ......
异质 联邦 环境 数据

【Docker】使用 Docker 启动 mysql,配置挂载数据文件夹与配置文件

# 1 :先创建挂载文件夹 mkdir -p /mysql/config ; mkdir -p /mysql/data ; mkdir -p /mysql/logs # 2: 创建配置文件 vim /mysql/config/my.cnf # 3: 修改权限 chmod 777 /mysql/con ......
文件 Docker 文件夹 数据 mysql

利用Python 去重聚合Excel数据并对比两份数据的差异

需求描述: 现在有两份Excel数据 数据结构一致 需要根据订单号和店铺名称去重聚合之后,再把两份数据合并对比差异,需要对比出两份数据的差异 import pandas as pd import numpy as np # 读取两个 Excel 文件 left_df = pd.read_excel( ......
数据 差异 Python Excel

毛毛虫——团队展示

团队介绍 1.团队名称:毛毛虫 2.团队项目描述:操作简单的管理系统 3.团队口号:在前进中曲折,在曲折中前进! 4.团队成员介绍 学号:2023021850 昵称:科科 博客地址:https://www.cnblogs.com/csk666/ 性格:开朗 技术:Java、html 兴趣爱好:游戏、 ......
毛毛虫 团队

吴彦组——团队展示

吴彦组——团队展示 队名:吴彦组 起这个队名是我们都认为自己长得帅,而且 "彦" 在古文中也有 "才子" 的意思,这可能表示这个团队希望寻找或培养有才华的人,或者他们希望以卓越的才能和智慧来实现目标。 拟作的团队项目描述: Great projects are not about size, but ......
团队

吴彦组——团队展示

吴彦组——团队展示 队名:吴彦组 起这个队名是我们都认为自己长得帅,而且 "彦" 在古文中也有 "才子" 的意思,这可能表示这个团队希望寻找或培养有才华的人,或者他们希望以卓越的才能和智慧来实现目标。 拟作的团队项目描述: Great projects are not about size, but ......
团队

102102124杨恺晖数据采集与融合技术作业1

******作业一 ** 要求:用REQUESTS和BEAUTIFULSOUP库方法定向爬取给定网址(HTTP://WWW.SHANGHAIRANKING.CN/RANKINGS/BCUR/2020)的数据,屏幕打印爬取的大学排名信息。 输出信息: 排名 学校名称 省市 学校类型 总分 1 清华大学 ......
数据采集 102102124 数据 技术

大数据职业规划

为什么报大数据? 1.便宜 2.随便选的 简历:技能深的一个不会,浅的 c++,java,python,网络初级HCIA 坚持两个原则,脚踏实地,循序渐进 网络工程hcia 想学的东西 sql python flink spark ......
职业规划 职业 数据

【氦离子速报】Keven_He 带领其团队发现新突破!!!!

报道记者:柚子报 Key 社特邀战地记者娜芒伊·布鲁斯。 氦离子原神历 1999 年,K8 月 He 日,中央行为艺术科学大病院院长(以下简称中科院) \(\mathcal{Keven\text{_}He}\) 带领其团队首次人工合成氦化钾成功! 人民网评:厉害!年轻正太创下世界首次! 胡锡进:已经 ......
离子 Keven_He 团队 Keven He

Hive数据仓库的学习——DDL之内部表、外部表、分区表、分桶表

1、内部表和外部表 没有指定建表的类型的话,默认为内部表(Internal Table或者是Managed Table) 可以通过这行代码查看表的类型: describe formatted 表名; 内部表和外部表的区别以及适合使用的范围: 2、分区表--避免全表扫描,提高查询效率 需要注意的是,在 ......
仓库 数据 Hive DDL

ios 识别emoji 表情 java数据库

INSERT into app_emoji(code) VALUES('0x1F603'),('0x1F604'),('0x1F601'),('0x1F606'),('0x1F979'),('0x1F605'),('0x1F602'),('0x1F923'),('0x1F972'),('0x263A ......
表情 数据库 数据 emoji java

成功实现FaceTime语音,FaceTime视频,FaceTime数据筛选,检测手机号是否开通FaceTime的实现原理

FaceTime是苹果公司iOS和macOS(以前称Mac OS X或OS X)内置的一款视频通话软件,通过Wi-Fi或者蜂窝数据接入互联网,在两个装有FaceTime的设备之间实现视频通话。其要求通话双方均具有装有FaceTime的苹果设备,苹果ID以及可接入互联网的3G/4G/5G或者Wi-Fi ......
FaceTime 手机号 语音 原理 数据

老师的叮组——团队展示

队名 老师的叮组 项目描述 图书管理系统 队员风采 成员1 学号 2023021879 成员姓名 暗号 成员的博客地址 https://www.cnblogs.com/viperr/ 成员性格 沉着冷静 有团队精神 擅长的技术 JAVA 兴趣爱好 听歌 希望的软工角色 后端 一句话宣言 与其临渊羡鱼 ......
团队 老师

老师的叮组——团队展示

队名:老师的叮组项目描述:图书管理系统队员风采:成员1学号 2023021879成员姓名 暗号成员的博客地址 https://www.cnblogs.com/viperr/成员性格 沉着冷静 有团队精神擅长的技术 JAVA兴趣爱好 听歌希望的软工角色 后端一句话宣言 与其临渊羡鱼 不如退而结网 成员 ......
团队 老师

数据结构---树

数据结构 树 二叉树 特征 二叉树每个结点最多有2个子结点 二叉树的子树有左右之分 引理 二叉树中层数为 i 的结点至多有2^i个,i≥0 高度为k (k >=0)的二叉树中至少有k+1个结点。含有k (k >=1)个结点的二叉树高度至多为k-1 高度为k的二叉树中至多有2^(k+1)-1 (k>= ......
数据结构 结构 数据

情报搜集技术

情报搜集技术 外围信息搜索 通过DNS和IP地址挖掘目标网络信息 nslookup根据域名查询IP nslookup DNS记录类型 A 记录 - 把一个域名解析为一个IPv4地址 AAAA记录 - 把一个域名解析为IPv6地址 PTR - 把一个IP地址解析成域名 CNAME - 把一个域名解析成 ......
情报 技术

IOS返回上一页面数据不刷新

在ios上,返回上一页ios内核会直接从缓存中拿到上一个页面,而不会重新请求服务器,这也就意味着,整个页面拿出来后是静止的状态,无论是html css还是js都是处于一个暂停的状态。页面不会数据不会刷新。导致某些场景必须刷新页面数据的情况下产生bug。以下方式可以解决这一问题(亲测有效)。 在需要刷 ......
页面 数据 IOS

Struts与表现层技术的结合

Struts与表现层技术的结合 从这一章开始,将带领读者领略与Struts框架整合的各层技术或框架。它们将帮助读者更加深入地了解J2EE构架,也将帮助读者在今后的工作中利用更多的知识来实现需求。这一章的内容是Struts与表现层技术JSTL的整合使用。 9.1 概述 在JSP页面中,使用标签库代替传 ......
Struts 技术

豪情在天组——团队展示

一、团队名:豪情在天组 二、拟项目描述 豪情在天教务管理系统 三、团队成员风采 成员一: 学号:2023021820 昵称:llj175 博客园地址:https://www.cnblogs.com/llj175/ 成员性格:乐观,热情 擅长技术:前端 兴趣爱好:乒乓球,羽毛球 希望的软工角色:前端 ......
豪情 团队