数据处理 客户端 客户 服务器
Day 21 21.3 数据库之MongoDB
MongoDB 一般爬虫使用的数据库，是根据项目来定的。 如需求方指定了使用什么数据库、如果没指定，那么决定权就在爬虫程序员手里， 如果自选的话，mysql 和mongodb 用的都是比较多的。 但不同的数据库品种有各自的优缺点，不同的场景任何一种数据库都可以用来存储，但是某种可能会更好。 比如如果 ......
linux内核数据结构 --- list_head
以 struct kobject 为例，讲解如何使用链表 struct list_head struct kobject { const char *name; struct list_head entry; struct kobject *parent; ... }; struct list_he ......
Day 21 21.2 数据库之Python操作redis
Python操作redis （1）连接redis # 方式1 import redis r = redis.Redis(host='127.0.0.1', port=6379) r.set('foo', 'Bar') print(r.get('foo')) # 方式2 import redis po ......
Day 21 21.4 数据库之Python操作MongoDB
PyMongo 在这里我们来看一下Python3下MongoDB的存储操作，在本节开始之前请确保你已经安装好了MongoDB并启动了其服务，另外安装好了Python的PyMongo库。 安装： pip install pymongo 添加文档 import pymongo client = pymo ......
Day 20 20.1 数据库之MySQL安装
数据库 假设现在你已经是某大型互联网公司的高级程序员，让你写一个火车票购票系统，来hold住十一期间全国的购票需求，你怎么写？ 在同一时段抢票的人数如果太多，那么你的程序不可能运行在一台机器上，应该是多台机器一起分担用户的购票请求。 那么问题就来了，票务信息的数据存在哪里？存在文件里么？ 如果存储在 ......
Day 20 20.2 数据库之MySQL基础
基本概念 前面的学习中我们提到，mysql是关系型数据库， 所以我们要操作mysql就需要使用SQL（结构化查询语言）。 SQL规范 1. 在数据库管理系统中，SQL语句关键字不区分大小写(但建议用大写) ，参数区分大小写。建议命令大写，数据库名、数据表名、字段名统一小写，如数据库名、数据表名、字段 ......
Day 20 20.3 数据库之Python操作MySQL
Python操作MySQL import pymysql # 打开数据库连接 db = pymysql.connect(host='localhost', user='root', passwd='...', port=3306,datebase='...') print('连接成功！') # 使用 ......
SpringBoot集成Activiti7-单独配置数据源
框架：SpringBoot + Mybatis + Activiti7 思路： 单独给mybatis和activiti配置datasource Mybati配置单数据源方法 单数据源只需要在yml中配置 url: jdbc:mysql://localhost:3306/localtest?serve ......
'林子雨大数据' 实验3 HBase操作与接口编程
“林子雨大数据” 实验3 HBase操作与接口编程 环境搭建 VM虚拟机和Ubuntu系统的安装 在Windows中使用VirtualBox安装Ubuntu虚拟机（2020年7月版本）_厦大数据库实验室博客 (xmu.edu.cn) Hadoop安装（伪分布式） Hadoop3.1.3安装教程_单机 ......
Python数据分析第六周作业随笔记录
电子商务网站用户行为分析 import osimport pandas as pd # 修改工作路径到指定文件夹os.chdir("D:/数据挖掘实验") # # 第一种连接方式# from sqlalchemy import create_engine # engine = create_engi ......
13、百万数据分割颗粒度与异步线程实现
声明百万数据List集合： /** * 声明百万数据 * */ private static List<QueryVO> dataList(){ List<QueryVO> list = new ArrayList<>(); QueryVO queryVO = null; int j = 0; fo ......
单细胞转录组测序数据生物信息分析进展综述
摘要：随着单细胞测序技术的发展，生物信息学在单细胞数据分析方面取得了重要进展。本文将为生物和医学科研工作者介绍单细胞转录组测序数据生物信息分析的进展，重点介绍该领域的最新研究成果和常用软件包。 引言 单细胞转录组测序（scRNA-seq）技术已经成为研究细胞异质性和功能的重要手段。为了从海量的单细胞 ......
数据校验
在项目开发中，数据校验是必须要考虑和面对的事情。应用程序应该通过某种手段来确保存入数据库中的数据从语义上来讲是正确的。在通常的情况下，应用程序是分层的，不同的层由不同的开发人员来完成。很多时候同样的数据验证逻辑会出现在不同的层，这样就会导致代码冗余和一些管理的问题，如说语义的一致性等。为了避免这种情 ......
5 分钟读懂开源服务框架 Dubbo 及其最新规划
Apache Dubbo 是一款微服务开发框架，它帮助解决微服务开发中的通信问题，同时为构建企业级微服务的提供服务治理能力，Dubbo 不绑定编程语言，我们的目标是为所有主流语言提供对等的微服务开发体验。 ......
【递归 WITH】递归查询树结构数据
递归语句 WITH tempTable(ID) AS ( SELECT ID FROM sys_menu WHERE ID = '05161001' AND DEL_STATUS = 1 UNION ALL SELECT m.ID FROM sys_menu m JOIN tempTable ON ......
CentOS7-启动|重启|停止|状态服务脚本
源码编译安装方法 1、上传包nginx-1.10.0.tar.gz至服务端 # 解压到工作目录 [root@template ~]# tar xf nginx-1.10.0.tar.gz -C /usr/local/src/ # 切换至Nginx目录下，找到configure [root@templ ......
Python 多线程死循环挂服务器时CPU占用过高问题
我的某个程序里有这样一段代码，把程序挂在服务器爬取信息，因此用到死循环，同时又需要进行三个任务，于是使用了多线程。 刚开始在死循环部分并没有加time.sleep(60)，于是它一直在for循环，同时会进行.is_alive()（不确定这个消耗大不大），但总之这使得CPU占用过高。 而加上sleep ......
Linux数据分析之九个给力的命令行工具
导读 要对数据进行分析，大家会从哪里入手?对于大多数熟悉了图形工作环境的朋友来说，电子表格工具无疑是第一选项。但命令行工具同样能够更快更高效地解决问题——且只须稍微学习即可上手。 要对数据进行分析，大家会从哪里入手? 对于大多数熟悉了图形工作环境的朋友来说，电子表格工具无疑是第一选项。但命令行工具同 ......
MYSQL数据库基础（1）
一、数据库的历史 1、简介 数据库技术，是之前60年代开始兴起的一门信息管理自动化的新兴学科，是计算机科学中的一个重要分支。随着计算机应用的不断发展，数据处理越来越占主导地位，数据库技术的应用也越来越广泛。数据管理是数据库的核心任务，内容包括对数据的分类、组织、编码、存储、检索和维护，数据库是以一定 ......
第十一章——电子商务网站用户行为分析及服务推荐
一、python访问数据库 import pandas as pd from sqlalchemy import create_engine engine = create_engine('mysql+pymysql://root:102011@localhost/test?charset=utf8 ......
家用热水器数据分析
import pandas as pd import matplotlib.pyplot as plt inputfile = r'E:\python数据分析\Python数据分析与挖掘实战（第2版）\chapter10\demo\data/original_data.xls' # 输入的数据文件 ......
Springboot 系列 (27) - Springboot+HBase 大数据存储（五）| HBase REST 服务
REST (Representational State Transfer) 即表述性状态传递，是 Roy Fielding 博士 2000 年在他的博士论文中提出来的一种软件架构风格。它是一种针对网络应用的设计和开发方式，可以降低开发的复杂性，提高系统的可伸缩性。在三种主流的 Web 服务实现方案 ......
Demo03 数据类型 类型转换 内存溢出
关键字 数据类型 java 是强类型语言 要求变量的使用要严格符合规定，所有变量都要先定义后才能使用 Java的数据类型分为两大类 基本类型(primitive type) 引用类型(reference type) public class Demo02 { public static void m ......
主从数据库
主从数据库 1、概念 Linux中，数据库服务有三种：互为主主，互为主从，一主一从（主从数据库） 互为主主：数据库实时更新 互为主从：数据库达到一定的容量再更新 一主一从：主数据库可同步到从数据库，但从数据库不能同步到主数据库 软件包 mariadb mariadb-server 服务名 maria ......
通达信导出历史数据
您好，这是Bing。根据网上搜索结果，通达信软件导出指数的历史数据的方法有以下几种： 一种是在通达信软件的 [系统]菜单中选择 [盘后数据下载]选项，然后选择沪深日线页面，勾选 [日期和实时行情数据]选项，选择要下载的时间范围和品种代码，点击 [开始下载]按钮¹²。下载完成后，在通达信软件的 [系统 ......
Current request is not a multipart request 在tinymce中用XMLHttpRequest上传图片到服务器报错
1、尝试解决。将header的content-type参数的值改为multipart/form-data。 接着就报了 the request was rejected because no multipart boundary was found 2、网上的方法都试遍了，发现还是无法找到解决方法。 ......
Onetable：统一的表格式元数据表示
概括 Onehouse 客户现在可以将他们的 Hudi 表查询为 Apache Iceberg 和/或 Delta Lake 表，享受从云上查询引擎到顶级开源项目的原生性能优化。 在数据平台需求层次结构的基础上，存在摄取、存储、管理和转换数据的基本需求。 Onehouse 提供这种基础数据基础架构作 ......