数据分析
Python对商店数据进行lstm和xgboost销售量时间序列建模预测分析|附代码数据
全文下载链接：http://tecdat.cn/?p=17748 最近我们被客户要求撰写关于销售量时间序列的研究报告，包括一些图形和统计输出。 在本文中，在数据科学学习之旅中，我经常处理日常工作中的时间序列数据集，并据此做出预测 我将通过以下步骤： 探索性数据分析（EDA） 问题定义（我们要解决什么 ......
R语言用贝叶斯层次模型进行空间数据分析|附代码数据
阅读全文：http://tecdat.cn/?p=10932 最近我们被客户要求撰写关于贝叶斯层次模型的研究报告，包括一些图形和统计输出。 在本文中，我将重点介绍使用集成嵌套 拉普拉斯近似方法的贝叶斯推理。可以估计贝叶斯 层次模型的后边缘分布。鉴于模型类型非常广泛，我们将重点关注用于分析晶格数据的空 ......
Python数据分析第五周作业随笔记录
家用热水器用户行为分析与事件识别 代码一：探索分析热水器的水流量状况 #代码10-1 探索分析热水器的水流量状况 import pandas as pd import matplotlib.pyplot as plt inputfile = "D:\\360MoveData\\Users\\8613 ......
如何用Python对股票数据进行LSTM神经网络和XGboost机器学习预测分析（附源码和详细步骤），学会的小伙伴们说不定就成为炒股专家一夜暴富了
最近调研了一下我做的项目受欢迎程度，大数据分析方向竟然排第一，尤其是这两年受疫情影响，大家都非常担心自家公司裁员或倒闭，都想着有没有其他副业搞搞或者炒炒股、投资点理财产品，未雨绸缪，所以不少小伙伴要求我这边分享下关于股票预测分析的技巧。基于股票数据是一个和时间序列相关的大数据，所以我打算给大家分享时... ......
分析RTP数据丢包与乱序
背景 问题描述： 某客户使用华为TE视频终端开会，会议偶发出现马赛克问题（每次马赛克持续2-4秒）。 设备通信： TE：视频终端，物理位置在A市 。MCU：类似视频服务器，物理位置在B市。开会时TE需要和MCU进行实时通信，中间经过运营商的专线。 初步分析： 视频有马赛克的话说明TE侧收到MCU发出 ......
数据分析基础笔记 - 数据可视化
一、可视化图表类型 趋势、分布、构成、比较和联系 趋势 数据是如何随着时间而发生变化，通过折线图或柱状图进行展示 分布 当关心数据的分布规律时，常会用散点图来展示不同分布特征，通过考察散点图中点的分布情况，来总结数据的分布模式或判断两个数据之间是否存在某种关联 构成 用于表示数据中每个部分占总体的比 ......
数据分析之家用热水器用户行为分析与事件识别
01-data_explore.py 1 # -*- coding: utf-8 -*- 2 3 # 代码10-1 4 5 import pandas as pd 6 import matplotlib.pyplot as plt 7 8 inputfile = './demo/data/origi ......
Python互联网大数据爬虫的武汉市二手房价格数据采集分析：Linear Regression模型、XGBoost模型和LightGBM模型
全文链接：http://tecdat.cn/?p=31958 原文出处：拓端数据部落公众号 分析师：Yan Liu 我国有大量的资金都流入了房地产行业，同时与其他行业有着千丝万缕的联系，可以说房地产行业对推动我国深化改革、经济发展、工业化和城市化具有不可磨灭的作用。目前对于二手房交易价格的预测主要考 ......
数据分析之营销管理方法论--用户使用行为分析
用户使用行为 1. 为什么要做用户使用行为分析？ 用户行为数据时指在产品内进行各种操作产生的数据。比如：访问、浏览和行为事件。每个访问时间可由多个浏览事件和点击事件构成。同样的可以理解为5个元素构成： who、when、 where、 how、 what。 谁在什么时间，什么地点以什么交互方式做了什 ......
数据分析之营销管理方法论--4P营销理论
4P营销理论 4P营销理论被归结为四个基本策略的组合，即产品（Product）、价格（Price）、渠道（Place）、宣传（Promotion），由于这四个词的英文字头都是P，再加上策略（Strategy），所以简称为“4P’s” 产品：产品是营销组合中第一个和最重要的要素。产品是品牌的载体，是满 ......
数据分析之数据分析方法
常用数据分析方法分类： 数据分析方法有很多种，需要根据业务场景中分析目的的不同，选择对应的分析方法，如果你的分析目的是想将复杂的问题变得简单，就可以使用逻辑树分析方法，例如经典的费米问题就可以用这个分析方法。如果你想分析用户的转化，就要用到漏斗分析方法，录入店铺小周销量下降，想知道中间那个业务环节出 ......
数据分析之数据建模
一、什么是数据建模？ （1）数据模型，就是在数据层面建立起来的一种逻辑关系的算法集合，该算法集合可以运算未来的同源数据，并产生可预期的结果。通俗说，模型就是算法或公式，如模型y=ax+b，通过该公式，输入x，可以得到y值。通过数据建模输出的模型，就是数据模型。 （2）数据建模是数据分析的一部分，数据 ......
数据分析第十章实践
import pandas as pd import matplotlib.pyplot as plt inputfile ='C:/Users/Lenore/Desktop/data\original_data.xls' # 输入的数据文件 data = pd.read_excel(inputfi ......
爬取的数据，存到mysql中、爬虫和下载中间件、加代理，cookie，header，加入selenium、去重规则源码分析（布隆过滤器）、scrapy-redis实现分布式爬虫
# 1 scrapy架构 -爬虫：写的一个个类 -引擎： -调度器：排队，去重 -下载器 -pipline -下载中间件 -爬虫中间件 # 2 命令 -scrapy startproject 项目名 -scrapy gensipder 爬虫名 网址 -scrapy crawl 爬虫名字 -run.p ......
0 爬取的数据，存到mysql中 、1 爬虫和下载中间件、 2 加代理，cookie，header，加入selenium、3 去重规则源码分析（布隆过滤器） 、4 scrapy-redis实现分布式爬虫
0 爬取的数据，存到mysql中 # 存到mysql中 class FirstscrapyMySqlPipeline: def open_spider(self, spider): print('我开了') self.conn = pymysql.connect( user='root', pass ......
Python对商店数据进行lstm和xgboost销售量时间序列建模预测分析|附代码数据
全文下载链接：http://tecdat.cn/?p=17748 最近我们被客户要求撰写关于销售量时间序列的研究报告，包括一些图形和统计输出 在本文中，在数据科学学习之旅中，我经常处理日常工作中的时间序列数据集，并据此做出预测 我将通过以下步骤： 探索性数据分析（EDA） 问题定义（我们要解决什么） ......
R语言中贝叶斯网络（BN）、动态贝叶斯网络、线性模型分析错颌畸形数据|附代码数据
全文链接：http://tecdat.cn/?p=22956 最近我们被客户要求撰写关于贝叶斯网络的研究报告，包括一些图形和统计输出。 贝叶斯网络（BN）是一种基于有向无环图的概率模型，它描述了一组变量及其相互之间的条件依赖性。它是一个图形模型，我们可以很容易地检查变量的条件依赖性和它们在图中的方向 ......
m基于果蝇优化的K-means数据聚类分析matlab仿真
1.算法描述 果蝇优化算法FOA（Fruit Fly Optimization Algorithm）是由台湾博士潘文超于2011年提出的，与蚁群算法和粒子群算法类似，是基于动物群体觅食行为演化出的一种寻求全局优化的新方法[1-3]。它不同于顺序执行的传统智能算法，而是以果蝇群体自组织性和并行性为基础 ......
[数据分析与可视化] Python绘制数据地图1-GeoPandas入门指北
本文主要介绍GeoPandas的基本使用方法，以绘制简单的地图。GeoPandas是一个Python开源项目，旨在提供丰富而简单的地理空间数据处理接口。GeoPandas扩展了Pandas的数据类型，并使用matplotlib进行绘图。GeoPandas官方仓库地址为：GeoPandas。GeoPa ......
精华推荐 |【算法数据结构专题】「延时队列算法」史上非常详细分析和介绍如何通过时间轮（TimingWheel）实现延时队列的原理指南
时间轮的介绍 时间轮（TimeWheel）是一种实现延迟功能（定时器）的精妙的高级算法，其算法应用范围非常广泛，在Java开发过程中常用的Dubbo、Netty、Akka、Quartz、ZooKeeper 、Kafka等各种框架中，各种操作系统的定时任务crontab调度都有用到，甚至Linux内核 ......
数据库系列：MySQL慢查询分析和性能优化
1 背景 我们的业务服务随着功能规模扩大，用户量扩增，流量的不断的增长，经常会遇到一个问题，就是数据存储服务响应变慢。 导致数据库服务变慢的诱因很多，而RD最重要的工作之一就是找到问题并解决问题。 下面以MySQL为例子，我们从几个角度分析可能产生原因，并讨论解决的方案。 2 定位慢查询的原因并优化 ......
开源分布式支持超大规模数据分析型数据仓库Apache Kylin实践-上
再下一城又一个实时多维交互式分析数仓利器，了解其特性和架构组成，进一步阐述相关概念和其生态圈；介绍作为开发测试最快捷方式的Docker单机部署；也基于Hadoop环境一步步部署最新v4.0.3二进制并解决遇到的问题，最后通过一个读取hive数据示例介绍kylin创建项目、选择数据源、创建Model、... ......
开源分布式支持超大规模数据分析型数据仓库Apache Kylin实践-下
本篇先通过Kylin对连接条件、维度和度量限制的示例弄清Kylin的使用注意事项，在此基础上研究Kylin查询引擎，并配置spark查询下压实现没有cube的查询；理解Cube的构建优化，通过官方提供RestAPI实现动态灵活查询和cube构建，最后通过集成JDBC的Java代码实现简单查询操作。 ......
大数据实时多维OLAP分析数据库Apache Druid入门分享-上
Apache Druid是⼀款针对海量数据进⾏⾼性能实时分析OLAP引擎的实时分析型数据库，本篇了解其特征和适用场景，并与其他框架横向对比；最后部署一个最新版本25.0.0单机版演示本地文件摄取入库,并演示基于Json API本地查询和SQL两种查询方式 ......
大数据实时多维OLAP分析数据库Apache Druid入门分享-下
了解Apache Druid的基础概念后，本篇进一步研究其核心架构和核心设计原理部分，了解相关外部依赖，对其数据摄取和查询有一定认识，然后通过搭建分布式集群进一步理解其架构组成，最后用一个示例从HDFS将数据摄取到Druid并演示两种查询方式 ......
2022数据分析： 电商天猫维生素类药品销售分析
前言 这篇数据分析记述了一次关于天猫维生素类的药品(2020-2021)销售数据的分析。 有些不足的地方，希望大家斧正。 题目 随着国家政策的逐步开放，越来越多的药品可以在网络上购买，医药电商平台蒸蒸日上，受新冠疫情的影响，线下药店购买困难，更让医药电商进入了更多消费者的视野，各大药企也纷纷加大力度 ......
R数据分析：孟德尔随机化中介的原理和实操
中介本身就是回归，基本上我看到的很多的调查性研究中在中介分析的方法部分都不会去提混杂，都是默认一个三角形画好，中介关系就算过去了，这里面默认的逻辑就是前两步回归中的混杂是一样的，计算中介效应的时候就自动消掉了。 但是，实际上对不对，还是有待具体分析的： Traditional, non-instru ......
【Django drf】 序列化类常用字段类和字段参数 定制序列化字段的两种方式 关系表外键字段的反序列化保存 序列化类继承ModelSerializer 反序列化数据校验源码分析
序列化类常用字段类和字段参数 常用字段类 # BooleanField BooleanField() # NullBooleanField NullBooleanField() # CharField CharField(max_length=None, min_length=None, allow ......