hive-dml hive dml dql
hive-metastore服务启动方式
1.前台启动hive命令： /export/server/apache-hive-3.1.2-bin/bin/hive --service metastore 2.后台启动hive命令： ......
Hive处理json数组
思路：使用正则替换json数组内部json串之间的逗号。"},{" > "}|{"，再使用炸裂函数lateral view explod(split(col,"|"))将列转行，最后使用get_json_object()单独处理每个展开行的数据。 SELECT explode(split( rege ......
DQL
# DQL #### 1、基础查询 1、select 字段1，字段2,... from 表名； select * from 表名；查询多个字段 2、select 字段1[as 别名1]... from 表名;设置别名 3、select distinct 字段列表 from 表名; 去除重复记录 ......
hive-explode 和 lateral view
### explode&lateral view explode与lateral view在关系型数据库中本身是不该出现的，因为他的出现本身就是在操作不满足第一范式的数据（每个属性都不可再分），本身已经违背了数据库的设计原理（不论是业务系统还是数据仓库系统），不过大数据技术普及后，在业务系统中是存贮 ......
HIVE-最大连续登陆天数
### 一、背景 在网站平台类业务需求中用户的「最大登陆天数」，需求比较普遍。原始数据： ```plsql u0001 2019-10-10 u0001 2019-10-11 u0001 2019-10-12 u0001 2019-10-14 u0001 2019-10-15 u0001 2019- ......
hive-拉链表
**工作中的拉链表是使用spark程序开发的，因为一些业务需求单纯使用sql解决不了，以下是使用纯sql写的拉链表**拉链表是针对数据仓库设计中表存储数据的方式而定义的，顾名思义，所谓拉链，就是记录历史。**记录一个事物从开始，一直到当前状态的所有变化的信息。**下面就是一张拉链表，存储的是用户的最 ......
DML操作
# DML操作 1、insert into 表名(字段1 ，字段2，...)values(值1，值2...);给指定字段添加数据 2、insert into 表名 values（值1，值2);给全部字段添加数据 3、批量添加数据 insert into 表名 values(1，2...),(1,2. ......
Flink-读Kafka写Hive表
1. 目标 使用Flink读取Kafka数据并实时写入Hive表。 2. 环境配置 EMR环境：Hadoop 3.3.3, Hive 3.1.3, Flink 1.16.0 根据官网描述： https://nightlies.apache.org/flink/flink-docs-release-1 ......
MySQL数据库：第十四章：（DML）Data Manipulation Language数据操纵语言
回退至Mysql数据库理论与实战 #DML语句 ★ Data Manipulation Language数据操纵语言关键字：insert 、update 、delete USE stu0906;CREATE TABLE stuinfo(id INT,stuname VARCHAR(20) NOT N ......
Hive LAG函数分析
含义：LAG(col,n,DEFAULT) 用于统计窗口内往上第n行值 第一个参数为列名，第二个参数为往上第n行（可选，默认为1），第三个参数为默认值（当往上第n行为NULL时候，取默认值，如不指定，则为NULL） https://blog.csdn.net/weixin_43291055/arti ......
hive-四种排序
 #### 数据准备 ```plsql 2008 32.0 2008 21.0 2008 31.5 2008 17. ......
hive-表的操作
### 创建表 create table语句遵从sql语法习惯，只不过Hive的语法更灵活。例如，可以定义表的数据文件存储位置，使用的存储格式等。 ```plsql create table if not exists test.user1( name string comment 'name', ......
hive-同比环比
HIVE-同比环比 定义 详情： （1）同比：本期与同期做对比。（2）环比：本期与上期做对比。 同比：通常是指今年第n月与去年第n月比。同比发展速度主要是为了消除季节变动的影响，用以说明本期发展水平与去年同期发展水平对比而达到的相对发展速度。常用于分析数据的长期趋势。环比：通常是指表示连续2个单位周 ......
hive函数
运算函数 1、取整函数: round 语法: round(double a) 返回值: BIGINT 说明: 返回double类型的整数值部分 （遵循四舍五入） hive> select round(3.1415926) from iteblog; 3 hive> select round(3.5) ......
技术实践｜Hive数据迁移干货分享
导语 Hive是基于Hadoop构建的一套数据仓库分析系统，可以将结构化的数据文件映射为一张数据库表，并提供完整的SQL查询功能。它的优点是可以通过类SQL语句快速实现简单的MapReduce统计，不用再开发专门的MapReduce应用程序，从而降低学习成本，十分适合对数据仓库进行统计分析。 近几年 ......
Spring Boot集成Mybatis-plus+hive
运行环境 jdk1.8 springboot：2.7.15 1.在pom.xml文件中加入 <dependency> <groupId>com.baomidou</groupId> <artifactId>mybatis-plus-boot-starter</artifactId> <version ......
hive SQL案例
上个月用户连续n天登录天数 用户登录记录表user_login，包括用户id（user_id）、日期（login_date） user_id login_date 12333256 2021-01-03 84272916 2021-01-03 94038271 2021-01-02 20193401 ......
数据库基本语法四 数据库查询（DQL）
数据查询语言（DQL）是SQL语言中的一部分，主要用于查询数据库中的数据。DQL允许用户根据特定的条件来检索表中的数据，并且可以包含一些基本的操作和条件。 语法结构： SELECT 列名称1 , 列名称2 FROM 表名称; 其中，SELECT指定要检索的列，FROM指定要查询的表，WHERE指定筛 ......
DQL-练习数据
create table emp ( id int comment '编号', workno varchar(10) comment '工号', name varchar(10) comment '姓名', gender char comment '性别', age tinyint unsigned ......
Hive 刷题——银行可以支付监测
场景说明 有一个支付流水表，关键字段：用户，交易时间，交易金额，现在规定：两个小时内交易此时大于2且交易总结金大于100000的用户为可疑用户，现在需要使用HiveSQL 进行监测 数据准备 CREATE TABLE transfer_log ( log_id INTEGER, log_ts TIM ......
Hive服务部署相关步骤
# 一、hiveserver2服务部署 # 1、配置hadoop下面的core-site.xml文件 进入到相应的目录下： ``` cd /root/software/hadoop-3.0.0/etc/hadoop ``` 编辑core-site.xml文件，将下面的语句补充到里面： ``` had ......
spingboot集成hive
因为开学要考就是把数据库换成hive那些做个web网站，所有提前做个小demo测试下。 首先呢就是pom文件 <?xml version="1.0" encoding="UTF-8"?> <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns ......
hive整个服务启动流程
首先是 start-all.sh 然后打开历史服务器： mapred --daemon start historyserver 最后首先启动metastore服务，然后启动hiveserver2服务 nohup bin/hive --service metastore >> logs/metasto ......