Hive
sqoop1.4.7完全支持Hadoop3.x, Hive3.x Hbase2.x
已经修改好 保存至云盘 自己下载 花了时间的，记得关注我。。。 链接：https://pan.xunlei.com/s/VNe6P6Tm1A9Q-RG5GByN08rdA1# 提取码：5nke 复制这段内容后打开手机迅雷App，查看更方便 下载解压直接用，里面的内容已经改好 但是需要注意的是conf ......
hive启动整个流程
首先是start-all.sh然后打开历史服务器：mapred --daemon start historyserver最后首先启动metastore服务，然后启动hiveserver2服务nohup bin/hive --service metastore >> logs/metastore.lo ......
sqoop把hive中的数据导入mysql中文乱码问题解决
sqoop导出数据中文乱码问题我参考的这个博客sqoop把hive数据导入mysql出现中文乱码_mysql的表数据导入到hive表中文乱码_bboy枫亭的博客-CSDN博客 用方法一就行。剩下的就是测试。 测试样例 bin/sqoop export \ --connect "jdbc:mysql: ......
关于IDEA里面连接数据库找不到org.apache.hive.jdbc.Driver的问题
问题描述 昨天就很顺利地连接上了，今天直接找不到我的class了，吓出一身冷汗； 问题解决 后来发现导入的jar包的路径不太对，突然想起来jar包的位置被我移动了，但是IDEA里面并没有改变原来的位置，找不到jar包的问题， 重新将jar包的路径浏览一遍即可解决； ......
使用IDEA连接Hive数据库使用Java代码实现增删改查还需要一个Hive配置类
可以取名为：HiveConfig-- package com.example.config; import com.alibaba.druid.pool.DruidDataSource; import lombok.Data; import org.springframework.beans.fac ......
Hive进行增删改查语句命令之前，需要做的一些配置
1、在我们刚刚将Hive连接到IDEA之后 满怀期待地想要试一试sql语句，发现除了select和insert，其余的都会报错； 2、查阅资料发现，要是想要执行其余的语句 需要在虚拟机的hive-site.xml文件里面，添加上下面的语句： <property> <name>hive.support ......
IDEA远程连接Hive(首先要确保本机和虚拟机在一个公网上面，具有连通性)
1、开启hiveserver2服务 start-all.sh nohup /export/server/apache-hive-3.1.2-bin/bin/hive --service metastore & nohup /export/server/apache-hive-3.1.2-bin/bi ......
hive2.3.1部署
1.安装本人安装hive1.2.1的方式准备mysql和hive 2.不同点为配置hive-site.xml时，需要在文件中额外添加配置 <!--hive2需要初始换元数据 schematool -initSchema -dbType mysql--> <property> <name>datanu ......
FAILED: SemanticException Unable to determine if hdfs://localhost.localdomain:9000/root/software/apache-hive-3.1.2-bin问题的解决
# 问题描述 在hive数据库里面，使用select语句对表的数据进行查找，就出现了这个错误:  # 问题解决 这 ......
输入jps命令发现缺少namenode进程--同时猜想hive启动失败是由于缺少namenode进程的原因
# 问题描述  且  但是在尝试将**NONE ......
关于hive数据库添加信息到表中出现问题的原因细说
# 问题来源 在建表完成之后，尝试使用insert into语句向表中添加数据信息，然后就一直不能成功，当然，添加的数据信息与表的字段类型是对应的； # 问题解决 查阅相关资料发现，原来是虚拟机的内存不太够，然后就按照网上的建议，将下面的语句放置到hadoop下面的**yarn-site.xml** ......
HIVE将长整数转字符串的错误
有一个超长字符串，比如：441066000000001005712973，原来存放在HIVE里表A 是用DECIMAL(24)类型。现在要与另外一个用string类型保存这个字段的表B关联，老是失败。单独检查，发现它与表B的空值关联上。 单独使用语句检查： select cast(441066000 ......
org.apache.hadoop.hive.metastore.HiveMetaException: Schema initialization FAILED! Metastore state would be inconsistent !!问题的解决
# 问题描述 hive进行初始化时，出现这样的问题； # 问题解决 只要进入到我们的虚拟机安装配置的mysql里面，将我们hive-site.xml里面提及到的数据库删除，然后再进行初始化即可； 这次出错是因为，我之前已经初始化过，才出现了这个问题； ......
hive数据类型
Hive支持以下数据类型： 1. 基本数据类型： * TINYINT：一个非常小的整数，可以存储从0到255的整数值。 * SMALLINT：一个较小的整数，可以存储从-32768到32767的整数值。 * INT：一个标准的整数，可以存储从-2147483648到2147483647的整数值。 * ......
大数据实战-Hive-技巧实战_2LgaeiFwLs7mCTwG5T3c9M
# 大数据实战-Hive-技巧实战_2LgaeiFwLs7mCTwG5T3c9M # 大数据实战-Hive-技巧实战 # 1.union 和 union all - 前者可以去重 ```sql select sex,address from test where dt='20210218' unio ......
解决hive数据库的修改删除等更新语句问题
Hive对使用Update功能的表有特定的语法要求, 语法要求如下: (1)要执行Update的表中, 建表时必须带有buckets(分桶)属性 (2)要执行Update的表中, 需要指定格式,其余格式目前赞不支持, 如:parquet格式, 目前只支持ORCFileformat和AcidOutpu ......
Hive SQL如何获取(YYYYMM)格式年月的前1个月
如果当前年月为202301，前一个月就是202212，使用如下SQL可以将年月字段（YYYYMM格式）向前平移1个月： date_format(add_months(from_unixtime(unix_timestamp(concat(年月字段,'01'),'yyyyMMdd'),'yyyy-MM ......
hive客户端启动
1.sart-all.sh 2. 3.实现在其他虚拟机访问客户端 scp -r /export/server/apache-hive-3.1.2-bin root@node3:/export/server/ 4.在node3上面输入： /export/server/apache-hive-3.1.2 ......
hive-metastore服务启动方式
1.前台启动hive命令： /export/server/apache-hive-3.1.2-bin/bin/hive --service metastore 2.后台启动hive命令： ......
Hive处理json数组
思路：使用正则替换json数组内部json串之间的逗号。"},{" > "}|{"，再使用炸裂函数lateral view explod(split(col,"|"))将列转行，最后使用get_json_object()单独处理每个展开行的数据。 SELECT explode(split( rege ......
hive-explode 和 lateral view
### explode&lateral view explode与lateral view在关系型数据库中本身是不该出现的，因为他的出现本身就是在操作不满足第一范式的数据（每个属性都不可再分），本身已经违背了数据库的设计原理（不论是业务系统还是数据仓库系统），不过大数据技术普及后，在业务系统中是存贮 ......
HIVE-最大连续登陆天数
### 一、背景 在网站平台类业务需求中用户的「最大登陆天数」，需求比较普遍。原始数据： ```plsql u0001 2019-10-10 u0001 2019-10-11 u0001 2019-10-12 u0001 2019-10-14 u0001 2019-10-15 u0001 2019- ......
hive-拉链表
**工作中的拉链表是使用spark程序开发的，因为一些业务需求单纯使用sql解决不了，以下是使用纯sql写的拉链表**拉链表是针对数据仓库设计中表存储数据的方式而定义的，顾名思义，所谓拉链，就是记录历史。**记录一个事物从开始，一直到当前状态的所有变化的信息。**下面就是一张拉链表，存储的是用户的最 ......
Flink-读Kafka写Hive表
1. 目标 使用Flink读取Kafka数据并实时写入Hive表。 2. 环境配置 EMR环境：Hadoop 3.3.3, Hive 3.1.3, Flink 1.16.0 根据官网描述： https://nightlies.apache.org/flink/flink-docs-release-1 ......
Hive LAG函数分析
含义：LAG(col,n,DEFAULT) 用于统计窗口内往上第n行值 第一个参数为列名，第二个参数为往上第n行（可选，默认为1），第三个参数为默认值（当往上第n行为NULL时候，取默认值，如不指定，则为NULL） https://blog.csdn.net/weixin_43291055/arti ......
hive-四种排序
 #### 数据准备 ```plsql 2008 32.0 2008 21.0 2008 31.5 2008 17. ......
hive-表的操作
### 创建表 create table语句遵从sql语法习惯，只不过Hive的语法更灵活。例如，可以定义表的数据文件存储位置，使用的存储格式等。 ```plsql create table if not exists test.user1( name string comment 'name', ......