博客8.13 hive 8.7
笑死~我的博客美化脚本分享
笑死~我的博客美化脚本分享 前置提醒 本页面使用魔法代码，与其他页面的代码块不同，本页所有代码块不自动换行。 使用如下代码实现： <style> .cnblogs-markdown pre code, .blogpost-body pre code { white-space: nowrap !im ......
Hive常见问题
Hive常见问题 1、hive创建数据库 在使用hive指令创建数据库时，指定创建位置 create database bigdata_demo1 location '/bigdata_29'; 在shell脚本中显示创建返回结果 但是在hdfs中并未找到该数据库； 这里可能是bug，于是我们通过第 ......
个人博客详细设计说明书
 ，# 的数量代表标题的级别，数量越低级别越高 Markdown 语法 HTML 预览效果 # 标题 1 <h1>标题 1</h1> 标题 1 ## 标题 2 <h2 ......
Skywalking(8.7)安装以及docker镜像打包
Skywalking安装以及docker镜像打包 Skywalking版本：apache-skywalking-apm-es7-8.7.0 ES版本：7.17.2 一.下载Skywalking的安装包 下载地址：Index of /dist/skywalking/8.7.0 (apache.org) ......
如果有人在你的论坛、博客，乱留言、乱回复，怎么办？
作者：小傅哥 博客：https://bugstack.cn 沉淀、分享、成长，让自己和他人都能有所收获！😄 哈喽，大家好我是技术UP主小傅哥。 常听到一句话：你很难赚到你认知以外的钱💰，屁！不是很难，是压根赚不到。 你以为要是你做也能做，但其实除了你能看见的以外，还有很多东西都不知道。 我看过不 ......
装载数据时报错：Failed to execute spark task, with exception 'org.apache.hadoop.hive.ql.metadata.HiveException(Failed to create spark client.)'
错误还原 hive (edu)> insert into huanhuan values(1,'haoge'); Query ID = root_20240110071417_fe1517ad-3607-41f4-bdcf-d00b98ac443e Total jobs = 1 Launching ......
【前端】统计博客园阅读总量
✨效果展示 在博客后台页面运行以下代码 截止2024-1-9，阅读总量已达28w！！ ✨代码实现 /** 输入别人的博客园地址名称 */ function countBlogReadings(CnblogsName){ console.log("正在统计 "+CnblogsName+" 的博客的总阅 ......
博客园页面定制-绿色简约风
效果图 博客侧边公告 <style> #back-top { position: fixed; bottom: 10px; right: 5px; z-index: 99; } #back-top span { width: 50px; height: 64px; display: block; b ......
作业6 数据仓库Hive
一. 单选题（共3题，9分） 1. (单选题, 3分)下面关于Hive的描述错误的是： A. Hive是一个构建在Hadoop之上的数据仓库工具 B. Hive是由Facebook公司开发的 C. Hive在某种程度上可以看作是用户编程接口，其本身并不存储和处理数据 D. Hive定义了简单的类似S ......
安装HUE并配置连接Hive&Flink&TIDB
安装依赖包 yum install ant asciidoc cyrus-sasl-devel cyrus-sasl-gssapi cyrus-sasl-plain gcc gcc-c++ krb5-devel libffi-devel libxml2-devel libxslt-devel mak ......
Flink Sql On Hive
TableEnvironment // ********************** // FLINK STREAMING QUERY // ********************** import org.apache.flink.streaming.api.environment.Stream ......
Hive建表语句示例
CREATE EXTERNAL TABLE `ods_baidu_news`( `domain` string, `sitename` string, `sourceurl` string, `casedatatype` string, `fetchtype` int, `casename` str ......
Hive之set参数大全-5
I 限制外部表数据插入 set hive.insert.into.external.tables=true; 在Apache Hive中，通过INSERT INTO语句向外部表（External Table）插入数据时，有一些注意事项和限制。外部表是Hive中的一种特殊表，它与Hive管理的存储位置 ......
Hive之set参数大全-6
L 指定是否启用延迟评估（lazy evaluation）的扩展布尔字面量 在 Apache Hive 中，hive.lazysimple.extended_boolean_literal 是一个配置属性，用于指定是否启用延迟评估（lazy evaluation）的扩展布尔字面量。延迟评估可以提高性 ......
Hive之set参数大全-7
指定 Hive LLAP（Live Long and Process） 守护进程的委托令牌的生存期 在 Apache Hive 中，hive.llap.daemon.delegation.token.lifetime 是一个配置属性，用于指定 Hive LLAP（Live Long and Proc ......
Hive之函数解析
1.1 查看系统自带的函数 -- 查看系统自带函数 show functions; -- 查看自带函数的用法 desc/describe function 函数名; -- 查看自带函数的具体用法 desc/describe function extended 函数; 1.2 窗口函数 1.2.1 相 ......
博客澄清
从二分法开始，我都摘录了力扣和代码随想录的解法，CV的时候发现有“非商业用途请标注出处”，但是我自私了一下，觉得不美观，我写这个博客的初衷是总结给自己看的，所以接下来我复制下来都不会表明出处的哦，如果涉及到您的利益请联系我及时止损！谢谢！ ......
Hive文件存储格式
结论： Text File，Parquet ，ORC Files结合使用，优先使用前两种，对存储及查询性能有极高要求时使用ORC。 存储格式 使用场景 Text File 数据直观，便于查看和编辑，数据量较小的维表可以使用. Parquet 支持深度嵌套，可用于多种数据处理框架（Hive/Spark ......
Hive 数据写入流程
概念简介 外部表：删除表时，外部表只删除元数据,不删除数据。适用于数据源被多处使用的场景，便于数据共享。 内部表：删除表时，内部表的元数据和数据会被一起删除。适用于不需要共享的原始数据或中间数据。 分区表：数据较多，为提高计算速度时使用。 内部表&外部表写入流程图 具体流程Demo 以外部表为例： ......
hive分区表数据导入
数据库分区的主要目的是为了在特定的SQL操作中减少数据读写的总量以缩减响应时间，主要包括两种分区形式：水平分区与垂直分区。水平分区是对表进行行分区。而垂直分区是对列进行分区，一般是通过对表的垂直划分来减少目标表的宽度，常用的是水平分区. 1. hive建立分区表 create external ta ......
Hive 复杂数据类型Array，Map，Struct
建表语句，支持嵌套 CREATE TABLE parquet_test ( id int, str string, mp MAP<STRING,STRING>, lst ARRAY<STRING>, strct STRUCT<A:STRING,B:STRING>) PARTITIONED BY (p ......
Hive写入JSON数据
优缺点： 1.JsonSerDe对json数据格式有严格要求，创建的表结果必须与json结构能对应上，否则会报错。 配置 org.openx.data.jsonserde.JsonSerDe 能解决格式异常报错导致整个任务终止的问题。 必须定义好详细字段嵌套的规则类型，不适合提取ODS原文。 2.g ......
Hive Array数据处理
建表 CREATE TABLE IF NOT EXISTS default.array_test( id String COMMENT 'id', name Array<String> COMMENT '名称' ) COMMENT 'array测试' ROW FORMAT DELIMITED FIE ......
安装HUE并配置连接Hive&Flink&TIDB
创建用户 groupadd hadoop useradd -g hadoop hadoop 解压编译 wget https://cdn.gethue.com/downloads/hue-4.8.0.tgz PREFIX=/usr/share make install 集成Hive Conf 在/op ......
Atlas集成Hive
修改atlas-application.properties 添加atlas.hook.hive.synchronous=false atlas.hook.hive.numRetries=3 atlas.hook.hive.queueSize=10000 atlas.cluster.name=pri ......
Hive之set参数大全-1
A 控制是否允许在需要时按需加载用户定义函数（UDF） hive.allow.udf.load.on.demand 是 Apache Hive 中的一个配置属性，用于控制是否允许在需要时按需加载用户定义函数（UDF）。 在 Hive 中，UDFs是用户编写的自定义函数，可以在 Hive SQL 查询 ......
Hive之set参数大全-2
C 指定是否启用表达式缓存的评估 hive.cache.expr.evaluation 是 Hive 中的一个配置属性，用于指定是否启用表达式缓存的评估。表达式缓存是一项优化技术，它可以在执行查询时缓存表达式的评估结果，以减少计算开销。 在 Hive 配置中，可以使用以下方式设置 hive.cach ......
Hive之set参数大全-3
D 是否启用本地任务调试模式 hive.debug.localtask 是 Apache Hive 中的一个配置参数，用于控制是否启用本地任务调试模式。在调试模式下，Hive 将尝试在本地模式下运行一些任务，以便更容易调试和分析问题。 具体来说，当 hive.debug.localtask 被设置为 ......