hadoop3 hadoop hive3 hive
将hive数据库中的数据导入到mysql数据库中时需要注意到的问题
在hive中使用jdbc将hive与mysql连接起来时 一定要注意到每个数据库不同的字段个数，在打算直接复制时，不能只是修改表的名称和字段名称，还要记得修改几个？ 那里，个数要与字段名称保持一致！！！ 不然就会报错（比如我）； ......
启动hive报错：Cannot create directory /tmp/hive. Name node is in safe mod
在使用：start-all.sh 命令启动完hadoop之后再启动metastore服务使用 /export/server/hive/bin/hive --service metastore 启动远程连接服务再输入命令 /export/server/hive/bin/hive 启动hive 但是无法 ......
每日学习之hive
Hive利用HDFS存储数据，利用MapReduce查询数据 Hive能将数据文件映射成为一张表，在hive中能够写sql处理的前提是针对表，而不是针对文件，因此需要将文件和表之间的对应关系描述记录清楚。映射信息专业的叫法称为元数据信息（元数据是指用来描述数据的数据）。元数据存储在关系型数据库中 H ......
关于hive中的com.google.common.base.Preconditions.checkArgument(ZLjava/lang/String;Ljava/lang/Object;)V报错
com.google.common.base.Preconditions.checkArgument(ZLjava/lang/String;Ljava/lang/Object;)V这个报错是因为Hive 3.1.3 guava 19.jar 和hadoop3.2.4 不兼容导致 解决方法—— 之后h ......
每日总结(hdfs文件导入到hive表)
1 CREATE TABLE employees ( 2 id INT, 3 name STRING, 4 age INT, 5 salary FLOAT 6 ) 7 ROW FORMAT DELIMITED 8 FIELDS TERMINATED BY ',' 9 STORED AS TEXTFI ......
使用 Databend 加速 Hive 查询
作者：尚卓燃（PsiACE） 澳门科技大学在读硕士，Databend 研发工程师实习生 Apache OpenDAL(Incubating) Committer https://github.com/PsiACE 随着架构的不断迭代和更新，大数据系统的查询目标也从大吞吐量查询逐步转移转向快速的交互式 ......
将从hive传到mysql数据库的数据使用Echarts进行可视化
1、使用JDBC连接数据库 //DBUtil.java package org.example; import java.sql.*; public class DBUtils { public static String db_url="jdbc:mysql://node1:3306/transp ......
每日总结|9.21-Hive搭建及报错解决方案
搭建 安装hive 把 apache-hive-3.1.2-bin.tar.gz 上传到 linux 的/opt/software 目录下 解压 apache-hive-3.1.2-bin.tar.gz 到/opt/module/目录下面 tar -zxvf /opt/software/apache ......
windows下安装和配置hadoop
1.安装hadoop 下载hadoop，下载地址： https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/ 建议不要下载最高版本，而是下载稳定版本，我下载的是3.2.3版本；将压缩包解压到安装目录，注意安装目录的路径中不要有空格； 我将h ......
将txt、csv等类型文件导入到hive数据库中
1、将.txt文件（以sample.csv文件为例）放到data文件夹下面 建议直接用上传进行文件的上传（命令的话，我还没搞清楚）； 2、进入到hive数据库中，根据txt文件信息创建表 create table test1 (day_id varchar(30),sale_nbr varchar( ......
hadoop权威指南
Hadoop权威指南 第1部分 Hadoop基础知识 第2章 关于MapReduce MapReduce分为两个阶段，map阶段和reduce阶段。map函数是数据准备阶段，它会准备好一个键值对的数据集合，然后交由reduce函数来处理，比如进行排序、分组、聚合等操作。 MapReduce处理示例， ......
关于hive数据库数据导入mysql数据库问题的解决
1、表结构对比 都是字符类型，在我看来么的问题； 2、导入依赖的包试试 sqoop export --connect 'jdbc:mysql://192.168.88.151:3306/transport?useUnicode=true&characterEncoding=utf-8' \ > -- ......
hive导出到mysql以及mysql导入到hive
hive导出到mysql： /export/server/sqoop-1.4.7.bin__hadoop-2.6.0/bin/sqoop export --connect jdbc:mysql://10.99.118.207:3306/db_msg --username root --passwor ......
关于hive中使用group by报错的问题的解决
问题描述+问题解决 在我在hive数据库中使用group by的函数时，如果在我们决定显示出来的字段名中有非聚合的字段（即字段名为原生字段名，并没有加什么SUM等聚合函数）， 那么，我们就必须在group by 后面引用上这个非聚合字段，否则就会报错； 同时，在我们写数据到新的数据表中时，一定要保证 ......
在阿里云和腾讯云的轻量应用服务器上搭建Hadoop集群
引入 本文在两台2核2g的云服务器上搭建了Hadoop集群，两台云服务器分别是阿里云（hjm）和腾讯云（gyt），集群部署规划如下： hjm gyt HDFS NameNode\SecondaryNameNode\DataNode DataNode YARN ResourceManager\Node ......
apache-paimon初体验 （hive用法待完善）
1.官网 https://paimon.apache.org/docs/master/engines/hive/ 2.安装flink 3.下载依赖包到flink lib目录下 4.运行yarnsession 创建Application-Name，并修改配置文件 ./bin/yarn-session. ......
hive的相关学习1---wordCount实例
1、新建一个名为file1.txt的txt文件存储数据 2、在sss数据库中新创建一个名为docs的表 create table if not exists docs(line string); 3、将file1.txt的数据导入到新创建的docs表中 load data local inpath ......
FAILED: HiveException java.lang.RuntimeException: Unable to instantiate org.apache.hadoop.hive.ql.metadata.SessionHiveMetaStoreClient问题的解决
问题描述 今天再次打开虚拟机（之前交完作业之后，就不敢再打开了，害怕看到报错信息），打开hive之后，启用hive命令时，发现了这个问题； 问题解决 经查阅资料发现，原来是因为我再使用hive命令之前，没有开启metastore服务和hiveserver2服务，先开启了这两个服务，再进入hive里面 ......
【Flink系列十九】java.lang.NoSuchMethodError: org.apache.hadoop.tracing.TraceUtils.wrapHadoopConf
问题 Flink 提交作业，直接报错: java.lang.NoSuchMethodError: org.apache.hadoop.tracing.TraceUtils.wrapHadoopConf(Ljava/lang/String;Lorg/apache/hadoop/conf/Configu ......
Hive的分区
在下面的代码中，我们创建了名为emp的分区表，使用关键字partitioned by： create table emp( name string, age int ) partitioned by (provice string,city string); 在这里，用partitioned by指 ......
Hive的ConfigurationProperties
Version Information Hive 0.14.0 adds new parameters to the default white list (see HIVE-8534). Hive 1.1.0 removes some parameters (see HIVE-9331). Hiv ......
本机hadoop version命令报错--JAVA_HOME is not set问题的解决
问题描述 输入hadoop version命令显示JAVA_HOME没有配置，但是本机的jdk配置正常！ 问题解决 编辑hadoop/etc/hadoop目录下的hadoop-env.cmd文件： 将JAVA_HOME的值换成本机的绝对路径； 保存退出，再次尝试： ......
配置本机的hadoop环境
1、下载对应的hadoop的压缩包和winutils包 并将下载好的包解压到自己对应的目录下面； 2、添加环境变量 在系统变量那里新增hadoop的本机路径： 在系统变量的Path里面新增： (C:\Program Files\NVIDIA Corporation\Nsight Compute 20 ......
Hadoop入门
第一章 Hadoop概述 1.1 Hadoop是什么 Hadoop是一个由Apache基金会所开发的分布式系统基础架构 主要解决，海量数据的存储和海量数据的分析计算问题 广义上来说，Hadoop通常是指一个更广泛的概念——Hadoop生态圈 1.2 Hadoop优势 高可靠性：Hadoop底层维护多 ......
(Windows Hadoop环境配置)IDEA：ERROR util.Shell: Failed to locate the winutils binary in the hadoop binary path
ERROR util.Shell: Failed to locate the winutils binary in the hadoop binary path 出错原因：还没有在windows上配置hadoop环境变量。 解决：在windows上配置hadoop环境变量 参考：windows下缺少 ......
Hive数据库中执行更新和删除数据操作
在Hive中，ACID表是支持ACID（原子性、一致性、隔离性和持久性）事务的表。这意味着这些表支持事务处理，如INSERT、UPDATE、DELETE和COMMIT操作。 然而，并非所有的Hive表都是ACID表。例如，如果你正在使用一个不支持ACID事务的Hive版本或配置，那么你可能无法在这些 ......
HIVE ASCII码
hive中的分割符使用八进制的ASCII码表示 1 八进制 十六进制 十进制 字符 使用方法 2 00 00 0 nul 3 01 01 1 soh 4 02 02 2 stx 5 03 03 3 etx 6 04 04 4 eot 7 05 05 5 enq 8 06 06 6 ack 9 07 ......
使用Python调用Hadoop Hdfs的API
一、Java调用hdfs的api import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.fs.FileSystem; import org.apache.hadoop.fs.Path; import org.jun ......
Failed to connect to server: hadoop/ip:9000: try once and fail.
hadoop 连接失败，报如下错误！ java.net.ConnectException: Connection refused at sun.nio.ch.SocketChannelImpl.checkConnect(Native Method) at sun.nio.ch.SocketChann ......