常量 语言学习 变量 语言

【博学谷学习记录】超强总结,用心分享 | hive

【博学谷IT技术支持】 # 一、介绍 `hive`是基于`hadoop`的数据仓库工具,用来进行数据的提取、转化、加载,是一种可以存储、查询和分析存储在`hadoop`中的大规模数据机制。`hive`将结构化的数据文件映射为一张数据库表,并提供`SQL`查询功能,将SQL语句变成`MapReduce ......
hive

【博学谷学习记录】超强总结,用心分享 | MapReduce

【博学谷IT技术支持】 # 一、介绍 MapReduce是一种编程模型,用于大规模数据集的并行运算。是指定一个Map(映射)函数,用来把一组键值对映射成一组新的键值对,指定并发的Reduce(规约)函数,用来保证所有映射的键值对中的每一个共享相同的键组。 ## 特点与局限性 mapReduce特点: ......
MapReduce

【博学谷学习记录】超强总结,用心分享 | HDFS

【博学谷IT技术支持】 # HDFS HDFS又称分布式系统,采用了主从(Master/Slave)结构模型,一个HDFS集群是由一个NameNode和若干个DataNode组成的。其中NameNode作为主服务器,管理文件系统的命名空间和客户端对文件的访问操作;集群中的DataNode管理存储的数 ......
HDFS

【博学谷学习记录】超强总结,用心分享 | HDFS读写流程

【博学谷IT技术支持】 # HDFS写流程 ![请添加图片描述](https://img-blog.csdnimg.cn/68f8f826c29b47dca07d3c6f22c6be20.png) 上图是HDFS的写流程图 主要步骤如下 - client向服务器发起上传请求(RPC) - NameN ......
流程 HDFS

博学谷学习记录】超强总结,用心分享 | hive的内置函数

【博学谷IT技术支持】 # 操作 ## 内置函数 ### 数学函数 - 取整函数round ``` -- 取整函数 第一个为值,第二个为保留几位小数,取证规则四舍五入 select round(2.2222); -- 2 select round(2.5); 3 select round(2.555 ......
函数 hive

【博学谷学习记录】超强总结,用心分享 | hive 查询、分组、join

【博学谷IT技术支持】 ## 查询 ### 常用函数 - 常用函数 ``` 常用函数 -- 求总行数(count) select count(1) from score; -- 36 -- 求分数的最大值(max) select max(sscore) from score; 99 -- 求分数的最 ......
hive join

【博学谷学习记录】超强总结,用心分享 | Linux 赋值和读取相关命令

【博学谷IT技术支持】 # 一、linux命令 linux命令是对liunx系统进行管理的命令。通过命令使linux系统能正常运行。liunx命令在系统中有两种类型:内置shell命令和linux命令。 # 二、赋值和读取相关命令 **cp 赋值文件命令** - cp -a a4 a5: 该命令会赋 ......
命令 Linux

【博学谷学习记录】超强总结,用心分享 | 数据倾斜

【博学谷IT技术支持】 # 什么是数据倾斜? 这个概念在百度百科中解释为在分布式缓存的集群中,不同节点负责处理一定范围的缓存数据。如果缓存数据分散度不够,导致大量的缓存数据集中到一台或者几台服务节点上,称为数据倾斜。一般来说数据倾斜是由于负载均衡实施的效果不好引起的。 简单的讲就是单个计算节点的计算 ......
数据

【博学谷学习记录】超强总结,用心分享 | hadoop的组成

【博学谷IT技术支持】 公众号: 积雷山摩云洞,欢迎关注!!! # hadoop的构成 hadoop集群主要包含:HDFS集群、MapReduce、YARN集群。HDFS集群复制海量数据的存储,MapReduce负责海量计算,Yarn集群存在数据运算时的资源调度。 - hdfs集群主要包含了角色na ......
hadoop

【博学谷学习记录】超强总结,用心分享 | yarn的执行流程

【博学谷IT技术支持】 # yarn的组成部分 hadoop是由Common、HDFS、YARN、MapReduce等核心模块组成,yarn负责解决资源调度问题,这里介绍下yarn的业务执行流程。 - yarn是Master/Slave结构,主要包含ResourceManage、NodeManage ......
流程 yarn

【博学谷学习记录】超强总结,用心分享 | hive 日期函数与条件函数

【博学谷IT技术支持】 公众号: 积雷山摩云洞,欢迎关注!!! # 操作 ## 日期函数 - 获取当前时间 ``` -- 获取当前时间 -- 获取年月日 select `current_date`(); -- 2022-10-30 -- 获取年月日时分秒 select `current_timest ......
函数 条件 日期 hive

【博学谷学习记录】超强总结,用心分享 | hive分区与分桶的区别

【博学谷IT技术支持】 公众号: 积雷山摩云洞,欢迎关注!!! # 概念 - 分区表: 将数据分散到多个子目录中,在执行查询是,可以根据条件加快查询效率 - 分桶表:是相对分区更细的颗粒度划分,分桶表是将表查分到不同的文件中,根据数据表某列的hash值进行分区,对某列数据分区就是对该列属性值的has ......
hive

go语言的defer

## go语言的defer机制可以避免其他语言时处理错误,要在每个分支执行关闭、回收资源的繁杂问题。 #### 百闻不如一见,看的教程再多,也不如自己实际编程,调试来得方便。 ### 以下为根据测试代码段进行总结的过程。 #### 1. ```go package main import "fmt" ......
语言 defer

【博学谷学习记录】超强总结,用心分享 | MapReduec编程

【博学谷IT技术支持】 # 一、介绍 MapReduce是将一个大的计算任务拆分成一个个小任务,让小任务在不同的计算机中进行处理,最后将任务的结果进行汇总的过程。 MR的工作流程可以分为三个阶段,分别是map、shuffle、reduce # 二、编程 ## Mapper阶段 自定义一个类来集成Ma ......
MapReduec

【博学谷学习记录】超强总结,用心分享 | jupyter常用功能

# jupyter 安装 文档地址https://jupyter.org/install ```js pip install notebook ``` 启动命令 ```js jupyter notebook ``` # jupyter-themes 修改主题 安装主题 https://github. ......
常用 jupyter 功能

【博学谷学习记录】超强总结,用心分享 | hbase基础操作

【博学谷IT技术支持】 # HBase的介绍 - HBase 是一个高可靠性、高性能、面向列、可伸缩的分布式操作系统。 - 它是建立在HDFS之上的数据库系统,HBase是不支持SQL的,没有表关系,也无法join,不支持事务。 - HBase是基于google发布BigTable这篇论文而产生的, ......
基础 hbase

【博学谷学习记录】超强总结,用心分享 | 系统资源监控-psutil

【博学谷IT技术支持】 # 一、 介绍 [psutil](https://psutil.readthedocs.io/en/latest/#install-1)(python 系统和进程实用程序)是一个跨平台库,用于 在**Python中检索有关正在运行的** **进程**和**系统利用率**(CP ......
psutil 系统 资源

【博学谷学习记录】超强总结,用心分享 | python基础学习(数据类型,运算符)

【博学谷IT技术支持】 # 基础数据类型 Python 中的变量不需要声明。每个变量在使用前都必须赋值,变量赋值以后该变量才会被创建 ## 赋值方式 1. 直接赋值 ```js a = 1 #整型变量 b = 1.0 #浮点型变量 c = 'abc' #字符串 ``` 2. 多个赋值 ```js a ......
运算符 类型 基础 数据 python

go中的并发学习

### 代码源自于https://github.com/lotusirous/go-concurrency-patterns #### 自此对各个示例代码进行调试。 #### [1-boring](https://github.com/lotusirous/go-concurrency-patter ......

博学谷学习记录】超强总结,用心分享 | mongodb基础用法

【博学谷IT技术支持】 # 数据库连接 后端数据库连接语法: ```js mongodb://[username:password@]host1[:port1][,host2[:port2],...[,hostN[:portN]]][/[database][?options]] ``` 1. mon ......
mongodb 基础

【博学谷学习记录】超强总结,用心分享 | 集合

【博学谷IT技术支持】 # 集合 - 集合根据存储分为单列集合**java.util.Collection**和双列结合**java.util.Map**, - 集合的长度是可变的, - 集合只能存引用数据类型,如果要存基本数据类型,需要存对应的包装类。 - 数组可以存基本数据类型和引用数据类型 # ......

【博学谷学习记录】超强总结,用心分享 | java基础

【博学谷IT技术支持】 # 前言 `java是一门非常好的语言,比较有必要学习一下:` 随着科技发展,只会前端是不行的,学习一门后端序言非常有必要,这里记录下自己学习的过程。 # 一、数据类型 java是一种强类型语言,数据必须明确类型。 基础数据类型有8种,分别是 - 整数类型:byte, sho ......
基础 java

博学谷学习记录】超强总结,用心分享 | 常用api

【博学谷IT技术支持】 # 常用API ## Math类的常用方法 方法名 说明 public static int abs(int a) 返回参数的绝对值 public static double ceil(double a) 向上取整 public static double floor(dou ......
常用 api

mysql语言

空值参与运算SELECT employee_id,last_name,salary * 12 * (1 + IFNULL(commission_pct,0)) AS "年薪"FROM employees; ......
语言 mysql

各个语言运行100万个并发任务需要多少内存?

## 译者注: 原文链接:https://pkolaczk.github.io/memory-consumption-of-async/ Github项目地址:https://github.com/pkolaczk/async-runtimes-benchmarks ## 正文 在这篇博客文章中,我 ......
内存 任务 语言 100

Linux系统下C语言的编程技巧

Linux系统能够为人们提供更加安全实用的效果,保证计算机系统能够稳定的运行。利用Linux系统下首先要进行C语言的编程,掌握编程的技巧能够更好的发挥计算机的作用。如何掌握Linux系统下计算机C语言的编程技巧是计算机发展的关键要素。本文对Linux系统下计算机C语言的编程技巧进行相应的分析。 以下 ......
编程技巧 语言 技巧 系统 Linux

opencv学习笔记03-鼠标回调与trackbar

# opencv 简易笔记 3--鼠标回调与 trackbar ## 1.设置鼠标回调函数 ```python import cv2 import numpy def mouse_callback(event, x, y, flags, userdata): if event == 1: print ......
trackbar 鼠标 笔记 opencv 03

opencv学习笔记02-视频读取与写入

# opencv 简易笔记 2 ## 2.视频读取和截取 ```python import cv2 # 窗口命名 cv2.namedWindow("video", cv2.WINDOW_NORMAL) cv2.resizeWindow("video", 500, 500) # 读取视频 video ......
笔记 opencv 视频 02

【安全学习之路】Day14

![](https://img2023.cnblogs.com/blog/3073714/202306/3073714-20230601000953149-2076536322.png) ![](https://img2023.cnblogs.com/blog/3073714/202306/3073 ......
Day 14

R语言状态空间模型和卡尔曼滤波预测酒精死亡人数时间序列|附代码数据

原文链接:http://tecdat.cn/?p=22665 最近我们被客户要求撰写关于状态空间模型的研究报告,包括一些图形和统计输出。 状态空间建模是一种高效、灵活的方法,用于对大量的时间序列和其他数据进行统计推断 摘要 本文介绍了状态空间建模,其观测值来自指数族,即高斯、泊松、二项、负二项和伽马 ......
时间序列 序列 酒精 模型 人数