密码 数据库 方法 数据
关于大数据平台上任务管理的思考
本文于2019年7月16日完成，发布在个人博客网站上。 考虑个人博客因某种原因无法修复，于是在博客园安家，之前发布的文章逐步搬迁过来。 作业，比如提交一个hive脚本到计算平台上运行，这个脚本宏观上称为一个作业。 任务，比如mapper，reducer等。 资源，比如CPU时间，内存，硬盘IO，网络 ......
Python Pandas 数据可视化
1、Pandas 的绘图功能 Pandas 内置的绘图功能进行数据可视化是一种快速且有效的方法，它主要依赖于 Matplotlib 库。Pandas 提供了多种绘图类型，适用于不同的数据分析和可视化需求。 1）折线图 使用plot()绘制拆线图，常用参数如下， 参数 描述 x 一维数组或列表，表 ......
【Application Insights】使用CURL命令向Application Insgihts发送测试数据
问题描述 在使用App Service或者Kubernetes等服务时，需要收集一些日志数据并且发送到Application Insights中，当使用SDK或者是服务自带的Application Insights配置时遇见问题，有没有快速的调试方式能验证App Service是否与Applicat ......
MyBatis—Spring 动态数据源事务的处理
在一般的 Spring 应用中，如果底层数据库访问采用的是 MyBatis，那么在大多数情况下，只使用一个单独的数据源，Spring 的事务管理在大多数情况下都是有效的。然而，在一些复杂的业务场景下，如需要在某一时刻访问不同的数据库，由于 Spring 对于事务管理实现的方式，可能不能达到预期的效果 ......
魔法方法
魔法方法 __init__ ：初始化类时触发 __del__ ：删除类时触发 __new__ ：构造类时触发 __str__ ：str函数或者print函数触发 __repr__ ：repr或者交互式解释器触发 __doc__ ：打印类内的注释内容 __enter__ ：打开文档触发 __exit_ ......
高级数据结构笔记
树套树 顾名思义，就是一个树套一个树。。。 广义的树套树是指嵌套多层的数据结构。常见的有：线段树套线段树（二维线段树），线段树套平衡树（“二逼平衡树”），分块套平衡树，树状数组套线段树（带修主席树）等等。 在这里，由于 set，map 等 STL 内部实现是平衡树，因此将这些 STL 的嵌套也算作树 ......
[python]沪深龙虎榜数据导入通达信的自选板块，并标注于K线图上
1 #coding=utf-8 2 3 #读取'[paint]'开头的csv文件 4 #copyright @ WangXinsheng 5 #http://www.cnblogs.com/wangxinsheng/ 6 import os 7 import struct 8 import time ......
java方法
一、方法 二、方法参数传递 1、值传递 所谓值传递：指的是在传输实参给方法的形参的时候，传参的实参变量的存储的值的副本 实参：在方法内部定义的变量 形参：定义方法时“(...)”中所声明的参数，就是方法定义时的变量 2、引用类型的参数传递 3、基本类型和引用类型的参数在传递的时候有什么不同 ① 都是 ......
使用IDEA将部分代码抽出来变成一个新的方法 快捷键不是Ctrl + Alt + M 填写方法名称即可
使用IDEA将部分代码抽出来变成一个新的方法 快捷键不是Ctrl + Alt + M 填写方法名称即可 前言 从java开发角度来说，一个方法一般不宜过长，通常都是50到100行左右。太长的方法不管从阅读还是维护上来说都是不利的。但在实际开发中，一方面可能需要优化祖传代码，另一方面我们自己也经常 ......
Python开启线程和线程池的方法
一.最佳线程数的获取： 1、通过用户慢慢递增来进行性能压测，观察QPS（即每秒的响应请求数，也即是最大吞吐能力。），响应时间 2、根据公式计算:服务器端最佳线程数量=((线程等待时间+线程cpu时间)/线程cpu时间) * cpu数量 3、单用户压测，查看CPU的消耗，然后直接乘以百分比，再进行压测 ......
redis设置密码和开启远程访问
改密码 默认redis安装后，密码是默认的，通过查看安装目录的config文件，可以查到：requirepass 这个设置，默认是啥就是啥。 需要修改密码的话，把这个注释拿掉，将requirepass 改为你需要的密码即可。 可以运行redis-cli 输入： auth 你的密码 测试一下。 red ......
深度学习图像复原之去雨：常用数据集介绍
可能有帮助的链接：https://paperswithcode.com/task/single-image-deraining 合成数据集 Rain100H 出自 CVPR 2017 论文 Deep Joint Rain Detection and Removal from a Single Ima ......
Oracle、达梦：☆获取数据库对象、获取对象的DDL定义语句(达梦)
一、获取数据库对象(Oracle、达梦) 以下方式在达梦DM数据库中都能跑通，Oracle未测试所有的方式。 1、获取对象（表、视图、函数等……） 1.1、获取所有对象——所有模式下的 ①、ALL_OBJECTS视图 数据库所有对象表：包括表、视图、物化视图、函数、存储过程……等 -- 查询所有对象 ......
查看本机连接过的wifi和密码
打开powershell管理员 netsh wlan show profile 命令查看所有连接过的wifi netsh wlan show profile name=Internet-402 key=clear ......
C# 使用protobuf序列化反序列化数据
protobuf是谷歌的一个序列化数据结构的协议，性能高，存储占用小 经过我的测试对比 1，最慢的是C#内置的BinaryFormatter，这个玩意能不用则不用 2，然后是json，用起来很方便，比BinaryFormatter快了1-2倍 3，接下来就是protobuf，不过需要给类的成员加上特 ......
oneforall配置环境，报错cannot import name 'sre_parse' from 're' 解决方法
高版本python中re模块没有了sre_parse模块， 可以修改python中的exrex.py 代码，直接导入sre_parse模块 ......
Hive 数据写入流程
概念简介 外部表：删除表时，外部表只删除元数据,不删除数据。适用于数据源被多处使用的场景，便于数据共享。 内部表：删除表时，内部表的元数据和数据会被一起删除。适用于不需要共享的原始数据或中间数据。 分区表：数据较多，为提高计算速度时使用。 内部表&外部表写入流程图 具体流程Demo 以外部表为例： ......
Java利用fastjson解析复杂嵌套json字符串、json数组；json字符串转Java对象，json数组转list数组 首先要明白，以 { } 开头的是JSONObject，以 [ ] 开头的是JSONArray，如果本身就是json字符串的格式（即格式类型为String），那就不用转换，直接使用转换方法进行转换。
Java利用fastjson解析复杂嵌套json字符串、json数组；json字符串转Java对象，json数组转list数组 首先要明白，以 { } 开头的是JSONObject，以 [ ] 开头的是JSONArray，如果本身就是json字符串的格式（即格式类型为String），那就不用转换，直 ......
hive分区表数据导入
数据库分区的主要目的是为了在特定的SQL操作中减少数据读写的总量以缩减响应时间，主要包括两种分区形式：水平分区与垂直分区。水平分区是对表进行行分区。而垂直分区是对列进行分区，一般是通过对表的垂直划分来减少目标表的宽度，常用的是水平分区. 1. hive建立分区表 create external ta ......
Hive 复杂数据类型Array，Map，Struct
建表语句，支持嵌套 CREATE TABLE parquet_test ( id int, str string, mp MAP<STRING,STRING>, lst ARRAY<STRING>, strct STRUCT<A:STRING,B:STRING>) PARTITIONED BY (p ......
Kotlin扩展方法和匿名扩展方法
普通扩展方法 格式 fun 类名.方法名(参数列表):返回值类型{ 方法体 } 使用举例 data class A(var name:String, var age:Int) fun A.printInfo(){ println("name=${this.name},age=${this.age}" ......
Hive写入JSON数据
优缺点： 1.JsonSerDe对json数据格式有严格要求，创建的表结果必须与json结构能对应上，否则会报错。 配置 org.openx.data.jsonserde.JsonSerDe 能解决格式异常报错导致整个任务终止的问题。 必须定义好详细字段嵌套的规则类型，不适合提取ODS原文。 2.g ......
Hive Array数据处理
建表 CREATE TABLE IF NOT EXISTS default.array_test( id String COMMENT 'id', name Array<String> COMMENT '名称' ) COMMENT 'array测试' ROW FORMAT DELIMITED FIE ......
vue实现虚拟滚动（面试题：后端给你十万条数据，你怎么处理？）
<template> <div class="viewport" @scroll="scroll"> <div class="list-phantom" :style="{height: totalHeight+'px'}"></div> <div class="list-area" :style= ......
mysql+关掉密码过期
mysql+关掉密码过期 要在MySQL中关闭密码过期功能，可以按照以下步骤进行操作： 登录到MySQL服务器。 使用管理员账户（如root）连接到数据库。 mysql -uroot -ppassword 运行以下命令来查看当前的密码过期设置： SHOW VARIABLES LIKE 'defaul ......
超大日志文件分割工具和方法
来源：https://blog.csdn.net/sangser/article/details/123169275 1. 直接运行：MobaXterm1_CHS1.exe，如下画面： 2. 点击：Start local terminal： 切换到大文件所在目录，执行命令：split -l 6000 ......
Power BI - 5分钟学习修改数据类型
每天5分钟，今天介绍Power BI修改数据类型 Power BI加载数据时，会尝试将源列的数据类型转换为更高效的存储、计算和数据可视化的数据类型。例如，如果从Excel导入的值的列没有小数值，Power BI Desktop会将整个数据列转换为整数数据类型，这能更好地优化存储提高计算效率。 但是某 ......