版本 文档 数据hadoop
透过等待看数据库
等待分类与解决基本流程 步骤1.定位问题 系统等待往往能直观的反映出系统问题。通过一些常见的等待类型，同样可以找到系统瓶颈，结合性能计数器往往定位更准确。 如：系统中存在大量IO类等待，那么可能表示你的磁盘或内存是语句运行缓慢的原因，也是系统的瓶颈所在。 常见的等待类型： CXPACKET：当尝试同 ......
MS SQL Server 删除重复行数据
您可以使用以下 SQL 语句删除 MS SQL Server 表中重复的行： WITH CTE AS ( SELECT ROW_NUMBER() OVER(PARTITION BY column1, column2, ... columnN ORDER BY (SELECT 0)) RN FROM ......
工良出品：包教会，Hadoop、Hive 搭建部署简易教程
导读 最近一个数据分析朋友需要学习 Hive，刚好我也想学，便利用手头的服务器搭建一个学习环境，但是搭建过程中，发现网上的教程很多过时了，而且部署过程中，很多地方走不通，博主也没有给出对应的说明。花了大力气才从各种资料中完成 Hadoop、Mysql、Hive 三者的部署。 因此，本文记录在 Win ......
在Winform分页控件中集成导出PDF文档的功能
当前的Winform分页控件中，当前导出的数据一般使用Excel来处理，Excel的文档可以用于后期的数据展示或者批量导入做准备，因此是比较好的输入输出格式。但是有框架的使用客户希望分页控件能够直接导出PDF，虽然Excel也可以直接转换为PDF，不过直接导出PDF的处理肯定更加方便直观。因此整理了... ......
文心一言,通营销之学,成一家之言,百度人工智能AI大数据模型文心一言Python3.10接入
“文心”取自《文心雕龙》一书的开篇，作者刘勰在书中引述了一个古代典故：春秋时期，鲁国有一位名叫孔文子的大夫，他在学问上非常有造诣，但是他的儿子却不学无术，孔文子非常痛心。 一天，孔文子在山上遇到了一位神仙，神仙告诉他：“你的儿子之所以不学无术，是因为你没有给他灌输文心，让他懂得文学的魅力和意义。”孔 ......
基于深度学习的车型识别系统（Python+清新界面+数据集）
基于深度学习的车型识别系统用于识别不同类型的车辆，应用YOLO V5算法根据不同尺寸大小区分和检测车辆，并统计各类型数量以辅助智能交通管理。本文详细介绍车型识别系统，在介绍算法原理的同时，给出Python的实现代码以及PyQt的UI界面。在界面中可以选择各种图片、视频进行检测识别；可对图像中存在的多... ......
基于深度学习的智能PCB板缺陷检测系统（Python+清新界面+数据集）
智能PCB板缺陷检测系统用于智能检测工业印刷电路板（PCB）常见缺陷，自动化标注、记录和保存缺陷位置和类型，以辅助电路板的质检。本文详细介绍智能PCB板缺陷检测系统，在介绍算法原理的同时，给出Python的实现代码以及PyQt的UI界面和训练数据集。在界面中可以选择各种图片、视频进行检测识别；可对图... ......
基于深度学习的农作物叶片病害检测系统（UI界面+YOLOv5+训练数据集）
农作物叶片病害检测系统用于智能检测常见农作物叶片病害情况，自动化标注、记录和保存病害位置和类型，辅助作物病害防治以增加产值。本文详细介绍基于YOLOv5深度学习模型的农作物叶片病害检测系统，在介绍算法原理的同时，给出Python的实现代码、PyQt的UI界面以及训练数据集。在界面中可以选择各种图片、... ......
Django笔记二之连接数据库、执行migrate数据结构更改操作
本篇笔记目录索引如下： Django 连接mysql，执行数据库表结构迁移步骤介绍 操作数据库，对数据进行简单操作 接下来几篇笔记都会介绍和数据库相关，包括数据库的连接、操作（包括增删改查）、对应的字段类型、model 里Meta 相关参数和 QueryAPI 的详解等。 这一篇先介绍数据库的连接和 ......
Django笔记三之使用model对数据库进行增删改查
本篇笔记目录索引如下： model 准备 增 查 删 改 1、model 准备 在上一篇笔记中，我们新建了一个 application，增加了几个model 同步到了数据库，这次我们新建一个名为 blog 的application，同步数据结构。 大概分为以下几步： python3 manage.p ......
Dash 2.9.0版本重磅新功能一览
本文示例代码已上传至我的Github仓库https://github.com/CNFeffery/dash-master 大家好我是费老师，就在昨晚，Dash框架发布了其2.9.0版本更新，在一众更新内容中，有两条新特性在我看来尤为重要，可以大幅度提升我们开发Dash应用的效率，下面我就将带大家一起 ......
Redis - 基础数据类型
学会使用 Redis 的一个重要内容就是 Redis 的数据类型，对于开发人员而言，学会 Redis 基础数据类型的使用即可应用到程序开发当中。 ......
（数据科学学习手札150）基于dask对geopandas进行并行加速
本文示例代码已上传至我的Github仓库https://github.com/CNFeffery/DataScienceStudyNotes 1 简介 大家好我是费老师，geopandas作为我们非常熟悉的Python GIS利器，兼顾着高性能和易用性，特别是在其0.12.0版本开始使用全新的sha ......
BootstrapBlazor + FreeSql ORM 实战 Table 表格组件维护多表数据 - OneToOne
OneToOne 垂直扩展表字段是很常见的方法, 主表存商品资料, 分表存每个客户对应商品的备注和个性化的价格等等, 本文使用Blazor一步步实现这个简单的需求. ......
js直接操作数据库会怎么样
这几天刷脉脉的时候看到一个话题初看觉得可笑，再看陷入沉思，最后还是决定花点时间想清楚，写下来。 确实没见人这么干过，为什么呢？ 技术限制 被技术限制了？据我所知目前没有面向js的数据库驱动，但反观现在的技术大潮，写一个面向js的数据库驱动应该也不是什么难事。安全限制被安全性限制了？js在网站中的分量 ......
发布新版博客备份功能：生成 sqlite 数据库文件，vscode 插件可查看
大家好，最近我们重新开发了园子的博客备份功能，今天发布第一个预览版，欢迎大家试用。园子的 vscode 插件也集成了博客备份功能，不仅可以查看通过博客后台下载的备份文件，而且可以直接在 vscode 插件中直接操作博客备份的创建、下载、查看。 ......
如何获取obs视频帧的二进制数据
前面几篇文章梳理了obs的录屏和推流流程，几条纵线整理下来，算是基本理清了obs的工作流程。
现在回到第一个目标：捕捉桌面的帧数据，用rendertarget显示并输出到UE5材质。
那么，帧数据到底存放在哪里？如何读取？ ......
使用python自动监控程序运行过程数据
工作中会遇到需要监控程序运行过程数据的情况，比如定时执行监控的cmd并记录执行结果，本文提供一种实现方式，便于后续排查问题。 ......
基于 RocketMQ Connect 构建数据流转处理平台
为什么在“双11”抢红包活动及大型数据系统中总是出现 RocketMQ 的身影？ RocketMQ Connect在RocketMQ 生态中扮演什么角色？本文为大家解答上述疑问。同时，介绍 OceanBase 与 RocketMQ 如何集成以及能帮助大家解决哪些问题。 ......
在echaerts中渲染50万条数据的优化方案
背景：项目需求中要在页面上渲染大约50万条左右的波形数据图表 那么如何解决渲染中的卡顿呢？ 肯定是要从服务端和前端一起优化这是毋庸置疑的。 1.服务端： 服务端耗时最多的一定是在数据库的筛选数据的行为上，本次需求中数据的筛选是根据物理量的类型和时间来进行的。 为了提速，应当取消掉其他的筛选条件，并且 ......
如何实现云数据治理中的数据安全？
云计算被定义为计算资源的共享池，已经在不同的应用领域广泛部署和使用。在云计算中，数据治理在提高整体性能和确保数据安全方面发挥着至关重要的作用。本研究从管理和技术应用两方面探讨如何实现云数据治理中的数据 ......
Redis中 HyperLogLog数据类型使用总结
转载请注明出处： 目录 1. HyperLogLog 的原理 2.使用步骤 3.实现请求ip去重的浏览量使用示例 4.Jedis客户端使用 5.Redission使用依赖 6.HyperLogLog 提供了哪些特性和方法 7.使用场景总结 1. HyperLogLog 的原理 Redis Hyper ......
数据库自动收缩造成的阻塞
背景 今天上午11点时客户打电话过来说医院的CIS系统一直有阻塞，导致系统卡慢严重，信息中心的电话都快被打爆了。赶紧要了远程登录到SQL专家云，看到了系统确实存在大量的阻塞。 点击紫色圆点进入活动会话原始数据，可以看到会话标识33是阻塞的源头，造成了大量的语句被阻塞，而且阻塞已经持续了很长的时间。 ......
数据转换工具DBT介绍及实操
一、什么是DBT dbt （data build tool）是一款流行的开源数据转换工具，能够通过 SQL 实现数据转化，将命令转化为表或者视图，提升数据分析师的工作效率。dbt 主要功能在于转换数据库或数据仓库中的数据，在 E（Extract）、L（Load）、T（Transform） 的流程中， ......
笔精墨妙,妙手丹青,微软开源可视化版本的ChatGPT:Visual ChatGPT,人工智能AI聊天发图片,Python3.10实现
说时迟那时快，微软第一时间发布开源库Visual ChatGPT，把 ChatGPT 的人工智能AI能力和Stable Diffusion以及ControlNet进行了整合。常常被互联网人挂在嘴边的“赋能”一词，几乎已经变成了笑话，但这回，微软玩了一次真真正正的AI“赋能”，彻底打通了人工智能“闭环 ......
如何高效实现 MySQL 与 elasticsearch 的数据同步
MySQL 自身简单、高效、可靠，是又拍云内部使用最广泛的数据库。但是当数据量达到一定程度的时候，对整个 MySQL 的操作会变得非常迟缓。而公司内部 robin/logs 表的数据量已经达到 800w，后续又有全文检索的需求。这个需求直接在 MySQL 上实施是难以做到的。 原数据库的同步问题 由 ......
重磅！flink-table-store 将作为独立数据湖项目重新加入 Apache
数据湖是大数据近年来的网红项目，大家熟知的开源数据湖三剑客 Apache hudi、Apache iceberg 、Databricks delta 近年来野蛮生长，目前各自背后也都有商业公司支持，投入了大量的人力物力去做研发和宣传。然而今天我们要讲的是数据湖界的后起之秀 —— flink-tabl ......
Hadoop-HA节点介绍
设计思想 hadoop2.x启用了主备节点切换模式（1主1备） 当主节点出现异常的时候，集群直接将备用节点切换成主节点 要求备用节点马上就要工作 主备节点内存几乎同步 有独立的线程对主备节点进行监控健康状态 需要有一定的选举机制，帮助我们确定主从关系 我们需要实时存储日志的中间件 ActiveNam ......
Mybatis数据库驱动
Mybatis数据库驱动 最近在学习mybatis的源码,有一个databaseIdProvider根据不同数据库执行不同sql的功能,我正好有一个mysql还有一个瀚高数据库,就去试了一下,使用如下 pom文件导入两个数据库的驱动 <dependency> <groupId>mysql</grou ......