方法论 分析法 数据分析 营销管理
基于 RocketMQ Connect 构建数据流转处理平台
为什么在“双11”抢红包活动及大型数据系统中总是出现 RocketMQ 的身影？ RocketMQ Connect在RocketMQ 生态中扮演什么角色？本文为大家解答上述疑问。同时，介绍 OceanBase 与 RocketMQ 如何集成以及能帮助大家解决哪些问题。 ......
在echaerts中渲染50万条数据的优化方案
背景：项目需求中要在页面上渲染大约50万条左右的波形数据图表 那么如何解决渲染中的卡顿呢？ 肯定是要从服务端和前端一起优化这是毋庸置疑的。 1.服务端： 服务端耗时最多的一定是在数据库的筛选数据的行为上，本次需求中数据的筛选是根据物理量的类型和时间来进行的。 为了提速，应当取消掉其他的筛选条件，并且 ......
如何实现云数据治理中的数据安全？
云计算被定义为计算资源的共享池，已经在不同的应用领域广泛部署和使用。在云计算中，数据治理在提高整体性能和确保数据安全方面发挥着至关重要的作用。本研究从管理和技术应用两方面探讨如何实现云数据治理中的数据 ......
【LeetCode贪心#12】图解监控二叉树（正宗hard题，涉及贪心分析、二叉树遍历以及状态转移）
监控二叉树 力扣题目链接(opens new window) 给定一个二叉树，我们在树的节点上安装摄像头。 节点上的每个摄影头都可以监视其父对象、自身及其直接子对象。 计算监控树的所有节点所需的最小摄像头数量。 示例 1： 输入：[0,0,null,0,0] 输出：1 解释：如图所示，一台摄像头足以 ......
Redis中 HyperLogLog数据类型使用总结
转载请注明出处： 目录 1. HyperLogLog 的原理 2.使用步骤 3.实现请求ip去重的浏览量使用示例 4.Jedis客户端使用 5.Redission使用依赖 6.HyperLogLog 提供了哪些特性和方法 7.使用场景总结 1. HyperLogLog 的原理 Redis Hyper ......
Scrapy 常用方法以及其补充
本文作者：ZiCh 本文链接：https://www.cnblogs.com/zichliang/p/17178868.html 版权声明：未经作者允许严禁转载 JsonRequest 使用示例 使用 JsonReuquest发送 JSON POST 请求： # -*- coding: utf-8 ......
数据库自动收缩造成的阻塞
背景 今天上午11点时客户打电话过来说医院的CIS系统一直有阻塞，导致系统卡慢严重，信息中心的电话都快被打爆了。赶紧要了远程登录到SQL专家云，看到了系统确实存在大量的阻塞。 点击紫色圆点进入活动会话原始数据，可以看到会话标识33是阻塞的源头，造成了大量的语句被阻塞，而且阻塞已经持续了很长的时间。 ......
23年用vuex进行状态管理out了，都开始用pinia啦！
1 Vue2项目中，Vuex状态管理工具，几乎可以说是必不可少的了。而在Vu3中，尤大大推荐我们使用pinia（拍你啊）进行状态管理，咱得听话，用就完了。 使用之前我们来看一下，使用 pinia 给我们带来哪些好处? **官网介绍：**Pinia 是 Vue 的存储库，它允许您跨组件/页面共享状态 ......
需求分析之道——需求分析要做什么（C系架构设计法，sishuok）
需求分析之道——需求分析要做什么。 需求分析是架构师开始做架构设计的第一步，对架构师来讲非常非常的重要。因为需求分析能够告诉我们，到底我们要做什么，架构设计就是为了去完成这件事情而做的。 接下来，我们就从实战的角度来讲一讲，需求分析的一些方法，都是咱们多年经验的总结，也许听上去或者说大家看上去，没有 ......
深入理解需求分析的目标（C系架构设计法）
需求分析的目标：是尽可能准确、全面、深入的理解业务。 1：理解“尽可能准确” 首先，需求分析，要做的事，肯定是去理解业务，但是要达到什么样的程度，才算是我们理解了这个业务呢？ 第一个是“尽可能”，尽可能的意思，就是你不太可能百分之百的、完整的、准确的去理解，做不到。我们只能说是尽自己最大努力去理解， ......
剖析flutter_download_manager学习如何做下载管理,暂停和取消
前言 内容类应用中图片或文件下载，一般应用中应用更新和升级，这些都是经典的下载场景。下载是项目中基础且重要的模块。 从代码逻辑复用性和人力成本考虑，一直想实现一个纯Dart实现的下载库，作为技术储备。 最近发现了一个纯Dart实现的下载库flutter_download_manager,相对来说各方 ......
maven 多模块项目的测试覆盖率分析 - jacoco 聚合分析
前言 对于大多数 maven 多模块化工程，可以使用 Jacoco 这款工具，关于 Jacoco 这款工具，ChatGPT 对它的描述是这样的： JaCoCo（Java Code Coverage）是一个开源的测试覆盖率工具，它可以用于帮助开发人员衡量其软件测试的有效性。它支持多种语言，包括 Jav ......
数据转换工具DBT介绍及实操
一、什么是DBT dbt （data build tool）是一款流行的开源数据转换工具，能够通过 SQL 实现数据转化，将命令转化为表或者视图，提升数据分析师的工作效率。dbt 主要功能在于转换数据库或数据仓库中的数据，在 E（Extract）、L（Load）、T（Transform） 的流程中， ......
漫谈Python魔术方法，见过的没见过的都在这里了
漫谈Python魔术方法，见过的没见过的都在这里了 就说一下，不深入 假的一览 提到魔术方法，学过python都应该知道一些。至少你得会__init__吧。 在我之前写的博文中有很多都涉及魔术方法。比如 浅谈Python中的if，可能有你不知道的，涉及__bool__和__len__ 浅谈Pytho ......
【Git】代码权限&分支管理
以Gitlab代码托管平台说明，也是目前应用最为广泛的企业搭建私服的选择。 1. 权限管理 [项目] 访问权限有3种：：Private、Internal、Public Private：只有组成员才能看到 Internal：只要登录的用户就能看到 Public：所有人都能看到 [项目成员] 有五种权限 ......
如何高效实现 MySQL 与 elasticsearch 的数据同步
MySQL 自身简单、高效、可靠，是又拍云内部使用最广泛的数据库。但是当数据量达到一定程度的时候，对整个 MySQL 的操作会变得非常迟缓。而公司内部 robin/logs 表的数据量已经达到 800w，后续又有全文检索的需求。这个需求直接在 MySQL 上实施是难以做到的。 原数据库的同步问题 由 ......
重磅！flink-table-store 将作为独立数据湖项目重新加入 Apache
数据湖是大数据近年来的网红项目，大家熟知的开源数据湖三剑客 Apache hudi、Apache iceberg 、Databricks delta 近年来野蛮生长，目前各自背后也都有商业公司支持，投入了大量的人力物力去做研发和宣传。然而今天我们要讲的是数据湖界的后起之秀 —— flink-tabl ......
Mybatis数据库驱动
Mybatis数据库驱动 最近在学习mybatis的源码,有一个databaseIdProvider根据不同数据库执行不同sql的功能,我正好有一个mysql还有一个瀚高数据库,就去试了一下,使用如下 pom文件导入两个数据库的驱动 <dependency> <groupId>mysql</grou ......
odoo 权限管理学习总结
环境 odoo-14.0.post20221212.tar base_user_role-12.0.2.1.2.zip 下载地址： https://apps.odoo.com/apps/modules/12.0/base_user_role/ 权限管理 简介 为了更好的熟悉权限，我们先来了解下用户， ......
【数据结构与算法学习】线性表（顺序表、单链表、双向链表、循环链表）
实现语言：C++ 1. 线性表相关概念 线性表（Linear List） 是由n(n≥0)个具有相同特性（数据类型）的数据元素（结点）a1，a2，...，ai-1，ai，ai+1，...，an组成的有限序列。 其中，a1为线性起点（起始结点），an为线性终点（终端结点）。对于每一个数据元素ai，我们 ......
常用的"小脚本"-json数据处理
小背景： 我们公司项目中的小脚本是一些工具类，比如常用的是MapUtil工具类的一些方法 写公司的MapUtil工具类的方法要注意，方法名的命名，因为方法名，在公司的项目的某个业务流程有对方法名的进行String截取开头字符串然后进行判断 一、工具的使用推荐 1、获取到请求url（接口的形式-一般数 ......
【数据结构与算法学习】散列表（Hash Table，哈希表）
实现语言：C++ 1. 散列表 散列表，英文名称为Hash Table，又称哈希表、杂凑表等。 线性表和树表的查找是通过比较关键字的方法，查找的效率取决于关键字的比较次数。 而散列表是根据关键字直接访问的数据结构。散列表通过散列函数将关键字映射到存储地址，建立了关键字和存储地址之间的一种直接映射关系 ......
【chatQA】nvm包版本管理
如何使用nvm来管理不同版本的 Node.js，然后使用不同的 Node.js 版本来运行不同版本的 React 应用？ 要使用 nvm 来管理不同版本的 Node.js，可以按照以下步骤进行操作： 安装 nvm 可以在 nvm 的 GitHub 仓库中找到安装说明，根据自己的操作系统和需求进行安装 ......
c/c++指针从浅入深介绍——基于数据内存分配的理解（上）
c/c++指针从浅入深介绍——基于数据内存分配的理解（上） 本文是对自我学习的一个总结以及回顾，文章内容主要是针对代码中的数据在内存中的存储情况以及存储中数值的变化来对指针进行介绍，是对指针以及数据在内存中数值是如何变化的，为什么需要使用到指针，为什么有时候使用指针很容易会报错，怎么去使用指针才能让 ......
【django-vue】封装logger 封装全局异常 封装response 数据库配置 用户表继承AbstractUser配置
上节回顾 这是一个django-Vue前后端分离的项目（视频网站） # 1 企业软件类型 -商城类 -公司内部： -业务 -RBAC权限管理 # 2 软件开发流程 -你的工作流程 # 3 pip换源 ：国内镜像 -命令行中 -pycharm中 # 4 虚拟环境： -每个项目有自己的环境 -虚拟环境： ......
docker mysql8.0 启动，挂数据卷，定时备份，恢复~
安装mysql 从mysql社区版的官方源去拉取镜像：mysql/mysql-server - Docker Image | Docker Hub docker run --name=mysql1 -d mysql/mysql-server:latest 镜像起来之后，mysql就默默的初始化好了， ......
[数据分析与可视化] Python绘制数据地图1-GeoPandas入门指北
本文主要介绍GeoPandas的基本使用方法，以绘制简单的地图。GeoPandas是一个Python开源项目，旨在提供丰富而简单的地理空间数据处理接口。GeoPandas扩展了Pandas的数据类型，并使用matplotlib进行绘图。GeoPandas官方仓库地址为：GeoPandas。GeoPa ......
方法论系列：用四个金字塔来说明金字塔原理
本系列博客就以比较知名的《金字塔原理》作为开篇，本文会以四个“金字塔”的形式介绍金字塔原理的核心概念，从而剖析金字塔的结构、了解金字塔的构建方式、掌握其中的思考逻辑以及解决问题的关键思路。为什么一金字塔原理开篇呢？因为这个是我17年入职当前这家公司时所听到的第一个方法论，在公司时隔5年依然被奉为方法... ......
创建型：工厂模式-工厂方法、抽象工厂
简单工厂问题 简单工厂中我们通过参数来返回不同的产品对象，如果管理的对象过多，这个工厂函数会比较庞大，且当我们需要增加一个新的产品时，需要修改这个工厂方法，违反开闭原则（对拓展开放，对修改关闭）。 为了解决简单工厂模式的问题，出现了工厂方法模式。 解决简单工厂思路 简单工厂类图关系类似如下： 如上图 ......