简单理解批处理和流处理的区别

Hadoop如何保证自己的江湖地位?Yarn功不可没

前言 任何计算任务的运行都离不开计算资源,比如CPU、内存等,那么如何对于计算资源的管理调度就成为了一个重点。大数据领域中的Hadoop之所以一家独大,深受市场的欢迎,和他们设计了一个通用的资源管理调度平台Yarn密不可分,那Yarn是如何做进行资源管理的呢?它的通用性体现在哪里呢?它是如何保证Ha ......
功不可没 地位 江湖 Hadoop Yarn

Spring中11个最常用的扩展点,你知道几个?

前言 在使用spring的过程中,我们有没有发现它的扩展能力很强呢? 由于这个优势的存在,使得spring具有很强的包容性,所以很多第三方应用或者框架可以很容易的投入到spring的怀抱中。今天我们主要来学习Spring中很常用的11个扩展点,你用过几个呢? 1. 类型转换器 如果接口中接收参数的实 ......
常用 Spring

软件设计中最关键的“开闭原则”,究竟指什么呢?

前言 软件设计原则中有一条很关键的原则是开闭原则,就是所谓的对扩展开放,对修改关闭。个人觉得这条原则是非常重要的,直接关系到你的设计是否具备良好的扩展性,但也是相对比较难以理解和掌握的,究竟怎样的代码改动才被定义为“扩展”?怎样的代码改动才被定义为“修改”?怎么才算满足或违反“开闭原则”?别急,本文 ......
原则 关键 软件

RocketMQ Connect 构建流式数据处理平台

RocketMQ Connect 作为 RocketMQ 与其他系统间流式数据传输的重要工具,轻松将 RocketMQ 与其他存储技术进行集成,并实现低延迟流/批处理。接下来,我们一起详解运行原理与基本特性~ ......
数据处理 RocketMQ Connect 数据 平台

SourceGenerator 使用姿势(1):生成代理类,实现简单的AOP

SourceGenerator 已经出来很久了,也一直在关注。之前观摩大佬 xljiulang 的 WebApiClient 使用 SourceGenerator 生成接口代理类,深受启发,准备拿过来用看看(发出白嫖的声音),写个编译期静态代理AOP。本篇重点是怎么获取元数据,得到想要的数据,生成想 ......
SourceGenerator 姿势 AOP

一文带你入木三分地理解字符串KMP算法(next指针解法)

1. KMP算法简介 温馨提示:在通篇阅读完并理解后再看简介效果更佳 以下简介由百度百科提供https://baike.baidu.com/item/KMP%E7%AE%97%E6%B3%95/10951804: KMP算法是一种改进的字符串匹配算法,由D.E.Knuth,J.H.Morris和V. ......
入木三分 解法 字符串 指针 算法

1分钟理清楚C++类模板和模板类区别

1、定义区别 类模板和模板类主要关注点是后一个单词。 类模板:主要描述的是模板,这个模板是类的模板。可以理解为一个通用的类,这个类中的数据成员,成员函数的形参类型以及成员函数的返回值类型不用具体的指定,这些类型都是虚拟的。在使用类模板进行对象定义的时候,才会根据对象的实际参数类型来替代类模板中的虚拟 ......
模板

Vue 响应式原理模拟以及最小版本的 Vue的模拟

在模拟最小的vue之前,先复习一下,发布订阅模式和观察者模式 对两种模式有了了解之后,对Vue2.0和Vue3.0的数据响应式核心原理 1.Vue2.0和Vue3.0的数据响应式核心原理 (1). Vue2.0是采用Object.defineProperty的方式,对数据进行get,set方法设置的 ......
Vue 原理 版本

说说真实Java项目的开发流程,以及面试前的项目准备说辞

介绍项目是必不可少的Java面试环节,求职者需要借此证明自己真实Java项目的经验,如果再做的好的话,需要借此展开自己的亮点说辞。 不过之前如果只有学习项目经验,比如是自己跑通一个项目,或者是在培训班里通过一个Spring Boot项目入门Java,那么这些学习项目的开发流程其实和公司里真实Java ......
项目 说辞 流程 Java

RequestMappingHandlerMapping的请求地址映射流程

上篇文章里,我们讲解了RequestMappingHandlerMapping请求地址映射的初始化流程,理解了@Controller和@RequestMapping是如何被加载到缓存中的。 今天我们来进一步学习,在接收到请求时,RequestMappingHandlerMapping是如何进行请求地 ......

轻量级的架构决策记录机制

作者:倪新明 ADR是一种性价比非常高的架构决策文档化实践,团队引入和实践成本很低,却能为团队带来极大收益! 1 团队研发面临的问题 不论是在传统的IT行业,还是互联网行业,研发团队在架构决策层面或多或少的都会面临以下问题或挑战: •新成员加入团队,对系统现有的架构决策可能会盲目遵守,只知其然,不知 ......
轻量 轻量级 架构 机制

RocketMQ 在网易云音乐的实践

最佳实践丨网易云音乐线上场景众多,比如直播、评论、广告等各个业务线都会有消息场景,一起来看看 RocketMQ 在云音乐的落地实战经验分享吧~ ......
RocketMQ 音乐

在实际应用中联合体union的妙用

关键字union,又称为联合体、共用体,联合体的声明和结构体类似,但是它的行为方式又和结构体不同,这里的行为方式主要指的是其在内存中的体现,结构体中的成员每一个占据不同的内存空间,而联合体中的所有成员共用的是内存中相同的位置。 简单看下区别: 1 struct MyStruct 2 { 3 doub ......
合体 妙用 实际 union

模型驱动设计的构造块(上)——DDD

为了保证软件实践得简洁并且与模型保持一致,不管实际情况如何复杂,必须运用建模和设计的实践。 某些设计决策能够使模型和程序紧密结合在一起,互相促进对方的效用。这种结合要求我们注意每个元素的细节,对细节问题的精雕细琢能够打造一个稳定的平台。 本部分主要将一些模式,说明细微的模型差别和设计决策如何影响领域 ......
模型 DDD

RequestMappingHandlerMapping请求地址映射的初始化流程

之前的文章里,介绍了DispatcherSerlvet处理请求的流程。 其中一个核心的步骤是:请求地址映射,即根据request获取对应的HandlerExcecutionChain。 为了后续的请求地址映射,在项目初始化时,需要先将request-handler映射关系缓存起来。 HandlerM ......

RocketMQ Schema——让消息成为流动的结构化数据

RocketMQ Schema 提供了对消息的数据结构托管服务,同时为原生客户端提供了较为丰富的序列化/反序列化 SDK ,补齐了 RocketMQ 在数据治理和业务上下游解耦方面的短板,让数据成为流动的结构化数据,那么快来了解下实现原理吧~ ......
RocketMQ 消息 结构 数据 Schema

计算存储分离在京东云消息中间件JCQ上的应用

作者:田寄远 JCQ 全名 JD Cloud Message Queue,是京东云自研、具有 CloudNative 特性的分布式消息中间件。 JCQ 设计初衷即为适应云特性的消息中间件;具有高可用、数据可靠性、副本物理隔离、服务自治、健康状态汇报、少运维或无运维、容器部署、弹性伸缩、租户隔离、按量 ......
中间件 消息 JCQ

想做长期的 AB 实验?快来看看这些坑你踩了没

作者:江颢 1.什么是长期的 AB 实验 大部分情况下,我们做的 AB 实验都是短期的,一到两周或者一个月之内的,通过分析这段时期内测得的实验效应得出实验结论,并最终进行推广。 长期实验即运行时间达数月甚至数年的实验,实验的长期效应指的是需要数月数年的 AB 实验才能积累的实验效应。 那什么场景下还 ......
AB

STM32与PS2的无线通信和相关函数介绍

PS2采用SPI通信协议 源码和参考文件获取:https://github.com/Sound-Sleep/PS2_Based_On_STM32 接收器接口 DI:手柄->主机,时钟的下降沿传送信号,信号的读取在时钟由髙到低的变化过程中完成 DO:主机->手柄,同步传送于时钟的下降沿 空端口 GND ......
无线通信 函数 无线 STM PS2

分布式注册服务中心etcd在云原生引擎中的实践

作者:王雷 etcd是什么 etcd是云原生架构中重要的基础组件,由CNCF孵化托管。ETCD是用于共享配置和服务发现的分布式,一致性的KV存储系统,是CoreOS公司发起的一个开源项目,授权协议为Apache。etcd 基于Go语言实现,主要用于共享配置,服务发现,集群监控,leader选举,分布 ......
分布式 服务中心 引擎 etcd

Qt开发Active控件:如何使用ActiveQt Server开发大型软件的主框架(2)

Qt开发Active控件:如何使用ActiveQt Server开发大型软件的主框架 注:本文更多地是带着如何去思考答案,而不是纯粹的放一个答案上来,如果你需要直接看到完整的答案,请直接看实例和最后的柳暗花明部分,里面由详细的注释可以解答你的问题。 前情提要: Qt的进程间通信,以服务器的形式,手把 ......
控件 框架 ActiveQt Active Server

手把手教你一套完善且高效的k8s离线部署方案

作者:郝建伟 背景 面对更多项目现场交付,偶而会遇到客户环境不具备公网条件,完全内网部署,这就需要有一套完善且高效的离线部署方案。 系统资源 | 编号 | 主机名称 | IP | 资源类型 | CPU | 内存 | 磁盘 | | -- | | | | | | | | 01 | k8s-master1 ......
方案 k8s k8 8s

Qt大型工程开发技术选型Part3:Qt调用C#编写的COM组件实例

Qt大型工程开发技术选型Part3:Qt调用C#编写的COM组件实例以及错误总结 ok,前面铺垫了那么多,现在来写一个开发实例,我会把其中隐藏的坑和陷阱简单谈谈,并在文章最后总结。 不愿意看长篇大论的可以直接看实例:CS_COM_Build 废话不多说直接起步。 先说场景,我这边是一个C#的DLL, ......
开发技术 组件 实例 工程 Part3

.NET 云原生架构师训练营(基于 OP Storming 和 Actor 的大型分布式架构一)--学习笔记

目录 为什么我们用 Orleans Dapr VS Orleans Actor 模型 Orleans 的核心概念 为什么我们用 Orleans 分布式系统开发、测试的难度(服务发现、通信) 运维的复杂度(伸缩性与可靠性的保障) actor 拥有全局唯一身份 自动伸缩功能 Dapr VS Orlean ......
架构 分布式 Storming 笔记 Actor

Spring之后置处理器

Spring的后置处理器是Spring对外开发的重要扩展点,允许我们接入Bean的实例化流程中,以达到动态注册BeanDefinition、动态修改BeanDefinition、动态修改Bean的作用。 BeanFactoryPostProcessor BeanFactory的后置处理器,在Bean ......
处理器 Spring

【图像处理笔记】小波变换

【图像处理笔记】总目录 0 引言 1987年,小波被证明是多分辨率信号处理和分析的基础。多分辨率理论融合并统一了来自不同学科的技术,包括来自信号处理的子带编码、来自数字语音识别的正交镜像滤波及金字塔图像处理。顾名思义,多分辨率理论涉及多个分辨率下的信号(或图像)表示与分析。 曾经有人问我有关haar ......
图像处理 图像 笔记

【图像处理笔记】傅里叶变换

【图像处理笔记】总目录 0 引言 在之前的博客图像增强,傅里叶变换(OpenCV)中都有用到过傅里叶变换,但一直都不是特别理解,现系统地学习一下。先来看一个视频傅里叶级数与傅立叶变换,我们了解到任何周期函数都可以表示为不同频率的正弦函数和/或余弦函数之和,其中每个正弦函数和/或余弦函数都乘以不同的系 ......
图像处理 图像 笔记

从近世代数的角度理解补码

介绍 模数加法形成了一种数学结构,成为阿贝尔群(Abelian group),这是以丹麦数学家阿贝尔的名字命名的。 前置知识 定义1. 设$a,b\in Z$,如果存在$q\in Z$使得$a=qb$,则称$b$整除$a$,记为$b|a$。 定义2. 设$a,b\in Z$,$b>0$,$a=qb+ ......
补码 代数 角度

深入理解 Python 的对象拷贝和内存布局

在本篇文章当中主要给大家介绍了 python 当中对象的拷贝和内存布局,以及对对象内存地址的验证,最后稍微介绍了一下 cpython 内部实现列表的结构体,帮助大家深入理解列表对象的内存布局。 ......
拷贝 布局 对象 内存 Python

关于共享资源保护的思考

1、引言 先聊聊分享这篇文章的原因,在使用STM32时,我发现对于GPIO输出操作,可以使用GPIOx_ODR寄存器,也可以使用GPIOx_BSRR寄存器。 对应的标准外设库API接口有 void GPIO_ToggleBits(GPIO_TypeDef* GPIOx, uint16_t PortV ......
共享资源 资源