银行业 架构 银行 数据
使用Logstash工具导入sqlserver数据到elasticSearch及elk分布式日志中心
首先记下这个笔记，Logstash工具导入sqlserver数据到elasticSearch。 因为logstash使用java写的，我本地开发是win11，所以javade jdk必须要安装。具体安装不介绍了，就是网上下个java8，不要去官网要账号什么的,不是java开发不太折腾，目前只用jav ......
企业应用架构研究系列二十四：SQL Server 数据库调优之XEvent 探查器
如果入职一些中小型公司，往往需要接手一些很“坑”的项目，到底多坑就不牢骚了，只讲一下，如果破解这些历史遗留的项目问题。项目代码可能短时间无法进行通读研究，我们就需要从底层数据库进行挖掘问题，有经验的老开发工程师，他会开启Sql Server Profiler 这个功能，进行语句的跟踪。这个是一个很好 ......
企业应用架构研究系列二十五：IdentityServer4 认证服务搭建
IdentityServer4 更新了开源协议，曾经想替换它，不在使用IdentityServer4 ，但是后来，研究来研究去，发现IdentityServer4 的功能实在是强大，设计体系完整，随着最后版本的升级，现在 IdentityServer4 已经可以在.Net Core 6.0 环境中进 ......
企业应用架构研究系列十三：整合EFCore&Dapper 通用ORM框架EFDapper
EntityFrameworkCore是微软官网提供的ORM框架，是轻量化、可扩展、开源和跨平台的数据访问技术框架，但是在.Net 开发圈的评论却褒贬不一。很多人认为EFCore 执行的效能比较差，很多复杂的查询场景很难实现，也有很多人认为，EFCore 开发简单，在中小型项目中，能够快速的实现业务 ......
【Dubbo3终极特性】「云原生三中心架构」带你探索Dubbo3体系下的配置中心和元数据中心、注册中心的原理及开发实战（上）
Dubb3的应用级服务发现 Dubbo3提供了全新的应用级服务发现模型，该模型在设计与实现上区别于 Dubbo2 的接口级服务发现模型。 概括来说，Dubbo3 引入的应用级服务发现主要有以下优势 适配云原生微服务变革。云原生时代的基础设施能力不断向上释放，像 Kubernetes 等平台都集成了微 ......
【Dubbo3 终极特性】「云原生三中心架构」带你探索 Dubbo3 体系下的配置中心和元数据中心、注册中心的原理及开发实战（中）
承接上文 通过之前的【Dubbo3终极特性】「云原生三中心架构」带你探索 Dubbo3 体系下的配置中心和元数据中心、注册中心的原理及开发实战（上），让我们对Dubbo3的三中心架构体系有了一定的认识和了解。 Dubbo3的三中心部署架构 回顾一下部署架构（注册中心、配置中心、元数据中心），了解Du ......
【Redis 技术探索】「数据迁移实战」手把手教你如何实现在线 + 离线模式进行迁移Redis数据实战指南（离线同步数据）
离线迁移 与在线迁移相比，离线迁移适宜于源实例与目标实例的网络无法连通的场景，或者源端实例部署在其他云厂商Redis服务中，无法实现在线迁移。 存在的问题 由于生产环境的各种原因，我们需要对现有服务器进行迁移，包括线上正在运行的redis集群环境 如何去做? 涉及到数据源变动，原有数据如何平滑迁移到 ......
【Redis 技术探索】「数据迁移实战」手把手教你如何实现在线 + 离线模式进行迁移 Redis 数据实战指南（scan模式迁移）
在线数据迁移方式 对于大多数场景下的Redis的数据迁移，还是比较推荐大家参考我之前的前两篇文章。 【Redis 技术探索】「数据迁移实战」手把手教你如何实现在线 + 离线模式进行迁移 Redis 数据实战指南（在线同步数据） 【Redis 技术探索】「数据迁移实战」手把手教你如何实现在线 + 离线 ......
【SpringBoot实战专题】「开发实战系列」从零开始教你舒服的使用RedisTemplate操作Redis数据
SpringBoot快速操作Redis数据 在SpringBoot框架中提供了spring-boot-starter-data-redis的依赖组件进行操作Redis服务，当引入了该组件之后，只需要配置Redis的配置即可进行链接Redis服务并且进行操作Redis服务数据。 针对于不同的版本有了不 ......
【SpringBoot实战专题】「开发实战系列」从零开始教你舒服的使用RedisTemplate操作Redis数据
SpringBoot快速操作Redis数据 在SpringBoot框架中提供了spring-boot-starter-data-redis的依赖组件进行操作Redis服务，当引入了该组件之后，只需要配置Redis的配置即可进行链接Redis服务并且进行操作Redis服务数据。 针对于不同的版本有了不 ......
【分布式技术专题】「LVS负载均衡」全面透析Web基础架构负载均衡LVS机制的原理分析指南
前提概要 在大规模互联网应用中，负载均衡设备是必不可少的组成部分，源于互联网应用的高并 发和大流量的冲击压力场景下，通常会在服务端部署多个无状态的应用服务器和若干有状态的存储服务器（数据库、缓存等等）实现高可用特点和机制。 LVS的介绍说明 官方站点：http://www.linuxvirtuals ......
【Redis技术探索】「数据迁移实战」手把手教你如何实现在线+离线模式进行迁移Redis数据实战指南（在线同步数据）
从实战出发使用RedisShake进行Redis数据在线+离线模式迁移指南 RedisShake基本介绍 RedisShake是基于redis-port基础上进行改进的是一款开源的Redis迁移工具，支持Cluster集群的在线迁移与离线迁移（备份文件导入）。数据可平滑迁移，当部署在其他云厂商Red ......
ING国际银行基于Volcano的大数据分析平台应用实践
摘要：ING集团发表了《Efficient Scheduling Of High Performance Batch Computing For Analytics Workloads With Volcano - Krzysztof Adamski & Tinco Boekestijn, ING》 ......
微服务架构学习与思考(12)：从单体架构到微服务架构的演进历程
从单体架构到微服务架构的演进历程 一、单体架构 1.1 什么时候用单体架构 在创业初期或项目开始时，项目整体功能比较少，开发人员也少，且项目需要用最少时间开发出来，用 MVP 方式快速进行市场验证是否可行，这时候就可以用单体架构进行快速开发。 1.2 单体架构设计举例-电商应用 功能分析： 拿淘宝网 ......
Vue+echart 展示后端获取的数据
最近在合作做一个前后端分离项目时，为了测试我写的后端部分获取数据的效果，自己也学了一下 vue 的知识，在获取 json 信息这里也踩了很多坑。 这里列举下我返回的 json 部分信息： { "house_basic": [ { "HOUSE_ID": "00001", "HOUSE_NAME": ......
Linux 驱动像单片机一样读取一帧dmx512串口数据
硬件全志R528 目标：实现Linux 读取一帧dmx512串口数据。 问题分析：因为串口数据量太大，帧与帧之间的间隔太小。通过Linux自带的读取函数方法无法获取到 帧头和帧尾，读取到的数据都是缓存区中的，数据量又大。导致缓冲区中一直有很多数据， 又由于dmx512数据协议中并没有帧头帧尾字段只有 ......
低版本客户端连接高版本数据库报错ORA-28040、ORA-01017
测试环境： 客户端：Oracle 11.2.0.1 服务端：Oracle 19.16 测试过程： 1.低版本客户端连接高版本数据库报错ORA-28040 2.低版本客户端连接高版本数据库报错ORA-01017 3.总结经验 1.低版本客户端连接高版本数据库报错ORA-28040 使用oracle 1 ......
Longhorn+K8S+KubeSphere云端数据管理，实战 Sentry PostgreSQL 数据卷增量快照/备份与还原
云端实验环境配置 VKE K8S Cluster Vultr 托管集群 https://vultr.com/ 3 个 worker 节点，kubectl get nodes。 k8s-paas-71a68ebbc45b Ready <none> 12d v1.23.14 k8s-paas-dbbd4 ......
[apue] Unix 系统数据文件那些事儿
如何免密 ssh 登录空密码账户？getpwent 为何会返回比 /etc/passwd 文件更多的内容？同样是修改附加组 ID，usermod -G 和 gpasswd -a/-d 有何区别？/etc/networks 有什么用处？gethostbyname / getservbyname 和 g... ......
Python导入Excel表格数据并以字典dict格式保存
本文介绍基于Python语言，将一个Excel表格文件中的数据导入到Python中，并将其通过字典格式来存储的方法。 我们以如下所示的一个表格（.xlsx格式）作为简单的示例。其中，表格共有两列，第一列为学号，第二列为姓名，且每一行的学号都不重复；同时表格的第一行为表头。 假设我们需要将第一列的学号 ......
Crossplane - 比 Terraform 更先进的云基础架构管理平台？
👉️URL: https://crossplane.io/ 📝Description: 将云基础架构和服务组成自定义平台 API 简介 在 11 月的 KCD 上海现场，听了一场阿里云的工程师关于他们自己的多云基础架构管理工具的介绍，前边的引言部分有介绍到 Terraform，还有另一款竞品就是 ......
大数据分析新玩法之Kusto宝典 - 新书发布，免费发行
我很高兴地跟大家分享，我在元旦期间编写的一本新书今天上线，并且免费发行，大家可以随时通过 https://kusto.book.xizhang.com 这个地址访问，也可以下载 PDF 的版本， 这本书是基于Github的模式编写的 (地址在 https://github.com/chenxizha ......
数据分析师都要具备以终为始的思考逻辑
职场中，需要的是「解决问题」的能力，对于数据分析师同样如此。 数据分析解决业务问题有一套“标准化流程”：从明确需求、清洗数据，到分析原因、提出建议。对于这大同小异的过程，有的分析师驾轻就熟赋能业务，但有的却频频卡壳，或许拿了数据不知从何入手，或许分析一轮后却被否认。 针对这些问题，我们需要「以终为始 ......
学习ASP.NET Core Blazor编程系列二十一——数据刷新
第二个问题，就是数据刷新问题，这不仅仅是上传中会碰到，只要是用数据列表或表格呈现数据，都可能会碰到没有及时刷新，数据不是最新的这个问题。Blazor 绑定（绑定就是刷新）机制有三种，Blazor组件在第一次渲染完成之后，ShouldRender 会返回为 false，然后后面调用都返回 false，... ......
通过Canal将云上MySQL数据同步到华为云ES(CSS)中
背景: A部门想将mysql中多张表join成一个sql查询语句,然后将结果同步到es中供搜索使用 环境信息: 源端mysql在阿里云上,有公网ip 目标端es在华为云上,三节点 操作步骤与目的: 配置MySQL供canal访问 1.由于阿里云的rds一般都配置了白名单,因此需要将后续canal所在 ......
工作流引擎架构设计
原文链接： 工作流引擎架构设计 最近开发的安全管理平台新增了很多工单申请流程需求，比如加白申请，开通申请等等。最开始的两个需求，为了方便，也没多想，就直接开发了对应的业务代码。 但随着同类需求不断增多，感觉再这样写可要累死人，于是开始了工作流引擎的开发之路。查找了一些资料之后，开发了现阶段的工作流引 ......
你知道微服务架构中的“发件箱模式”吗
前言 微服务架构如今非常的流行，这个架构下可能经常会遇到“双写”的场景。双写是指您的应用程序需要在两个不同的系统中更改数据的情况，比如它需要将数据存储在数据库中并向消息队列发送事件。您需要保证这两个操作都会成功。如果两个操作之一失败，您的系统可能会变得不一致。那针对这样的情况有什么好的方法或者设计保 ......
【架构设计】你真的理解软件设计中的SOLID原则吗？
前言 在软件架构设计领域，有一个大名鼎鼎的设计原则——SOLID原则，它是由由Robert C. Martin（也称为 Uncle Bob）提出的，指导我们写出可维护、可以测试、高扩展、高内聚、低耦合的代码。是不是很牛，但是你们都理解这个设计原则吗，如果理解不深入的话，更这我通过JAVA示例深入浅出 ......
工作这么多年，我总结的数据传输对象 (DTO) 的最佳实践
前言 数据传输对象 (DTO) 是一种设计模式，常用于软件开发不同层或者不同系统之间传输数据。DTO 的主要目的是封装数据并防止它被其他层或系统直接访问或修改。通过遵循一组最佳实践，开发人员可以确保他们的 DTO 有效且高效。 欢迎关注个人公众号【JAVA旭阳】交流学习 DTO 的重要性 DTO 是 ......