平台powerdotnet架构 财务
爬虫相关 scrapy架构介绍、scrapy解析数据、settings相关配置，提高爬取效率、持久化方案、全站爬取cnblogs文章、
==scrapy架构介绍== # 引擎(EGINE) 引擎负责控制系统所有组件之间的数据流，并在某些动作发生时触发事件。 # 调度器(SCHEDULER) 用来接受引擎发过来的请求, 压入队列中, 并在引擎再次请求的时候返回. 可以想像成一个URL的优先级队列, 由它来决定下一个要抓取的网址是什么, ......
推荐一款多功能的跨平台小程序管理工具
在微信平台的疯狂扶持下和开发者的认可下，简单易上手的微信小程序一经推出反响就非常好，微信小程序技术推出之后，开发者环境一石激起千层浪，各大超级 App 厂商也纷纷跟投，像是百度、支付宝、抖音等 App 都走上了小程序这一条路。 ......
ytsaurus yandex 开源的大数据平台
ytsaurus yandex 开源的 大数据平台 支持的特性 对租户，包含看了mapreduce，sql 查询引擎，job 调度，面向oltp 的key value 存储 可靠以及稳定，无单点故障，自动复制，更新不丢失数据 可扩展，支持百万级别的cpu 以及千级别的GPU，支持EB 级别的HDD， ......
飞塔防火墙对接Fortimanager和FortiAnalyzer平台
测试拓扑如下： Fortigate加入Fortimanager步骤： step1:网关管理口开启 FMG-Access服务 WEB-UI下开启如下图： 命令行开启： FortiGate # config system interface FortiGate (interface) # edit po ......
《渗透测试》JS架构&框架识别&泄漏提取&API接口枚举&FUZZ爬虫&插件项目 Day14
0、什么是JS渗透测试？ 在Javascript中也存在变量和函数，当存在可控变量及函数调用即可参数漏洞 JS开发的WEB应用和PHP，JAVA,NET等区别在于即没有源代码，也可以通过浏览器的查看源代码获取真实的点。获取URL，获取JS敏感信息，获取代码传参等，所以相当于JS开发的WEB应用属于白 ......
为什么Tomcat架构要这么设计？这篇文章告诉你答案！
Tomcat体系架构 Tomcat项目结构 bin目录 bin目录主要是用来存放tomcat的命令，主要有两大类，一类是以.sh结尾的（linux命令），另一类是以.bat结尾的（windows命令）。 很多环境变量的设置都在此处，例如可以设置JDK路径、tomcat路径 startup文件：主要是 ......
大数据平台-元数据详情字段乱码问题排查过程
问题背景： 大数据平台中，数据资产(表、字段都属于资产)存储在Hive数据库中。用户可以搜索、点击查看元数据列表、详情等操作。 问题现象： 点击元数据详情，查看字段信息时，展示出的字段信息出现乱码现象。 问题原因： 初步分析大致又两种可能： 平台后端服务获取到数据时，无乱码问题，经由平台服务处理后展 ......
scrapy架构介绍、scrapy解析数据、scrapy解析数据、持久化方案、全站爬取cnblogs文章、爬虫和下载中间件、加代理，cookie，header，加入selenium
# 1 selenium -登录cnblogs，拿到cookie，再打开cnblogs，写入cookie，它就是登录状态 -半自动点赞 》selenium生成的cookie，给requests用 -selenium操作浏览器，速度慢 -requests速度快 -动作链 -自动登录12306 # 2 ......
中科图新社区网格化综治管理平台，让基层社会治理更精准精细
社区网格化-业务背景 党的十六大提出了“完善城市居民自治，建设管理有序、文明祥和的新型社区”，十七大进一步强调“推进电子政务，强化社会管理和公共服务”，党的十八届三中全会明确提出基层综合服务管理要采用网格化管理。一方面随着社区网格化的普及，社区办事效率普遍提高；另一方面，各地社区网格化管理实践过程中 ......
传统架构 vs 云原生架构，谈谈为什么我们需要云原生架构？
传统架构 vs 云原生架构，谈谈为什么我们需要云原生架构？ 云原生架构是什么 回顾过去十年，数字化转型驱动着技术创新和商业元素的不断融合和重构，可以说，现在已经不是由商业模式决定采用何种技术架构，而是由技术架构决定企业的商业模式。所以无论是行业巨头还是中小微企业都面临着数字化转型带来的未知机遇和挑战 ......
架构师成长计划｜如何利用云原生构建一个企业级高可用架构
Gartner 报告指出，到 2022 年，有 75% 的全球化企业将在生产中使用云原生的服务化应用。不仅是互联网行业，制造、房地产、生物医药、政府等各行各业都将拥抱云原生技术。在这种背景下，行业也出现了较为彻底的预判：未来成功的企业都将采用云原生技术，并且是深度应用。 近几年，“云原生”这个词被提 ......
《前端serverless 面向全栈的无服务器架构实战》读书笔记
第1章 什么是severless 什么是NoOps 利用自动化运维代替手工运维模式 什么是severless 开发者无需关注服务器资源配置情况、部署情况、操作系统以及依赖软件等在内等所有细节，这一切都由平台完成，开发者只需要专注于业务实现。 serverless是指在应用的构建环节或应用环节都无需对 ......
【云原生-DevOps】企业级DevOps平台搭建及技术选型-CICD篇
又是开篇 上一篇文章我们大概分享了DevOps项目管理中怎么企业级搭建 本篇文章主要介绍两个子系统【CICD、效能看板】 CICD系统 CI（Continuous Integration）：指持续集成，它属于开发人员的自动化流程。 持续集成是一种软件开发实践，团队开发成员经常提交代码到代码仓库，通常 ......
Kubernetes 学习总结（19）—— Kubernetes 集群管理平台如何选择？Rancher vs KubeSphere
Kubernetes 学习总结（19）—— Kubernetes 集群管理平台如何选择？Rancher vs KubeSphere 前言 Kubernetes（K8s）集群管理平台都是基于 Kubernetes 提供功能，可以说他们是在 K8s 的基础上封装了一层更为友好的操作方式。他们都是为了降低 ......
Serverless从入门到进阶：架构、原理与实践
腾讯云Serverless项目早期参与者撰写，基于腾讯云、阿里云和亚马逊云等多个云厂商的产品和技术；从产品和技术两个维度展开，讲解Serverless的架构设计、技术原理、开发流程、实战案例。 这是一本从产品和技术两个维度讲解Serverless的著作，涵盖Serverless的架构设计、技术原理、 ......
玩转Serverless架构 概念篇+开发基础篇+开发进阶篇+场景案例篇
你好，我是老蒋，一个在前端摸爬滚打 7 年的老兵，目前是国内某一线大厂的资深软件工程师。 2017 年国内 Serverless 技术刚刚兴起，我就开始使用和推广 Serverless 了，当时，我的团队负责很多前端中后台系统的研发，后端为了方便扩展就把接口设计得很原子化，导致前端渲染一个页面要发几 ......
领域驱动架构设计之事件篇
前言 领域驱动设计基于CQRS的事件架构， 可以使命令发起者和命令执行者解耦。通过一系列的事件的追加存储，可以对事件的追踪和溯源。采用事件架构模式，更加面向与业务职能，将复杂的业务场景拆分成不同事件执行，在一定程度上达到解耦和复用的目的。事件的发起者和执行分离，解耦下游的相关的系统，下游只需要监听关 ......
第六章 Calico架构图的详解图
##1，Calico网络模型主要工作组件： 1.Felix：运行在每一台 Host 的 agent 进程，主要负责网络接口管理和监听、路由、ARP 管理、ACL 管理和同步、状态上报等。保证跨主机容器网络互通。 2.etcd：分布式键值存储，相当于k8s集群中的数据库，存储着Calico网络模型中I ......
一种测试平台搭建方法
一、config文件夹 config文件： 对不同组件的变量进行声明，任何你想要全局共享的变量都可以放进来 声明virtual_if、reg_model_block和vip_config 工厂注册和域的自动化(方便后期通过log查看) 如果有vip_config要在new函数里创建 function ......
搭建自己的网络商城-购物平台管理端界面预览
平台管理端用户平台搭建运营者对使用平台的商家进行管理设置维护等，平台支持多商家，单商家多店铺运营。店铺经营类目分类，店铺等级。商品管理支持，商品分类发布，商品规格，参数设置，品牌管理等。平台支持物流公司配置，多种支付方式的配置，支持多种第三方登录方式，如：支付宝，微信，qq等。多种促销方式可以灵活配 ......
利用 Rainbond 云原生平台简化 Kubernetes 业务问题排查
Kubernetes 已经成为了云原生时代基础设施的事实标准，越来越多的应用系统在 Kubernetes 环境中运行。Kubernetes 已经依靠其强大的自动化运维能力解决了业务系统的大多数运行维护问题，然而还是要有一些状况是需要运维人员去手动处理的。那么和传统运维相比，面向 Kubernetes ......
2023最新ELK日志平台（elasticsearch+logstash+kibana）搭建
去年公司由于不断发展，内部自研系统越来越多，所以后来搭建了一个日志收集平台，并将日志收集功能以二方包形式引入自研系统，避免每个自研系统都要建立一套自己的日志模块，节约了开发时间，管理起来也更加容易。
这篇文章主要介绍ELK最新版本的搭建，二方包的介绍可以看小霸王的另外一篇文章。 ......
【深入浅出 Yarn 架构与实现】5-1 Yarn 资源调度器基本框架
资源调度器是 YARN 中最核心的组件之一，它是 ResourceManager 中的一个插拔式服务组件，负责整个集群资源的管理和分配。
Yarn 默认提供了三种可用资源调度器，分别是FIFO (First In First Out )、 Yahoo! 的 Capacity Scheduler 和 ... ......
【分布式技术专题】「分布式技术架构」一文带你厘清分布式事务协议及分布式一致性协议的算法原理和核心流程机制（Paxos篇）
概念简介 Paxos是一种基于消息传递具有高度容错特性的一致性算法，是目前公认的解决分布式一致性问题最有效的算法之一。 发展历史 Paxos算法的发展历史追溯到古希腊，当时有一个名为“Paxos“的小岛， 岛上采用一会的形式通过法令， 议会中议员通过信使进行消息传递，议员与信使都是兼职的，他们随时都 ......
企业低成本万能架构
企业软件应用架构层出不穷（这里的应用架构是指偏后端服务的软件架构）每个企业由各自业务形态，技术栈，技术路线，技术实力不同，各自架构方案，技术选型各有各的不同，千姿百态，正所谓：“百花齐放，尽吐芬芳”。 没有最好架构，只有当前最适合的架构方案，也没有完美架构，只有持续迭代演进的架构。 有没有一种万能通 ......
统一授权认证架构设计及实现
统一鉴权认证是一个基础服务。它几乎在所有企业内部都需要，企业内部只要有两个以上系统存在，就有必要实现一套统一的授权系统，否则用户使用非常地麻烦，需要在不同系统之间来回登录切换。特别是在微服务大行其道的今天，这个统一授权认证服务更是一个基础和关键入口。实现的方案有很多种，但都大同小异。 本文主要介绍授 ......
基于 RocketMQ Connect 构建数据流转处理平台
为什么在“双11”抢红包活动及大型数据系统中总是出现 RocketMQ 的身影？ RocketMQ Connect在RocketMQ 生态中扮演什么角色？本文为大家解答上述疑问。同时，介绍 OceanBase 与 RocketMQ 如何集成以及能帮助大家解决哪些问题。 ......
大道至简的架构设计思想之：封装（C系架构设计法，sishuok）
一起来看看大道至简的一些基本设计思想，首先我们来看一下什么是封装。 封装：也叫做信息隐藏，或者数据访问保护。放到程序上来讲，就是隐藏类的属性，还有实现细节，仅对外公开一些接口。那么外部，就只能通过这个类暴露的这些访问接口，按照这个类提供的方式来访问类的内部信息或者数据。这样子的一种情况就叫做封装。 ......
深入理解需求分析的目标（C系架构设计法）
需求分析的目标：是尽可能准确、全面、深入的理解业务。 1：理解“尽可能准确” 首先，需求分析，要做的事，肯定是去理解业务，但是要达到什么样的程度，才算是我们理解了这个业务呢？ 第一个是“尽可能”，尽可能的意思，就是你不太可能百分之百的、完整的、准确的去理解，做不到。我们只能说是尽自己最大努力去理解， ......