中间件 架构 框架 随笔

scrapy架构介绍、scrapy解析数据、scrapy解析数据、持久化方案、全站爬取cnblogs文章、爬虫和下载中间件、加代理,cookie,header,加入selenium

# 1 selenium -登录cnblogs,拿到cookie,再打开cnblogs,写入cookie,它就是登录状态 -半自动点赞 》selenium生成的cookie,给requests用 -selenium操作浏览器,速度慢 -requests速度快 -动作链 -自动登录12306 # 2 ......
scrapy 数据 爬虫 中间件 全站

【数据模型】 与 【数据库英语】随笔

数据库管理系统 DBMS (DataBase-Management System) 数据库 database 文件处理系统 file-processing system 数据的冗余和不一致 data redundancy and inconsistency 数据访问困难 difficulty in ......
数据 模型 随笔 数据库

集合框架

集合框架 1.List接口 2.Set接口 3,Map接口 一、集合的体系 1.Collection接口 也是一种集合,特征:无序,可重复 无序:没有游标 可重复:这个集合当中可以有相同的数据 注意:没有直接的实现类 Collection<String> list = Arrays.asList(n ......
框架

netty网络框架一

一、netty是什么 Netty 是一个高性能、异步事件驱动的网络应用程序框架,使用 Java 编写。它提供了一组简单但功能强大的抽象,使得开发人员可以轻松地开发基于网络协议的客户端和服务器应用程序。Netty 的核心是其基于事件驱动模型的异步 I/O 机制,这种机制可以让应用程序在处理大量的并发连 ......
框架 netty 网络

netty网络框架二

一、Buffer的分散和聚集 Buffer的分散和聚集是指将一个大的连续数据缓冲区分割成多个小的缓冲区或将多个小的缓冲区组合成一个大的连续数据缓冲区的过程。 分散操作可以将一个数据缓冲区中的数据分散到多个小的缓冲区中,通常用于将数据发送给多个接收方。聚集操作相反,它可以将多个小的缓冲区中的数据聚集到 ......
框架 netty 网络

进制表示-02 原码、反码、补码、移码 随笔

#睁眼闭眼就是第二天 所以什么样的生活方式才是程序员的生活 说轻松不轻松,说不轻松又很轻松。动动手指头一个月就到账万把块,而有时候想破脑筋也没有解决方案;这就是程序员吗?可是只是对我而言吧,从三流大学自学JAVA一路艰辛到目前从业JAVA行业 可身边的人让我不禁投向羡慕的眼光,一份客观的工资,一份美 ......
反码 补码 进制 随笔 02

MQ消息中间件,面试能问写什么?

为什么使用消息队列 消息队列的常见使用场景有很多但是核心的有三个:解耦、异步、削峰 解耦:那种不需要直接同步调用接口的,可以考虑异步化解耦 异步:主业务执行结束后从属业务通过MQ,异步执行,减低业务的响应时间 削峰:高并发场景下,延缓用户请求,环节应用压力 消息队列的优点和缺点? 优点: 特殊场景下 ......
中间件 消息

框架中处处可见反射的运用,你对它了解多少?

什么是反射 反射是一种能够在程序运行时动态访问、修改某个类中任意属性(状态)和方法(行为)的机制(包括private实例和方法),java反射机制提供了以下几个功能: 在运行时判断任意一个对象所属的类; 在运行时构造任意一个类的对象; 在运行时判断任意一个类所具有的成员变量和方法; 在运行时调用任意 ......
框架

一个基于序列的弱监督视觉信息抽取学习框架

一、简要介绍 视觉信息提取(VIE)近年来受到了越来越多的关注。现有的方法通常首先将光学字符识别(OCR)结果组织成纯文本,然后利用标记级实体注释作为监督来训练序列标记模型。但是,它花费大量的注释成本,可能导致标签混淆,OCR错误也会显著影响最终性能。在本文中,作者提出了一个统一的弱监督学习框架,称 ......
序列 框架 视觉 信息

传统架构 vs 云原生架构,谈谈为什么我们需要云原生架构?

传统架构 vs 云原生架构,谈谈为什么我们需要云原生架构? 云原生架构是什么 回顾过去十年,数字化转型驱动着技术创新和商业元素的不断融合和重构,可以说,现在已经不是由商业模式决定采用何种技术架构,而是由技术架构决定企业的商业模式。所以无论是行业巨头还是中小微企业都面临着数字化转型带来的未知机遇和挑战 ......
架构 传统 vs

架构师成长计划|如何利用云原生构建一个企业级高可用架构

Gartner 报告指出,到 2022 年,有 75% 的全球化企业将在生产中使用云原生的服务化应用。不仅是互联网行业,制造、房地产、生物医药、政府等各行各业都将拥抱云原生技术。在这种背景下,行业也出现了较为彻底的预判:未来成功的企业都将采用云原生技术,并且是深度应用。 近几年,“云原生”这个词被提 ......
架构 企业

《前端serverless 面向全栈的无服务器架构实战》读书笔记

第1章 什么是severless 什么是NoOps 利用自动化运维代替手工运维模式 什么是severless 开发者无需关注服务器资源配置情况、部署情况、操作系统以及依赖软件等在内等所有细节,这一切都由平台完成,开发者只需要专注于业务实现。 serverless是指在应用的构建环节或应用环节都无需对 ......
前端 serverless 架构 实战 服务器

Serverless从入门到进阶:架构、原理与实践

腾讯云Serverless项目早期参与者撰写,基于腾讯云、阿里云和亚马逊云等多个云厂商的产品和技术;从产品和技术两个维度展开,讲解Serverless的架构设计、技术原理、开发流程、实战案例。 这是一本从产品和技术两个维度讲解Serverless的著作,涵盖Serverless的架构设计、技术原理、 ......
Serverless 架构 原理

玩转Serverless架构 概念篇+开发基础篇+开发进阶篇+场景案例篇

你好,我是老蒋,一个在前端摸爬滚打 7 年的老兵,目前是国内某一线大厂的资深软件工程师。 2017 年国内 Serverless 技术刚刚兴起,我就开始使用和推广 Serverless 了,当时,我的团队负责很多前端中后台系统的研发,后端为了方便扩展就把接口设计得很原子化,导致前端渲染一个页面要发几 ......
Serverless 架构 场景 概念 案例

领域驱动架构设计之事件篇

前言 领域驱动设计基于CQRS的事件架构, 可以使命令发起者和命令执行者解耦。通过一系列的事件的追加存储,可以对事件的追踪和溯源。采用事件架构模式,更加面向与业务职能,将复杂的业务场景拆分成不同事件执行,在一定程度上达到解耦和复用的目的。事件的发起者和执行分离,解耦下游的相关的系统,下游只需要监听关 ......
架构 领域 事件

脚本编写的一个通用框架

总结基于python写脚本的框架 # -*- encoding:utf-8 -*- # @time: 2023/3/21 12:11 # @author: Maxs_hu """ 基于python实现小脚本的基础框架: 1. 利用yield生成器函数, 将读取到的数据返回 2. 线程池执行主线任务 ......
脚本 框架

第六章 Calico架构图的详解图

##1,Calico网络模型主要工作组件: 1.Felix:运行在每一台 Host 的 agent 进程,主要负责网络接口管理和监听、路由、ARP 管理、ACL 管理和同步、状态上报等。保证跨主机容器网络互通。 2.etcd:分布式键值存储,相当于k8s集群中的数据库,存储着Calico网络模型中I ......
架构 Calico

Vue3 企业级优雅实战 - 组件库框架 - 9 实现组件库 cli - 上

上文搭建了组件库 cli 的基础架子,实现了创建组件时的用户交互,但遗留了 cli/src/command/create-component.ts 中的 createNewComponent 函数,该函数要实现的功能就是上文开篇提到的 —— 创建一个组件的完整步骤。本文咱们就依次实现那些步骤。(友情 ......
组件 实战 框架 企业 Vue3

如何基于Security框架兼容多套用户密码加密方式

一、说明 当已上线的系统存在使用其他的加密方式加密的密码数据,并且密码 不可逆 时,而新的数据采用了其他的加密方式,则需要同时兼容多种加密方式的密码校验。 例如下列几种情况: 旧系统用户的密码采用了 MD5 的加密方式,而升级框架后的新系统则采用 BCrypt 的加密方式; 当割接历史数据后会存在用 ......
多套 框架 Security 密码 方式

带你深入Java Log框架,彻底搞懂Log4J、Log4J2、LogBack,SLF4J

最近系统被扫出来还在使用老旧的log4j,需要升级到最新的log4j。但是在升级的发现,Java相关的日志处理库有log4j, log4j2,slf4j和logback,初一看确实有点头大,那么区别是啥呢?之前也大概知道一些,查找了大量相关资料,这里好好总结一下,相信你读完就会熟练掌握 Log4J、 ......
Log Log4 框架 4J LogBack

【深入浅出 Yarn 架构与实现】5-1 Yarn 资源调度器基本框架

资源调度器是 YARN 中最核心的组件之一,它是 ResourceManager 中的一个插拔式服务组件,负责整个集群资源的管理和分配。 Yarn 默认提供了三种可用资源调度器,分别是FIFO (First In First Out )、 Yahoo! 的 Capacity Scheduler 和 ... ......
深入浅出 Yarn 架构 框架 资源

【分布式技术专题】「分布式技术架构」一文带你厘清分布式事务协议及分布式一致性协议的算法原理和核心流程机制(Paxos篇)

概念简介 Paxos是一种基于消息传递具有高度容错特性的一致性算法,是目前公认的解决分布式一致性问题最有效的算法之一。 发展历史 Paxos算法的发展历史追溯到古希腊,当时有一个名为“Paxos“的小岛, 岛上采用一会的形式通过法令, 议会中议员通过信使进行消息传递,议员与信使都是兼职的,他们随时都 ......
分布式 技术 一致性 算法 架构

改进 hibernate-validator,新一代校验框架 validator 使用介绍 v0.4

项目介绍 java 开发中,参数校验是非常常见的需求。但是 hibernate-validator 在使用过程中,依然会存在一些问题。 validator 在 hibernate-validator 等校验工具之上,做了一些改进,使其使用更加便捷优雅,进一步提升工作效率。 变更日志 变更日志 特性 ......

Asp-Net-Core开发笔记:使用RateLimit中间件实现接口限流

前言 最近一直在忙(2月份沉迷steam,3月开始工作各种忙),好久没更新博客了,不过也积累了一些,忙里偷闲记录一下。 这个需求是这样的,我之前做了个工单系统,现在要对登录、注册、发起工单这些功能做限流,不能让用户请求太频繁。 从 .Net7 开始,已经有内置的限流功能了,但目前我们的项目还在使用 ......

推荐一个前后端分离.NetCore+Angular快速开发框架

今天给大家推荐一个开源项目,基于.NetCore开发的、前后端分离、前端有Vue、Angular、MVC多个版本的快速开发框架。 项目简介 这是一个基于.NetCore开发的快速开发框架,项目采用模块化架构、最新的技术栈、项目高度封装了依赖注入、日志(Log4net、Nlog)、缓存(Redis)、 ......
框架 NetCore Angular

企业低成本万能架构

企业软件应用架构层出不穷(这里的应用架构是指偏后端服务的软件架构)每个企业由各自业务形态,技术栈,技术路线,技术实力不同,各自架构方案,技术选型各有各的不同,千姿百态,正所谓:“百花齐放,尽吐芬芳”。 没有最好架构,只有当前最适合的架构方案,也没有完美架构,只有持续迭代演进的架构。 有没有一种万能通 ......
架构 成本 企业

统一授权认证架构设计及实现

统一鉴权认证是一个基础服务。它几乎在所有企业内部都需要,企业内部只要有两个以上系统存在,就有必要实现一套统一的授权系统,否则用户使用非常地麻烦,需要在不同系统之间来回登录切换。特别是在微服务大行其道的今天,这个统一授权认证服务更是一个基础和关键入口。实现的方案有很多种,但都大同小异。 本文主要介绍授 ......
架构

浅谈:服务架构进化论

从20世纪七八十年代的原始分布式到如今的单体架构、SOA、微服务、后微服务(云原生),到未来的无服务时代,这里都和你简单聊一聊。 ......
进化论 架构

消息队列中间件的选型与比较

消息队列是一种重要的分布式系统组件,可用于异步通信、削峰填谷、解耦系统、数据缓存等多个方面。在选择消息队列时,需要考虑诸多因素,包括性能、可靠性、可用性、扩展性、可维护性、社区支持等等。 一、MQ介绍 1. Kafka Kafka 是一种高吞吐量、分布式的消息队列系统。它以日志为基础,支持高吞吐量、 ......
队列 中间件 消息

大道至简的架构设计思想之:封装(C系架构设计法,sishuok)

一起来看看大道至简的一些基本设计思想,首先我们来看一下什么是封装。 封装:也叫做信息隐藏,或者数据访问保护。放到程序上来讲,就是隐藏类的属性,还有实现细节,仅对外公开一些接口。那么外部,就只能通过这个类暴露的这些访问接口,按照这个类提供的方式来访问类的内部信息或者数据。这样子的一种情况就叫做封装。 ......
架构 设计思想 大道 sishuok 思想