架构 有章可循 团队 技术

大数据计算引擎 EasyMR:拥抱开源,引领技术创新

身处数字经济时代,随着大数据应用越来越广泛,越来越多的企业和组织开始关注大数据基础平台的建设和运营。在认识到其的重要性之后,如何具体着手搭建或采购大数据基础平台成为下一步需要解决的问题。 在大数据基础平台中,大数据组件是非常重要的一部分,包括数据存储、数据处理、数据分析、数据可视化等。在选择大数据组 ......
技术创新 引擎 数据 EasyMR 技术

【Unity3D】Unity3D技术栈

1 前言 ​ 本文梳理了笔者在学习 Unity3D 的过程中,对 Unity3D 的理解和学习路线,以帮助读者循序渐进地学习 Unity3D,后续笔者仍会持续更新 Unity3D 相关技术栈,并同步到本文中。 ​ 1)Unity 相关网站 Unity 官网:https://unity.cn/ Uni ......
Unity3D Unity3 Unity 技术 3D

爬虫相关 scrapy架构介绍、scrapy解析数据、settings相关配置,提高爬取效率、持久化方案、全站爬取cnblogs文章、

==scrapy架构介绍== # 引擎(EGINE) 引擎负责控制系统所有组件之间的数据流,并在某些动作发生时触发事件。 # 调度器(SCHEDULER) 用来接受引擎发过来的请求, 压入队列中, 并在引擎再次请求的时候返回. 可以想像成一个URL的优先级队列, 由它来决定下一个要抓取的网址是什么, ......
scrapy 爬虫 全站 架构 settings

Web前端技术栈(待更新......)

一、HTML 1、什么是HTML 1.1、初识HTML HTML:==Hyper Text Markup Language(超文本标记语言)== 超文本包括:文字、图片、音频、视频、动画等 HTML5的优势 ①世界知名浏览器厂商对HTML5的支持 ​ 1、微软 ​ 2、Google ​ 3、苹果 ​ ......
前端 技术 Web

团队作业 分析原因

在今天上课我和我的cp没有演示,主要是那个换乘的那个查询没能写出来,还有就是页面设计的也不是特别好,所有就没有上台展示,那个换乘和最短路线想了很久的算法设计,没能想出来,接下来我和我的cp就是要把功能实现把页面设计一下,最后在安卓上展示。 ......
团队 原因

《渗透测试》JS架构&框架识别&泄漏提取&API接口枚举&FUZZ爬虫&插件项目 Day14

0、什么是JS渗透测试? 在Javascript中也存在变量和函数,当存在可控变量及函数调用即可参数漏洞 JS开发的WEB应用和PHP,JAVA,NET等区别在于即没有源代码,也可以通过浏览器的查看源代码获取真实的点。获取URL,获取JS敏感信息,获取代码传参等,所以相当于JS开发的WEB应用属于白 ......
amp 爬虫 架构 插件 框架

为什么Tomcat架构要这么设计?这篇文章告诉你答案!

Tomcat体系架构 Tomcat项目结构 bin目录 bin目录主要是用来存放tomcat的命令,主要有两大类,一类是以.sh结尾的(linux命令),另一类是以.bat结尾的(windows命令)。 很多环境变量的设置都在此处,例如可以设置JDK路径、tomcat路径 startup文件:主要是 ......
架构 篇文章 答案 Tomcat

scrapy架构介绍、scrapy解析数据、scrapy解析数据、持久化方案、全站爬取cnblogs文章、爬虫和下载中间件、加代理,cookie,header,加入selenium

# 1 selenium -登录cnblogs,拿到cookie,再打开cnblogs,写入cookie,它就是登录状态 -半自动点赞 》selenium生成的cookie,给requests用 -selenium操作浏览器,速度慢 -requests速度快 -动作链 -自动登录12306 # 2 ......
scrapy 数据 爬虫 中间件 全站

团队展示&选题

| 这个作业属于哪个课程 | 2023软件工程—双学位 | | | | | 这个作业要求在哪里 | 团队展示&选题 | | 这个作业目标 | 团队展示&选题 | | 其他参考文献 | 无 | 1.团队展示 队名:下岗工人再就业队 队员学号 袁小东 3120001847(组长) 翟张博 3120001 ......
选题 团队 amp

系统设计中的有限状态机FSM技术解析

FSM(有限状态机)是一种数学模型,用于描述系统或程序的行为,SM的状态机设计要点包括确定状态集合、转移函数、初始状态和结束状态,绘制状态图和转移表格,以及状态机的实现。其设计要点包括以下几个方面: 确定状态集合:需要明确系统可能的所有状态,并将其表示为一个状态集合。状态集合应该包含系统的所有可能状 ......
状态 系统 技术 有限 FSM

传统架构 vs 云原生架构,谈谈为什么我们需要云原生架构?

传统架构 vs 云原生架构,谈谈为什么我们需要云原生架构? 云原生架构是什么 回顾过去十年,数字化转型驱动着技术创新和商业元素的不断融合和重构,可以说,现在已经不是由商业模式决定采用何种技术架构,而是由技术架构决定企业的商业模式。所以无论是行业巨头还是中小微企业都面临着数字化转型带来的未知机遇和挑战 ......
架构 传统 vs

架构师成长计划|如何利用云原生构建一个企业级高可用架构

Gartner 报告指出,到 2022 年,有 75% 的全球化企业将在生产中使用云原生的服务化应用。不仅是互联网行业,制造、房地产、生物医药、政府等各行各业都将拥抱云原生技术。在这种背景下,行业也出现了较为彻底的预判:未来成功的企业都将采用云原生技术,并且是深度应用。 近几年,“云原生”这个词被提 ......
架构 企业

《前端serverless 面向全栈的无服务器架构实战》读书笔记

第1章 什么是severless 什么是NoOps 利用自动化运维代替手工运维模式 什么是severless 开发者无需关注服务器资源配置情况、部署情况、操作系统以及依赖软件等在内等所有细节,这一切都由平台完成,开发者只需要专注于业务实现。 serverless是指在应用的构建环节或应用环节都无需对 ......
前端 serverless 架构 实战 服务器

【云原生-DevOps】企业级DevOps平台搭建及技术选型-CICD篇

又是开篇 上一篇文章我们大概分享了DevOps项目管理中怎么企业级搭建 本篇文章主要介绍两个子系统【CICD、效能看板】 CICD系统 CI(Continuous Integration):指持续集成,它属于开发人员的自动化流程。 持续集成是一种软件开发实践,团队开发成员经常提交代码到代码仓库,通常 ......
DevOps 平台 技术 企业 CICD

Serverless从入门到进阶:架构、原理与实践

腾讯云Serverless项目早期参与者撰写,基于腾讯云、阿里云和亚马逊云等多个云厂商的产品和技术;从产品和技术两个维度展开,讲解Serverless的架构设计、技术原理、开发流程、实战案例。 这是一本从产品和技术两个维度讲解Serverless的著作,涵盖Serverless的架构设计、技术原理、 ......
Serverless 架构 原理

玩转Serverless架构 概念篇+开发基础篇+开发进阶篇+场景案例篇

你好,我是老蒋,一个在前端摸爬滚打 7 年的老兵,目前是国内某一线大厂的资深软件工程师。 2017 年国内 Serverless 技术刚刚兴起,我就开始使用和推广 Serverless 了,当时,我的团队负责很多前端中后台系统的研发,后端为了方便扩展就把接口设计得很原子化,导致前端渲染一个页面要发几 ......
Serverless 架构 场景 概念 案例

领域驱动架构设计之事件篇

前言 领域驱动设计基于CQRS的事件架构, 可以使命令发起者和命令执行者解耦。通过一系列的事件的追加存储,可以对事件的追踪和溯源。采用事件架构模式,更加面向与业务职能,将复杂的业务场景拆分成不同事件执行,在一定程度上达到解耦和复用的目的。事件的发起者和执行分离,解耦下游的相关的系统,下游只需要监听关 ......
架构 领域 事件

读后笔记 -- Java核心技术(第11版 卷I )Chapter1-2 Java 程序设计

本书源码(下载对应版本的代码):https://horstmann.com/corejava/index.html Java 17 API 文档:https://docs.oracle.com/javase/17/docs/api 配套视频讲解(卷一):https://space.bilibili. ......
读后 Java 程序设计 Chapter1 核心

【UE技术案例】场景交互雪

一. “画笔”与“画板” 1.1 RT的使用 Render Target 可以当Texture使用,相当于一张画布,通过蓝图节点或函数在上面绘制图案 Render Target 的两种使用方式: 直接使用 Draw Material to Render Target,直接绘制材质 Begin Dra ......
场景 案例 技术

第六章 Calico架构图的详解图

##1,Calico网络模型主要工作组件: 1.Felix:运行在每一台 Host 的 agent 进程,主要负责网络接口管理和监听、路由、ARP 管理、ACL 管理和同步、状态上报等。保证跨主机容器网络互通。 2.etcd:分布式键值存储,相当于k8s集群中的数据库,存储着Calico网络模型中I ......
架构 Calico

【深入浅出 Yarn 架构与实现】5-1 Yarn 资源调度器基本框架

资源调度器是 YARN 中最核心的组件之一,它是 ResourceManager 中的一个插拔式服务组件,负责整个集群资源的管理和分配。 Yarn 默认提供了三种可用资源调度器,分别是FIFO (First In First Out )、 Yahoo! 的 Capacity Scheduler 和 ... ......
深入浅出 Yarn 架构 框架 资源

【分布式技术专题】「分布式技术架构」一文带你厘清分布式事务协议及分布式一致性协议的算法原理和核心流程机制(Paxos篇)

概念简介 Paxos是一种基于消息传递具有高度容错特性的一致性算法,是目前公认的解决分布式一致性问题最有效的算法之一。 发展历史 Paxos算法的发展历史追溯到古希腊,当时有一个名为“Paxos“的小岛, 岛上采用一会的形式通过法令, 议会中议员通过信使进行消息传递,议员与信使都是兼职的,他们随时都 ......
分布式 技术 一致性 算法 架构

千亿参数开源大模型 BLOOM 背后的技术

假设你现在有了数据,也搞到了预算,一切就绪,准备开始训练一个大模型,一显身手了,“一朝看尽长安花”似乎近在眼前 …… 且慢!训练可不仅仅像这两个字的发音那么简单,看看 BLOOM 的训练或许对你有帮助。 近年来,语言模型越训越大已成为常态。大家通常会诟病这些大模型本身的信息未被公开以供研究,但很少关 ......
模型 背后 参数 BLOOM 技术

企业低成本万能架构

企业软件应用架构层出不穷(这里的应用架构是指偏后端服务的软件架构)每个企业由各自业务形态,技术栈,技术路线,技术实力不同,各自架构方案,技术选型各有各的不同,千姿百态,正所谓:“百花齐放,尽吐芬芳”。 没有最好架构,只有当前最适合的架构方案,也没有完美架构,只有持续迭代演进的架构。 有没有一种万能通 ......
架构 成本 企业

统一授权认证架构设计及实现

统一鉴权认证是一个基础服务。它几乎在所有企业内部都需要,企业内部只要有两个以上系统存在,就有必要实现一套统一的授权系统,否则用户使用非常地麻烦,需要在不同系统之间来回登录切换。特别是在微服务大行其道的今天,这个统一授权认证服务更是一个基础和关键入口。实现的方案有很多种,但都大同小异。 本文主要介绍授 ......
架构

浅谈:服务架构进化论

从20世纪七八十年代的原始分布式到如今的单体架构、SOA、微服务、后微服务(云原生),到未来的无服务时代,这里都和你简单聊一聊。 ......
进化论 架构

大道至简的架构设计思想之:封装(C系架构设计法,sishuok)

一起来看看大道至简的一些基本设计思想,首先我们来看一下什么是封装。 封装:也叫做信息隐藏,或者数据访问保护。放到程序上来讲,就是隐藏类的属性,还有实现细节,仅对外公开一些接口。那么外部,就只能通过这个类暴露的这些访问接口,按照这个类提供的方式来访问类的内部信息或者数据。这样子的一种情况就叫做封装。 ......
架构 设计思想 大道 sishuok 思想

深入理解需求分析的目标(C系架构设计法)

需求分析的目标:是尽可能准确、全面、深入的理解业务。 1:理解“尽可能准确” 首先,需求分析,要做的事,肯定是去理解业务,但是要达到什么样的程度,才算是我们理解了这个业务呢? 第一个是“尽可能”,尽可能的意思,就是你不太可能百分之百的、完整的、准确的去理解,做不到。我们只能说是尽自己最大努力去理解, ......
架构 需求 目标

Camera | 5.Linux v4l2架构(基于rk3568)

上一篇我们讲解了如何编写基于V4L2的应用程序编写,本文主要讲解内核中V4L2架构,以及一些最重要的结构体、注册函数。 厂家在实现自己的摄像头控制器驱动时,总体上都遵循这个架构来实现,但是不同厂家、不同型号的SoC,具体的驱动实现仍然会有一些差别。 读者可以通过本文了解各个结构体与对应的摄像头模块、 ......
架构 Camera Linux 3568 v4l2

需求分析之道——需求分析要做什么(C系架构设计法,sishuok)

需求分析之道——需求分析要做什么。 需求分析是架构师开始做架构设计的第一步,对架构师来讲非常非常的重要。因为需求分析能够告诉我们,到底我们要做什么,架构设计就是为了去完成这件事情而做的。 接下来,我们就从实战的角度来讲一讲,需求分析的一些方法,都是咱们多年经验的总结,也许听上去或者说大家看上去,没有 ......
需求 架构 sishuok