soa-converter架构converter soa

[vllm]vllm架构分析

# vllm架构分析 ## 文件目录结构 benchmark: 测试延迟和吞吐的脚本 csrc: torch下的cuda扩展,一些关键kernels的cpp源码,包含了attention、激活函数、cache等核函数 vllm/core: 关键调度算法,调度策略以及维护cpu和gpu映射的关系表 v ......
vllm 架构

《Java架构师的第一性原理》64系统架构之互联网“一致性”

前篇: 《无限容量数据库架构设计》 《MQ消息可达性+幂等性+延时性架构设计》 《高可用+高并发+负载均衡架构设计》 《关于数据库“扩展性”架构设计的一切》 都收到网友好评: 系统性,全局性看问题体会更深刻 简单易懂 本文再做总结,体系化介绍互联网一致性架构技术。 一、session一致性 文章:《 ......
架构 第一性 一致性 原理 互联网

《Java架构师的第一性原理》60系统架构之计算机思维模型

1 学习思维模型 1.1 历史跨越模型 怎样解剖当下问题的本质?去回溯问题的历史来源。 比如:计算机网络中,TCP协议怎样保证数据传输可靠? 为了保障数据不丢失及错误(可靠性),它有报文校验、ACK应答、超时重传(发送方)、失序数据重传(接收方)、丢弃重复数据、流量控制(滑动窗口)和拥塞控制等机制。 ......
架构 第一性 模型 思维 原理

《Java架构师的第一性原理》65系统架构之架构设计方法论

4 规范 (Must have)规范一:非数据服务做到无状态,避免同一集群内的节点间有功能差异; 做到实例可以被随时停止、重启、增加,并且完全不依赖于本地磁盘或者内存规范二:服务具备优雅重启规范三:服务提供的API建议采用http\grpc, json\pb规范,不建议其他自定义格式规范四:线上服务 ......
架构 方法论 第一性 原理 方法

即时通讯技术文集(第19期):IM架构设计基础知识合集 [共13篇]

为了更好地分类阅读 52im.net 总计1000多篇精编文章,我将在每周三推送新的一期技术文集,本次是第19 期。 [-1-] 微信后台基于时间序的新一代海量数据存储架构的设计实践 [链接] http://www.52im.net/thread-2970-1-1.html [摘要] 时隔3年,微信 ......
基础知识 架构 文集 通讯 基础

快速理解DDD领域驱动设计架构思想-基础篇

本文与大家一起学习并介绍领域驱动设计(Domain Drive Design) 简称DDD,以及为什么我们需要领域驱动设计,它有哪些优缺点,尽量用一些通俗易懂文字来描述讲解领域驱动设计 ......
架构 领域 思想 基础 DDD

深入浅出流批一体理论篇——数据架构的演进

这篇文章的主要内容包括:1、数据架构的演变历史与各种架构的优缺点。2、流批一体的价值。3、流批一体架构中流与批的关系。 ......
深入浅出 架构 一体 理论 数据

日流量200亿,携程网关的架构设计

文章很长,且持续更新,建议收藏起来,慢慢读![**疯狂创客圈总目录 博客园版**](https://www.cnblogs.com/crazymakercircle/p/9904544.html) 为您奉上珍贵的学习资源 : 免费赠送 :[**《尼恩Java面试宝典》**](https://www. ......
网关 架构 流量 200

系统架构设计1

为什么会出现架构? 从软件开发过程的角度上来看系统分析(需求分析)偏向业务,而系统设计又偏向技术,中间过程存在“鸿沟”,出现了架构。这里所说的架构虽然说是系统架构大多数指的是软件架构,又叫做软件体系结构(Software Architecture)简称SA。需要注意的是结构化分析也简称‘’SA",需 ......
架构 系统

分布式架构

[TOC] # 认识微服务 单体架构:将业务的所有功能集中在一个项目中开发,打成一个包部署 特点:简单方便、高度耦合、扩展性差,适合小型项目。例如:学生管理系统 ![](https://img2023.cnblogs.com/blog/2688333/202309/2688333-202309021 ......
分布式 架构

微服务架构|go-zero 的自适应熔断器

**原文链接:** [go-zero 的自适应熔断器](https://mp.weixin.qq.com/s/r1kTYUK_r-JalvhzAKKQwg) 上篇文章我们介绍了微服务的限流,详细分析了计数器限流和令牌桶限流算法,这篇文章来说说熔断。 熔断和限流还不太一样,限流是控制请求速率,只要还能 ......
熔断器 架构 go-zero zero go

多级缓存架构(5&6)

多级缓存架构 缓存设计 缓存穿透 缓存穿透是指查询一个根本不存在的数据, 缓存层和存储层都不会命中, 通常出于容错的考虑, 如果从存储层查不到数据则不写入缓存层。 缓存穿透将导致不存在的数据每次请求都要到存储层去查询, 失去了缓存保护后端存储的意义。 造成缓存穿透的基本原因有两个: 第一, 自身业务 ......
缓存 架构 amp

百亿级访问量,如何做缓存架构设计

文章很长,且持续更新,建议收藏起来,慢慢读![**疯狂创客圈总目录 博客园版**](https://www.cnblogs.com/crazymakercircle/p/9904544.html) 为您奉上珍贵的学习资源 : 免费赠送 :[**《尼恩Java面试宝典》**](https://www. ......
缓存 架构 访问量

架构师必会之-DBA级问题的数据库底层设计思想

大家好,我是sulny_ann,这期想跟大家分享一下我之前在面试里面问过比较难的数据库相关的问题。 大家经常也在调侃后端好像就是技术数据库的增删改查,所以作为后端开发,你对应数据库这一块掌握的怎么样,是非常能看出你整个开发的技术能力水平。 接下来就分享 3 个我之前问到的关于数据库的 3 个问题。 ......
设计思想 底层 架构 思想 数据库

[读书笔记]架构设计原则

架构设计面向的是不确定性,需要面对多种可能性时进行选择。 > 选择的前提是知识和经验,知识是指有哪些技术、可用组件、实现思路等,这个决定了可选的范围。经验是对当前的业务、情形进行分析,能识别对当前的工作最有效的要素,能从选择空间里做出选择。 > > 多学习:扩大可选择的空间和范围 > 多实践、思考: ......
架构 原则 笔记

G6实现可向下向上扩展的自定义流程图/层级图/架构图

参考原文链接:https://www.cnblogs.com/demeter/p/16821514.html 效果: index.html:cdn引入 <script src="https://gw.alipayobjects.com/os/antv/pkg/_antv.g6-3.7.1/dist/ ......
层级 流程图 架构 流程

Pygame的工程架构

用bat作为启动: start.bat 内容: cd contentpyg.exe hellsheep.py content里放素材和程序: hellsheep.py import pygame from pygame.locals import * from sys import exit fro ......
架构 Pygame 工程

无共享架构

存储成本降低85%,携程历史库场景的降本实践 存储成本降低85%,携程历史库场景的降本实践 https://mp.weixin.qq.com/s/lL5xfmRYSqy5K4Pt-Sv5fA OceanBase OceanBase 2023-08-31 17:31 发表于江西 携程,一家中国领先的在 ......
架构

Kafka的分布式架构与高可用性

导语 一开始我们就说过Kafka是一款开源的高吞吐、分布式的消息队列系统,那么今天我们就来说下它的分布式架构和高可用性以及双/多中心部署。 Kafka 体系架构简介 以下是 Kafka 的软件架构,整个 Kafka 体系结构由 Producer、Consumer、Broker、ZooKeeper 组 ......
可用性 分布式 架构 Kafka

软件架构师考试其实很轻松

首先这是一份记录稿,因为成绩还没出,不能算是成功经验,但的确是备考经验。 我的态度,如果你想以考促学,这将是一个非常不错的出发点,系统架构师教程它是有知识体系的,不是零散的知识点,对锻炼一个人的高层次架构思维助益颇多,当然这些只有在你认真学习过后才能体会的到。如果你仅仅是把它当作一次考试,也是值得的 ......
架构 软件

技术科普:汽车开放系统架构AUTOSAR

​01.AUTOSAR简介 汽车是现代人类实现“千里江陵一日还”的交通工具,而计算机则是使人脱离繁杂重复脑力劳动的生产技术,两者的结合催生了汽车电子产业的蓬勃发展。 21世纪初,随着汽车电子应用需求的不断增多与硬件资源不断丰富,软件系统也随之变得日趋复杂。汽车电子的主要任务本应是实现新的功能,然而越 ......
科普 架构 AUTOSAR 汽车 系统

读写分离---mysql的主主结构和主从架构

前言: 为什么要对mysql做优化? 因为数据都来源于数据库,如果数据库慢了,无论是多线程、各种识别模式优化还是很慢,因为查sql就很慢。 官方说法:单表2000万数据,增删改查就到达瓶颈了。所以为了保证查询效率,得让每张表的大小得到控制。 Mysql架构: 实际生产过程中,查询业务更多,增删改中也 ......
主从 架构 结构 mysql

ELT已死,EtLT才是现代数据处理架构的终点!

![file](https://img2023.cnblogs.com/other/3195851/202308/3195851-20230831114702799-1091292653.jpg) 提到数据处理,经常有人把它简称为“ETL”。但仔细说来,数据处理经历了ETL、ELT、XX ETL(例 ......
数据处理 架构 终点 数据 EtLT

pytorch报错IndexError: invalid index of a 0-dim tensor. Use tensor.item() to convert a 0-dim tensor to a Python

该错误消息表示您正在尝试索引其中只有一项的数组。例如, In [10]: aten = torch.tensor(2) In [11]: aten Out[11]: tensor(2) In [12]: aten[0] IndexError Traceback (most recent call l ......
tensor IndexError dim pytorch invalid

常用的数据库架构及主从的工作原理

数据库常用的架构 目前市面上常用的架构主要有两种: 1、一主多从 2、双机热备 下面我们来了解一下,什么是一主多从呢? 在数据库系统中,一主多从(Master-Slave)架构是一种常见的设计模式。在这种架构中,有一个主数据库(Master)和一个或多个从数据库(Slave)。主数据库负责处理写操作 ......
主从 架构 原理 常用 数据库

系统设计(架构师)指南2封底估算&新浪微博实例

#2 封底估算 在系统设计面试中,有时会要求你使用 "封底估算"(back-of-the-envelope estimation)来估算系统容量或性能需求。根据谷歌高级研究员杰夫-迪恩(Jeff Dean)的说法,"封底估算是你结合思想实验和常见性能数字进行的估算,目的是让你对哪些设计能满足你的要求 ......
封底 架构 实例 指南 系统

clang架构与示例实践

clang架构与示例实践 1 C语言编译器Clang 1.1 Clang和GCC编译器架构 Clang编译器是由APPLE公司的编译器大牛ChrisLattner主导下编写的,其目标是替换大名鼎鼎的GCC编译器; 从源代码到可执行程序一般经过预处理、编译、链接过程,而编译是编译器的工作,编译分为三个 ......
示例 架构 clang

MVVM架构

一.MVVM架构和Jetpack MVVM即Model-View-ViewModel的缩写,它的出现是为了将图形界面和业务逻辑,数据模型进行解耦。在前面章节所学习的Jetpack组件,大部分是为了能够更好地架构MVVM应用程序而设计的。在本章,我们通过ViewModel,LiveData,Room和 ......
架构 MVVM