随想录 括号 队列 训练营
一种异步延迟队列的实现方式
目前系统中有很多需要用到延时处理的功能：支付超时取消、排队超时、短信、微信等提醒延迟发送、token刷新、会员卡过期等等。通过延时处理，极大的节省系统的资源，不必轮询数据库处理任务。
目前大部分功能通过定时任务完成，定时任务还分使用quartz及xxljob两种类型轮询时间短，每秒执行一次，对数据... ......
Redis使用ZSET实现消息队列使用总结一
转载请注明出处： 目录 1.zset为什么可以做消息队列 2.zset实现消息队列的步骤 3.使用jedis实现消息队列示例 4.+inf与-inf 5.redis使用list与zset做消息队列有什么区别 1.zset为什么可以做消息队列 zset做消息队列的特性有： 有序性：zset中所有元素都 ......
Redis使用ZSET实现消息队列使用总结二
转载请注明出处： 目录 1.redis 用zset做消息队列如何处理消息积压 2.redis分片并使用zset做消息队列 3. redis如何分片 4. redis使用java发送消息到zset队列并对消息进行分片处理 5. redis使用zset做消息队列时，有多个消费者同时消费消息怎么处理 6. ......
消息队列中间件的选型与比较
消息队列是一种重要的分布式系统组件，可用于异步通信、削峰填谷、解耦系统、数据缓存等多个方面。在选择消息队列时，需要考虑诸多因素，包括性能、可靠性、可用性、扩展性、可维护性、社区支持等等。 一、MQ介绍 1. Kafka Kafka 是一种高吞吐量、分布式的消息队列系统。它以日志为基础，支持高吞吐量、 ......
微服务学习计划——消息队列
微服务学习计划——消息队列 我们在微服务中一个命令会逐渐调用各个微服务，但如果一一调用不仅需要微服务实时同步交互还会浪费效率 所以我们通常会采用MQ，也就是消息队列Message Queue来处理这个问题 下面我们会通过几个方法介绍消息队列： MQ RabbitMQ SpringAMQP MQ 首先 ......
跨域推荐：嵌入映射、联合训练和解耦表征
跨域推荐旨在利用从其它相关源域收集的用户-物品交互信息以提升目标域的推荐质量。传统的跨域推荐方法常常基于嵌入和映射（Embedding and Mapping，EMCDR） 的思路，这种方法在进行对齐操作之前，各领域需要先通过预训练以独立地得到用户/物品的embeddings。因此，有偏的（bias... ......
代码随想录-day3
字符串 字符串的题目，通常涉及到对字符串进行各种操作，由于JAVA提供了非常多的库函数，所以在很多题目中我们可以使用库函数快速使这道题解决，但是这与我们训练算法和编码能力相违背。 所以我们在本章专题里面，主要是使用我们自己构造的函数对字符串进行，操作加深我们对字符串操作的理解，当我们训练熟悉后可以使 ......
代码随想录-day1
链表 今天主要是把链表专题刷完了，链表专题的题目不是很难，基本都是考察对链表的操作的理解。 在处理链表问题的时候，我们通常会引入一个哨兵节点（dummy），dummy节点指向原链表的头结点。这样，当我们对头结点进行操作的时候就可以直接使用dummy节点，不用进行特判。 在对链表进行操作的时候 whi ......
代码随想录-day2
哈希表 基础知识 哈希表和链表都是属于基础数据结构的一种，都是必须掌握牢靠的知识。 哈希表是根据关键码的值而直接进行访问的数据结构。 简单来说就是使用数据得到的哈希值来作为哈希表的key用于获取数据。 用于求哈希值的的函数被我们称为哈希函数，通过哈希函数我们可以把数据映射到我们的哈希表上。 显然，在 ......
延迟队列实现订单超时自动取消
在上一篇 Java 实现订单未支付超时自动取消，使用Java自带的定时任务TimeTask实现订单超时取消，但是有小伙伴提出这种实现，会有以下几个问题： 线上服务挂了，导致服务下所有的定时任务失效。 服务重启，定时任务也会失效。 服务上线需要发布新的服务，原来服务也会关闭。 针对上述服务挂了、或者服 ......
Java+Redis 通过Lua 完成库存扣减，创建消息队列，异步处理消息--实战
需要完成功能 借助redis Stream 数据结构实现消息队列，异步完成订单创建，其中涉及到了缓存（击穿，穿透，雪崩），锁（Redisson），并发处理，异步处理，Lua脚本 IDE:IDEA 2022 1、读取库存数据 【Lua】 2、判断库存 【Lua】 3、扣减库存 【Lua】 4、创建队列 ......
Optimum + ONNX Runtime: 更容易、更快地训练你的 Hugging Face 模型
介绍 基于语言、视觉和语音的 Transformer 模型越来越大，以支持终端用户复杂的多模态用例。增加模型大小直接影响训练这些模型所需的资源，并随着模型大小的增加而扩展它们。Hugging Face 和微软的 ONNX Runtime 团队正在一起努力，在微调大型语言、语音和视觉模型方面取得进步。 ......
取出预训练模型中间层的输出(pytorch)
1 遍历子模块直接提取 对于简单的模型，可以采用直接遍历子模块的方法，取出相应name模块的输出，不对模型做任何改动。该方法的缺点在于，只能得到其子模块的输出，而对于使用nn.Sequensial()中包含很多层的模型，无法获得其指定层的输出。 示例 resnet18取出layer1的输出 from ......
用Redis实现延迟队列，我研究了两种方案，发现并不简单
大家好，我是三友~~ 背景 前段时间有个小项目需要使用延迟任务，谈到延迟任务，我脑子第一时间一闪而过的就是使用消息队列来做，比如RabbitMQ的死信队列又或者RocketMQ的延迟队列，但是奈何这是一个小项目，并没有引入MQ，我也不太想因为一个延迟任务就引入MQ，增加系统复杂度，所以这个方案直接就 ......
精华推荐 |【算法数据结构专题】「延时队列算法」史上非常详细分析和介绍如何通过时间轮（TimingWheel）实现延时队列的原理指南
时间轮的介绍 时间轮（TimeWheel）是一种实现延迟功能（定时器）的精妙的高级算法，其算法应用范围非常广泛，在Java开发过程中常用的Dubbo、Netty、Akka、Quartz、ZooKeeper 、Kafka等各种框架中，各种操作系统的定时任务crontab调度都有用到，甚至Linux内核 ......
从 PyTorch DDP 到 Accelerate 到 Trainer，轻松掌握分布式训练
概述 本教程假定你已经对于 PyToch 训练一个简单模型有一定的基础理解。本教程将展示使用 3 种封装层级不同的方法调用 DDP (DistributedDataParallel) 进程，在多个 GPU 上训练同一个模型： 使用 pytorch.distributed 模块的原生 PyTorch ......
数据结构-详解优先队列的二叉堆（最大堆）原理、实现和应用-C和Python
一、堆的基础 1.1 优先队列和堆 优先队列（Priority Queue）：特殊的“队列”，取出元素顺序是按元素优先权（关键字）大小，而非元素进入队列的先后顺序。 若采用数组或链表直接实现优先队列，代价高。依靠数组，基于完全二叉树结构实现优先队列，即堆效率更高。一般来说堆代指二叉堆。 优先队列的完 ......
Pytorch：单卡多进程并行训练
在深度学习的项目中，我们进行单机多进程编程时一般不直接使用multiprocessing模块，而是使用其替代品torch.multiprocessing模块。它支持完全相同的操作，但对其进行了扩展。Python的multiprocessing模块可使用fork、spawn、forkserver三种方... ......
又一重要进展发布！OpenMMLab算法仓支持昇腾AI训练加速
摘要：上海人工智能实验室的浦视开源算法体系（OpenMMLab）团队基于昇腾AI发布了MMDeploy 0.10.0版本，该版本已支持OpenMMLab算法仓库在昇腾异构计算架构CANN上的推理部署。 本文分享自华为云社区《又一重要进展发布！OpenMMLab算法仓支持昇腾AI训练加速》，作者：昇腾 ......
为什么使用消息队列？我这样回答，面试官直说讲得很清楚
为什么要使用消息队列，六个字总结：解耦、异步、消峰 1）解耦 传统模式下系统间的耦合性太强。怎么说呢，举个例子：系统 A 通过接口调用发送数据到 B、C、D 三个系统，如果将来 E 系统接入或者 B 系统不需要接入了，那么系统 A 还需要修改代码，非常麻烦。 如果系统 A 产生了一条比较关键的数据， ......
.NET 云原生架构师训练营（基于 OP Storming 和 Actor 的大型分布式架构三）--学习笔记
目录 为什么我们用 Orleans Dapr VS Orleans Actor 模型 Orleans 的核心概念 结合 OP Storming 的实践 结合 OP Storming 的实践 业务模型 设计模型 代码实现 代码实现 HelloOrleans.Host Orleans.Providers ......
netcore下RabbitMQ队列、死信队列、延时队列及小应用
关于安装rabbitmq这里一笔掠过了。 下面进入正题： 1.新建aspnetcorewebapi空项目，NormalQueue,删除controllers文件夹已经无关的文件，这里为了偷懒不用console控制台： public class Program { public static void ......
什么是Rabbitmq消息队列？ (安装Rabbitmq,通过Rabbitmq实现RPC全面了解,从入门到精通)
Rabbitmq 一: 消息队列介绍 1.介绍 消息队列就是基础数据结构中的 "先进先出" 的一种数据机构。想一下，生活中买东西需要排队，先排队的人先买消费，就是典型的 "先进先出"。 # 扩展 redis: 可以作为简单的消息队列 celery: 本事就是基于消息队列进行的封装。 2.MQ解决了什 ......
.NET 云原生架构师训练营（基于 OP Storming 和 Actor 的大型分布式架构二）--学习笔记
目录 为什么我们用 Orleans Dapr VS Orleans Actor 模型 Orleans 的核心概念 结合 OP Storming 的实践 结合 OP Storming 的实践 业务模型 设计模型 代码实现 业务模型 我们可以把关键对象（职位、客户行为记录、线索）参考为 actor 猎头 ......
Kafka技术专题之「性能调优篇」消息队列服务端出现内存溢出OOM以及相关性能调优实战分析
本篇文章介绍Kafka处理大文件出现内存溢出 java.lang.OutOfMemoryError: Direct buffer memory，主要内容包括基础应用、实用技巧、原理机制等方面，希望对大家有所帮助。 ......
RabbitMQ、RocketMQ、Kafka延迟队列实现
延迟队列在实际项目中有非常多的应用场景，最常见的比如订单未支付，超时取消订单，在创建订单的时候发送一条延迟消息，达到延迟时间之后消费者收到消息，如果订单没有支付的话，那么就取消订单。 那么，今天我们需要来谈的问题就是RabbitMQ、RocketMQ、Kafka中分别是怎么实现延时队列的，以及他们对 ......
.NET 云原生架构师训练营（基于 OP Storming 和 Actor 的大型分布式架构一）--学习笔记
目录 为什么我们用 Orleans Dapr VS Orleans Actor 模型 Orleans 的核心概念 为什么我们用 Orleans 分布式系统开发、测试的难度（服务发现、通信） 运维的复杂度（伸缩性与可靠性的保障） actor 拥有全局唯一身份 自动伸缩功能 Dapr VS Orlean ......
【机器学习】李宏毅——类神经网络训练不起来怎么办
如何判断导数值为零的点的类型 当发现训练数据集误差不再下降的时候，不是只有卡在局部最小值的情况，还有另外一种情况是处于鞍点，鞍点位置处虽然其导函数为零，但是其既不是局部最大值也不是局部最小值，如图： 因此，我们把局部最小值和鞍点这种点统称为驻点（critical point），但这两种情况是截然不同 ......
数据结构初阶--栈和队列（讲解+类模板实现）
栈 栈的概念和结构 栈：一种特殊的线性表，其只允许在固定的一端进行插入和删除元素操作。进行数据插入和删除操作的一端称为栈顶，另一端称为栈底。栈中的数据元素遵守后进先出LIFO（Last In First Out）加粗样式的原则。 入栈：从栈顶放入数据的操作。 出栈：从栈顶取出元素的操作。 栈的实现 ......
MQ系列8：数据存储，消息队列的高可用保障
MQ系列1：消息中间件执行原理 MQ系列2：消息中间件的技术选型 MQ系列3：RocketMQ 架构分析 MQ系列4：NameServer 原理解析 MQ系列5：RocketMQ消息的发送模式 MQ系列6：消息的消费 MQ系列7：消息通信，追求极致性能 1 介绍 在之前的章节中，我们介绍了消息的发送 ......