分布式 黑马 实战redis
《Java架构师的第一性原理》31分布式计算之微服务RPC(Dubbo)
1 互联网架构,究竟为啥要做服务化 互联网架构,究竟为啥要做服务化? 2 微服务架构,多“微”才合适? 微服务架构,多“微”才合适? 3 离不开的微服务架构,脱不开的RPC细节 离不开的微服务架构,脱不开的RPC细节 3.1 服务化解决的问题 1)服务化需要解决的问题: 一套序列化、反序列化、网络框 ......
《Java架构师的第一性原理》26Java基础之Netty源码剖析与实战(极客时间 傅健)
极客时间 98.Netty源码剖析与实战 课程名称:极客时间《Netty源码剖析与实战》 讲师简介 傅健,Netty 源码贡献者。 思科中国研发中心平台软件工程师,毕业后一直在思科工作,已有 9 年。做过很多项目,从移动端应用到文档存储系统、从消息系统到电话接入系统,接触过很多不同类型的开源软件且很 ......
linux 安装 redis
一、通用方式 要在Linux上安装Redis,可以按照以下步骤进行操作: 1. 打开终端,使用以下命令下载Redis的压缩包: wget http://download.redis.io/releases/redis-x.x.x.tar.gz 注意将 "x.x.x" 替换为你想要下载的Redis版本 ......
一套分布式IM即时通讯系统的技术选型和架构设计
为了更好的理解分布式IM即时通讯系统的设计,我站在架构师的角度,在充分了解系统需求、业务流程和技术流程后,从全局视角为系统设定方案目标,对技术方案进行选型,对系统进行总体架构设计和分层架构设计,并梳理清楚发送消息的交互链路、单聊和群聊的交互链路。希望对你有帮助。 ......
Linux服务器快速安装Redis-6.0
最近开始体验FastGPT开源知识库问答系统,用他们试着开发调试一些小助手。这中间需要使用到Redis,就在自己服务器上进行了安装,特此记录下。 环境说明:阿里云ECS,2核8G,X86架构,CentOS 7.9操作系统。 选择版本 1.打开Redis官网下载页面,可以选择需要的版本下载。我这里选择 ......
转 Windows下Redis安装及自启动
Redis下载 Redis 官方网站没有提供 Windows 版的安装包,可以通过 GitHub 来下载 Windows 版 Redis 安装包,下载地址:点击前往。 打开上述的下载地址链接,Redis 支持 32 位和 64 位的 Window 系统,根据个人情况自行下载,如图 1 所示: 下载完 ......
K8S的污点和容忍度(理论+实战)
5分钟搞懂K8S的污点和容忍度(理论+实战) 不焦躁的程序员 软件开发行业 研发总监 3 人赞同了该文章 本文主要快速讲解Kubernetes的污点和容忍度,一句话总结:如果Pod能容忍某个节点上的污点,那么Pod就可以调度到该节点。 在K8S中,如果Pod能容忍某个节点上的污点,那么Pod就可 ......
从分布式计算的角度看pytorch和TensorFlow哪个更优?
背景: pytorch框架是一个从学术圈出来的框架,因此pytorch并不原生支持分布式计算,而且在大模型火爆的今年以外好像在深度学习领域使用分布式计算的场景确实不多,所以pytorch并不原生支持分布式计算的事情好像也并无大碍,而且pytorch可以通过安装第三方库的方式实现同步形式的分布式计算。 ......
分布式缓存
单点redis的问题 数据丢失问题:Redis是内存存储,服务重启可能会丢失数据。解决:数据持久化 并发能力问题:单节点并发能力不足。解决:主从集群,读写分离。 故障恢复:需要自动的故障恢复手段。解决:Redis哨兵,实现健康检测和自动恢复。 存储能力问题:单节点Redis难以满足海量数据存储。解决 ......
《业务安全实战演练》时效绕过测试10
一、大多有利用的案例发生在验证码以及业务数据的时效范围上,在之前的总结也有人将12306的作为典型,故,单独分类。 1、时间刷新缺陷 12306网站的买票业务是每隔5s,票会刷新一次。但是这个时间确实在本地设置的间隔。于是,在控制台就可以将这个时间的关联变量重新设置成1s或者更小,这样刷新的时间就会 ......
【业务安全实战演练】密码找回模块测试08
一、验证码客户端回显测试 典型场景: 任意用户登录 使用验证码的场景: 人机验证:防止机器操作,爆破表单。唯一凭据:唯一性判断,任意账户登录。 找回密码测试中要注意验证码是否会回显在响应中,有些网站程序会选择将验证码回显在响应中,来判断用户输入的验证码是否和响应中的验证码一致,如果一致就会通过校验 ......
redis锁定商品解决并发售卖问题 RedisUtil工具类
redis锁定商品解决并发售卖问题 RedisUtil工具类 redis数据类型介绍: //伪代码,基本思路 //1.出redis,每次在选定商品之后,先检查redis是否已经锁定该商品,避免超卖。Set<String> cacheList = redisUtilService.getSetValu ......
Apache Kyuubi 讲解与实战操作
目录一、概述二、Spark Kyuubi 架构三、Hadoop 基础环境安装1)hadoop 下载部署包2)创建网络3)部署MySQL4)部署 Hadoop Hive四、Spark Kyuubi 安装1)下载 Kyuubi2)下载 Spark32)配置 Kyuubi (Spark3)3)启动 Kyu ......
redis分布锁
1.什么是redis分布式锁 Redis分布式锁是一种利用Redis实现的锁机制,用于在分布式系统中保护共享资源的访问。它利用Redis的原子性操作和过期时间设置来实现互斥访问。 在分布式环境中,多个进程或线程可能同时访问共享资源,如果没有合适的机制来保护共享资源,就会导致数据不一致或竞争条件的发生 ......
风控决策引擎——决策流构建实战
引言 本篇主要聚焦介绍风控决策引擎中决策树编排能力的构建。决策引擎是风控的大脑,而决策树的编排能力和体验是构建大脑的手段,如何构建高效、丝滑、稳定可靠的决策树编排能力,是对风控决策引擎的一大挑战,本篇文章和大家分享一下过往构建心得。 背景 任何系统在初期构建肯定不是往“一步到位”的方向去构建的,只是 ......
【业务安全实战演练】业务流程乱序测试07
一、流程乱序测试 1 、测试原理和方法 该项测试主要针对业务流程的处理流程是否正常,确保攻击者无法通过技术手段绕过某些重要流程步骤,检验办理业务过程中是否有控制机制来保证其遵循正常流程。例如业务流程分为三步:第一步,注册并发送验证码;第二步,输入验证码;第三步,注册成功。在第三步进行抓包分析,将邮箱 ......
Redis缓存
Redis(Remote Dictionary Server)是一个开源的高性能键值对(key-value)存储系统,常被用作数据库、缓存和消息代理。它支持多种数据结构,如字符串、哈希表、列表、集合和有序集合。 为什么要用Redis? 使用Redis有多个原因,包括: 高性能:Redis是基于内存存 ......
Java 并发编程在生产应用场景及实战
背景介绍 为什么需要学习 Java 并发? 从提升性能角度来说 提升了对 CPU 的使用效率:目前生产的服务器大多数都是多核,标配的机器都是 8C/16G。操作系统会将不同的线程分配给不同的核心处理,理论上,有多少核心就有多少个线程并行执行。如果没有并发编程,CPU 的利用率将极大的浪费,假设当前正 ......
Flink 在风控场景实时特征落地实战
背景介绍 风控简介 二十一世纪,信息化时代到来,互联网行业的发展速度远快于其他行业。一旦商业模式跑通,有利可图,资本立刻蜂拥而至,助推更多企业不断的入场进行快速的复制迭代,企图成为下一个“行业领头羊”。 带着资本入场的玩家因为不会有资金的压力,只会更多的关注业务发展,却忽略了业务上的风险点。强大如拼 ......
Redis异常问题分析黄金一分钟
Redis异常问题分析黄金一分钟 背景 同事发现一个环境redis比较卡顿,导致业务比较难以开展. 问题是下午出现的. 六点左右找到我这边. 想着帮忙看看, 问题其实没有定位完全, 仅是发现了一个可能的点. 所以想记录一下, 备查 步骤 登录redis进行查看 处理的过程: 1. info memo ......
MongoDB、Elasticsearch、Redis、HBase应用场景分析
1. MongoDB 一个基于分布式文件存储的数据库系统,由C++编写,旨在为Web应用提供高速、可扩展、高性能的数据存储解决方案。MongoDB采用了文档型数据库模型,即数据以文档的形式存储,而文档是由键值对组成的。MongoDB的名称来自Hadoop创始人Doug Cutting的宠物狗Mong ......
Seata:打造行业首个分布式事务产品
在 2019 年,我们基于 Dubbo Ecosystem Meetup,收集了 2000 多份关于“在微服务架构,哪些核心问题是开发者最关注的痛点?”的调研问卷。最终分布式事务问题在调研中占比最大,约占 54%。 ......
将Abp默认事件总线改造为分布式事件总线
@目录原理创建分布式事件总线实现自动订阅和事件转发使用启动Redis服务配置传递Abp默认事件传递自定义事件项目地址 原理 本地事件总线是通过Ioc容器来实现的。 IEventBus接口定义了事件总线的基本功能,如注册事件、取消注册事件、触发事件等。 Abp.Events.Bus.EventBus是 ......
Redis全文搜索教程之创建索引并关联源数据
Redis 全文搜索是依赖于 Redis 官方提供的 RediSearch 来实现的。RediSearch 提供了一种简单快速的方法对 hash 或者 json 类型数据的任何字段建立二级索引,然后就可以对被索引的 hash 或者 json 类型数据字段进行搜索和聚合操作。 这里我们把被索引的 ha ......
seata分布式事务不生效
Fegin调用使用了Fallback降级或抛出的异常被全局处理 解决: 1.通过 GlobalTransactionContext.reload(RootContext.getXID()).rollback() 进行手动回滚 服务A @Service public class ServiceAImp ......
【Pytorch基础实战】第二节,卷积神经网络
项目地址 https://gitee.com/wxzcch/pytorchbase/tree/master/leason_2 源码 import torch from torch import nn, optim from torch.autograd import Variable from to ......
Unity 3D定点数物理引擎实战系列1.1BEPUphysicsint 3D定点数物理引擎介绍
1.1BEPUphysicsint 3D定点数物理引擎介绍 对惹,这里有一个游戏开发交流小组,希望大家可以点击进来一起交流一下开发经验呀 帧同步的游戏中如果用物理引擎,为了保证不同设备上的结果一致,需要采用定点数来计算迭代游戏过程中的物理运算。也就是我们通常说的定点数物理引擎(确定性物理引擎)。本系 ......
DeepSpeed分布式训练
一、DeepSpeed 总纲 官方文档:DeepSpeed 官方英文文档 cpoy下来的原版 DeepSpeed 模型的训练是使用DeeSpeed引擎完成的 DeepSpeed引擎可以包装任何 torch.nn.module 类型的模型 二、训练 1、通过 deepspeed.initialize ......
分布式资源管理和调度
分布式资源管理和调度 分布式资源管理和调度是指在分布式系统中有效地管理和调度系统中的资源,以满足各种任务的需求。在一个分布式系统中,资源可以包括计算资源(如CPU、内存)、存储资源(如磁盘空间)、网络带宽等。 分布式资源管理的目标是实现高效的资源利用和公平的资源分配。它需要考虑以下几个方面: 资源发 ......