位置 消息offset kafka
RabbitMQ消息队列搭建以及迁移
一、RabbitMQ框架 rabbitmq系统架构图 通过路由将交换机和队列进行绑定，从而实现消息的发送和接收 rabbitmq基本概念 1、Message（消息） 消息是不具名的，它由消息头和消息体组成。消息体是不透明的，而消息头则由一系列的可选属性组成，这些属性包括routing-key（路由键 ......
【微信小程序&腾讯位置服务】获取用户所在城市信息实战
实现小程序进去后获取用户当前所在城市，然后显示该城市的数据，并且显示在导航栏和 Tab上。 微信小程序中，我们可以通过调用wx.getLocation()获取到设备当前的地理位置信息，这个信息是当前位置的经纬度。如果我们想获取当前位置是处于哪个国家，哪个城市等信息，该如何实现呢？ 微信小程序中并没有 ......
kafka的基本概念
1 Broker Kafka集群包含一个或多个服务器，服务器节点称为broker。 如图，我们有2个broker，6个partition，则会均分；如果只有1个partition，那么另一个broker会闲置。 理想情况，我们希望broker数量等于partition数量，然后每个partition ......
太坑了，我竟然从RocketMQ源码中扒出了7种导致消息重复消费的原因
大家好，我是三友~~ 在众多关于MQ的面试八股文中有这么一道题，“如何保证MQ消息消费的幂等性”。 为什么需要保证幂等性呢？是因为消息会重复消费。 为什么消息会重复消费？ 明明已经消费了，为什么消息会被再次被消费呢？ 不同的MQ产生的原因可能不一样 本文就以RocketMQ为例，来扒一扒Rocket ......
一文了解清楚kafka消息丢失问题和解决方案
前言 今天分享一下kafka的消息丢失问题，kafka的消息丢失是一个很值得关注的问题，根据消息的重要性，消息丢失的严重性也会进行放大，如何从最大程度上保证消息不丢失，要从生产者，消费者，broker几个端来说。 消息发送和接收流程 kafka生产者生产好消息后，会将消息发送到broker节点，br ......
kafka的原理及集群部署详解
kafka原理详解 消息队列概述 消息队列分类 点对点 组成：消息队列（Queue）、发送者（Sender）、接收者（Receiver） 特点：一个生产者生产的消息只能被一个接受者接收，消息一旦被消费，消息就不在消息队列中了 发布/订阅 组成：消息队列（Queue）、发布者（Publisher）、订 ......
消息队列简介
什么是消息队列 消息队列是一种异步的服务间通信方式，适用于无服务器和微服务架构。 消息在被处理和删除之前一直存储在队列上。每条消息仅可被一位用户处理一次。 消息队列可被用于分离重量级处理、缓冲或批处理工作以及缓解高峰期工作负载。 提供消息的我们称为生产者；接收消息的我们称为消费者。 为什么要用消息队 ......
基于Kafka和Elasticsearch构建实时站内搜索功能的实践
目前我们在构建一个多租户多产品类网站，为了让用户更好的找到他们所需要的产品，我们需要构建站内搜索功能，并且它应该是实时更新的。本文将会讨论构建这一功能的核心基础设施，以及支持此搜索能力的技术栈。 ......
Redis使用ZSET实现消息队列使用总结一
转载请注明出处： 目录 1.zset为什么可以做消息队列 2.zset实现消息队列的步骤 3.使用jedis实现消息队列示例 4.+inf与-inf 5.redis使用list与zset做消息队列有什么区别 1.zset为什么可以做消息队列 zset做消息队列的特性有： 有序性：zset中所有元素都 ......
Redis使用ZSET实现消息队列使用总结二
转载请注明出处： 目录 1.redis 用zset做消息队列如何处理消息积压 2.redis分片并使用zset做消息队列 3. redis如何分片 4. redis使用java发送消息到zset队列并对消息进行分片处理 5. redis使用zset做消息队列时，有多个消费者同时消费消息怎么处理 6. ......
消息队列中间件的选型与比较
消息队列是一种重要的分布式系统组件，可用于异步通信、削峰填谷、解耦系统、数据缓存等多个方面。在选择消息队列时，需要考虑诸多因素，包括性能、可靠性、可用性、扩展性、可维护性、社区支持等等。 一、MQ介绍 1. Kafka Kafka 是一种高吞吐量、分布式的消息队列系统。它以日志为基础，支持高吞吐量、 ......
聊一下kafka的消费组
介绍 消费组使kafka中很重的概念，只有弄清楚消费组的概念，才能在项目中把它运用好，在kafka中，每个消费者都对应一个消费组，消费者可以是一个线程，一个进程，一个服务实例，如果kafka想要消费消息，那么需要指定消费那个topic的消息以及自己的消费组id(groupId)，也可以直接指定那个主 ......
微服务学习计划——消息队列
微服务学习计划——消息队列 我们在微服务中一个命令会逐渐调用各个微服务，但如果一一调用不仅需要微服务实时同步交互还会浪费效率 所以我们通常会采用MQ，也就是消息队列Message Queue来处理这个问题 下面我们会通过几个方法介绍消息队列： MQ RabbitMQ SpringAMQP MQ 首先 ......
Nodejs 发送 TCP 消息的正确姿势
最近使用 NODE-RED 跟 TCP 打交道。NODE-RED 里内建了一个节点叫“tcp-out”，看文档呢使用这个节点可以很方便的把 payload 用 TCP 协议发送出去，但是事实上事情没有这么简单。其实当我第一次看到这个节点用法的时候我就觉得会有问题，果不其然。既然节点有问题，那么就干脆 ......
Java+Redis 通过Lua 完成库存扣减，创建消息队列，异步处理消息--实战
需要完成功能 借助redis Stream 数据结构实现消息队列，异步完成订单创建，其中涉及到了缓存（击穿，穿透，雪崩），锁（Redisson），并发处理，异步处理，Lua脚本 IDE:IDEA 2022 1、读取库存数据 【Lua】 2、判断库存 【Lua】 3、扣减库存 【Lua】 4、创建队列 ......
云原生时代顶流消息中间件Apache Pulsar部署实操之轻量级计算框架
本篇逐层递进了解Pulsar Functions的基本概念和理论，如工作原理、处理保证模式、窗口函数；进一步搭建Pulsar函数运行环境，一步步操作演示函数也包括窗口函数的示例使用，最后通过Java语言实现原生语言接口和Pulsar函数SDK两种方式的代码示例、打包、部署和结果验证。 ......
云原生时代顶流消息中间件Apache Pulsar部署实操之Pulsar IO与Pulsar SQL
本篇重点了解Pulsar IO的基础，通过两个示例演示如何一步步实操安装Cassandra和JDBC PostgreSQL的年连接器，进而配置和创建Pulsar Sink 并验证结果，也进一步熟悉一些常见pulsar-admin命令，最后还演示Pulsar SQL简单使用。 ......
Kafka最佳实践
前言 Kafka 最佳实践，涉及 典型使用场景 Kafka 使用的最佳实践 Kafka 典型使用场景 Data Streaming Kafka 能够对接到 Spark、Flink、Flume 等多个主流的流数据处理技术。利用 Kafka 高吞吐量的特点，客户可以通过 Kafka 建立传输通道，把应用 ......
Apache Kafka教程--Kafka新手入门
Apache Kafka教程--Kafka新手入门 Kafka Assistant 是一款 Kafka GUI 管理工具——管理Broker,Topic,Group、查看消费详情、监控服务器状态、支持多种消息格式。 摘要 今天，我们开始了我们的新旅程，这就是Apache Kafka教程。在这个Kaf ......
玩转钉钉消息推送！
我是3y，一年CRUD经验用十年的markdown程序员👨🏻💻常年被誉为职业八股文选手 在前阵子我就已经接入了钉钉的群机器人和工作消息推送，一直没写文章同步到给大家。 像这种接入渠道的工作，虽然我没接入过，但可预见性地就是看看官方文档，然后对着文档一顿学习，复制下接入的代码，然后调试，最后就 ......
云原生时代顶流消息中间件Apache Pulsar部署实操-上
本篇先部署Apache Pulsar 最新版本2.11.0的 Locally Standalone，并通过创建Topic、生产消息和消费消息验证基础环境;接着通过二进制也即是所谓裸机部署方式一步步演示如何部署Pulsar的分布式集群，并通过Admin客户端验证基于租户、命名空间一些消息管理和使用简单... ......
RabbitMQ 延迟消息实战
RabbitMQ 延迟消息实战 现实生活中有一些场景需要延迟或在特定时间发送消息，例如智能热水器需要 30 分钟后打开，未支付的订单或发送短信、电子邮件和推送通知下午 2:00 开始的促销活动。 RabbitMQ 本身没有直接支持延迟队列的功能，如果您搜索“如何在 RabbitMQ 中使用延迟消息” ......
MQ收到无序的消息时如何进行业务处理
业务背景 跟第三方系统做对接，双方通过ActiveMQ进行通信，消息之间是有内在关联的，也就是消息本来应该是有业务顺序的，但由于一些原因，现在收到消息是乱序的，这种情况下做业务处理就有一点小问题了 方案一：自己重排序 收到消息后，自己在内存排序，然后按顺序丢到队列中，自己控制消息的发送和接收保证收到 ......
好消息！微信小程序开发环境自带vConsole
背景介绍 事情是这样子的，我们在开发小程序的时候，需要在真机上把相关的日志打出来以便进行问题定位和回溯，于是在编程界就有个今天这个新闻。 好消息！广东某男子发现微信小程序开发环境自带vConsole. 同学，你看到这个新闻不震惊不兴奋打鸡血吗？你开发小程序都少装一个vConsole包呢！！！ 基于D ......
什么是push通知栏消息？
我是3y，一年CRUD经验用十年的markdown程序员👨🏻💻常年被誉为职业八股文选手 今天继续更新Austin，给Austin新增一个发送渠道（PUSH通知栏推送） Push通知栏消息是非常常见的，几乎每个APP都会做这个功能（没有消息推送的APP不是一个好的APP） 一般我们认为Push ......
C#实现聊天消息渲染、图文混排（支持Windows、Linux）
在实现聊天软件时，渲染文字表情图文混排是一项非常繁琐的工作，再加上还要支持GIF动图、引用消息、撤回消息、名片等不同样式的消息渲染时，就更加麻烦了。那么有简单的实现办法吗？嗯，有的。 ......
vivo 超大规模消息中间件实践之路
作者：vivo 互联网存储技术团队-Luo Mingbo、中间件团队- Liu Runyun 本文根据“2022 vivo开发者大会"现场演讲内容整理而成。 本文主要介绍超大数据规模场景下分布式消息中间件在vivo的应用实践。 在线业务侧主要从RocketMQ集群部署架构、平台系统架构、日常运维操作 ......
分布式事务 | 使用 dotnetcore/CAP 的本地消息表模式
本地消息表模式，其作为柔性事务的一种，核心是将一个分布式事务拆分为多个本地事务，事务之间通过事件消息衔接，事件消息和上个事务共用一个本地事务存储到本地消息表，再通过定时任务轮询本地消息表进行消息投递，下游业务订阅消息进行消费，本质上是依靠消息的重试机制达到最终一致性。 ......
uni-app + .NET 7实现微信小程序订阅消息推送
微信小程序的订阅消息是小程序的重要能力之一，为实现服务的闭环提供更优的体验。订阅消息我们应该经常见到，比如下单成功之后的服务通知，支付成功后的支付成功通知，都属于小程序的订阅消息。 ......
RocketMQ消息短暂而又精彩的一生
大家好，我是三友~~ 这篇文章我准备来聊一聊RocketMQ消息的一生。 不知你是否跟我一样，在使用RocketMQ的时候也有很多的疑惑： 消息是如何发送的，队列是如何选择的？消息是如何存储的，是如何保证读写的高性能？RocketMQ是如何实现消息的快速查找的？RocketMQ是如何实现高可用的？消 ......