集群 环境 数据kafka
面试官：介绍一下 Redis 三种集群模式
小码今天去面试。 面试官：给我介绍一下Redis集群， 小码：啊，平时开发用的都是单机Redis，没怎么用过集群了。 面试官：好的，出门右转不谢。 小码内心困惑：在小公司业务量也不大，单机的 Redis 完全够用，也不会发生宕机问题啊。面试要问到 Redis 集群该怎么办呢？ Redis 为何要有集 ......
聊聊如何让办公网络直连Kubernetes集群PodIP/ClusterIP/Service DNS等
想象一下，如果您日常使用的研发测试Kubernetes集群，能够有以下效果: 在办公网络下直接访问Pod IP 在办公网络下直接访问Service Cluster IP 在办公网络下直接访问集群内部域名，类似 service.namespace.svc.cluster.local 会不会很方便，很优 ......
基于jenkins+kubernetes的cicd流程实践一：环境搭建及方案原理
1.基础环境：Centos7.9，kubernetes:v1.21.5 node-1@112（master）：docker，containerd，harbornginx（80），git，etcd node-2@109（master/worker）：docker，containerd，ingress_ ......
大数据下一代变革之必研究数据湖技术Hudi原理实战双管齐下-中
本篇详细描述hoodie数据读写流程，进一步加深对数据湖技术的理解。理论后转战集成Spark的使用，通过spark-shell和spark-sql实现hoodie的插入数据、查询数据、更新数据、删除数据、覆盖数据、时间旅行查询等示例，了解创建表、修改表结构、查询分区、删除分区基本用法，为进一步使用奠... ......
大数据下一代变革之必研究数据湖技术Hudi原理实战双管齐下-下
本篇演示了Hudi集成Spark的Scala编程示例，并一步步操作说明如何使用DeltaStreamer从Kafka里读取数据写入到Hudi表的HDFS中，接着集成Flink的环境准备，通过基于yarn-session的Flink的sql-client方式提交任务实现插入数据和流式读取数据，了解字节... ......
大数据下一代变革之必研究数据湖技术Hudi原理实战双管齐下-后续
本篇实战Hudi集成Flink SQl编程示例实现从生成器表写入Hudi表，打包集群验证；然后通过Hudi Flink CDC实现采集MySQL binlog日志写入Kafka再入到hudi表的完整示例，了解Hudi Flink的基础调试只是，最后通过Hudi集成Hive实现Flink Hive C... ......
MySQL数据库：6、约束的概述及语法
Python基础之MySQL数据库 一、约束概述 1、为什么要约束 为了防止数据库中存在不符合语义规定的数据和防止错误信息的输入、输出造成无效的操作而提出的 为了保证数据的完整性，SQL规范以约束的方式对表数据进行额外的条件限制，从以下四个方面考虑 实体完整性：例如一个表中不能存在两条相同的 ......
MySQL数据库：7、SQL常用查询语句
Python基础之MySQL数据库 一、SQL语句常用查询方法 前期数据准备 为了更加直观的展示、演示SQL语句查询关键字，需导入下列表格与记录（数据） 模拟公司，导入创建公司员工表，表内包含：ID、姓名、年龄、工作时间、岗位 创建人员表格: create table emp( id int ......
label studio 结合 MMDetection 实现数据集自动标记、模型迭代训练的闭环
一个 AI 方向的朋友因为标数据集发了篇 SCI 论文，看着他标了两个多月的数据集这么辛苦，就想着人工智能都能站在围棋巅峰了，难道不能动动小手为自己标数据吗？查了一下还真有一些能够满足此需求的框架，比如 [cvat]、 [doccano] 、 [label studio]等，经过简单的对比后发现还... ......
MySQL数据库：2、MySQL的下载与安装、基本使用、系统服务制作
一、MySQL简介 MySQL是一种关系型数据库管理系统，关系数据库将数据保存在不同的表中，而不是将所有数据放在一个大仓库内，这样就增加了速度并提高了灵活性。 二、安装与下载 1、下载流程 1、访问官方（www.mysql.com） 2、点击‘DOWNLOADS’，进入下载界面 3、下拉，找到‘ ......
[Kogel.Subscribe.Mssql]SQL Server增量订阅，数据库变更监听
此框架是SQL Server增量订阅，用来监听增删改数据库数据变更 目前仅支持SQL Server，后续会支持MySQL和Oracle，Nuget上可以下载安装 或者使用Nuget命令添加包 dotnet add package Kogel.Subscribe.Mssql --version 0.0 ......
redis集群之分片集群的原理和常用代理环境部署
上篇文章刚刚介绍完redis的主从复制集群，但主从复制集群主要是为了解决redis集群的单点故障问题，通过整合哨兵能实现集群的高可用；但是却无法解决数据容量以及单节点的压力问题，所以本文继续介绍redis的分片集群；分片集群即将不同的数据分发到不同的redis实例(或者主从集群)，每个redis实例 ......
Flink同步Kafka数据到ClickHouse分布式表
公众号文章都在个人博客网站：https://www.ikeguang.com/ 同步，欢迎访问。 业务需要一种OLAP引擎，可以做到实时写入存储和查询计算功能，提供高效、稳健的实时数据服务，最终决定ClickHouse。 什么是ClickHouse？ ClickHouse是一个用于联机分析(OLAP ......
redis集群之主从复制集群的原理和部署
最近在复盘redis的知识，所以本文开始希望介绍下redis的集群架构、原理以及部署；本文主要介绍redis的主从复制集群，包括其架构模型，原理，高可用等； 一、主从集群的介绍 redis的主从复制集群为了提高效率降低客户端等待时长，主从间的数据同步采用的是弱一致性的策略，即客户端请求发到主机后，不 ......
如何在 K8S 集群范围使用 imagePullSecret？
在这篇文章中，我将向你展示如何在 Kubernetes 中使用 imagePullSecrets。 imagePullSecrets 简介 Kubernetes 在每个 Pod 或每个 Namespace 的基础上使用 imagePullSecrets 对私有容器注册表进行身份验证。要做到这一点，你 ......
Python：灵活的开发环境
如果你接手了别人的代码工程，却发现对方使用的 python 版本或者依赖库都和你的环境不兼容时，怎么办？打算卸掉自己原来的那一套环境再重来吗？真麻烦！ ......
Linux 系统环境监测
Linux系统环境监测 Linux系统环境主要监测CPU、内存、磁盘I/O和网络流量。 1. CPU （1） 查看CPU的负载情况：uptime 可以通过uptime查看系统整体的负载情况。 如果服务器的CPU为1核心，则1分钟的系统平均负载 >=3 说明负载过高，如果服务器的CPU为4核心，则lo ......
Isaac SDK & Sim 环境
Isaac 是 NVIDIA 开放的机器人平台。其 Isaac SDK 包括以下内容： Isaac Apps: 各种机器人应用示例，突出 Engine 特性或专注 GEM 功能 Isaac Engine: 一个软件框架，可轻松构建模块化的机器人应用 Isaac GEMs: 感知、规划到驱动的模块化算 ......
Spring Boot 多数据源配置
第一种方式： AbstractRoutingDataSource 1.1. 手动切换数据源 application.properties # Order # 如果用Druid作为数据源，应该用url属性，而不是jdbc-url spring.datasource.order.jdbc-url=jdb ......
java并发数据结构之CopyOnWriteArrayList
CopyOnWriteArrayList是一个线程安全的List实现，其在对对象进行读操作时，由于对象没有发生改变，因此不需要加锁，反之在对象进行增删等修改操作时，它会先复制一个对象副本，然后对副本进行修改，最后将修改后的副本对象写回，从而保证操作的线程安全,下面我们看一下具体的代码实现。 构造函数 ......
京东零售大数据云原生平台化实践
导读： 今天为大家介绍京东零售大数据的云原生平台化实践，主要包括以下几大方面内容： 云原生的定义和理解 云原生相关技术的演化 京东大数据在云原生平台化上的实践 云原生应用平台的发展 分享嘉宾：刘仲伟 京东 架构师 编辑整理：张明宇 广州某银行 出品社区：DataFun 01/云原生的定义和理解 1. ......
Opengl ES之YUV数据渲染
YUV回顾 记得在音视频基础知识介绍中，笔者专门介绍过YUV的相关知识，可以参考： 《音视频基础知识-YUV图像》 YUV数据量相比RGB较小，因此YUV适用于传输，但是YUV图不能直接用于显示，需要转换为RGB格式才能显示，因而YUV数据渲染实际上就是使用Opengl ES将YUV数据转换程RGB ......
Spring Boot 配置多数据源
Spring Boot 配置多数据源 作者：Grey 原文地址： 博客园：Spring Boot 配置多数据源 CSDN：Spring Boot 配置多数据源 说明 本文主要介绍了 Spring Boot 下如何配置多数据源。 环境和版本 Java 版本：17 Spring Boot 版本：3.0. ......
.NET 6 实现滑动验证码（二）、基本数据
上一节，介绍了滑动验证码的基本情况，也创建了一个.NET 6的工程。本节内容是创建一些基础类。 (创建基础类) 本节创建的类全部在工程的Model目录下： CaptchaData.cs CaptchaData.cs：验证码的数据类实体 namespace SlideCaptcha.Model { p ......
数据库和缓存的一致性如何保证
最近帮组里做讲座预约系统，虽然使用人数不多，但终于还是遇到了一些系统经典问题，比如数据库与缓存的一致性问题，很有意思，好记性不如烂笔头，学习了一些思路以后决定记录下来与大家分享。 什么是数据库与缓存的一致性问题 程序员应该没人不懂这个，但我还是觉得应该写上，有头有尾。所谓数据库与缓存的一致性问题，可 ......
架构解析：Dubbo3 应用级服务发现如何应对双11百万集群实例
继业务全面上云后，今年双11，阿里微服务技术栈全面迁移到以 Dubbo3 为代表的云上开源标准中间件体系。在业务上，基于 Dubbo3 首次实现了关键业务不停推、不降级的全面用户体验提升，从技术上，大幅提高研发与运维效率的同时地址推送等资源利用率在一些关键场景提升超 40%，基于三位一体的 Dubb ......
RocketMQ系列-搭建Namesrv源码调试环境
RocketMQ系列-搭建Namesrv源码调试环境 在学习任何一个技术框架的时候，我们通常都是先了解是什么，有什么作用、解决什么问题、设计亮点和设计思想是什么；当然对于技术学习上来说，这只是纸上谈兵，一开始比较基础的学习，当我们想要深入的时候，我们必不可少的就是希望能够去调试源码，能够在本地运行一 ......
KVC原理与数据筛选
作者：宋宏帅 1 前言 在技术论坛中看到一则很有意思的KVC案例： @interface Person : NSObject @property (nonatomic, copy) NSString *name; @property (nonatomic, assign) NSInteger age ......