集群 容器 架构hashicorp

Calico 架构及BGP实现

Calico 架构及BGP实现 BGP是互联网上一个核心的去中心化自治路由协议,它通过维护IP路由表或“前缀”表来实现自治系统AS之间的可达性,属于矢量路由协议。不过,考虑到并非所有的网络都能支持BGP,以及Calico控制平面的设计要求物理网络必须是二层网络,以确保 vRouter间均直接可达,路 ......
架构 Calico BGP

小程序容器助力组装移动银行超级APP

移动银行APP作为一种重要的商业渠道,是数字获客客户、生态建设和品牌传播的关键。近年来,作为银行机构客户经营的重要平台,移动银行APP利用技术不断迭代升级和创新手机银行APP服务功能。 根据艾瑞关于2022年中国手机银行 App 的研究分析显示,自2016年起,银行业平均业务离柜率呈上升趋势,202 ......
容器 银行 程序 APP

微前端架构:将应用拆分为多个小型模块,实现模块化设计

随着技术的不断发展和应用场景的不断变化,微前端架构也将不断演化和完善,成为更加成熟和稳定的前端架构模式,为开发者和企业带来更多的价值和机会。互联网应用的不断发展和迭代,传统的单体应用架构已经逐渐无法满足现代应用的需求。为了更好地适应快速变化的市场和业务需求,微服务和微前端架构成为了近年来的热门话题。 ......
模块 前端 架构 多个

遍历容器

利用迭代器 for(auto it=a.begin();a!=a.end();it++){ cout<<*it<<endl; } for_each void func(double x){ cout<<x<<endl; } vector<double>a; for_each(a.begin(),a. ......
容器

EasyMR 安全架构揭秘:如何管理 Hadoop 数据安全

2017年,美国信用评级机构 Equifax 遭受黑客攻击,导致1.4亿个人的敏感信息泄露; 2020年,发生了 SolarWinds 公司的软件供应链遭受恶意代码攻击事件,涉及多个行业和国家; 2022年,网信办依据《数据安全法》等法律法规,对滴滴公司开出人民币80.26亿元的巨额罚款,对互联网企 ......
架构 数据 EasyMR Hadoop

redis集群,模块启动报错:PoolException: Returned connection io.lettuce.core.cluster.StatefulRedisClusterConnectionImpl@49bd0985 was either previously returned or does not belong to this connection provider

redis 3主3从的配置 启动正常,客户端命令使用正常,突然今天开发测试环境 有些模块报错了: org.springframework.data.redis.connection.PoolException: Returned connection io.lettuce.core.cluster. ......

架构师日记-如何写的一手好代码

在日常工作中,我经常听到部分同学抱怨代码质量问题,潜台词是:“除了自己的代码,其他人写的都是垃圾,得送到绞刑架上,重构!”。今天就来聊一聊,如何写的一手好代码。 ......
架构 一手 代码 日记

Ubuntu 20.04 安装ClickHouse集群

Ubuntu 20.04 安装ClickHouse集群 引言 因为笔者最近一直想实现一个自己的APM服务端,但是看了很多APM服务端系统没有使用.Net Core来写的,都是采用Java或者Go,笔者是写C#的,但是笔者认为.Net Core的性能在现在对比Go和Java很有优势,所以笔者才有想法使 ......
集群 ClickHouse Ubuntu 20.04 20

oracle data guard集群之参数文件详解

############# 1.log_archive_config 该参数必须显式声明主备库的db_unique_name,且主库的db_unique_name永远放在第一位。其他备库的跟随其后。该参数适用于:主库、物理备库、逻辑备库、快照备库。 log_archive_config = 'dg_ ......
集群 参数 文件 oracle guard

k8s-外置ETCD集群部署

如何把ETCD的数据库备份,以及还原的操作方法(待更新中) 地址: Etcd 是一个分布式键值存储系统,Kubernetes使用Etcd进行数据存储,所以先准备一个Etcd数据库,为解决Etcd单点故障,应采用集群方式部署,这里使用3台组建集群,可容忍1台机器故障。为了节省机器,这里把3个ETCD实 ......
集群 ETCD k8s k8 8s

ZooKeeper数据和集群特点,ZAB协议和选主过程解析

前言 本文讲述 ZooKeeper 集群架构特点、数据结构、事务ID、选主和ZAB协议具体执行过程。 服务保证 ZooKeeper 非常快速且非常简单。由于它的目标是构建更复杂的服务(如同步)的基础,因此它提供了一组保证: 【顺序一致性】来自客户端的更新将按发送顺序执行,因为只有唯一的主节点负责写请 ......
集群 ZooKeeper 特点 过程 数据

Hadoop搭建(集群)

HADOOP配置文件 | | core-site.xml | | | | | hadoop.tmp.dir | /opt/hadoop/tmp | | fs.defaultFS | hdfs://master:9000 | | | hdfs-site.xml | | | | | hadoop.nam ......
集群 Hadoop

Springboot+ElasticJob-Lite实现集群任务调度

前言 ElasticJob-Lite是集群环境下应用(比如SpringCloud微服务)任务调度的解决方案。 集群部署的时候,一个定时任务会有多个进程执行,如果不进行任何处理,会导致任务触发的时候每个进程重复执行一次。 解决办法有两种:一种是加锁,保证同时只有一个进程执行任务,比如用分布式锁,或者用 ......

Docker 容器:数据持久化

Docker 容器:数据持久化 每当从镜像创建容器时,它都会创建一个新容器,除了镜像数据之外没有任何数据 意味着如果在提交更改之前删除容器,我们将丢失数据 Docker 应该存在一种将数据的文件系统与容器的文件系统分开的技术 每当创建容器时,也会创建一个文件系统【这是默认的 Linux 文件系统】 ......
容器 数据 Docker

K8s集群搭建问题

警告Cgroup Driver不一致 节点加入集群会警告 docker 和 kubelet 的 Cgroup Driver 不一致,但是暂未发现影响,如图: 解决办法:修改 docker 的 Cgroup Driver 为 systemd vim /etc/docker/daemon.json 加下 ......
集群 问题 K8s K8 8s

在Linux内网搭建K8s集群

前言 本文讲述在Linux内网搭建K8s集群详细步骤,解决搭建过程中的问题。 脚本基本可以不修改直接使用。 准备工作 需要Linux CentOS 7.x 两台及以上,本文用的 7.6。 主机要求有2个核心及以上。 安装步骤多个节点可以并行操作,默认所有操作各节点都要执行,某些操作仅主/工作节点执行 ......
集群 Linux K8s K8 8s

2021-12-30-Docker容器中使用GPU

layout: post cid: 60 title: Docker容器中使用GPU slug: 60 date: 2021/12/30 17:13:00 updated: 2022/03/25 15:42:19 status: publish author: cby categories: 默认分 ......
容器 Docker 2021 GPU 12

2021-12-30-k8s集群进行删除并添加node节点

layout: post cid: 7 title: k8s集群进行删除并添加node节点 slug: 7 date: 2021/12/30 16:58:32 updated: 2021/12/30 16:58:32 status: publish author: cby categories: 默 ......
节点 集群 2021 node k8s

在Linux搭建Zookeeper集群

前言 本文讲述在多台 Linux 服务器搭建 ZooKeeper 集群的具体步骤,共 4 个节点(1 主 2 从 1 观察者)。 ZooKeeper使用的端口:【2181】对 client 提供服务;【3888】选举 leader;【2888】集群内通讯。 准备工作 ZooKeeper需要1.7及以 ......
集群 Zookeeper Linux

基于AHB_BUS的eFlash控制器的微架构设计

eFlash微架构设计 1.回顾架构设计 2.Flash时序仿真 2.1 ahb_flashc项目目录 docs rtl sim tb model 2.2 docs 架构设计文档 微架构设计文档 集成需求文档 DataSheet 2.3 model model文件夹下放的是一些仿真模型(Flash的 ......
控制器 架构 AHB_BUS eFlash AHB

在Linux搭建Kafka集群

前言 以kafka_2.13-2.8.0版本做示例,安装架构图如下所示,4台服务器,4个节点的Zookeeper集群(1主2从1观察)以及3个Kafka服务。 准备工作 准备多台服务器来搭建集群环境 Kafka需要Zookeeper做分布式协调,所以得先准备好Zookeeper集群。可以参考 在Li ......
集群 Linux Kafka

在Linux部署Redis主从和哨兵集群实现高可用

前言 本文主要讲述在 Linux 系统中配置和部署 Redis 主从集群和哨兵,实现高可用和自动故障迁移。 准备工作 参考 Redis 单机部署 安装 3 个 Redis 服务作一主二从,本文准备了 6380(主)、6381(从) 和 6382(从)。 参考 Redis 单机部署 安装 3 个 Re ......
主从 哨兵 集群 Linux Redis

在Linux部署Redis Cluster集群

前言 本文讲述在 Linux 系统部署 Redis Cluster 实现数据分片的具体步骤。 请参考 Redis 单机部署 下载编译。 Redis Cluster是什么? Redis Cluster 是官方提供的一种用数据分片来实现横向扩容的解决方案,由一个或多个 Redis 服务组成一个无主集群。 ......
集群 Cluster Linux Redis

在Linux部署Etcd集群

前言 目前解决分布式系统下数据强一致性的主要算法理论是Paxos和Raft,偏向CAP定理一致性(Consistency)、可用性(Availability)、分区容错性(Partition tolerance)中的CP。 Raft在容错和性能方面和Paxos相当,不同之处在于它将问题分解成相对独立 ......
集群 Linux Etcd

Redis——(主从复制、哨兵模式、集群)的部署及搭建

重点: 主从复制:主从复制是高可用redis的基础,主从复制主要实现了数据的多机备份,以及对于读操作的负载均衡和简单的故障恢复。 哨兵和集群都是在主从复制基础上实现高可用的。 缺点:故障恢复无法自动化,写操作无法负载均衡,存储能力受到单机的限制。 哨兵:在主从复制的基础上,哨兵实现了自动化的故障恢复 ......
主从 哨兵 集群 模式 Redis

通过Docker创建CentOS容器

前言 先安装Docker,使用文内的脚本可以快速创建CentOS 7.8虚拟系统集群,并通过SSH(Secure Shell)远程工具连接。 创建桥接网络,方便容器间通信 指令格式为docker network create <网络名称 >。 docker network create test-n ......
容器 Docker CentOS

Nginx容器安装vim命令

docker pull nginx:1.22.1 docker run -itd nginx:1.22.1 进入nginx容器 apt-get update apt-get install -y vim ......
容器 命令 Nginx vim

Docker 下 RedisCluster 分片集群搭建

1. Cluster 分片集群 1.1 Cluster 集群的结构和作用 redis 哨兵模式虽然提供了 redis⾼可⽤、高并发读的解决方案,但是在海量数据应用场景下,仍然存在海量数据存储问题和高并发写的问题。当只有⼀个 Master 对外提供服务时,如果数据量特别⼤,内存占⽤问题严重,数据的高并 ......
集群 RedisCluster Docker

MySQL AutoIncrement--PXC集群批量插入操作获取自增ID异常问题

问题描述 由于MySQL PXC集群的所有节点均可读写,因此当PXC集群中节点增加和减少时,PXC集群会自动调整集群各节点的自增ID步长,避免不同集群节点生成相同自增ID值产生冲突。 当PXC集群中读节点数量发生变化时,客户端执行BatchInsert方法可能返回错误的自增ID值。 问题原因 由于M ......
集群 AutoIncrement 问题 MySQL PXC

实时决策系统中 OpenMLDB 的常见架构整合方式

OpenMLDB 提供了一个线上线下一致性的实时特征计算平台。对于如何在实际业务系统中整合 OpenMLDB,构建完整的机器学习平台,OpenMLDB 提供了灵活的支持。本文关注基于 OpenMLDB,在企业级业务系统中使用的常见架构。我们主要关注存储和计算两个方面: 离在线数据存储架构:如何合理的 ......
架构 实时 OpenMLDB 常见 方式