分布式 集群 容器 环境
spark 3.x idea linux远程开发环境搭建
依赖包 jdk 8或11都行，不要到jdk 17 jdk 17第一个问题是jdk内部类默认不允许反射，很多配置要改。 scala 2.13 scala 2.13版本是为scala 3.0版本准备的，改进挺多。可通过scala编程（第四版）学习。 hadoop 3.2.1 因为windows hado ......
Nocalhost 为 KubeSphere 提供更强大的云原生开发环境
1 应用商店安装 Nocalhost Server 已集成在 KubeSphere 应用商店，直接访问： 设置应用「名称」，确认应用「版本」和部署「位置」，点击「下一步」： 在「应用设置」标签页，可手动编辑清单文件或直接点击「安装」。建议把 service.type 设置为 ClusterIP，以确 ......
linux环境htop安装
1、获取htop源码包 git clone https://github.com/htop-dev/htop 2、安装依赖 yum install ncurses-devel gcc 3、解压源码包，编译安装 ./configure make -j 8 make install 源码安装方式 安装支 ......
linux环境Python安装
1、下载源码 华为云镜像地址下载python Python加速地址：https://repo.huaweicloud.com/python/ 2、安装前置依赖 yum -y install zlib-devel bzip2-devel openssl-devel ncurses-devel sqli ......
分布式限流——基于Redis的Lua脚本限流实现
分布式限流 当你的应用分布式部署出现对等端（peer）时，单机的限流往往不能满足对下游保护的作用，因为它仅仅是jvm内存层面的流量控制。这个时候自然而然会想到用一些跨JVM的分布式中间件控制在单位时间窗口内的请求是否通行，本文我们将探讨如何借助Redis实现分布式限流。 1 固定窗口限流 前文已经介 ......
Spark版本不兼容导致Standalone集群无法连接问题
一、Spark版本不一致报错现象 当使用client模式连接Spark的standalone集群时，报错所有的spark master的节点都没有回应。 二、问题排查思路 通过client端的日志产看没有什么有价值的信息，需要看下spark端的master的日志，docker logs spark- ......
Linux 部署redis集群（三主三从）
1、由于redis是C语言编写的，安装之前需要保证有gcc的环境配置 首先使用命令，查看gcc版本，若已经存在则跳过gcc的安装：gcc -v 若不存在gcc，则使用命令安装gcc：yum install gcc-c++ 2、下载redis源文件 mkdir /usr/local/redis cd ......
分布式代码执行分析
SparkContext对象的构建 以及 Spark程序的退出, 由 Driver 负责执行 具体的数据处理步骤, 由Executor在执行. 其实简单来说就是: 非数据处理的部分由Driver工作 数据处理的部分(干活)由Executor工作 要知道: Executor不仅仅是一个, 视集群规模, ......
.net core分布式定时任务调度系统
分布式任务调度平台XXL-JOB与.net core分布式定时任务调度系统 .net core分布式定时任务调度系统前端：java web 后端：.net core3.1数据库：mysql，sqlserver 来源 银柱网 http://www.liyinzhu.com ......
visual studio编译不再支持的framework环境
下载好需要的framework版本，解压出来放到下面路径中，然后重新打开vs即可。 C:\Program Files (x86)\Reference Assemblies\Microsoft\Framework\.NETFramework ......
1.12_redis 的存取在最后 晚上_浙江本地环境的header不能用线上的_header中host和refer分别代表什么意思?_模型的save()参数是数组怎么理解?
方便点1： 问题: 为什么这个浙江的这个线上的header用到本地就不行,而熊师爷的这个却可以? 线上的 header中的host 本地的 header中的host 根据上面弄得对照关系 header中host和refer分别代表什么意思? 活1: 分析如下： 上面分析出现的问题：既然只统计：开业状 ......
python创建虚拟环境
1.创建项目目录 2.进入当前目录,cmd,安装虚拟环境 virtualenv -p "C:\Program Files\Python311\python.exe" .venv #目录加引号后空格.python所在目录 3. 进入VSCODE，打开目录，选择venv\scripy\python.ex ......
centos8配置网络环境及阿里云网络yum源
一、centos8配置网络环境 1.修改配置网卡配置文件 [root@localhost ~]# cat /etc/sysconfig/network-scripts/ifcfg-ens18 TYPE=Ethernet NAME=ens18 DEVICE=ens18 IPADDR=192.168.1 ......
提升Windows Server环境安全性：ADAudit Plus的五大关键优势
在Windows Server环境中，审计对于解决安全、运营和合规需求至关重要。然而，内置的Microsoft Windows安全审计工具存在一些限制，包括对专业知识的要求、耗时的流程以及一些功能的缺失。为了克服这些问题，第三方审计解决方案如ManageEngine ADAudit Plus变得至关 ......
VSCode配置C开发环境
安装MINGW64编译器 mingw64是windows上的一款C编译器，可在线安装或者离线安装，推荐离线安装 1. 离线安装 github: 链接地址 (1) 点击github链接，下载所需版本的mingw压缩包 (2) 解压到随意一个路径，最好不要有中文路径 (3) 配置环境变量，右键此电脑，点 ......
分布式缓存的实现和使用
1.前言 什么是分布式缓存？ 分布式缓存是指将缓存数据存储在多个节点（通常是不同的计算机或服务器）上，以提高系统性能和可伸缩性。这种缓存方式允许应用程序通过从缓存中读取数据而不是从数据库或其他存储中读取来提高读取操作的速度。分布式缓存通常用于大规模的分布式系统，其中需要快速的数据访问，而传统的数据库 ......
Prometheus监控k8s集群节点主机内存/CPU使用率
CPU使用率： (1 - avg(rate(node_cpu_seconds_total{mode="idle"}[5m])) by (instance)) *100 说明： container_cpu_usage_seconds_total 该容器服务针对每个CPU累计消耗的CPU时间。如果有多个 ......
Prometheus监控容器内pod节点内存/CPU使用率
内存使用率： 表达式1：sum (container_memory_working_set_bytes{container !="",container!="POD"}) by (container, pod) / sum(container_spec_memory_limit_bytes{cont ......
php环境，性能优化
根据宝塔的推荐进行参数修改 我的是8G内存，修改成4G内存 下面是备份：修改前的 ; Start a new pool named 'www'.; the variable $pool can be used in any directive and will be replaced by the; ......
linux环境下配置maven
下载地址 #maven环境配置(已经配置好jdk) vim /etc/profile export MAVEN_HOME=/mnt/maven/apache-maven-3.6.3 export PATH=${MAVEN_HOME}/bin:${PATH} #使配置生效 source /etc/pr ......
YAML示例：创建单幅本nginx容器到指定节点及其service
# one rc deployment, schedule it to the node that has a label "ip" equals to "172.18.8.241" apiVersion: apps/v1 kind: Deployment metadata: name: 241-d ......
TiDB 多集群告警监控-中章-融合多集群 Grafana
author：longzhuquan 背景 随着公司XC改造步伐的前进，越来越多的业务选择 TiDB，由于各个业务之间需要物理隔离，避免不了的 TiDB 集群数量越来越多。虽然每套 TiDB 集群均有两个详细的监控 Dashboard、Grafana，但对于运维来说几十套集群的监控、告警、巡检均需消 ......
TiDB 在单机上模拟部署生产环境集群
参考地址：https://docs.pingcap.com/zh/tidb/dev/quick-start-with-tidb 前提条件 硬件要求 开始部署 TiDB 集群前，准备一台部署主机，确保其软件满足需求： 推荐安装 CentOS 7.3 及以上版本 运行环境可以支持互联网访问，用于下载 T ......
k8s集群手动更换证书过程
第一步部分老的证书 1. 生成etcd证书，更换etcd证书，重启etcd服务。2. 替换/etc/calico的证书为etcd的证书重启calico-node服务。3. 更换calico的pod的证书为新生成的calico-node和calico-kube-controllers.4. 更换k8s ......
开源：Taurus.DTC 微服务分布式事务框架，支持 .Net 和 .Net Core 双系列版本
在经过1年多的深思，十几年的框架编写技术沉淀下，花了近一个月的时间，终于又为 .Net 及 .Net Core 的微服务系列框架贡献当中的一个重要组件。原本的设计是作为 Taurus.Mvc 微服务系列中的一个插件，单独内部集成使用，后来想了想，还是在设计中独立了出来，支持在任意 Mvc 框架中使用... ......
Java中单体应用锁的局限性&分布式锁
互联网系统架构的演进 在互联网系统发展之初，系统比较简单，消耗资源小，用户访问量也比较少，我们只部署一个Tomcat应用就可以满足需求。系统架构图如下: 一个Tomcat可以看作是一个JVM进程，当大量的请求并发到达系统时，所有的请求都落在这唯一的一个Tomcat上，如果某些请求方法是需要加锁的，比 ......
一键构建分布式云原生平台
http://wed.xjx100.cn/news/90673.html 目录 专栏导读 一、分布式云原生平台 1、应用无所不能 2、运行无处不在 3、服务千行白业 二、分布式云原生平台关键要素 1、统一应用管理 2、统一流量自治 3、统一数据管理 4、统一运维 三、多云多集群已经广泛应用 四、分布 ......
react-native在windows环境搭建并使用脚手架新建工程
截止到2024-1-11，使用的主要软件的版本如下： 软件实体 版本 react-native 0.73.1 react 18.2.0 react-native-cli 2.0.1 Android Studio 2022.3.1 Patch3 Android SDK Android SDK Plat ......
python-数据容器
1.字符串（str）概念：单引号，双引号，三引号包围的字符组 下标索引：即编号，我们可以根据下标找到对于元素 切片：对操作对象截取其中一部分的操作 切片语法：[起始：结束：步长] str（abcd） 空格会算一个小标 len（str1） 查字符串里面的数字字母个数 索引就是abcd数数的1234（正 ......
Kubernetes 多集群网络方案系列 1 -- Submariner 介绍
https://cloudpods.csdn.net/657811c5b8e5f01e1e449b3e.html Kubernetes 多集群网络方案系列 1 -- Submariner 介绍 本文首先介绍了 Submariner 的架构，包括 Broker、Gateway Engine、Route ......