standalone centos spark

基于docker容器,搭建hadoop+spark+hive+hbase+Zookeeper Scala集群

1.安装Docker和Docker Compose 2.下载镜像 docker pull bde2020/hadoop-base:2.0.0-hadoop3.2.1-java8 docker pull bde2020/hadoop-namenode:2.0.0-hadoop3.2.1-java8 d ......
集群 容器 Zookeeper docker hadoop

CentOS 7 安装 Python 3.10

1.安装编译所需的依赖 sudo yum -y update sudo yum -y install openssl-devel libffi-devel bzip2-devel sudo yum -y groupinstall "Development Tools" 2. 安装 Python 3. ......
CentOS Python 3.10 10

虚拟机的Spark安装步骤

相关代码截图 //解压压缩包 tar -zxvf spark-3.2.4-bin-hadoop3.2.tgz //配置环境变量 vi /etc/profile //添加内容 # spark $PARK_HOME=/export/server/spark-3.2.4-bin-hadoop3.2 exp ......
步骤 Spark

centos安装node指定版本

1.下载nodejs包 下载地址 本文下载的是v16.17.1 2.解压 上传文件到/usr/local/目录下,并解压 tar zxvf node-v16.17.1-linux-x64.tar.gz 3.更名 mv node-v16.17.1-linux-x64/ nodejs 4.建立软连接 l ......
版本 centos node

centos 6.10 编译 zstd 库

centos 6.10 编译 zstd 库 从 github 上下载最新的源码。下载链接 进入到 zstd-dev 目录下 执行下面命令 cd /build/cmake mkdir build && cd build cmake .. make 我遇到了报错: timefn.c:(.text+0x5 ......
centos 6.10 zstd 10

centos 6.10 安装 readline 6.2.0

centos 6.10 安装 readline 6.2.0 下载地址 解压文件 cd readline-6.2 ./configure -prefix /usr/local/readline-6.2 make && make install 安装完成 ......
readline centos 6.10 10

centos 6.10 安装 boost 1.78.0

centos 6.10 安装 boost 1.78.0 下载地址 找到对应的版本,下载源码,而不是二进制文件。 解压文件 cd boost_1_78_0 ./bootstrap.sh ./b2 install -perfix /usr/local/boost1.78.0/ ......
centos boost 6.10 10 78

centos 6.10 安装 swig 4.0.2

centos 6.10 安装swig 4.0.2 下载地址 解压文件。 执行下面命令 cd swig-4.0.2 ./configure --prefix=/usr/local/swig-4.0.2 make && make install ......
centos 6.10 swig 10

Linux/Centos文件授权用户文件夹权限介绍

一、Linux文件权限介绍 在Linux中,一切皆为文件(目录也是文件),每个文件对用户具有可读(read)、可写(write)、可执行(excute)权限。目录的执行操作表示是否有权限进入该目录并操作执行该目录,文件都会从属于一个用户和一个用户组,每个文件针对文件的拥有者、所属组以及其他用户组具有 ......
文件 文件夹 权限 用户 Centos

CentOS7.9部署Oracle

借鉴CSDN中“蚊子不吸吸”的 《Linux之CentOS 7.9部署Oracle 11g r2_p13390677_112040最终版简易安装实测验证(桌面模式)》 《Linux之CentOS 7.9部署Oracle 11g r2 静默安装实测验证(无桌面模式)》 ......
CentOS7 CentOS Oracle

CentOS创建共享

在VMware 中设置CentOS7系统的共享文件夹,访问电脑共享的文件。 在VMware的虚拟机设置选项里共享文件夹设置添加共享文件夹路径: 在CentOS7里运行 vmware-hgfsclient 命令查看是否设置成功: 在 /mnt 路径下创建 hgfs 文件夹,使用 vmhgfs-fuse ......
CentOS

CentOS 8 Stream vs Anolis8.8 对比(2023.10)

硬件环境 Honor 笔记本电脑,16G RAM, 512G SSD,本机自带无线网卡,外接USB 有线网卡 安装Anolis 8.8 到一个128G Kingston U 盘,出现如下现象 显卡驱动无法支持笔记本的外接显示器; 中文输入法无法自动工作; 内核版本为 5.10; 本机的无线网卡未自动 ......
Anolis8 2023.10 CentOS Anolis Stream

报错Failed to execute spark task, with exception 'org.apache.hadoop.hive.ql.metadata.HiveException(Failed to create Spark client for Spark session 768047b9-c7f7-459f-9220-5d8d7bdabefe)

在执行hive on spark的时候 上面的错误可能有以下几种问题: 1.版本问题 不匹配 2.时间参数问题 设置的参数太小了 3.在hive-site.xml文件中没有配置spark 的home 我的问题属于第一个问题导致没有跑成功 当时也在想是不是内存出现了问题 ......

英特尔宣布参与Linux发行版 CentOS Stream 项目

导读 据红帽微信公众号官方消息,英特尔目前已经加入 CentOS Stream 项目,官方表示,“这一举措构建在了英特尔已经在 Fedora 项目中积极贡献的基础之上,进一步深化了红帽与英特尔之间的合作关系”。 ▲ 图源 红帽微信公众号从文中注意到,英特尔将为此前 CentOS Stream 成立的 ......
项目 CentOS Stream Linux

centos7和centos8的区别

网络管理centos7云主机:centos7使用network管理网络,NetworkManager默认是关闭的 自己安装的centos7mini版:两个都是开启的 centos8centos8没有network,使用NetworkManager管理网络 修改ip地址等操作之后,使用systemct ......
centos centos7 centos8

CentOS 7 安装 Nginx

CentOS 7 安装 Nginx 一、更新存储库包列表 $ sudo yum -y update -y 是可选参数。 表示安装软件过程中如果提示用户输入 y 进行确认安装的话,则进行自动确认。 二、安装 epel 软件包 问题:什么是 epel ? 回答: epel-release 仓库是由 Fe ......
CentOS Nginx

CentOS 8启动流程

一、BIOS与UEFI BIOS Basic Input Output System的缩写,翻译过来就是“基本输入输出系统”,是一种业界标准的固件接口,第一次出现在1975年,是计算机启动时加载的第一个程序,主要功能是检测和设置计算机硬件,引导系统启动。 UEFI Unified Extensibl ......
流程 CentOS

centos8 安装

选择第一个 选择custom 然后选择done 分区 用standard 点击加号 分区 / 50GB /data 硬盘剩余空间 点击Accept Changes,接受变更。 设置时区。 修改完成后,点左上角完成。 点击设置root密码 输入root密码后,再次确认,要点击两次完成后才行。 最后点击 ......
centos8 centos

CentOS 8 解决 Error: Failed to download metadata for repo 'appstream': Cannot prepare internal mirrorlist: No URLs in mirrorlist

原因 CentOS-8于2021年12月31日停止了源的服务。 解决办法 3.1. 备份原有的yum源配置文件 cd /etc/yum.repos.d/ mkdir bak; cp *.repo bak/ 执行如下命令,替换配置文件内容 sed -i 's/$releasever/8-stream/ ......

PostgreSQL 12及PostGIS离线安装(centos7.9)

PostgreSQL 12及PostGIS离线安装(centos7.9)postgresql 12.6安装下载插件设置镜像地址下载离线包切换用户进入 psql修改postgres(pgsql的)密码退出 psql设置允许的远程地址设置监听的端口及ipnavicator 连接外部psql连接pgcli ......
PostgreSQL PostGIS centos7 centos

如何在Linux中实施密码策略(Ubuntu / CentOS)

尽管Linux被认为是一个安全的操作系统,但其安全性与登录用户的密码强度一样。密码策略的存在是为了确保为用户设置一个强大的密码,作为一个Linux用户,你应该注意执行这些策略,使违规行为难以发生。你肯定不希望用户配置弱密码或容易猜测的密码,这些密码可以在几秒钟内被黑客强行破解。在这篇文章中,我们将触 ......
策略 密码 CentOS Ubuntu Linux

安装centos7

CentOS7安装配置主要界面如下图所示,根据界面展示,这里对以下3个部分配置进行说明: 如上图,system部分需要必须规划配置的是图中红色部分选项,即磁盘分区规划,另外可以在安装过程中修改network & host name选项中修改主机名(默认主机名为localhost.localdomai ......
centos7 centos

Centos断电后启动失败

Centos断电后启动失败 公司服务器断电,发现服务器启动失败,打开Remote Console,查看发现系统进入了救援模式,页面显示内容如下: Welcome to emergency mode! After logging in, type "journalctl -xb" to view sy ......
Centos

centos多版本jdk通过alternatives

一、下载 Linux 版的 JDK 到本地 本文以 jdk-8u341-linux-x64.tar.gz、jdk-11.0.16_linux-x64_bin.tar.gz 为例。 二、创建 Java 目录安装 1. mkdir /usr/java/ 2. 解压 JDK 到 Java 目录 tar - ......
alternatives 版本 centos jdk

CentOS7添加Windows字体类型

前言: 我这么做的原因是:我在windows系统使用java操作ascope的文件转换,项目开发结束,到了部署这一步,将jar包丢到了CentOS服务器上,运行后一切都很顺利,但是当远程调用接口的时候报了错误,然后我在windows系统运行jar也没有问题,那问题就出在了环境上,于是就摸到了这条线, ......
字体 CentOS7 Windows 类型 CentOS

linux centos安装jenkins

需要先安装java yum -y install java-11-openjdk* 先执行下面两条命令 wget -O /etc/yum.repos.d/jenkins.repo https://pkg.jenkins.io/redhat-stable/jenkins.repo sudo rpm - ......
jenkins centos linux

centos7 命令修改使用

按键字母 I,Ins插入键, 是插入功能, 按键shift+Q 是退出插入模式, 输入字母 q,不保存直接退出 输入字母wq,保存修改并退出 ......
命令 centos7 centos

centos7 执行 systemctl restart network 报错解决

问题描述: 安装虚拟机器-->安装centos7 x64,使用MobaXterm_Personal_23.2.exe 连接centos, 报错如下图: Job for network.service failed because the control process exited with err ......
systemctl centos7 restart network centos

【大数据】Spark On Yarn 理解(图文)

基本架构 1:ResourceManager(资源管理器):ResourceManager是YARN的核心组件,负责管理和分配集群资源。它接收来自Spark应用程序的资源请求,并根据可用资源情况进行分配和调度。 2:NodeManager(节点管理器):NodeManager是每个节点上的代理程序, ......
图文 数据 Spark Yarn On