虚拟机中配置大数据节点--个人备份笔记

发布时间 2023-11-13 17:44:06作者: wangtay

新建master节点,注意:新建虚拟机时一切按默认走,随后安装系统;

centos安装过程中要注意选择带开发工具的GNOME桌面版本;分区/boot500M,swap2048M,/剩下所有即可;

在虚拟机NAT模式下,重新配置master的ip,ip设置应在虚拟机配置的范围内,重启网络;

cd /etc/sysconfig/network-scripts
vim ifcfg-ens33

BOOTPROTO=static
IPADDR=192.168.92.131
NETMASK=255.255.255.0
GATEWAY=192.168.92.2

service network restart

命名主机为master
vim /etc/sysconfig/network

NETWORKING=yes
HOSTNAME=master

hostname
hostname master
hostname


在虚拟机里克隆两台master的克隆体,重命名为slave1和slave2,分别重新更改网络配置和主机名;

建立主机名和映射
master:
vim /etc/hosts
192.168.92.15 master
192.168.92.16 slave1
192.168.92.17 slave2
slave中只需自己和master的映射即可

关闭防火墙
systemctl status firewalld.service
systemctl stop firewalld.service
systemctl disable firewalld.service

桌面右上角启动网络连接

配置虚拟机的免密连接
ssh-keygen -t rsa #生成一对密钥
回车
回车
回车

cat ~/.ssh/id_rsa.pub #查看公钥

ssh-copy-id root@192.168.92.16
ssh-copy-id root@192.168.92.17
#将公钥拷贝到slave1和2

ssh root@192.168.92.16
ssh root@192.168.92.17 #在master上测试免密连接效果

exit #登出测试链接主机

安装JDK
java -version #查看当前jdk安装版本
rpm -qa | grep jdk #查看openjdk版本

#除.noarch,其余已有的jdk全部删除
rpm -e --nodeps java-1.7.0-openjdk-headless-1.7.0.171-2.6.13.2.el7.x86_64
rpm -e --nodeps java-1.7.0-openjdk-1.7.0.171-2.6.13.2.el7.x86_64
rpm -e --nodeps java-1.8.0-openjdk-headless-1.8.0.161-2.b14.el7.x86_64
rpm -e --nodeps java-1.8.0-openjdk-1.8.0.161-2.b14.el7.x86_64

java -version #再运行,查看openjdk是否删除成功

mkdir -p /usr/java #创建Java目录

把下载好的java安装包复制到刚刚建好的目录下

cd /usr/java #进入刚刚建好的目录
tar -zxvf jdk-8u321-linux-x64.tar.gz #解压缩
ls #查看解压后的文件

vim /etc/profile #编辑Java的配置文件
JAVA_HOME=/usr/java/jdk1.8.0_321
JRE_HOME=$JAVA_HOME/jre
PATH=$PATH:$JAVA_HOME/bin:$JRE_HOME/bin
CLASS_PATH=.:$JAVA_HOME/lib/tools.jar:$JRE_HOME/lib
export JAVA_HOME

source /etc/profile #使文件生效
java -version #查看Java版本

源码安装MYSQL
rpm -qa | grep mariadb #查询已安装的MySQL
rpm -e --nodeps mariadb-libs #卸载原有mysql

wget https://dev.mysql.com/get/Downloads/MySQL-5.7/mysql-boost-5.7.23.tar.gz #下载源码包
tar xf mysql-boost-5.7.23.tar.gz #解压
ls
cd mysql-5.7.23/

useradd -s/sbin/nologin mysql #创建用户
mkdir -p /data/mysql/data #创建数据库数据目录
chown -R mysql:mysql /data/mysql #升级权限

yum install gcc gcc-c++ ncurses-devel perl autoconf cmake -y #安装依赖环境
rm -f /var/run/yum.pid #解决yum出错问题,如果上一条命令出错再执行

#编译安装
cmake -DCMAKE_INSTALL_PREFIX=/usr/local/mysql -DDEFAULT_CHARSET=utf8 -DDEFAULT_COLLATION=utf8_general_ci -DWITH_BOOST=boost
make
make install

#编写配置my.cnf
mkdir /usr/local/mysql/etc
vim /usr/local/mysql/etc/my.cnf

[mysqld]
user=mysql
port=3306
basedir = /usr/local/mysql
datadir=/data/mysql/data
socket=/tmp/mysql.sock
log-error=/data/mysql/mysql-error.log
pid-file=/data/mysql/mysql.pid
tmpdir=/tmp

[mysqld_safe]
log-error=/data/mysql/mysql-error.log
pid-file=/data/mysql/mysql.pid

[client]
socket=/tmp/mysql.sock

#mysql初始化
/usr/local/mysql/bin/mysqld --initialize-insecure --user=mysql --basedir=/usr/local/mysql --datadir=/data/mysql/data --pid-file=/data/mysql/mysql.pid --tmpdir=/tmp

#拷贝mysql服务启动脚本并做修改
cp /usr/local/mysql/support-files/mysql.server /etc/init.d/mysql
sed -i "s|^basedir=.*|basedir=\/usr\/local\/mysql|" /etc/init.d/mysql
sed -i "s|^datadir=.*|datadir=\/data\/mysql\/data|" /etc/init.d/mysql
sed -i "s|conf=.*|conf=${INSTALL_DIR}\/mysql\/etc\/my.cnf|" /etc/init.d/mysql

#把mysql命令添加环境变量中
echo "export PATH=$PATH:/usr/local/mysql/bin" >>/etc/profile
source /etc/profile

#启动mysql服务并登录
/etc/init.d/mysql start
mysql


搭建集群
#新建用户并设置密码
adduser hadoop
passwd hadoop
12345678

#将新建的hadoop用户添加到hadoop用户组
usermod -a -G hadoop hadoop
cat /etc/group

#赋予hadoop用户root权限
vim /etc/sudoers

hadoop ALL=(ALL) ALL #添加到root的下一行,wq!结束