Hadoop集群、hive、derby安装部署详细说明
Hadoop集群安装部署
1 前言
本文档是设想在多台服务器上部署HADOOP的实现过程；
2 创建用户
建议同个集群中的用户和用户组，都是相同的，以便管理和维护。
2.1 生成创建用户的运行角本
为不同服务器创建同样的用户和组，创建脚本的目的是让不同服务器可以直接运行此脚本，实现用户创建的过程。
用root用户登录linux，运行命令：
[root@T5038 opt]# vi createuser.sh
[root@T5038 opt]# chmod 777 createuser.sh
文件内容如下：
mkdir /opt;
mkdir /opt/analysis;
export LANG="zh_CN.GB18030";
groupadd analyzer -f;
useradd analyzer -d /opt/analysis -g analyzer -p analyzer@123;
chmod 755 -R /opt/analysis;
chown analyzer:analyzer /opt/analysis;
passwd analyzer<< EOF
analyzer@123
analyzer@123
EOF
2.2 同步创建用户脚本
同步上面的createuser.sh到各服务器：
[root@T5038 opt]# rsync -avz createuser.sh [email protected]:/opt/ << EOF
[email protected]
EOF
或：
[root@T5038 opt]# scp -P 7411 /opt/createuser.sh [email protected]:/opt/
2.3 运行创建用户脚本
用root登录各服务器，运行脚本：
[root@T5038 opt]# ./ createuser.sh
3 设置/etc/hosts文件
3.1 设置/etc/hosts文件内容：
[root@T5038 opt]# su – root
[root@T5038 opt]# vi /etc/hosts
Hosts的内容参考：
---IP地址--- ---机器名---
10.12.3.88 T5038
10.12.3.89 T5039
10.12.3.90 T5040
3.2 同步/etc/hosts到其它各服务器
[root@T5038 opt]# scp -P 7411 /etc/hosts 10.12.3.103:/etc/hosts
yes
[email protected]
4 设置免密码登录
设置集群中各服务器间免密码登录对hadoop的运行没影响，但设置后，可以通过一台服务器启动集群中所有的hadoop节点，而不用频繁登录到各台服务器进行逐台启动。
设置过程：本地运行ssh-keygen -t rsa后，把生成的id_rsa.pub在多台机器间相互拷贝；
4.1 生成生成公钥、密钥
切换到analyzer用户，运行命令：ssh-keygen -t rsa，运行过程中，直接多次按回车键即可；
[root@T5038 opt]# su - search
[analyzer @T5038 opt]# ssh-keygen -t rsa
Generating public/private rsa key pair.
Enter file in which to save the key (/opt/analysis/hadoop/.ssh/id_rsa):
Created directory '/opt/analysis/hadoop/.ssh'.
Enter passphrase (empty for no passphrase):
Enter same passphrase again:
Your identification has been saved in /opt/analysis/hadoop/.ssh/id_rsa.
Your public key has been saved in /opt/analysis/hadoop/.ssh/id_rsa.pub.
The key fingerprint is:
c1:d4:a5:56:94:ca:d4:27:15:6b:6f:5f:c3:c9:23:e2 hadoop@T5037
4.2 复制id_rsa.pub文件
复制本地id_rsa.pub到远程服务器，使远程服务器登录本地可以免密码登录。
[analyzer@T5038 opt]#cd /opt/ analysis /.ssh
[analyzer@T5038 opt]#scp -P 7411 id_rsa.pub analyzer@remoteIP:/opt /id_rsa_ip1.pub
4.3 生成authorized_keys文件内容
在各服务器，生成authorized_keys文件的内容，它可以是多个不同服务器的id_rsa.pub的内容整合，命令如下：
[analyzer@T5038 opt]#cat id_rsa_ip1.pub id_rsa_ip2.pub >authorized_keys
4.4 设置权限
权限问题（权限过大或过小）都可能导致远程免密码登录失败。
[analyzer@T5038 opt]#chmod 644 authorized_keys
-rw-r--r-- 1 hadoop hadoop 788 06-17 09:59 authorized_keys
4.5 测试免密码登录
如不用输入密码而直接登录远程服务器，则表示设置成功；运行命令如下：
[analyzer@T5038 opt]#ssh -p 7411 10.12.3.88