资源下载站 wordpress,wordpress目录排序,wordpress内容评论可见,深圳建网站企业文章目录 部署参数配置hive简单命令 部署 Hive的三种部署模式#xff0c;主要按Metastore 的运行模式进行区分。 在安装Hive之前#xff0c;要求先预装JDK 8、Hadoop、MySQL #xff1b;
1.下载hive#xff0c;并解压缩到用户主目录下
tar -xzvf apache-hive-2.3.6-bin.t… 文章目录 部署参数配置hive简单命令 部署 Hive的三种部署模式主要按Metastore 的运行模式进行区分。 在安装Hive之前要求先预装JDK 8、Hadoop、MySQL
1.下载hive并解压缩到用户主目录下
tar -xzvf apache-hive-2.3.6-bin.tar.gz
改名
mv apache-hive-2.3.6-bin hive2.设置环境变量
sudo vim /etc/profile
在文件的最后添加如下两句
export HIVE_HOME/usr/local/hive
export PATH$HIVE_HOME/bin:$PATH然后执行
source /etc/profile
3.配置 首先进入conf目录把所有带template后缀的文件移除后缀。 其中hive-default.xml移除后缀后需要修改名为hive-site.xml。 1hive部分 3.1 修改hive-env.sh
cp hive-env.sh.template hive-env.sh
因为Hive使用了 Hadoop, 需要在 hive-env.sh 文件中指定 Hadoop 安装路径vim hive-env.sh在打开的配置文件中添加如下几行export JAVA_HOME/usr/local/hadoop/jdk1.8.0_221
export HADOOP_HOME/usr/local/hadoop/hadoop-2.7.7
export HADOOP_CONF_DIR$HADOOP_HOME/etc/hadoop
export HIVE_HOME/usr/local/hive
export HIVE_CONF_DIR$HIVE_HOME/conf
export HIVE_AUX_JARS_PATH$HIVE_HOME/lib
3.2 修改hive-log4j2.properties配置hive的log
cp hive-log4j2.properties.template hive-log4j2.propertiesvim conf/hive-log4j2.properties 配置下面的参数(如果没有logs目录在hive根目录下创建它)property.hive.log.dir/usr/local/hive/logs
3.3 在/usr/local/hive-2.1.5/下新建一个tmp目录在tmp/下新建一个hive目录。
3.4 修改hive-site.xml
cp hive-default.xml.template hive-site.xml将hive-site.xml文件中凡是${system:java.io.tmpdir}都替换成:/home/hduser/hive/tmp凡是${system:user.name}都替换为chun1 //你的主节点名
3.5 hive-site.xml 中配置 MySQL 数据库连接信息 下面的配置信息只把需要改的写出来了vim命令行模式下输入/内容进行搜索对应的name将value做修改
?xml version1.0 encodingUTF-8 standaloneno?
?xml-stylesheet typetext/xsl hrefconfiguration.xsl?
configuration!-- 设置下面这些属性 --propertynamehive.exec.scratchdir/namevalue/tmp/hive/value/propertypropertynamehive.exec.local.scratchdir/namevalue/usr/local/hive/tmp/hive/valuedescriptionLocal scratch space for Hive jobs/description/propertypropertynamehive.downloaded.resources.dir/namevalue/usr/local/hive/tmp/${hive.session.id}_resources/valuedescriptionTemporary local directory for added resources in the remote file system./description/propertypropertynamehive.querylog.location/namevalue/usr/local/hive/tmp/hive/valuedescriptionLocation of Hive run time structured log file/description/property propertynamehive.aux.jars.path/namevalue/usr/local/hive/lib,/usr/local/hive/jdbc/valuedescriptionThese JAR file are available to all users for all jobs。/description/propertypropertynamehive.metastore.warehouse.dir/namevaluehdfs://chun1:9000/user/hive/warehouse/valuedescription相对于fs.default.name有关的目录管理表存储的位置/description/property!--配置Hive Metastore--propertynamejavax.jdo.option.ConnectionURL/namevaluejdbc:mysql://chun1:3306/hive?createDatabaseIfNotExisttrueamp;characterEncodingUTF-8/value/propertypropertynamejavax.jdo.option.ConnectionDriverName/namevaluecom.mysql.jdbc.Driver/value //有些高版本的驱动需要在改成com.mysql.cj.jdbc.Driver/propertypropertynamejavax.jdo.option.ConnectionUserName/namevalueroot/value/propertypropertynamejavax.jdo.option.ConnectionPassword/namevalue123/value //这里是你mysql的密码/property !--配置hiveserver2主机(这里最好是配置ip地址以便于从Windows连接)--propertynamehive.server2.thrift.bind.host/namevaluechun1/valuedescriptionBind host on which to run the HiveServer2 Thrift service./description/property!--配置beeline远程客户端连接时的用户名和密码。这个用户名要在对应的hadoop的配置文件core-site.xml中也配置-- propertynamehive.server2.thrift.client.user/namevaluechun1/valuedescriptionUsername to use against thrift client. default is anonymous/description/propertypropertynamehive.server2.thrift.client.password/namevalue123/value //这里是你主机用户的密码descriptionPassword to use against thrift client. default is anonymous/description/property !-- 配置下面两个属性可以配置 hive 2.x web ui --propertynamehive.server2.webui.host/namevaluechun1/value/property!-- 重启HiveServer2访问http://172.16.212.17:10002/ --
/configuration
3.6 配置Hive Metastore
默认情况下, Hive的元数据保存在了内嵌的derby数据库里, 但一般情况下生产环境使用MySQL来存放Hive元数据。
将 mysql-connector-java-x.x.x.jar 放入 $HIVE_HOME/lib 下。mysql jdbc驱动程序
这里注意mysql版本一定要比mysql-connector-java-x.x.x.jar版本低要不然会报错他是向下兼容
2 mysql部分
3.7 使用的是Mysql进行安装与设置 大概思路 1下载mysql驱动进入/opt目录并解压mysql压缩包将解压后的文件复制到hive/lib目录下。
2使用root用户登录MySQL数据库
3创建数据库实例hiveDB
4创建用户bee密码为123123
5授权用户bee拥有数据库实例hiveDB的所有权限
6刷新系统权限表。
安装MySQL的环境的原因 Hive中元数据默认存在自带的derby的数据库中而derby单进程单用户仅用户个人测试生产环境采用MySQL存储Hive元数据。
4.运行 shell client端运行在进行hive交互之前记得启动hdfs和yarn服务。
参数配置
查看参数配置信息
查看全部参数
hive set;
查看某个参数
hive set hive.exec.mode.local.auto;
hive.exec.mode.local.autofalse参数配置的三种方式
1 用户自定义配置文件(hive-site.xml)
默认配置文件 hive-default.xml
用户自定义配置文件 hive-site.xml
配置优先级 hive-site.xml hive-default.xml
配置文件的设定对本机启动的所有Hive进程有效 配置文件的设定对本机所有启动的Hive进程有效
2启动hive时指定参数(-hiveconf)
启动时指定参数
hive -hiveconf hive.exec.mode.local.autotrue在命令行检查参数是否生效
hive set hive.exec.mode.local.auto;
hive.exec.mode.local.autotrue注意启动Hive时可以在命令行添加 -hiveconf paramvalue 来设定参数这些设定仅对本次启动有效
3hive命令行指定参数(set) 注意可在 Hive 命令行中使用SET关键字设定参数同样仅对本次启动有效
hive set hive.exec.mode.local.autofalse;
hive set hive.exec.mode.local.auto;
hive.exec.mode.local.autofalse优先级 set -hiveconf hive-site.xml hive-default.xml(系统)
hive简单命令
1hive -help
2-e
不进入hive交互窗口执行sql语句
hive -e 1 select * from users3-f 执行脚本中sql语句
#创建文件hqlfile1.sql内容select * from users
#执行文件中的SQL语句
hive -f hqlfile1.sql
#执行文件中的SQL语句将结果写入文件
hive -f hqlfile1.sql result1.log4退出Hive命令行 exit; 或者 quit;
参考 1.Hive环境搭建(完整版)-配置 2.Hive环境搭建保姆级教程 3.Hive的安装、配置与Shell入门操作
