前陣子,完成hadoop的學(xué)習(xí),其中某些學(xué)習(xí)筆記還在整理之中,稍后會發(fā)出,基本都是看視頻,看書學(xué)習(xí)的,屬于基本操作,大神可繞道.......今天是對hive安裝 筆記,具體內(nèi)容如下:
1.概念
hive是基于hadoop的數(shù)據(jù)倉庫 工具,可以將結(jié)構(gòu)化的數(shù)據(jù)文件映射成一張數(shù)據(jù)表。并且提供類sql查詢功能。當(dāng)然hivesql的底層也是通過mapreduce來實現(xiàn)的。
2.hive的組成
hive包含,用戶接口、元數(shù)據(jù)、數(shù)據(jù)倉庫、解析器等組件構(gòu)成,其中用戶接口包含shell客戶端,jdbc,odbc,web接口等。元數(shù)據(jù)是指定義在hive中表結(jié)構(gòu)信息,一般存在關(guān)系型數(shù)據(jù)庫中,如mysql中保存。解析器是將hivesql解析成mapreduce過程。數(shù)據(jù)倉庫就是由hdfs組成的數(shù)據(jù)存儲容器。結(jié)構(gòu)如下圖:
3.hive的安裝模式
hive的安裝,metastore存儲位置不同。可以分為本地安裝、遠程安裝、內(nèi)嵌安裝。其中:
內(nèi)嵌安裝是指將derby存儲元數(shù)據(jù)。
遠程安裝是明確指定metastore安裝機器位置,可以指定多個。需要指定參數(shù)
hive.metastore.uris,hive.metastore.local必須設(shè)置為false。
本地安裝是將metastore和hive客戶端安裝在同一個機器上。同時hive.metastore.local設(shè)置為true.
4.hive的安裝(由于條件限制,進行本地安裝模式。使用mysql存儲元數(shù)據(jù))
'''
## mysql安裝
1.使用yum安裝mysql
yum install mysql
yum install mysql-server
yum install mysql-devel(可選)
2.修改配置信息 vim /etc/my.cnf
[mysql]
default-character-set=utf8
[mysqld]
character-set-server=utf8
lower_case_table_names=1
3.啟動mysql service mysqld restart/start/stop
4.配置超級用戶及密碼: mysqladmin -u root password 132654
5.使用root登錄,并創(chuàng)建mysql用戶.
mysql -u root -p 132654
create user 'hive' identified by 'hive';
6.授權(quán)。
grant all privileges on . to 'hive'@'all' with grant option
flush privileges;
7.重新啟動服務(wù),并使用hive用戶創(chuàng)建數(shù)據(jù)庫
create database hive;
alter database hive character set latin1;
## hive的安裝
1.下載軟件:http://archive.cloudera.com/cdh5/cdh/5/hive-0.13.1-
cdh5.3.6.tar.gz
2.修改hive-site文件(hive-0.13.1-cdh5.3.6/conf)
<?xml version="1.0" encoding="UTF-8" standalone="no"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<configuration>
<property>
<name>hive.metastore.uris</name>
<value>thrift://hadoop:9083</value>
</property>
<property>
<name>hive.metastore.warehouse.dir</name>
<value>/hive</value>
</property>
<property>
<name>javax.jdo.option.ConnectionURL</name>
<value>jdbc:mysql://hadoop:3306/hive?createDatabaseIfNotExist=true&useUnicode=true&
</value>
</property>
<property>
<name>javax.jdo.option.ConnectionDriverName</name>
<value>com.mysql.jdbc.Driver</value>
</property>
<property>
<name>javax.jdo.option.ConnectionUserName</name>
<value>hive</value>
</property>
<property>
<name>javax.jdo.option.ConnectionPassword</name>
<value>hive</value>
</property>
</configuration>
3.配置環(huán)境變量(vi ~/.bash_profile)
export HIVE_HOME=/usr/soft/hive-0.13.1-cdh5.3.6/
export PATH=$PATH:$HIVE_HOME/bin
讓環(huán)境變量生效:source ~/.bash_profile
4.移動mysql驅(qū)動jar到hive的lib文件夾下。
5.啟動metastore服務(wù)(啟動hdfs+yarn服務(wù))
hive --service metastore &
6.進入hive客戶端
hive --service metastore–hiveconf hive.root.logger=DUBUG,console
'''
7.測試。

在mysql中查看元數(shù)據(jù)信息。

安裝完畢!!