高效辨別Hive的靜態和動態分區

Hive分區:

1、Hive中有分區表的概念,我們可以看到分區具有重要性能優勢,分區表可以將數據以一種符合邏輯的方式進行組織,比如分層存儲。
2、查詢分區表中的數據時,除非where語句中包含分區字段過濾條件來顯示數據範圍,否則不允許執行。
3、換句話說,就是用戶不允許掃描所有的分區。
4、進行這個顯示的原因是,通常分區表都擁有非常大的數據集,而且數據增加迅速。如果沒有進行分區限制的查詢可能會消耗令人不可接受的巨大資源來處理這個表。
5、分區是hive存放數據的一種方式。將列值作爲目錄來存放數據,就是一個分區。這樣查詢時使用分區列進行過濾,只需根據列值直接掃描對應目錄下的數據,不掃描其他不關心的分區,快速定位,提高查詢效率。

靜態分區表和動態分區表的區別:

靜態分區是手動指定的。
動態分區是通過數據來進行判斷。
靜態分區的列是在編譯時期,通過用戶傳遞列名來決定。
動態分區是在SQL執行的時候來確定的。

靜態分區:

若分區的值是確定的,那麼稱爲靜態分區。新增分區或者是加載分區數據時,已經指定分區名。

  • 創建分區:
create table test
(name string,age int)
partitioned by (country string)
row format delimited fields terminated by '\t'
lines terminated by '\n'
stored as textfile;
  • 向分區表中插入數據:
insert into table test partition(country="china")
values("zhangsan",1);
insert into table test partition(country="usa")
values("james",34);
insert into table test partition(country="usa")
values("tom",2);
  • 查詢分區表的數據:
select * from test where country="china";
  • 刪除分區:
alter table test drop partition(country="china");
  • 加載數據指定分區:
load data local inpath '/root/Desktop/student.txt' into table test partition(name='zs',age=21);
動態分區:

分區的值是非確定的,由輸入數據來確定.
動態分區的相關屬性:

hive.exec.dynamic.partition=true :是否允許動態分區
hive.exec.dynamic.partition.mode=strict :分區模式設置
strict:最少需要有一個是靜態分區
nostrict:可以全部是動態分區
hive.exec.max.dynamic.partitions=1000 :允許動態分區的最大數量
hive.exec.max.dynamic.partitions.pernode =100 :單個節點上的mapper/reducer允許創建的最大分區
在這裏插入圖片描述

  • 動態分區:
set hive.exec.dynamic.partition=true;
(可通過這個語句查看:
set hive.exec.dynamic.partition;)
set hive.exec.dynamic.partition.mode=nonstrict;
SET hive.exec.max.dynamic.partitions=100000;(如果自動分區數
大於這個參數,將會報錯)
SET hive.exec.max.dynamic.partitions.pernode=100000;
  • 顯示分區數:
show partitions order_part;
  • 查詢分區表中的數據:
select * from user_trade limit 6;這樣會報錯,因爲沒有加分區條
件。
  • 嚴格模式:
set hive.mapred.mode=strict;
select * from user_trade limit 6;
select * from user_trade where dt='2017-01-12';

分區時注意:

1、儘量不要用動態分區,因爲動態分區的時候,將會爲每一個分區分配reducer數量,當分區數量多的時候,reducer數量將會增加,對服務器是一種災難。
2、動態分區和靜態分區的區別,靜態分區不管有沒有數據都將會創建該分區,動態分區是有結果集將創建,否則不創建。
3、hive動態分區的嚴格模式和hive提供的hive.mapred.mode的嚴格模式。
hive提供我們一個嚴格模式:爲了阻止用戶不小心提交惡意hql

hive.mapred.mode=nostrict : strict

如果該模式值爲strict,將會阻止以下三種查詢:

1、對分區表查詢,where中過濾字段不是分區字段。
2、笛卡爾積join查詢,join查詢語句,不帶on條件或者where條件。
3、對order by查詢,有order by的查詢不帶limit語句。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章