一、全局排序(Order By)
Order By:全局排序,一個Reducer
1、使用 ORDER BY 子句排序
ASC(ascend): 升序(默認)
DESC(descend): 降序
2、ORDER BY 子句在SELECT語句的結尾
3、案例實操
(1)查詢員工信息按工資升序排列
hive (default)> select * from emp order by sal;
(2)查詢員工信息按工資降序排列
hive (default)> select * from emp order by sal desc;
4、 按照別名排序
按照員工薪水的2倍排序
hive (default)> select ename, sal*2 twosal from emp order by twosal;
5、多個列排序
按照部門和工資升序排序
hive (default)> select ename, deptno, sal from emp order by deptno, sal ;
二、 每個MapReduce內部排序(Sort By)
Sort By:每個Reducer內部進行排序,對全局結果集來說不是排序。
實操:
1.設置reduce個數
hive (default)> set mapreduce.job.reduces=3;
2.查看設置reduce個數
hive (default)> set mapreduce.job.reduces;
3.根據部門編號降序查看員工信息
hive (default)> select * from emp sort by empno desc;
4.將查詢結果導入到文件中(按照部門編號降序排序)
hive (default)> insert overwrite local directory '/opt/module/datas/sortby-result'
select * from emp sort by deptno desc;
三、 分區排序(Distribute By)
Distribute By:類似MR中partition,進行分區,結合sort by使用。
注意: Hive要求DISTRIBUTE BY語句要寫在SORT BY語句之前
。因爲mr程序就是先分區後排序,hivesql其本質就是mr
對於distribute by進行測試,一定要分配多reduce進行處理,否則無法看到distribute by的效果。
案例實操:
(1)先按照部門編號分區,再按照員工編號降序排序。
hive (default)> set mapreduce.job.reduces=3;
hive (default)> select e.empno,e.ename from emp e distribute by e.empno sort by e.ename desc;
四、 Cluster By—只能升序
當distribute by和sorts by字段相同時,可以使用cluster by方式。
cluster by除了具有distribute by的功能外還兼具sort by的功能。但是排序只能是升序排序,不能指定排序規則爲ASC或者DESC。
以下兩種寫法等價
:
hive (default)> select * from emp cluster by deptno;
hive (default)> select * from emp distribute by deptno sort by deptno;
注意:按照部門編號分區,不一定就是固定死的數值,可以是20號和30號部門分到一個分區裏面去。
總結:
Order By 只有一個reduce的情況下全局排序
Sort By 單個reduce內排序
Distribute By 分區操作,結合sortby使用就是分區且有序
Distribute By 效果等同Distribute By 與Sort By結合,但只能升序