hive 分区表和数据产生关联三种方式

写在前面:

想要从hive数据库里面查询到数据就要求hive的元数据必须存在且元数据指向的的HDFS路径中也必须要存在实际的数据

(1)方式一:上传数据后修复 使用的场景是历史数据积累了很多分区数据,推荐使用该方式,该方法将HDFS上的数据方向写到hive的元数据库MySQL中

上传数据

hive (default)> dfs -mkdir -p /user/hive/warehouse/dept_partition2/month=201709/day=12;

hive (default)> dfs -put /user/hive/warehouse/dept_partition2/month=201709/day=12; 查询数据(查询不到刚上传的数据)
hive (default)> select * from dept_partition2 where month='201709' and day='12'; 执行修复命令

hive> msck repair table dept_partition2;


再次查询数据
hive (default)> select * from dept_partition2 where month='201709' and day='12';

(2)方式二:上传数据后添加分区 上传数据

hive (default)> dfs -mkdir -p /user/hive/warehouse/dept_partition2/month=201709/day=11;

hive (default)> dfs -put /user/hive/warehouse/dept_partition2/month=201709/day=11;
执行添加分区
hive (default)> alter table dept_partition2 add partition(month='201709', day='11'); 查询数据

hive (default)> select * from dept_partition2 where month='201709' and day='11';

(3)方式三:上传数据后 load 数据到分区 创建目录

hive (default)> dfs -mkdir -p /user/hive/warehouse/dept_partition2/month=201709/day=10;
上传数据
hive (default)> load data local inpath '/opt/module/datas/dept.txt' into table

dept_partition2 partition(month='201709',day='10');

查询数据

hive (default)> select * from dept_partition2 where month='201709' and day='10';

发布了42 篇原创文章 · 获赞 6 · 访问量 2万+
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章