hive记录中包含换行符时存储格式为textfile导致多行记录问题

在处理hive数据记录时发现orc格式时本来一行记录,但是在转textfile文件时导致多行错误记录;在排查中发现textfile使用‘\n’来识别行数据,数据中包含换行符导致这样的错误。处理方式,一:使用SQL的方式过滤掉这类字符(regexp_replace(column_name,'\n|\t|\r','');二:在处理etl阶段过滤这类字符。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章