TXT文本去重 TXT文本合併 TXT文件求並集
https://blog.csdn.net/zhengzizhi/article/details/72615021
測試數據大小:20億行130GB的數據只需60分鐘 平均去重速度:2000000000(行) ÷ 3600(秒) = 555555(行/秒)≈55萬行/秒
TXT文本去重 平均去重速度55萬條/秒
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
TXT文本去重 TXT文本合併 TXT文件求並集
https://blog.csdn.net/zhengzizhi/article/details/72615021
測試數據大小:20億行130GB的數據只需60分鐘 平均去重速度:2000000000(行) ÷ 3600(秒) = 555555(行/秒)≈55萬行/秒