SQL Server 分組後取Top N

SQL Server 分組後取Top N

  近日,工作中突遇一需求:將一數據表分組,而後取出每組內按一定規則排列的前N條數據。乍想來,這本是尋常查詢,無甚難處。可提筆寫來,終究是困住了筆者好一會兒。冥思苦想,遍查網絡,不曾想這竟然是SQL界的一個經典話題。今日將我得來的若干方法列,拋磚引玉,以期與衆位探討。

  正文之前,對示例表結構加以說明。

                    SectionTransactionLog,用來記錄各部門各項活動的日誌表
                     SectionId,部門Id
                     SectionTransactionType,活動類型
                     TotalTransactionValue,活動花費
                     TransactionDate,活動時間

  我們設定的場景爲:選出每部門(SectionId)最近兩次舉行的活動。

  筆者用來測試的SectionTransactionLog表中數據超3,000,000。

一、 嵌套子查詢方式

1

1 SELECT * FROM SectionTransactionLog mLog
2 where 
3     (select COUNT(*) from SectionTransactionLog subLog
4     where subLog.SectionId = mLog.SectionId and subLog.TransactionDate >= mLog.TransactionDate)<=2
5 order by SectionId, TransactionDate desc

  運行時間:34秒

  該方式原理較簡單,只是在子查詢中確定該條記錄是否是其Section中新近發生的2條之一。

2

複製代碼
1 SELECT * FROM SectionTransactionLog mLog
2 where mLog.Id in
3     (select top 2 Id 
4     from SectionTransactionLog subLog
5     where subLog.SectionId = mLog.SectionId
6     order by TransactionDate desc)
7 order by SectionId, TransactionDate desc
複製代碼

  運行時間:1分25秒

  在子查詢中使用TransactionDate排序,取top 2。並應用in關鍵字確定記錄是否符合該子查詢。

二、 自聯接方式

複製代碼
1 select mLog.* from SectionTransactionLog mLog
2 inner join
3 (SELECT rankLeft.Id, COUNT(*) as rankNum FROM SectionTransactionLog rankLeft
4 inner join SectionTransactionLog rankRight 
5 on rankLeft.SectionId = rankRight.SectionId and rankLeft.TransactionDate <= rankRight.TransactionDate
6 group by rankLeft.Id
7 having COUNT(*) <= 2) subLog on mLog.Id = subLog.Id
8 order by mLog.SectionId, mLog.TransactionDate desc
複製代碼

  運行時間:56秒

  該實現方式較爲巧妙,但較之之前方法也稍顯複雜。其中,以SectionTransactionLog表自聯接爲基礎而構造出的subLog部分爲每一活動(以Id標識)計算出其在Section內部的排序rankNum(按時間TransactionDate)。

  在自聯接條件rankLeft.SectionId = rankRight.SectionId and rankLeft.TransactionDate <= rankRight.TransactionDate的篩選下,查詢結果中對於某一活動(以Id標識)而言,與其聯接的只有同其在一Section並晚於或與其同時發生活動(當然包括其自身)。下圖爲Id=1的活動自聯接示意:

  從上圖中一目瞭然可以看出,基於此結果的count計算,便爲Id=1活動在Section 9022中的排次rankNum。

  而後having COUNT(*) <= 2選出排次在2以內的,再做一次聯接select出所需信息。

三、 應用ROW_NUMBER()(SQL SERVER 2005及之後)

複製代碼
1 select * from
2 (
3 select *, ROW_NUMBER() over(partition by SectionId order by TransactionDate desc) as rowNum
4 from SectionTransactionLog
5 ) ranked
6 where ranked.rowNum <= 2
7 order by ranked.SectionId, ranked.TransactionDate desc
複製代碼

  運行時間:20秒

  這是截至目前效率最高的實現方式。ROW_NUMBER() over(partition by SectionId order by TransactionDate desc)完成了分組、排序、取行號的整個過程。

 

效率思考

  下面我們對上述的4種方法做一個效率上的統計。

方法 耗時(秒) 排名
應用ROW_NUMBER() 20 1
嵌套子查詢方式1  34 2
自聯接方式 56 3
嵌套子查詢方式2 85 4

  4種方法中,嵌套子查詢2所用時最長,其效率損耗在什麼地方了呢?難道果真是使用了in關鍵字的緣故?下圖爲其執行計劃(execute plan):

 

  從圖中,我們可以看出優化器將in解析爲了Left Semi Join, 其損耗極低。而該查詢絕大部分性能消耗在子查詢的order by處(Top N Sort)。果然,若刪掉子查詢中的order by TransactionDate desc子句(當然結果不正確),其耗時僅爲8秒。

  添加有效索引可提高該查詢方法的性能。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章