一、文章信息
《TA-STAN: A Deep Spatial-Temporal Attention Learning Framework for Regional Traffic Accident Risk Prediction 》
西南交通大學2019年發表在“International Joint Conference on Neural Networks ”上的一篇文章。
二、摘要
交通事故風險的準確高效預測對於減少交通事故數量至關重要，同時也有助於解決個人旅途的安全問題。文章首先提到自己的一個研究角度不同點：基於實際的行政管理劃分區域，而不是採用絕大多數研究者採用的道路網格劃分。在考慮交通流這一影響因素上，文章也有所不同，是按照機動車的類型來劃分交通流，而不是作爲一個整體來考慮。爲了考慮局部區域與全局區域對預測結果的影響，使用時空注意力網絡，同時也融入了其它影響因素數據。採用的數據集是New York City，與6種Baseline進行比較，並可視化了加入注意力權重對模型結果的影響。
三、簡介
文章首先指出最近和大多數在交通事故風險預測上的研究文章主要區域研究方式是基於圖網格，也就是將整個城市化成一個正方形，然後通過某種特點細化網格填入靜態基礎數據，這種方法存在一個問題：破壞了地理的固有屬性，打破了空間上固有的地理信息，同時預測結果很難匹配到原始的區域。因此文章採用紐約市出租車行政管理劃分的區域進行研究，如下圖所示。
同時文章考慮交通流作爲主要的影響因素，因此將交通事故數據和交通流數據定義成一個數據表達。
文章的主要貢獻如下：
- 考慮本級區域和全局（其它）地區對本級區域的影響。也就說，在相同的一個劃分區域內，不同因素之間的影響也比較大，比如時間的流動性等；而對於其它區域，特別是交通流動性，其它區域的流動對本地區的影響也是比較大的。文章的解決方案是設計了一個時空注意力機制，包括本區域空間注意力機制、全局區域空間注意力機制和時間注意力機制。作者也提到文章是首次應用時空注意力機制的深度學習框架來研究交通事故風險預測的問題。
- 考慮環境因素的影響。設計用於輔助具有外部特徵的時空注意機制進行最終預測。
- 使用真實的紐約市交通事故數據集驗證模型的有效性和更優性，同時通過可視化各部分注意力權重，來說明注意力權重的實際意義。
文章再次強調首要問題：
行政區的人爲劃分將打破區域的整體格局，造成預測的偏差。
四、模型概述
文章介紹深度學習框架TA-STAN（一種編解碼框架），主要包含三個部分：
1、空間注意力機制。也就是在編碼階段，使用兩個空間注意力機制（本級區域空間和全局區域空間），來捕獲交通事故與交通流之間的動態影響。
2、時間注意力機制。關聯編解碼階段的時間戳。
3、外部特徵提取。在解碼階段，提取如天氣、時間、道路設計等可能影響交通事故發生的外部特徵。
對於注意力機制的概述可以看下原文：
這裏值得一提的是全局區域空間注意力機制上，文章分爲兩種情況：一種是具有區域及影響的，也就說不同時間流動下，區域之間存在差異；另外一種情況就是所有區域共有的特徵，這是就不區分區域級別的差異了。因此這裏需要計算兩種全局區域空間注意力。這樣做的目的文章也解釋了，可以減小模型計算的高額代價。
所以從上圖可以看到在空間注意力機制上有三個部分，最後只需提取三個空間輸入，並將這三個輸入合併爲一個輸入到編碼器。
在時間注意力機制計算 上，關鍵就是將解碼器的每個時間戳t’與編碼器的每個時間戳t建立聯繫，文章爲了考慮歷史時刻狀態對未來時間戳的影響，在計算原向量到目標向量的注意力分數時加入瞭解碼器前一時間戳的隱藏狀態值Dht’-1。
最後給出文章的結果比較：
同時文章也給出了對編解碼框架中五個組件的比較和解釋，加入和不加入又有什麼樣的性能提升，以此來驗證文章原本的思路是正確的。
最後文章還結合案例數據分析結合可視化的形式，說明注意力權重的實際意義。
五、總結
總的來說文章理解起來不難，主要在兩方面做了創新：一個就是不採用主流的地圖網格劃分的方式研究區域關係；另外一個就是針對解決不同的問題和考慮因素，引入多種注意力機制。我覺得在交通事故風險預測的研究上，這兩個點子還是比較新穎的。
這裏再給出該文作者的2019年碩士論文：《基於深度學習的交通事故風險預測研究與實現》-中國知網
http://cdmd.cnki.com.cn/Article/CDMD-10613-1019692801.htm