【未完待續】
A new boosting algorithm for improved time-series forecasting with recurrent neural networks
given
爲了建立這樣的模型，需要適當的函數f.
鑑於其通用近似性質，多層感知器（MLP [3]）通常在建模非線性函數f時成功。在這種情況下，將固定數量的過去值饋送到MLP的輸入層，並且需要輸出，以便可以預測時間序列的未來值。
在許多應用中，使用固定尺寸的時間窗已經被證明是有限制的：如果時間窗口太窄，重要的信息可能被忽略，而如果窗口太寬，則無用的輸入可能會引起不必要的噪音。
理想情況下，對於給定的問題，時間窗口的大小應該適應上下文。這可以通過使用循環神經網絡（RNN）[3,4]來完成，這將通過基於梯度的算法諸如反向傳播通過時間（BPTT）算法來學習。可以通過幾種手段改善結果。
一種方法是基於從應用領域知識獲得的先驗信息開發更合適的訓練算法（參見例如[5]）。
In this paper we will focus on the definition of a boosting algorithm used to improve the prediction performance of RNNs.
A new parameter will be introduced, allowing regulation of the boosting effect.
在本文中，我們將重點介紹用於提高RNN的預測性能的boosting算法的定義。將引入一個新的參數，從而調節boosting的效果。
A common problem with the time series forecasting model is the low accuracy of long term forecasts.
時間序列預測模型的常見問題是長期預測的準確度低。短期來看變量的估計值可能相當可靠，但對於長期預測，估計可能不太準確。
Section 3, the ensemble methods will be reviewed before presenting the generic boosting algorithm
Section 4, the related work on regression will be presented.
Next a definition of RNNs as well as the BPTT associated learning algorithm will be provided.
The new boosting algorithm is described in Section 6
最後，在第7節中，我們將看看在三個不同的基準測試中獲得的SS預測問題的實驗結果，以及在兩個基準測試中獲得的MS預測問題的結果， 這表現出整體性能的提高。
【single-step-ahead (SS) multi-step-ahead (MS) 】（單步前進、多步前進）
Modelling approaches for times series
處理預測問題的最常見方法可以追溯到[7]，並且包括在構建預測時使用一個固定數字M個過去值（在時間序列上滑動的固定長度的時間窗口）：
目前大多數關於SS預測的工作依賴於[8]的結果，表明在幾個假設（其中不存在噪聲）的情況下，可以根據公式(1) 和 公式(2) 得到 x(t+τ) 的完美估計，如果M>=2d+1。這裏的 d 是 產生時間序列的 固定引子 的規格。 在這種方法中，在滑動時間窗口中保留執行預測所需的所有過去的Memory。
An alternative solution is to keep a small length (usually M = 1) time window and enable the model to develop a memory of the past by itself. This memory is expected to represent the past information that is actually needed for performing the task more accurately.
Local and global approaches
在local方法中，爲生成目標時間序列的動態系統的行爲建立一個分段的近似。
首先，通過使用時間窗口技術和輸出序列構建合成狀態空間。
然後，一些矢量量化技術對該狀態空間進行分割。
最終，爲每個這樣的段開發一個簡單（通常是線性的）局部模型。
有侷限性
本地方法在許多MS預測問題中取得了成功[12-15]，這可能是由於狀態空間的量化提供的增強的魯棒性以及所使用的局部模型的簡單性的結果。
全局方式則試圖對底層動態系統的整個行爲範圍構建單一（複雜）模型。
