# 使用 ARIMA 進行時間序列預測 在上一課中,你學習了一些關於時間序列預測的知識,並載入了一個展示電力負載隨時間波動的數據集。 [![ARIMA 簡介](https://img.youtube.com/vi/IUSk-YDau10/0.jpg)](https://youtu.be/IUSk-YDau10 "Introduction to ARIMA") > 🎥 點擊上方圖片觀看影片:ARIMA 模型的簡要介紹。範例使用 R 語言,但概念具有普遍性。 ## [課前測驗](https://ff-quizzes.netlify.app/en/ml/) ## 簡介 在本課中,你將學習如何使用 [ARIMA: *A*uto*R*egressive *I*ntegrated *M*oving *A*verage](https://wikipedia.org/wiki/Autoregressive_integrated_moving_average) 建立模型。ARIMA 模型特別適合用於處理顯示 [非平穩性](https://wikipedia.org/wiki/Stationary_process) 的數據。 ## 基本概念 在使用 ARIMA 之前,你需要了解以下一些概念: - 🎓 **平穩性**。從統計學的角度來看,平穩性指的是數據的分佈在時間移動時不會改變。非平穩數據則會因趨勢而波動,這些趨勢必須經過轉換才能進行分析。例如,季節性可能會引入數據波動,這可以通過“季節性差分”過程來消除。 - 🎓 **[差分](https://wikipedia.org/wiki/Autoregressive_integrated_moving_average#Differencing)**。差分是指通過移除非平穩數據中的非恆定趨勢,將其轉換為平穩數據的過程。“差分可以消除時間序列中的水平變化,從而消除趨勢和季節性,並穩定時間序列的均值。” [Shixiong 等人的論文](https://arxiv.org/abs/1904.07632) ## ARIMA 在時間序列中的應用 讓我們拆解 ARIMA 的各個部分,以更好地理解它如何幫助我們對時間序列建模並進行預測。 - **AR - 自回歸 (AutoRegressive)**。顧名思義,自回歸模型會“回顧”過去的數據值,並對其進行分析以作出假設。這些過去的數據值被稱為“滯後值”。例如,顯示每月鉛筆銷售數據的數據集。每個月的銷售總額被認為是數據集中的“演變變量”。該模型的構建方式是“將感興趣的演變變量回歸到其自身的滯後值(即先前的值)上。” [維基百科](https://wikipedia.org/wiki/Autoregressive_integrated_moving_average) - **I - 積分 (Integrated)**。與類似的 'ARMA' 模型不同,ARIMA 中的 'I' 指的是其 *[積分](https://wikipedia.org/wiki/Order_of_integration)* 特性。當應用差分步驟以消除非平穩性時,數據即被“積分”。 - **MA - 移動平均 (Moving Average)**。該模型的 [移動平均](https://wikipedia.org/wiki/Moving-average_model) 部分指的是通過觀察當前和過去的滯後值來確定輸出變量。 總結:ARIMA 用於使模型盡可能貼合時間序列數據的特殊形式。 ## 練習 - 構建 ARIMA 模型 打開本課中的 [_/working_](https://github.com/microsoft/ML-For-Beginners/tree/main/7-TimeSeries/2-ARIMA/working) 資料夾,找到 [_notebook.ipynb_](https://github.com/microsoft/ML-For-Beginners/blob/main/7-TimeSeries/2-ARIMA/working/notebook.ipynb) 文件。 1. 運行 notebook 以載入 `statsmodels` Python 庫;這是 ARIMA 模型所需的。 1. 載入必要的庫。 1. 現在,載入更多用於繪製數據的庫: ```python import os import warnings import matplotlib.pyplot as plt import numpy as np import pandas as pd import datetime as dt import math from pandas.plotting import autocorrelation_plot from statsmodels.tsa.statespace.sarimax import SARIMAX from sklearn.preprocessing import MinMaxScaler from common.utils import load_data, mape from IPython.display import Image %matplotlib inline pd.options.display.float_format = '{:,.2f}'.format np.set_printoptions(precision=2) warnings.filterwarnings("ignore") # specify to ignore warning messages ``` 1. 將 `/data/energy.csv` 文件中的數據載入 Pandas dataframe,並查看數據: ```python energy = load_data('./data')[['load']] energy.head(10) ``` 1. 繪製 2012 年 1 月至 2014 年 12 月的所有能源數據。這些數據應該沒有什麼意外,因為我們在上一課中已經看到過: ```python energy.plot(y='load', subplots=True, figsize=(15, 8), fontsize=12) plt.xlabel('timestamp', fontsize=12) plt.ylabel('load', fontsize=12) plt.show() ``` 現在,讓我們構建一個模型! ### 創建訓練和測試數據集 現在數據已載入,你可以將其分為訓練集和測試集。你將在訓練集上訓練模型。與往常一樣,模型訓練完成後,你將使用測試集評估其準確性。你需要確保測試集涵蓋的時間段晚於訓練集,以確保模型不會從未來的時間段中獲取信息。 1. 將 2014 年 9 月 1 日至 10 月 31 日的兩個月期間分配給訓練集。測試集將包括 2014 年 11 月 1 日至 12 月 31 日的兩個月期間: ```python train_start_dt = '2014-11-01 00:00:00' test_start_dt = '2014-12-30 00:00:00' ``` 由於這些數據反映了每日的能源消耗,因此存在明顯的季節性模式,但消耗量與最近幾天的消耗量最為相似。 1. 可視化差異: ```python energy[(energy.index < test_start_dt) & (energy.index >= train_start_dt)][['load']].rename(columns={'load':'train'}) \ .join(energy[test_start_dt:][['load']].rename(columns={'load':'test'}), how='outer') \ .plot(y=['train', 'test'], figsize=(15, 8), fontsize=12) plt.xlabel('timestamp', fontsize=12) plt.ylabel('load', fontsize=12) plt.show() ``` ![訓練和測試數據](../../../../7-TimeSeries/2-ARIMA/images/train-test.png) 因此,使用一個相對較小的時間窗口來訓練數據應該是足夠的。 > 注意:由於我們用於擬合 ARIMA 模型的函數在擬合過程中使用了樣本內驗證,因此我們將省略驗證數據。 ### 為訓練準備數據 現在,你需要通過對數據進行過濾和縮放來準備訓練數據。過濾數據集以僅包含所需的時間段和列,並縮放數據以確保數據投影在 0 到 1 的區間內。 1. 過濾原始數據集以僅包含上述每個集合的時間段,並僅包括所需的“load”列和日期: ```python train = energy.copy()[(energy.index >= train_start_dt) & (energy.index < test_start_dt)][['load']] test = energy.copy()[energy.index >= test_start_dt][['load']] print('Training data shape: ', train.shape) print('Test data shape: ', test.shape) ``` 你可以查看數據的形狀: ```output Training data shape: (1416, 1) Test data shape: (48, 1) ``` 1. 將數據縮放到 (0, 1) 範圍內。 ```python scaler = MinMaxScaler() train['load'] = scaler.fit_transform(train) train.head(10) ``` 1. 可視化原始數據與縮放後的數據: ```python energy[(energy.index >= train_start_dt) & (energy.index < test_start_dt)][['load']].rename(columns={'load':'original load'}).plot.hist(bins=100, fontsize=12) train.rename(columns={'load':'scaled load'}).plot.hist(bins=100, fontsize=12) plt.show() ``` ![原始數據](../../../../7-TimeSeries/2-ARIMA/images/original.png) > 原始數據 ![縮放後數據](../../../../7-TimeSeries/2-ARIMA/images/scaled.png) > 縮放後數據 1. 現在你已校準縮放後的數據,可以縮放測試數據: ```python test['load'] = scaler.transform(test) test.head() ``` ### 實現 ARIMA 現在是時候實現 ARIMA 了!你將使用之前安裝的 `statsmodels` 庫。 接下來需要遵循幾個步驟: 1. 通過調用 `SARIMAX()` 並傳入模型參數(p、d 和 q 參數,以及 P、D 和 Q 參數)來定義模型。 2. 通過調用 `fit()` 函數為訓練數據準備模型。 3. 通過調用 `forecast()` 函數並指定要預測的步數(即“預測範圍”)來進行預測。 > 🎓 這些參數是什麼意思?在 ARIMA 模型中,有 3 個參數用於幫助建模時間序列的主要方面:季節性、趨勢和噪聲。這些參數是: `p`:與模型的自回歸部分相關的參數,該部分包含*過去*的值。 `d`:與模型的積分部分相關的參數,該部分影響應用於時間序列的*差分*次數(🎓 還記得差分嗎 👆?)。 `q`:與模型的移動平均部分相關的參數。 > 注意:如果你的數據具有季節性特徵(例如本例),我們使用季節性 ARIMA 模型(SARIMA)。在這種情況下,你需要使用另一組參數:`P`、`D` 和 `Q`,它們與 `p`、`d` 和 `q` 的關聯相同,但對應於模型的季節性部分。 1. 首先設置你偏好的預測範圍值。我們試試 3 小時: ```python # Specify the number of steps to forecast ahead HORIZON = 3 print('Forecasting horizon:', HORIZON, 'hours') ``` 為 ARIMA 模型選擇最佳參數值可能具有挑戰性,因為這在某種程度上是主觀且耗時的。你可以考慮使用 [`pyramid` 庫](https://alkaline-ml.com/pmdarima/0.9.0/modules/generated/pyramid.arima.auto_arima.html) 的 `auto_arima()` 函數。 1. 現在嘗試一些手動選擇以找到一個合適的模型。 ```python order = (4, 1, 0) seasonal_order = (1, 1, 0, 24) model = SARIMAX(endog=train, order=order, seasonal_order=seasonal_order) results = model.fit() print(results.summary()) ``` 一個結果表格將被打印出來。 你已經構建了第一個模型!現在我們需要找到一種方法來評估它。 ### 評估你的模型 為了評估你的模型,你可以執行所謂的 `逐步前進` 驗證。在實踐中,每當有新數據可用時,時間序列模型都會重新訓練。這使得模型能夠在每個時間步驟中進行最佳預測。 使用此技術從時間序列的開頭開始,對訓練數據集進行模型訓練。然後對下一個時間步驟進行預測。將預測值與已知值進行評估。然後將訓練集擴展以包括已知值,並重複該過程。 > 注意:為了提高訓練效率,你應該保持訓練集窗口固定,這樣每次向訓練集添加新觀測值時,你需要從集合的開頭移除一個觀測值。 此過程提供了模型在實踐中表現的更穩健估計。然而,這需要付出創建大量模型的計算成本。如果數據量小或模型簡單,這是可以接受的,但在規模較大時可能會成為問題。 逐步前進驗證是時間序列模型評估的黃金標準,並建議在你的項目中使用。 1. 首先,為每個 HORIZON 步驟創建一個測試數據點。 ```python test_shifted = test.copy() for t in range(1, HORIZON+1): test_shifted['load+'+str(t)] = test_shifted['load'].shift(-t, freq='H') test_shifted = test_shifted.dropna(how='any') test_shifted.head(5) ``` | | | load | load+1 | load+2 | | ---------- | -------- | ---- | ------ | ------ | | 2014-12-30 | 00:00:00 | 0.33 | 0.29 | 0.27 | | 2014-12-30 | 01:00:00 | 0.29 | 0.27 | 0.27 | | 2014-12-30 | 02:00:00 | 0.27 | 0.27 | 0.30 | | 2014-12-30 | 03:00:00 | 0.27 | 0.30 | 0.41 | | 2014-12-30 | 04:00:00 | 0.30 | 0.41 | 0.57 | 數據根據其預測範圍點水平移動。 1. 使用此滑動窗口方法對測試數據進行預測,循環次數為測試數據長度: ```python %%time training_window = 720 # dedicate 30 days (720 hours) for training train_ts = train['load'] test_ts = test_shifted history = [x for x in train_ts] history = history[(-training_window):] predictions = list() order = (2, 1, 0) seasonal_order = (1, 1, 0, 24) for t in range(test_ts.shape[0]): model = SARIMAX(endog=history, order=order, seasonal_order=seasonal_order) model_fit = model.fit() yhat = model_fit.forecast(steps = HORIZON) predictions.append(yhat) obs = list(test_ts.iloc[t]) # move the training window history.append(obs[0]) history.pop(0) print(test_ts.index[t]) print(t+1, ': predicted =', yhat, 'expected =', obs) ``` 你可以觀察到訓練過程: ```output 2014-12-30 00:00:00 1 : predicted = [0.32 0.29 0.28] expected = [0.32945389435989236, 0.2900626678603402, 0.2739480752014323] 2014-12-30 01:00:00 2 : predicted = [0.3 0.29 0.3 ] expected = [0.2900626678603402, 0.2739480752014323, 0.26812891674127126] 2014-12-30 02:00:00 3 : predicted = [0.27 0.28 0.32] expected = [0.2739480752014323, 0.26812891674127126, 0.3025962399283795] ``` 1. 將預測值與實際負載進行比較: ```python eval_df = pd.DataFrame(predictions, columns=['t+'+str(t) for t in range(1, HORIZON+1)]) eval_df['timestamp'] = test.index[0:len(test.index)-HORIZON+1] eval_df = pd.melt(eval_df, id_vars='timestamp', value_name='prediction', var_name='h') eval_df['actual'] = np.array(np.transpose(test_ts)).ravel() eval_df[['prediction', 'actual']] = scaler.inverse_transform(eval_df[['prediction', 'actual']]) eval_df.head() ``` 輸出 | | | timestamp | h | prediction | actual | | --- | ---------- | --------- | --- | ---------- | -------- | | 0 | 2014-12-30 | 00:00:00 | t+1 | 3,008.74 | 3,023.00 | | 1 | 2014-12-30 | 01:00:00 | t+1 | 2,955.53 | 2,935.00 | | 2 | 2014-12-30 | 02:00:00 | t+1 | 2,900.17 | 2,899.00 | | 3 | 2014-12-30 | 03:00:00 | t+1 | 2,917.69 | 2,886.00 | | 4 | 2014-12-30 | 04:00:00 | t+1 | 2,946.99 | 2,963.00 | 觀察每小時數據的預測值與實際負載的比較。這有多準確? ### 檢查模型準確性 通過測試所有預測的平均絕對百分比誤差 (MAPE) 來檢查模型的準確性。 > **🧮 展示數學公式** > > ![MAPE](../../../../7-TimeSeries/2-ARIMA/images/mape.png) > > [MAPE](https://www.linkedin.com/pulse/what-mape-mad-msd-time-series-allameh-statistics/) 用於顯示預測準確度,公式如上所示。實際值與預測值之間的差異除以實際值。 > > 「此計算中的絕對值會對每個預測點進行加總,然後除以擬合點的數量 n。」 [wikipedia](https://wikipedia.org/wiki/Mean_absolute_percentage_error) 1. 在程式碼中表達方程式: ```python if(HORIZON > 1): eval_df['APE'] = (eval_df['prediction'] - eval_df['actual']).abs() / eval_df['actual'] print(eval_df.groupby('h')['APE'].mean()) ``` 1. 計算單步驟的 MAPE: ```python print('One step forecast MAPE: ', (mape(eval_df[eval_df['h'] == 't+1']['prediction'], eval_df[eval_df['h'] == 't+1']['actual']))*100, '%') ``` 單步預測 MAPE:0.5570581332313952 % 1. 輸出多步預測的 MAPE: ```python print('Multi-step forecast MAPE: ', mape(eval_df['prediction'], eval_df['actual'])*100, '%') ``` ```output Multi-step forecast MAPE: 1.1460048657704118 % ``` 一個較低的數值是最好的:請考慮,如果一個預測的 MAPE 為 10,則表示偏差為 10%。 1. 但一如往常,視覺化這種準確性測量會更容易理解,所以讓我們繪製圖表: ```python if(HORIZON == 1): ## Plotting single step forecast eval_df.plot(x='timestamp', y=['actual', 'prediction'], style=['r', 'b'], figsize=(15, 8)) else: ## Plotting multi step forecast plot_df = eval_df[(eval_df.h=='t+1')][['timestamp', 'actual']] for t in range(1, HORIZON+1): plot_df['t+'+str(t)] = eval_df[(eval_df.h=='t+'+str(t))]['prediction'].values fig = plt.figure(figsize=(15, 8)) ax = plt.plot(plot_df['timestamp'], plot_df['actual'], color='red', linewidth=4.0) ax = fig.add_subplot(111) for t in range(1, HORIZON+1): x = plot_df['timestamp'][(t-1):] y = plot_df['t+'+str(t)][0:len(x)] ax.plot(x, y, color='blue', linewidth=4*math.pow(.9,t), alpha=math.pow(0.8,t)) ax.legend(loc='best') plt.xlabel('timestamp', fontsize=12) plt.ylabel('load', fontsize=12) plt.show() ``` ![時間序列模型](../../../../7-TimeSeries/2-ARIMA/images/accuracy.png) 🏆 一個非常棒的圖表,顯示了一個準確性良好的模型。做得好! --- ## 🚀挑戰 深入研究測試時間序列模型準確性的方法。本課程中我們提到了 MAPE,但還有其他方法可以使用嗎?研究它們並加以註解。一份有幫助的文件可以在[這裡](https://otexts.com/fpp2/accuracy.html)找到。 ## [課後測驗](https://ff-quizzes.netlify.app/en/ml/) ## 回顧與自學 本課程僅觸及了使用 ARIMA 進行時間序列預測的基礎知識。花些時間深入了解[這個資源庫](https://microsoft.github.io/forecasting/)及其各種模型類型,學習其他構建時間序列模型的方法。 ## 作業 [一個新的 ARIMA 模型](assignment.md) --- **免責聲明**: 本文件使用 AI 翻譯服務 [Co-op Translator](https://github.com/Azure/co-op-translator) 進行翻譯。我們致力於提供準確的翻譯,但請注意,自動翻譯可能包含錯誤或不準確之處。應以原始語言的文件作為權威來源。對於關鍵資訊,建議尋求專業人工翻譯。我們對因使用此翻譯而產生的任何誤解或錯誤解讀概不負責。