マツリさんの日記

androidプログラミング初心者の奮闘日記です。たまに統計学もしてます。

時系列データ解析 07 ~ ARMA過程

www.asakura.co.jp

 沖本先生の本の続きです。MA過程、AR過程ときて、続いてはARMA過程です。

 ARMA(自己回帰移動平均)過程は、AR過程とMA過程の両方を含んだ過程です。( p, q)次のARMA過程、つまりARMA(p,q)過程は、

 \displaystyle y_{t} = c + \phi_{1} y_{t-1} + \cdots + \phi_{p} y_{t-p} + \epsilon_{t} + \theta_{1} \epsilon_{t-q} + \cdots + \theta_{q} \epsilon_{t-q}, \epsilon_{t} \sim W.N. (\sigma^{2})

と記述されます。AR過程、MA過程、両方の性質のうち強い方がARMA過程の性質になります。

 たとえば、MA過程は常に定常となりますが、AR過程は常に定常であるとは限らないので、ARMA過程も定常になるとは限りません。

 ARMA過程の性質は下記のとおりです。

 \mu = E(y_{t}) = \frac{c}{1 - \phi_{1} - \phi_{2} - \cdots - \phi_{p}}

 q+1次以降の自己共分散( \gamma_{t})と自己相関( \rho_{t})は、 y_{t}が従うARMA過程のAR部分と同一の係数をもつp次差分方程式(ユール・ウォーカー方程式)に従います。
 \gamma_{k} = \phi_{1} \gamma_{k-1} + \phi_{2} \gamma_{k-2} + \cdots + \phi_{p} \gamma_{k-p}, k \geq q + 1
 \rho_{k} = \phi_{1} \rho_{k-1} + \phi_{2} \rho_{k-2} + \cdots + \phi_{p} \rho_{k-p}, k \geq q + 1

 ARMA過程の自己相関は指数的に減衰する。

 q+1次以降の自己共分散と自己相関は、ユール・ウォーカー方程式を解くことにより逐次的に求めることができる一方で、q次まではMA過程の影響があるため、表現することは難しいそうです。

 ARMA過程は、AR過程が定常とは限らない点、MA過程は常に定常である一方で任意のMA過程に同一の期待値と自己相関構造をもつ異なるMA過程が複数存在する点など問題点があります。

 自己相関構造のモデル化という点で、MAモデルを選択する基準が必要になるのですが、それが反転可能性という概念です。

 AR過程の定常性は、差分方程式と関連があり、AR過程と同一の係数をもつ差分方程式が安定的になる場合に、AR過程は定常になります。まず、AR(p)過程を再度記述します。

 \displaystyle y_{t} = c + \phi_{1} y_{t-1} + \phi_{2} y_{t-2} + \cdots + \phi_{p} y_{t-p} + \epsilon_{t}

 AR(p)過程の定常条件は前回記述した

 \displaystyle 1 - \phi_{1} z - \cdots - \phi_{p} z^{p} = 0

のすべての解の絶対値が1より大きいとき、AR過程は定常になります。この方程式は、AR特性方程式と呼ばれ、左辺の多項式はAR多項式と呼ばれます。沖本先生の例で言いますと、AR(1)過程

 y_{t} = c + \phi_{1} y_{t-1} + \epsilon_{t}

の定常性条件は、AR(1)過程のAR特性方程式

 1 - \phi_{1} z = 0

の解は z = \frac{1}{\phi_{1}}となりますから、 |\phi_{1}| < 1のとき、 |z| > 1となるので、|\phi_{1}| < 1となります。

 また、AR(2)過程

 y_{t} = 0.5 y_{t-1} + 0.5 y_{t-2} + \epsilon_{t}

の場合の特性方程式

 0 = 1 - 0.5 z - 0.5 z^{2} = (1 - z)(1 + 0.5z)

となりますので、解は-2と1となります。つまり、このAR(2)過程は非定常であることが分かります。

 MA過程は常に定常ですが、同一の期待値と自己相関構造をもつ異なるMA過程が存在することは既に上で話をしました。時系列モデルを利用する目的は、データの平均的な挙動と自己相関構造をモデル化することです。そのため、同一の期待値、自己相関構造をもつMAモデルが複数存在するときには、どのモデルを用いるかを決める基準として、MA過程の反転可能性があります。

 MA過程がAR(∞)過程に書き直せるとき、MA過程は反転可能といわれます。
 MA過程が反転可能であるとき、 \epsilon_{t}は過去の y_{t}の関数として表現でき、過去の yを用いて y_{t}を予測した時の予測誤差とも解釈できます。そのため、反転可能表現に伴う \epsilon_{t} y_{t}の本源的な撹乱項と呼ぶこともあります。

 この本源的な撹乱項を用いた場合、パラメータの推定や予測を自然な形で行うことができるので、同一の期待値、自己共分散構造をもつMA過程のうち、反転可能な過程を選択する方が望ましいということになります。

 同一の構造をもつMA(q)過程は一般的に 2^{q}個存在することが知られていますが、反転可能なものは1つしか存在しません。MA(q)過程の反転可能条件は、AR過程の定常条件と同様のものです。

 1 + \theta_{1} z + \theta_{2} z^{2} + \cdots + \theta_{p} z^{p} = 0

というMA特性方程式を用いて、この特性方程式のすべての解の絶対値が1より大きいとき、MA過程は反転可能となります。

 ARMA過程の定常性は、MA過程が常に定常であるので、ARMA過程はAR過程が定常であれば、定常なAR過程とMA過程の和として表現できるため、定常になります。したがって、AR過程の部分が定常であることが確認できればよいので、AR特性方程式のすべての解が1より大きければ、ARMA過程は定常になります。

 同様に、ARMA過程の反転可能性は、MA過程が反転可能性あればよいということになります。したがって、MA過程の部分のMA特性方程式のすべての解の絶対値が1より大きいとき、ARMA過程は反転可能となります。