Еще одним типом стационарных процессов являются процессы авторегрессии. Процесс авторегрессии — это стационарный процесс следующего вида: yt = константа + какой-то коэффициент b1yt − 1 + коэффициент b2yt − 2 +... + bp на yt − p + εt. Процессы авторегрессии обозначаются AR(p), p — это порядок, количество предыдущих игреков. А сокращение AR происходит от английского AutoRegression. Давайте на примере конкретного AR-процесса найдем у него математическое ожидание, автокорреляционную функцию и частную автокорреляционную функцию. Рассмотрим AR-процесс. AR1-процесс, самый простой AR-процесс. yt = 2 + 0,5yt − 1 + εt, где εt — белый шум. И дисперсия εt равняется ς квадрат. Наша задача — посчитать, предполагая стационарность процесса, то есть мы считаем, что это — стационарный процесс, и исходя из этого, мы посчитаем математическое ожидание от yt, корреляционную функцию и частную корреляционную функцию. Поехали! Математическое ожидание от yt = 2 + 0,5 на математическое ожидание от (yt − 1) + 0. Ну поскольку процесс стационарный, вот эти два математических ожидания равны. Поэтому получаем, ну то есть можно записать, что это Е(yt) −, вот эту половинку перенести влево и привести их к одному моменту времени, сделать тут yt и тут yt, = 2. Тут получаем 0,5Е(yt) = 2. И Е(yt) равняется, стало быть, 4. В связи с этим возникает такой маленький комментарий, что хотя эта форма записи, конечно, короче, чем та, которую я напишу сейчас, однако вот этот вот коэффициент — это не математическое ожидание y. И иногда используют более длинную форму записи, но зато в которой коэффициент первый свободный, легче интерпретируется. Ну, в частности, R, когда оценивает, он оценивает немножко другое уравнение, другую форму записи. Смотрите, давайте из каждого yt вычтем его математическое ожидание, тогда у нас получится такое аналогичное уравнение: yt − 4 = 0,5 помножить на yt − 1 − 4 + εt. Можно заметить, что эти две записи абсолютно эквивалентны. Если раскрыть скобки во второй и привести подобные слагаемые, то получится первая. Однако это вроде больше записывать, но зато 4О — это математическое ожидание, а это покороче, но 2 — это не математическое ожидание, а еще надо привести какие-то действия. Хорошо, значит первый пункт мы сделали. Поехали с автокорреляционной функцией. Значит нам для этого понадобится посчитать сначала автоковариационную функцию. Я напомню, что γk — это ковариация yt, yt − k. Значит мы будем считать следующим образом. Как считается γ0? γ0 — это ковариация yt с yt. Дальше. Это γ0. γ1 — это ковариация yt с yt − 1. γ2 — это ковариация yt с yt − 2. Ну давайте я еще γ3 напишу, хотя нам уже станет понятно, как все считать немножко раньше. И вот здесь я подставлю — чему равен yt. yt у меня равен 2 + 0,5 yt − 1 + εt и 2 + 0,5 yt − 1 + εt. Здесь у меня будет получаться ковариация 2 + 0,5yt − 1 + εt. А yt − 1 я так и оставлю. yt − 1. Здесь я напишу: ковариация2 + 0,5yt − 1 + εt. А yt − 2 так и оставлю. И здесь сделаю тоже самое, то есть подставлю формулу для yt. 2 + 0,5yt − 1 + εt c yt − 3 на этот раз. Ну давайте смотреть, где какая ковариация появится. Первый случай, пожалуй, самый длинный. Двойки никогда на ковариацию не влияют, остается ковариация между yt −1 и yt −1. Это есть γ0. Потому что это ковариация между игреками, отстающими друг от друга на 0 промежутков по времени. Ковариация между εt и εt — это ς квадрат. А вот ковариации между εt и yt − 1 не будет, потому что εt — это будущий шум, это будущее что-то, какое-то событие, которое случится, а yt − 1 — это ну сегодняшний y. Будущие события, они у нас на сегодняшний y не влияют. Поэтому у нас останется 0,5 и 0,5, 0,25 на γ0 + ς квадрат. Переходим ко второму. yt − 1 и yt − 1 даст ковариацию, а εt — он уже будущий по отношению к yt − 1, он ковариации не даст. Поэтому у нас получится 0,5 помножить на γ0. Здесь получится уравнение, εt — будущий по отношению к yt − 2, поэтому он не даст ковариацию, а yt − 1 и yt − 2, они отстоят друг от друга по времени на расстояние — один период. Поэтому получим 0,5 помножить на γ1. И здесь у нас разница по времени между yt − 1 и yt − 3 — это два периода по времени. Соответственно, получаем 0,5 умножить на γ2. Ну здесь у АR1-процесса закономерность слишком легкая, здесь видно, что γ1 = 0,5 на γ0, γ2 = 0,5 на γ1, γ3 = 0,5 на γ2 и так далее, она будет продолжаться до бесконечности. Поэтому мы можем, в принципе, посчитать γ0, хотя оно нам не особо нужно, ну давайте посчитаем. γ0 равняется. Переносим в одну сторону элемент первого уравнения, чем 0,75γ0 = ς квадрат, и отсюда γ0 = 4/3ς квадрат. И поехали! γ1, стало быть, = 0,5 на γ0, γ2 = 0,5 на γ1 или 0,5 в квадрате на γ0, ну и γ3 по аналогии: 0,5 в кубе на γ0 и так далее. И отсюда находим обычные корреляции. ρ1 — это γ1 делить на γ0. Это есть 0,5. ρ2 — это есть γ2 на γ0, есть 0,25. И продолжая по аналогии, мы получаем общую формулу ρk = 0,5 в степени k. Соответственно, мы посчитали автокорреляции и после этого мы сможем посчитать частные автокорреляции. Следует отменить вторую альтернативную форму записи AR-процесса. Иногда процесс можно записать в виде константы, то есть yt = константа2 + 0,5yt − 1 + εt, а иногда можно посчитать математическое ожидание и вычесть его из каждого y. Тогда получится, что yt − 4 = 0,5 помножить на yt − 1 − 4 + εt. Эти формы записи абсолютно эквивалентны, если сократить скобки у второй и привести подобные слагаемые, то получится первая. Первая чуть короче, зато во второй коэффициент 4, он более осмысленный, потому что это — математическое ожидание процесса yt.
