Еще одним типом стационарных процессов являются процессы авторегрессии.
Процесс авторегрессии — это стационарный процесс следующего вида:
yt = константа + какой-то коэффициент b1yt − 1 + коэффициент b2yt − 2 +...
+ bp на yt − p + εt.
Процессы авторегрессии обозначаются AR(p), p — это порядок,
количество предыдущих игреков.
А сокращение AR происходит от английского AutoRegression.
Давайте на примере конкретного AR-процесса найдем у него математическое ожидание,
автокорреляционную функцию и частную автокорреляционную функцию.
Рассмотрим AR-процесс.
AR1-процесс, самый простой AR-процесс.
yt = 2 + 0,5yt − 1 + εt,
где εt — белый шум.
И дисперсия εt равняется ς квадрат.
Наша задача — посчитать, предполагая стационарность процесса,
то есть мы считаем, что это — стационарный процесс, и исходя из этого,
мы посчитаем математическое ожидание от yt,
корреляционную функцию
и частную корреляционную функцию.
Поехали!
Математическое ожидание от yt =
2 + 0,5 на математическое ожидание от (yt − 1) + 0.
Ну поскольку процесс стационарный, вот эти два математических ожидания равны.
Поэтому получаем, ну то есть можно записать,
что это Е(yt) −, вот эту половинку перенести влево и привести
их к одному моменту времени, сделать тут yt и тут yt, = 2.
Тут получаем 0,5Е(yt) = 2.
И Е(yt) равняется, стало быть, 4.
В связи с этим возникает такой маленький комментарий,
что хотя эта форма записи, конечно, короче, чем та, которую я напишу сейчас,
однако вот этот вот коэффициент — это не математическое
ожидание y.
И иногда используют более длинную форму записи,
но зато в которой коэффициент первый свободный, легче интерпретируется.
Ну, в частности,
R, когда оценивает, он оценивает немножко другое уравнение, другую форму записи.
Смотрите, давайте из каждого yt вычтем его математическое ожидание,
тогда у нас получится такое аналогичное уравнение: yt −
4 = 0,5 помножить на yt − 1 − 4 + εt.
Можно заметить, что эти две записи абсолютно эквивалентны.
Если раскрыть скобки во второй и привести подобные слагаемые, то получится первая.
Однако это вроде больше записывать,
но зато 4О — это математическое ожидание, а это покороче,
но 2 — это не математическое ожидание, а еще надо привести какие-то действия.
Хорошо, значит первый пункт мы сделали.
Поехали с автокорреляционной функцией.
Значит нам для этого понадобится посчитать сначала автоковариационную функцию.
Я напомню, что γk — это ковариация yt, yt − k.
Значит мы будем считать следующим образом.
Как считается γ0?
γ0 — это ковариация yt с yt.
Дальше.
Это γ0.
γ1 — это ковариация yt с yt − 1.
γ2 — это ковариация yt с yt − 2.
Ну давайте я еще γ3 напишу, хотя нам уже станет понятно,
как все считать немножко раньше.
И вот здесь я подставлю — чему равен yt.
yt у меня равен 2
+ 0,5 yt −
1 + εt и
2 +
0,5 yt
− 1 + εt.
Здесь у меня будет получаться ковариация
2 + 0,5yt − 1 + εt.
А yt − 1 я так и оставлю.
yt − 1.
Здесь я напишу: ковариация2 +
0,5yt − 1 + εt.
А yt − 2 так и оставлю.
И здесь сделаю тоже самое, то есть подставлю формулу для yt.
2 + 0,5yt − 1 + εt c yt − 3 на этот раз.
Ну давайте смотреть, где какая ковариация появится.
Первый случай, пожалуй, самый длинный.
Двойки никогда на ковариацию не влияют,
остается ковариация между yt −1 и yt −1.
Это есть γ0.
Потому что это ковариация между игреками,
отстающими друг от друга на 0 промежутков по времени.
Ковариация между εt и εt — это ς квадрат.
А вот ковариации между εt и yt − 1 не будет,
потому что εt — это будущий шум, это будущее что-то,
какое-то событие, которое случится, а yt − 1 — это ну сегодняшний y.
Будущие события, они у нас на сегодняшний y не влияют.
Поэтому у нас останется 0,5 и 0,5,
0,25 на γ0 + ς квадрат.
Переходим ко второму.
yt − 1 и yt − 1 даст ковариацию,
а εt — он уже будущий по отношению к yt − 1, он ковариации не даст.
Поэтому у нас получится 0,5 помножить на γ0.
Здесь получится уравнение,
εt — будущий по отношению к yt − 2,
поэтому он не даст ковариацию, а yt − 1 и yt − 2,
они отстоят друг от друга по времени на расстояние — один период.
Поэтому получим 0,5 помножить на γ1.
И здесь у нас разница по времени между yt − 1 и yt − 3 — это два периода по времени.
Соответственно, получаем 0,5 умножить на γ2.
Ну здесь у АR1-процесса закономерность слишком легкая,
здесь видно, что γ1 = 0,5 на γ0, γ2 = 0,5 на γ1,
γ3 = 0,5 на γ2 и так далее, она будет продолжаться до бесконечности.
Поэтому мы можем, в принципе, посчитать γ0, хотя оно нам не особо нужно,
ну давайте посчитаем.
γ0 равняется.
Переносим в одну сторону элемент первого уравнения,
чем 0,75γ0 = ς квадрат,
и отсюда γ0 = 4/3ς квадрат.
И поехали!
γ1, стало быть, = 0,5 на γ0,
γ2 = 0,5 на γ1 или 0,5 в квадрате на γ0,
ну и γ3 по аналогии: 0,5 в кубе на γ0 и так далее.
И отсюда находим обычные корреляции.
ρ1 — это γ1 делить на γ0.
Это есть 0,5.
ρ2 — это есть γ2 на γ0, есть 0,25.
И продолжая по аналогии, мы получаем общую
формулу ρk = 0,5 в степени k.
Соответственно, мы посчитали автокорреляции и после
этого мы сможем посчитать частные автокорреляции.
Следует отменить вторую альтернативную форму записи AR-процесса.
Иногда процесс можно записать в виде константы,
то есть yt = константа2 + 0,5yt − 1 + εt,
а иногда можно посчитать математическое ожидание и вычесть его из каждого y.
Тогда получится, что yt − 4 = 0,5 помножить на yt − 1 − 4 + εt.
Эти формы записи абсолютно эквивалентны,
если сократить скобки у второй и привести подобные слагаемые, то получится первая.
Первая чуть короче, зато во второй коэффициент 4, он более осмысленный,
потому что это — математическое ожидание процесса yt.
