Автокорреляция

Содержание

Слайд 2

Цели лекции Природа проблемы автокорреляции остатков. Последствия автокорреляции. Средства обнаружения автокорреляции. Средства для решения проблемы автокорреляции.

Цели лекции

Природа проблемы автокорреляции остатков.
Последствия автокорреляции.
Средства обнаружения автокорреляции.
Средства для решения проблемы

автокорреляции.
Слайд 3

Определение автокорреляции Автокорреляция (последовательная корреляция) – это корреляция между наблюдаемыми показателями

Определение автокорреляции

Автокорреляция (последовательная корреляция) – это
корреляция между наблюдаемыми показателями во
времени (временные

ряды) или в пространстве
(перекрестные данные).
Автокорреляция остатков характеризуется тем, что
не выполняется предпосылка 30 использования МНК:
Слайд 4

Виды автокорреляции

Виды автокорреляции

Слайд 5

Причины чистой автокорреляции 1. Инерция. Трансформация, изменение многих экономических показателей обладает

Причины чистой автокорреляции

1. Инерция.
Трансформация, изменение многих экономических
показателей обладает инерционностью.
2. Эффект паутины.
Многие

экономические показатели реагируют на
изменение экономических условий с запаздыванием
(временным лагом)
3. Сглаживание данных.
Усреднение данных по некоторому продолжительному
интервалу времени.
Слайд 6

Автокорреляция первого порядка ε − случайный член рассматриваемого уравнения регрессии, ρ

Автокорреляция первого порядка

ε − случайный член рассматриваемого уравнения регрессии,
ρ − коэффициент

автокорреляции первого порядка,
η − случайный член, не подверженный автокорреляции
Слайд 7

Сезонная автокорреляция ε − случайный член рассматриваемого уравнения регрессии, ρ −

Сезонная автокорреляция

ε − случайный член рассматриваемого уравнения регрессии,
ρ − коэффициент сезонной

автокорреляции,
η − случайный член, не подверженный автокорреляции
Слайд 8

Автокорреляция второго порядка ε − случайный член рассматриваемого уравнения регрессии, ρ1,

Автокорреляция второго порядка

ε − случайный член рассматриваемого уравнения регрессии,
ρ1, ρ2 −

коэффициенты автокорреляции первого порядка,
η − случайный член, не подверженный автокорреляции
Слайд 9

Классический случайный член ε (автокорреляция отсутствует)

Классический случайный член ε (автокорреляция отсутствует)

Слайд 10

Положительная автокорреляция Положительная автокорреляция – наиболее важный для экономики случай

Положительная автокорреляция

Положительная автокорреляция – наиболее важный для экономики случай

Слайд 11

Отрицательная автокорреляция

Отрицательная автокорреляция

Слайд 12

Пример влияния автокорреляции на случайную выборку Рассмотрим выборку из 50 независимых

Пример влияния автокорреляции на случайную выборку

Рассмотрим выборку из 50 независимых
нормально распределенных

с нулевым
средним значений εi.
С целью ознакомления с влиянием
автокорреляции будем вводить в нее
положительную, а затем отрицательную
автокорреляцию.
Слайд 13

Пример влияния автокорреляции на случайную выборку

Пример влияния автокорреляции на случайную выборку

Слайд 14

Пример влияния автокорреляции на случайную выборку

Пример влияния автокорреляции на случайную выборку

Слайд 15

Пример влияния автокорреляции на случайную выборку

Пример влияния автокорреляции на случайную выборку

Слайд 16

Пример влияния автокорреляции на случайную выборку

Пример влияния автокорреляции на случайную выборку

Слайд 17

Пример влияния автокорреляции на случайную выборку

Пример влияния автокорреляции на случайную выборку

Слайд 18

Пример влияния автокорреляции на случайную выборку

Пример влияния автокорреляции на случайную выборку

Слайд 19

Пример влияния автокорреляции на случайную выборку

Пример влияния автокорреляции на случайную выборку

Слайд 20

Пример влияния автокорреляции на случайную выборку

Пример влияния автокорреляции на случайную выборку

Слайд 21

Пример влияния автокорреляции на случайную выборку

Пример влияния автокорреляции на случайную выборку

Слайд 22

Пример влияния автокорреляции на случайную выборку

Пример влияния автокорреляции на случайную выборку

Слайд 23

Пример влияния автокорреляции на случайную выборку

Пример влияния автокорреляции на случайную выборку

Слайд 24

Пример влияния автокорреляции на случайную выборку

Пример влияния автокорреляции на случайную выборку

Слайд 25

Пример влияния автокорреляции на случайную выборку

Пример влияния автокорреляции на случайную выборку

Слайд 26

Пример влияния автокорреляции на случайную выборку

Пример влияния автокорреляции на случайную выборку

Слайд 27

Пример влияния автокорреляции на случайную выборку

Пример влияния автокорреляции на случайную выборку

Слайд 28

Ложная автокорреляция (автокорреляция, вызванная ошибочной спецификацией) X2 − сама является автокоррелированной

Ложная автокорреляция (автокорреляция, вызванная ошибочной спецификацией)

X2 − сама является автокоррелированной переменной,
Значение ε

мало по сравнению с величиной
Слайд 29

Пример. Автокорреляция, вызванная отсутствием значимой переменной

Пример. Автокорреляция, вызванная отсутствием значимой переменной

Слайд 30

Пример. Автокорреляция, вызванная отсутствием значимой переменной

Пример. Автокорреляция, вызванная отсутствием значимой переменной

Слайд 31

Ложная автокорреляция как результат неправильного выбора функциональной формы

Ложная автокорреляция как результат неправильного выбора функциональной формы

Слайд 32

Последствия автокорреляции 1. Истинная автокорреляция не приводит к смещению оценок регрессии,

Последствия автокорреляции

1. Истинная автокорреляция не приводит к смещению оценок
регрессии, но оценки

перестают быть эффективными.
2. Автокорреляция (особенно положительная) часто приводит
к уменьшению стандартных ошибок коэффициентов, что
влечет за собой увеличение t-статистик.
3. Оценка дисперсии остатков Se2 является смещенной оценкой
истинного значения σe2 , во многих случаях занижая его.
4. В силу вышесказанного выводы по оценке качества
коэффициентов и модели в целом, возможно, будут
неверными. Это приводит к ухудшению прогнозных качеств
модели.
Слайд 33

Обнаружение автокорреляции 1. Графический метод. 2. Метод рядов. 3. Специальные тесты.

Обнаружение автокорреляции

1. Графический метод.
2. Метод рядов.
3. Специальные тесты.

Слайд 34

Обнаружение автокорреляции. Тест Дарбина-Уотсона Критерий Дарбина-Уотсона предназначен для обнаружения автокорреляции первого

Обнаружение автокорреляции. Тест Дарбина-Уотсона

Критерий Дарбина-Уотсона предназначен для
обнаружения автокорреляции первого порядка.
Он основан на

анализе остатков уравнения
регрессии.
Слайд 35

Тест Дарбина-Уотсона. Ограничения Ограничения: 1. Тест не предназначен для обнаружения других

Тест Дарбина-Уотсона. Ограничения

Ограничения:
1. Тест не предназначен для обнаружения других видов
автокорреляции (более

чем первого) и не обнаруживает ее.
2. В модели должен присутствовать свободный член.
3. Данные должны иметь одинаковую периодичность (не
должно быть пропусков в наблюдениях).
4. Тест не применим к авторегрессионным моделям,
содержащих в качестве объясняющей переменной
зависимую переменную с единичным лагом:
Слайд 36

Статистика Дарбина-Уотсона Статистика Дарбина-Уотсона имеет вид: T − число наблюдений (обычно

Статистика Дарбина-Уотсона

Статистика Дарбина-Уотсона имеет вид:

T − число наблюдений (обычно временных периодов)
et

− остатки уравнения регрессии
Слайд 37

Границы для статистики Дарбина-Уотсона Можно показать, что: Отсюда следует: При положительной

Границы для статистики Дарбина-Уотсона

Можно показать, что:
Отсюда следует:
При положительной корреляции:
При отрицательной корреляции:
При

отсутствии корреляции:
Слайд 38

Критические точки распределения Дарбина-Уотсона Для более точного определения, какое значение DW

Критические точки распределения Дарбина-Уотсона

Для более точного определения, какое значение DW
свидетельствует об

отсутствии автокорреляции, а какое
– о ее наличии, построена таблица критических точек
распределения Дарбина-Уотсона.

По этой таблице для заданного уровня значимости α, числа наблюдений n и количества объясняющих переменных m определяются два значения:
dl – нижняя граница, du – верхняя граница

Слайд 39

Критические точки распределения Дарбина-Уотсона

Критические точки распределения Дарбина-Уотсона

Слайд 40

Расположение критических точек распределения Дарбина-Уотсона При положительной корреляции: При отрицательной корреляции: При отсутствии корреляции:

Расположение критических точек распределения Дарбина-Уотсона

При положительной корреляции:
При отрицательной корреляции:
При отсутствии корреляции:

Слайд 41

Практическое использование теста Дарбина-Уотсона

Практическое использование теста Дарбина-Уотсона

Слайд 42

Интерпретация результата теста Дарбина-Уотсона при некотором уровне значимости

Интерпретация результата теста Дарбина-Уотсона при некотором уровне значимости

Слайд 43

Случай, когда значение DW−статистики попало в область неопределенности В данном случае

Случай, когда значение DW−статистики попало в область неопределенности

В данном случае можно

использовать t-критерий для
проверки значимости коэффициента корреляции
Слайд 44

Устранение автокорреляции первого порядка (на примере парной линейной регрессии) Пусть имеем:

Устранение автокорреляции первого порядка (на примере парной линейной регрессии)

Пусть имеем:
(ρ −

известно)
Процедура устранения автокорреляции остатков:
Отсюда:
Проблема потери первого наблюдения преодолевается с
помощью поправки Прайса-Винстена:
Слайд 45

Устранение автокорреляции первого порядка. Обобщения Рассмотренное авторегрессионное преобразование может быть обобщено

Устранение автокорреляции первого порядка. Обобщения

Рассмотренное авторегрессионное преобразование может быть
обобщено на:
1) Произвольное

число объясняющих переменных
2) Преобразования более высоких порядков AR(2), AR(3) и т.д.:

Однако на практике значения коэффициента автокорреляции ρ обычно неизвестны и его необходимо оценить. Существует несколько методов оценивания.

Слайд 46

Способы оценивания коэффициента автокорреляции ρ 1. На основе статистики Дарбина-Уотсона. 2.

Способы оценивания коэффициента автокорреляции ρ

1. На основе статистики Дарбина-Уотсона.
2. Метод

Кохрана-Оркатта.
3. Метод Хилдрета-Лу.
4. Метод первых разностей.
Слайд 47

Определение коэффициента ρ на основе статистики Дарбина-Уотсона Этот метод дает удовлетворительные результаты при большом числе наблюдений.

Определение коэффициента ρ на основе статистики Дарбина-Уотсона

Этот метод дает удовлетворительные результаты

при
большом числе наблюдений.
Слайд 48

Итеративная процедура Кохрана-Оркатта (на примере парной регрессии) 1. Определение уравнения регрессии

Итеративная процедура Кохрана-Оркатта (на примере парной регрессии)

1. Определение уравнения регрессии и

вектора остатков:
2. В качестве приближенного значения ρ берется его МНК-оценка:
3. Для найденного ρ* оцениваются коэффициенты α0 α1:
4. Подставляем в (*) и вычисляем
Возвращаемся к этапу 2.

Критерий остановки: разность между текущей и предыдущей оценками ρ* стала меньще заданной точности.

Слайд 49

Итеративная процедура Хилдрета-Лу (на примере парной регрессии) 1. Определение уравнения регрессии

Итеративная процедура Хилдрета-Лу (на примере парной регрессии)

1. Определение уравнения регрессии и

вектора остатков:
2. Оцениваем регрессию
для каждого возможного значения ρ∈[−1,1] с некоторым
достаточно малым шагом, например 0,001; 0,01 и т.д.
3. Величина ρ*, обеспечивающая минимум стандартной
ошибки регрессии принимается в качестве оценки
автокорреляции остатков.
Слайд 50

Итеративные процедуры оценивания коэффициента ρ. Выводы 1. Сходимость процедур достаточно хорошая.

Итеративные процедуры оценивания коэффициента ρ. Выводы

1. Сходимость процедур достаточно хорошая.
2. Метод

Кохрана-Оркатта может «попасть» в
локальный (а не глобальный) минимум.
3. Время работы процедуры Хилдрета-Лу
значительно сокращается при наличии
априорной информации об области возможных
значений ρ.
Слайд 51

Обобщенный метод наименьших квадратов (на примере парной регрессии) Пусть имеет место автокорреляция остатков:

Обобщенный метод наименьших квадратов (на примере парной регрессии)

Пусть имеет место автокорреляция

остатков:
Слайд 52

Обобщенный метод наименьших квадратов (на примере парной регрессии) Обобщенный МНК представляет

Обобщенный метод наименьших квадратов (на примере парной регрессии)

Обобщенный МНК представляет собой

традиционный МНК с
нелинейными ограничениями типа равенств:

Способы решения:
1. Решать задачу нелинейного программирования.
2. Двухшаговый МНК Дарбина.
3. Итеративная процедура расчета.

Слайд 53

Итеративная процедура обобщенного метода наименьших квадратов 1. Считается регрессия и находятся

Итеративная процедура обобщенного метода наименьших квадратов

1. Считается регрессия и находятся остатки.
2.

По остаткам находят оценку коэффициента
автокорреляции остатков.
3. Оценка коэффициента автокорреляции
используется для пересчета данных и цикл
повторяется.
Процесс останавливается, как только
обеспечивается достаточная точность (результаты
перестают существенно улучшаться).
Слайд 54

Обобщенный метод наименьших квадратов. Замечания 1. Значимый коэффициент DW может указывать

Обобщенный метод наименьших квадратов. Замечания

1. Значимый коэффициент DW может указывать
просто на

ошибочную спецификацию.
2. Последствия автокорреляции остатков иногда
бывают незначительными.
3. Качество оценок может снизиться из-за
уменьшения числа степеней свободы (нужно
оценивать дополнительный параметр).
4. Значительно возрастает трудоемкость расчетов.

Не следует применять обобщенный МНК автоматически