Метод наименьших квадратов

Сентябрь 14, 2022

Главная
Математика
Метод наименьших квадратов

Содержание

2. Метод наименьших квадратов. Уравнение парной регрессии. yt = a0 + a1xt + ut (7.1) Постановка задачи.
3. Метод наименьших квадратов Идея метода. Пусть имеем выборку из 4-х точек (n=4): P1 =(x1, y1) P2
4. Метод наименьших квадратов P4 Q4 u4 ã0 Y Y Любое значение Y можно представить в виде
5. Реализация метода наименьших квадратов Итак, оценки параметров модели парной регрессии согласно МНК будем искать из условия:
6. Реализация метода наименьших квадратов Упростим систему нормальных уравнений (7.2) (7.3) Для решения системы (7.3) выразим из
7. Реализация метода наименьших квадратов Вычислив с помощью (7.5) оценку ã1, с помощью выражения (7.4) получим значение
8. Реализация метода наименьших квадратов Вопрос. Как связано полученное решение со случайными возмущениями? Подставляя (7.7) в (7.6)
9. Характеристики точности уравнения парной регрессии Вычислим дисперсии параметров уравнения регрессии и дисперсию прогнозирования эндогенной переменной. 1.
10. Характеристики точности уравнения парной регрессии Дисперсия параметра ã0 Дисперсия σ2(ã1) известна (7.8), необходимо вычислить дисперсию y.
11. Характеристики точности уравнения парной регрессии Дисперсия прогноза эндогенной переменной. Ковариации между случайными возмущениями и оценками параметров
12. Пример применения МНК X-стаж работы сотрудника; Y- часовая оплата труда. Модель: Yt=a0+a1Xt+Ut Σxi=210; Σyi=146.42; Σxi2=2870; Σxiyi=1897.66
14. Скачать презентацию

Слайд 2

Метод наименьших квадратов.
Уравнение парной регрессии.
yt = a0 + a1xt + ut (7.1)
Постановка

задачи.
Дано: выборка наблюдений за поведением переменных yt и xt.
Найти: 1. Оценки значений параметров a0 и a1.
2. Оценки точности σ(a0) и σ(a1).
3. Оценка рассеяния случайного возмущения σu.
4. Оценку точности прогнозирования σ(y(x0)).

Выборка: y1 x1
y2 x2
……….
yn xn

Принятые обозначения:

Система уравнений наблюдений.
y1 = a0 + a1x1 + u1
yt = a0 + a1x2 + u2
……………………
yn = a0 + a1xn + un

Слайд 3

Метод наименьших квадратов
Идея метода.
Пусть имеем выборку из 4-х точек (n=4):
P1 =(x1,

y1)
P2 =(x2, y2)
P3 =(x3, y3)
P4 =(x4, y4)

На практике мы имеем возможность наблюдать только исходные точки. Предполагаем, что существует теоретическая прямая, которая наилучшим образом проходит через них.
Задача: оценить с некоторой точностью, как может проходить эта прямая.

Слайд 4

Метод наименьших квадратов
P4
Q4
u4
ã0
Y
Y
Любое значение Y можно представить в виде суммы

неслучайной величины a0+a1x и случайной величины u.
Идея метода заключается в том, чтобы найти такие значения параметров, которые обеспечат минимум суммы квадратов случайных отклонений.

ỹ

Слайд 5

Реализация метода наименьших квадратов
Итак, оценки параметров модели парной регрессии согласно МНК

будем искать из условия:
S=Σui2=Σ(yi-ã0+ã1xi)2=min
Условиями минимума функции являются равенство нулю первых
производных и положительность вторых производных по ã0 и ã1.

при этом:

(7.2)

Система уравнений (7.2) называется системой нормальных уравнений для вычисления оценок параметров модели (7.1)

Слайд 6

Реализация метода наименьших квадратов
Упростим систему нормальных уравнений (7.2)
(7.3)
Для решения системы (7.3)

выразим из первого уравнения ã0, подставим его во второе уравнение.

Слайд 7

Реализация метода наименьших квадратов
Вычислив с помощью (7.5) оценку ã1, с помощью

выражения (7.4) получим значение оценки параметра ã0.

Тогда выражение (7.5) можно записать в виде:

(7.6)

Слайд 8

Реализация метода наименьших квадратов
Вопрос. Как связано полученное решение со случайными возмущениями?
Подставляя

(7.7) в (7.6) получим выражение:

(7.7)

Условие несмещенности оценки параметра ã1

Слайд 9

Характеристики точности уравнения парной регрессии
Вычислим дисперсии параметров уравнения регрессии и дисперсию

прогнозирования эндогенной переменной.
1. Дисперсия параметра ã1

(7.8)

Слайд 10

Характеристики точности уравнения парной регрессии
Дисперсия параметра ã0
Дисперсия σ2(ã1) известна (7.8), необходимо

вычислить дисперсию y.

(7.9)

В результате получаем:

(7.10)

Слайд 11

Характеристики точности уравнения парной регрессии
Дисперсия прогноза эндогенной переменной.
Ковариации между случайными возмущениями

и оценками параметров равны нулю, т.к. эти переменные независимые.

Подставляя в (7.11) (7.10), (7,8) и (7,12), получаем:

(7.11)

(7.12)

(7.13)

Слайд 12

Пример применения МНК
X-стаж работы сотрудника;
Y- часовая оплата труда.
Модель: Yt=a0+a1Xt+Ut
Σxi=210; Σyi=146.42; Σxi2=2870;

Σxiyi=1897.66

Метод наименьших квадратов

Содержание

Метод наименьших квадратов.Уравнение парной регрессии. yt = a0 + a1xt + ut (7.1)Постановка

Метод наименьших квадратовИдея метода.Пусть имеем выборку из 4-х точек (n=4):P1 =(x1,

Метод наименьших квадратовP4Q4u4ã0Y YЛюбое значение Y можно представить в виде суммы

Реализация метода наименьших квадратовИтак, оценки параметров модели парной регрессии согласно МНК

Реализация метода наименьших квадратовУпростим систему нормальных уравнений (7.2)(7.3)Для решения системы (7.3)

Реализация метода наименьших квадратовВычислив с помощью (7.5) оценку ã1, с помощью

Реализация метода наименьших квадратовВопрос. Как связано полученное решение со случайными возмущениями?Подставляя

Характеристики точности уравнения парной регрессииВычислим дисперсии параметров уравнения регрессии и дисперсию

Характеристики точности уравнения парной регрессииДисперсия параметра ã0Дисперсия σ2(ã1) известна (7.8), необходимо

Характеристики точности уравнения парной регрессииДисперсия прогноза эндогенной переменной.Ковариации между случайными возмущениями

Пример применения МНКX-стаж работы сотрудника;Y- часовая оплата труда.Модель: Yt=a0+a1Xt+UtΣxi=210; Σyi=146.42; Σxi2=2870;

Похожие презентации