Презентация Модель множественной линейной регрессии Вопросы 1. Задача построения множественной линейной регрессии. 2. Оценка кач

Август 29, 2022

Главная
Алгебра
Презентация Модель множественной линейной регрессии Вопросы 1. Задача построения множественной линейной регрессии. 2. Оценка кач

Содержание

2. 1. В общем случае зависимая переменная у может быть функцией нескольких переменных: х1, х2, …, хm.
3. Введем матричные обозначения. Пусть {αj}, j = 1,…, m – вектор неизвестных параметров; Y = {yi},
4. Относительно ошибок ε сделаем следующие предположения: 1) возмущение ε является случайной величиной; 2) М(ε) = 0;
5. Последнее обстоятельство эквивалентно тому, что ранг матрицы Х равен m, а это, в свою очередь, означает,
6. Оценку выражения (1), полученную по выборочным данным, запишем в виде yi = a1xi1 + a2xi2 +
7. Продифференцируем Q по а, получим Оценку а, найденную по формуле (5), будем называть оценкой МНК.
8. Таким образом, для определения вектора а необходимо по данным наблюдений найти матрицу, обратную к матрице Х′X,
10. Обычно предполагается, что уравнение регрессии имеет свободный член, т.е. а0. Чтобы получить оценку этого параметра, расширим
11. Тогда матрицу Х в развернутом виде можно записать так:
12. Тогда
13. И
14. В частном случае, когда m=2, имеем
15. Условный пример
16. Таким образом,
18. Далее
19. Замечание Матрицу X′X и вектор X′Y можно получить и по формулам (8) и (9), предварительно подсчитав
20. Определив X′X и X′Y, находим а: а = (X′X)-1X′Y = Таким образом, искомое уравнение
21. Приведем рассчитанные по данному уравнению регрессии значения независимой переменной (уi) и соответствующие ошибки (еi):
22. Имеем:
24. Скачать презентацию

Слайд 2

1. В общем случае зависимая переменная у может быть функцией

нескольких переменных: х1, х2, …, хm.
В каждом наблюдении (i) получают совокупность значений независимой переменной: хi1, xi2 ,…, xim и совокупность значений зависимой переменной уi. Итак, допустим,
yi = α1xi1 + α2xi2 +…+αmxim + εi. (1)

Слайд 3

Введем матричные обозначения.
Пусть {αj}, j = 1,…, m – вектор неизвестных

параметров; Y = {yi}, i =1,...,n
- вектор зависимой переменной; X = (xij) – матрица независимых переменных размером nm; ε = {εi}- вектор ошибок.
Тогда линейная модель (1) перепишется в виде
Y = Xα + ε (2)

Слайд 4

Относительно ошибок ε сделаем следующие предположения:
1) возмущение ε является случайной величиной;
2)

М(ε) = 0;
3) Д(ε) = const;
4) последовательные значения ε не зависят друг от друга;
5) матрица Х состоит из линейно-независимых векторов-столбцов.

Слайд 5

Последнее обстоятельство эквивалентно тому, что ранг матрицы Х равен m, а

это, в свою очередь, означает, что |X′X| ≠ 0, т.е. матрица X′X обратима (X′ - транспонированная для Х).
Матрица Х не содержит ошибок.

Слайд 6

Оценку выражения (1), полученную по выборочным данным, запишем в виде
yi =

a1xi1 + a2xi2 + … + amxim + ei (3)
или в матричном виде Y = Xa + e.
Сумму квадратов отклонений теперь можно определить как
Q = Σei2 = e′e = (Y – Xa)′ (Y – Xa) =
= Y′Y - a′X′Y - Y′Xa + a′X′Xa.
Так как a′X′Y = Y′Xa, то
Q = Y′Y - 2a′X′Y + X′Xa2 (4).

Слайд 7