Простая регрессионная модель

Содержание

Слайд 2

Предположим, что у нас есть выборка из 4 наблюдений X. 2 β1 Y ПРОСТАЯ РЕГРЕССИОННАЯ МОДЕЛЬ

Предположим, что у нас есть выборка из 4 наблюдений X.

2

β1

Y

ПРОСТАЯ РЕГРЕССИОННАЯ

МОДЕЛЬ
Слайд 3

Если бы связь была фиксированной, наблюдения лежали бы на прямой, и

Если бы связь была фиксированной, наблюдения лежали бы на прямой, и

у нас не было бы проблем с получением точных оценок β1 and β2.

Q1

Q2

Q3

Q4

3

β1

Y

ПРОСТАЯ РЕГРЕССИОННАЯ МОДЕЛЬ

Слайд 4

P4 На практике большинство экономических показателей не являются точными, а фактические

P4

На практике большинство экономических показателей не являются точными, а фактические значенияY

отличаются от значений, лежащих на прямой.

P3

P2

P1

Q1

Q2

Q3

Q4

4

β1

Y

ПРОСТАЯ РЕГРЕССИОННАЯ МОДЕЛЬ

Слайд 5

P4 Поэтому, мы будем писать модель как Y = β1 +

P4

Поэтому, мы будем писать модель как Y = β1 + β2X

+ u, где u – остаточный член.

P3

P2

P1

Q1

Q2

Q3

Q4

5

β1

Y

ПРОСТАЯ РЕГРЕССИОННАЯ МОДЕЛЬ

Слайд 6

P4 Каждое значение Y, таким образом, имеет неслучайную составляющую, β1 +

P4

Каждое значение Y, таким образом, имеет неслучайную составляющую, β1 + β2X,

и случайную составляющую u. Первое наблюдение было разложено на эти два компонента.

P3

P2

P1

Q1

Q2

Q3

Q4

u1

6

β1

Y

ПРОСТАЯ РЕГРЕССИОННАЯ МОДЕЛЬ

u = остаточный член

Слайд 7

P4 На практике мы видим только точки P. P3 P2 P1 7 Y ПРОСТАЯ РЕГРЕССИОННАЯ МОДЕЛЬ

P4

На практике мы видим только точки P.

P3

P2

P1

7

Y

ПРОСТАЯ РЕГРЕССИОННАЯ МОДЕЛЬ

Слайд 8

P4 Очевидно, что мы можем использовать точки P, чтобы нарисовать линию,

P4

Очевидно, что мы можем использовать точки P, чтобы нарисовать линию, которая

является приближением к прямой Y = β1 + β2X.
Мы напишем эту прямую в виде Y = b1 + b2X, где b1 - оценка β1 , а b2 - оценка β2.

P3

P2

P1

^

8

b1

Y

ПРОСТАЯ РЕГРЕССИОННАЯ МОДЕЛЬ

Слайд 9

P4 Эта линия называется расчетной моделью, а предсказанные ею значения Y

P4

Эта линия называется расчетной моделью, а предсказанные ею значения Y называются

расчетными значениями Y. Они задаются ординатами точек R.

P3

P2

P1

R1

R2

R3

R4

9

b1

Y

ПРОСТАЯ РЕГРЕССИОННАЯ МОДЕЛЬ

(расчетное значение)

Y (истинное значение)

Слайд 10

P4 Расхождения между фактическими и установленными значениями Y называются остатками. P3

P4

Расхождения между фактическими и установленными значениями Y называются остатками.

P3

P2

P1

R1

R2

R3

R4

e1

e2

e3

e4

10

b1

Y

ПРОСТАЯ РЕГРЕССИОННАЯ МОДЕЛЬ

(остатки)

(расчетное значение)

Y (истинное значение)

Слайд 11

P4 Обратите внимание, что значения остатков не совпадают с величиной остаточного

P4

Обратите внимание, что значения остатков не совпадают с величиной остаточного члена.

На диаграмме показаны истинные неизвестные отношения, а также расчетная линия.

P3

P2

P1

R1

R2

R3

R4

b1

11

β1

Y

ПРОСТАЯ РЕГРЕССИОННАЯ МОДЕЛЬ

(расчетное значение)

Y (истинное значение)

Слайд 12

P4 Остаточный член в каждом наблюдении отвечает за расхождение между неслучайной

P4

Остаточный член в каждом наблюдении отвечает за расхождение между неслучайной составляющей

фактического наблюдения и самим фактическим наблюдением.

P3

P2

P1

12

Q2

Q1

Q3

Q4

β1

b1

Y

ПРОСТАЯ РЕГРЕССИОННАЯ МОДЕЛЬ

(расчетное значение)

Y (истинное значение)

Слайд 13

P4 Остатки представляют собой несоответствия между фактическими и расчетными значениями. P3

P4

Остатки представляют собой несоответствия между фактическими и расчетными значениями.

P3

P2

P1

R1

R2

R3

R4

13

β1

b1

Y

ПРОСТАЯ РЕГРЕССИОННАЯ МОДЕЛЬ

(расчетное значение)

Y (истинное значение)

Слайд 14

P4 Если расчетная модель является хорошей, то остатки и величина остаточного

P4

Если расчетная модель является хорошей, то остатки и величина остаточного члена

будут равными, но они должны быть концептуально разделены.

P3

P2

P1

R1

R2

R3

R4

14

β1

b1

Y

ПРОСТАЯ РЕГРЕССИОННАЯ МОДЕЛЬ

(расчетное значение)

Y (истинное значение)

Слайд 15

P4 Обе линии будут использованы в нашем анализе. Каждая из них

P4

Обе линии будут использованы в нашем анализе. Каждая из них допускает

разложение значения Y. Разложение проиллюстрировано четвертым наблюдением.

15

Q4

u4

β1

b1

Y

ПРОСТАЯ РЕГРЕССИОННАЯ МОДЕЛЬ

u = остаточный член

(расчетное значение)

Y (истинное значение)

Слайд 16

P4 Используя теоретическое соотношение, Y можно разложить на его стационарную компоненту

P4

Используя теоретическое соотношение, Y можно разложить на его стационарную компоненту β1

+ β2X и ее случайную составляющую u.

16

Q4

u4

β1

b1

Y

ПРОСТАЯ РЕГРЕССИОННАЯ МОДЕЛЬ

(расчетное значение)

Y (истинное значение)

u = остаточный член

Слайд 17

P4 Это теоретическое разложение, потому что мы не знаем значений β1

P4

Это теоретическое разложение, потому что мы не знаем значений β1 или

β2, или величину остаточного члена. В нашем анализе мы будем использовать свойства коэффициентов регрессии.

17

Q4

u4

β1

b1

Y

ПРОСТАЯ РЕГРЕССИОННАЯ МОДЕЛЬ

(расчетное значение)

Y (истинное значение)

u = остаточный член

Слайд 18

P4 Другое разложение относится к расчетной линии. В каждом наблюдении фактическое

P4

Другое разложение относится к расчетной линии. В каждом наблюдении фактическое значение

Y равно расчетному значению плюс остатки. Эту декомпозицию мы будем использовать для практических целей.

18

e4

R4

β1

b1

Y

ПРОСТАЯ РЕГРЕССИОННАЯ МОДЕЛЬ

(остатки)

(расчетное значение)

Y (истинное значение)

Слайд 19

Начнем с того, что мы построим линию, чтобы свести к минимуму

Начнем с того, что мы построим линию, чтобы свести к минимуму

сумму квадратов остатков RSS. Это есть критерий наименьших квадратов.

19

ПРОСТАЯ РЕГРЕССИОННАЯ МОДЕЛЬ

Критерий наименьших квадратов:

Минимизировать RSS (сумма квадратов остатков), где

Слайд 20

Почему квадраты остатков? Почему бы не просто свести к минимуму сумму

Почему квадраты остатков? Почему бы не просто свести к минимуму сумму

остатков?

Критерий наименьших квадратов:

Почему бы не минимизировать

20

Минимизировать RSS (сумма квадратов остатков), где

ПРОСТАЯ РЕГРЕССИОННАЯ МОДЕЛЬ

Слайд 21

P4 Ответ заключается в том, что вы получите, идеальную форму, строя

P4

Ответ заключается в том, что вы получите, идеальную форму, строя горизонтальную

линию через среднее значение Y. Сумма остатков будет равна нулю.

P3

P2

P1

21

Y

ПРОСТАЯ РЕГРЕССИОННАЯ МОДЕЛЬ

Слайд 22

P4 Поэтому вы должны предотвратить взаимоисключение отрицательных и положительных остатков, и

P4

Поэтому вы должны предотвратить взаимоисключение отрицательных и положительных остатков, и один

из способов сделать это - использовать квадраты остатков.

P3

P2

P1

22

Y

ПРОСТАЯ РЕГРЕССИОННАЯ МОДЕЛЬ

Слайд 23

P4 Конечно, есть другие способы решения этой проблемы. Критерий наименьших квадратов

P4

Конечно, есть другие способы решения этой проблемы. Критерий наименьших квадратов имеет

преимущество в том, что полученные с помощью него оценки имеют нужные свойства при условии выполнения определенных условий.

P3

P2

P1

23

Y

ПРОСТАЯ РЕГРЕССИОННАЯ МОДЕЛЬ