Многомерный регрессионный анализ. Использование для решения задачи однооткликового метода наименьших квадратов

Сентябрь 13, 2022

Главная
Математика
Многомерный регрессионный анализ. Использование для решения задачи однооткликового метода наименьших квадратов

Содержание

2. 4. Многомерный регрессионный анализ Общая (теоретическая) последовательность решения для получения коэффициентов и оценки точности для множественной
3. 4. Многомерный регрессионный анализ 2. Запишем целевую функцию Ф которую надо минимизировать в точке ai 3.
4. 4. Многомерный регрессионный анализ 4. Систему делим на 2, раскрываем сумму с группировкой и имеем совместную
5. 4. Многомерный регрессионный анализ Минимизация целевой функции в матричном виде по шагам: 1. Линейная модель в
6. 4. Многомерный регрессионный анализ Условие МНК – Ф = vTv = [v2] =min, Минимизация в матричном
7. 4. Многомерный регрессионный анализ Из вида уравнений поправок левая трансформация Гаусса та же совместная система нормальных
8. 4. Многомерный регрессионный анализ Практическая реализация по шагам: Составляется модель (например линейная многофакторная с 1-откликом) 2.
9. 4. Многомерный регрессионный анализ 3. Для системы нормальных уравнений строится матрица нормальных уравнений N и вектор
10. 4. Многомерный регрессионный анализ Графическая трактовка метода наименьших квадратов Модель в векторах - . Тогда имеем
11. 4. Многомерный регрессионный анализ Оценка точности: модель, коэффициенты модели ai, смоделированные величины и поправки v. Основа
12. 4. Многомерный регрессионный анализ - для оценки точности вектора коэффициентов регрессии а: Выражаем коэффициенты линейно через
13. 4. Многомерный регрессионный анализ Оценка через матрицу обратных весов Q (матрицу кофакторов) Оценка смоделированных значений .
14. 3. Многомерный регрессионный анализ Использование для решения задачи многооткликовой регрессии метода наименьших квадратов Основные виды: Матричный
15. 3. Многомерный регрессионный анализ 15 k2 n Y = X k1 n × k1 k2 A
16. 3. Многомерный регрессионный анализ 16 Не дает естественную алгебраическую запись- транспонирование Реальная модель с матрицей поправок
17. 3. Многомерный регрессионный анализ Минимизация целевой функции Ф с совместная система нормальных уравнений через правую трансформацию
18. 3. Многомерный регрессионный анализ Оценка точности производится по обычной схеме: – погрешность модели п0 – число
19. 3. Многомерный регрессионный анализ – погрешности определения коэффициентов через ковариационную матрицу где матрица кофакторов оцененных параметров
21. Скачать презентацию

Слайд 2

4. Многомерный регрессионный анализ
Общая (теоретическая) последовательность решения для получения коэффициентов и

оценки точности для множественной 1-откликовой регрессии – сведения процесса поиска коэффициентов к задаче поиска экстремума целевой функции (функции качества).
Алгебраический и матричный подход. Шаги:
1. Из линейной модели
выражаем поправки v

Слайд 3

4. Многомерный регрессионный анализ
2. Запишем целевую функцию Ф
которую надо минимизировать

в точке ai
3. От функции Ф возьмем производные по а1, а2 , …,аk и полученные выражения приравняем к нулю

Слайд 4

4. Многомерный регрессионный анализ
4. Систему делим на 2, раскрываем сумму с

группировкой и имеем
совместную систему нормальных уравнений (?). Размер
по числу определяемых коэффициентов ai. Решение – необходимые коэффициенты ai.
Алгебраический вид: не совсем удобен для выводов, может быть удобен для анализа.

Слайд 5

4. Многомерный регрессионный анализ
Минимизация целевой функции в матричном виде по шагам:
1.

Линейная модель в матричном виде
система уравнений поправок с матрицей плана Х и вектором свободных членов у
,

Слайд 6

4. Многомерный регрессионный анализ
Условие МНК – Ф = vTv = [v2]

=min,
Минимизация в матричном виде сразу по всему вектору а
Откуда лемма Гаусса
Подставив вид v - совместная система нормальных уравнений

Слайд 7

4. Многомерный регрессионный анализ
Из вида уравнений поправок
левая трансформация Гаусса
та же совместная

система нормальных уравнений. Решение – через обратную матрицу

Слайд 8

4. Многомерный регрессионный анализ
Практическая реализация по шагам:
Составляется модель (например линейная многофакторная

с 1-откликом)
2. Строится матрица плана Х их коэффициентов при определяемых величинах в модели и вектор свободных членов из элементов моделируемого ряда у

Слайд 9

4. Многомерный регрессионный анализ
3. Для системы нормальных уравнений
строится матрица нормальных уравнений

N и вектор свободных членов системы нормальных уравнений b
4. Решаем систему с полученными матрицами методом обращения
5. Модельные значения
Шаги универсальны для любых моделей линейного (полиномиального) или линеаризованного вида.

Слайд 10

4. Многомерный регрессионный анализ
Графическая трактовка метода наименьших квадратов
Модель в векторах -

. Тогда имеем
Гиперплоскость – матрица плана Х, вектор моделируемых величин - у

Разложение у на ортогональные составляющие

Слайд 11

4. Многомерный регрессионный анализ
Оценка точности: модель, коэффициенты модели ai, смоделированные величины

и поправки v. Основа – формула погрешности Бесселя и теорема переноса ошибок.
для оценки модели надо и тогда по Бесселю
Вычисления поправок v
и целевой функции Ф

Слайд 12

4. Многомерный регрессионный анализ
- для оценки точности вектора коэффициентов регрессии а:
Выражаем

коэффициенты линейно через измерения у с известной ковариационной матрицей Ку
a = (Q·XT)·y
По теореме переноса ошибок
Окончательно
так как у – вектор, и
Эта оценка через ковариационную матрицу. Извлечь корень.

Слайд 13

4. Многомерный регрессионный анализ
Оценка через матрицу обратных весов Q (матрицу кофакторов)
Оценка

смоделированных значений . Линейное выражение
По теореме переноса ошибок

Оценка через матрицу обратных весов Q (матрицу кофакторов

Слайд 14

3. Многомерный регрессионный анализ
Использование для решения задачи многооткликовой регрессии метода наименьших

квадратов
Основные виды:
Матричный метод наименьших квадратов
Метод «растяжения».
Основная модель для обоих методов: из k рядов k1 –факторные X, k2 - отклик Y

Слайд 15

3. Многомерный регрессионный анализ
15
k2
n
Y
=
X
k1
n
×
k1
k2
A
D
+
n
k2
Линейная модель с размерами
Более удобная линейная модель

с размерами

или с расширенными матрицами

Слайд 16

3. Многомерный регрессионный анализ
16
Не дает естественную алгебраическую запись- транспонирование
Реальная модель

с матрицей поправок V

или с расширенными матрицами

Решается под матричным условием МНК с

Слайд 17

3. Многомерный регрессионный анализ
Минимизация целевой функции Ф с
совместная система нормальных

уравнений через правую трансформацию Гаусса (домножение на Х')
М⋅ N = b.
Решение через обращение
,

Слайд 18

3. Многомерный регрессионный анализ
Оценка точности производится по обычной схеме:
– погрешность модели
п0

– число всех измерений, k – число необходимых измерений. Матричная операции vec(X), для растягивания по столбцам матрицы Х в вектор-столбец чтобы получить вектор поправок v из матрицы поправок V
Квадратичную форму Ф = vTv, можно определить на основе известной формулы

Слайд 19

3. Многомерный регрессионный анализ
– погрешности определения коэффициентов через ковариационную матрицу
где

матрица кофакторов оцененных параметров определена как
Здесь Е – единичная матрица размера (k2 + 1)×(k2 + 1), ⊗ - символ произведения Кронекера.
Упрощения из-за дублирования – вычисляют 1 блок, все остальные эквивалентны.

Многомерный регрессионный анализ. Использование для решения задачи однооткликового метода наименьших квадратов

Содержание

4. Многомерный регрессионный анализОбщая (теоретическая) последовательность решения для получения коэффициентов и

4. Многомерный регрессионный анализ2. Запишем целевую функцию Ф которую надо минимизировать

4. Многомерный регрессионный анализ4. Систему делим на 2, раскрываем сумму с

4. Многомерный регрессионный анализМинимизация целевой функции в матричном виде по шагам:1.

4. Многомерный регрессионный анализУсловие МНК – Ф = vTv = [v2]

4. Многомерный регрессионный анализИз вида уравнений поправоклевая трансформация Гауссата же совместная

4. Многомерный регрессионный анализПрактическая реализация по шагам:Составляется модель (например линейная многофакторная

4. Многомерный регрессионный анализ3. Для системы нормальных уравненийстроится матрица нормальных уравнений

4. Многомерный регрессионный анализГрафическая трактовка метода наименьших квадратовМодель в векторах -

4. Многомерный регрессионный анализОценка точности: модель, коэффициенты модели ai, смоделированные величины

4. Многомерный регрессионный анализ- для оценки точности вектора коэффициентов регрессии а:Выражаем

4. Многомерный регрессионный анализОценка через матрицу обратных весов Q (матрицу кофакторов)Оценка

3. Многомерный регрессионный анализИспользование для решения задачи многооткликовой регрессии метода наименьших

3. Многомерный регрессионный анализ 15k2nY=Xk1n×k1k2AD+nk2Линейная модель с размерамиБолее удобная линейная модель

3. Многомерный регрессионный анализ 16Не дает естественную алгебраическую запись- транспонированиеРеальная модель

3. Многомерный регрессионный анализМинимизация целевой функции Ф с совместная система нормальных

3. Многомерный регрессионный анализОценка точности производится по обычной схеме:– погрешность моделип0

3. Многомерный регрессионный анализ– погрешности определения коэффициентов через ковариационную матрицу где

Похожие презентации