Численные методы оптимизации

Содержание

Слайд 2

10.03.2012 10.03.2012 10.03.2012 Основная задача: Минимизировать целевую функцию Стандартная постановка задачи

10.03.2012

10.03.2012

10.03.2012

Основная задача: Минимизировать целевую функцию

Стандартная постановка задачи конечномерной оптимизации (P)

на

допустимом множестве .

Введем обозначения:

Слайд 3

Условия первого порядка Теорема 11.1. Пусть точка - решение задачи условной

Условия первого порядка

Теорема 11.1. Пусть точка - решение задачи условной минимизации

функции . Тогда не существует вектора , для которого выполняется неравенство
и при любых значениях из отрезка , гарантирована допустимость точек вида .
Лемма Фаркаша. Пусть заданы векторы и вектор . Неравенства
и
несовместны тогда и только тогда, когда принадлежит выпуклому конусу, натянутому на векторы .
Слайд 4

Условия первого порядка Теорема 11.2. Пусть - точка, доставляющая минимум функции

Условия первого порядка

Теорема 11.2. Пусть - точка, доставляющая минимум функции

при линейных ограничениях причем первые из них обращаются в в равенства. Тогда градиент представим в виде
Теорема 11.3. Пусть - точка, доставляющая минимум функции
при нелинейных ограничениях причем первые из них обращаются в в равенства и градиенты линейно независимы. Тогда градиент представим в виде
Слайд 5

Функции Лагранжа Итак, как показано ранее, в точке минимума функции при

Функции Лагранжа

Итак, как показано ранее, в точке минимума функции при ограничениях

, обычно выполняется соотношение
где и - градиенты функций и . В предположении линейной независимости векторов это разложение существует, причем множители определяются однозначно. Поэтому решение исходной задачи при соответствующем выборе вектора будет стационарной по точкой функции
Она называется функцией Лагранжа, а параметры - множителями Лагранжа.
Слайд 6

Точная штрафная функция Флетчера В методах обычных штрафных функций решение задачи

Точная штрафная функция Флетчера

В методах обычных штрафных функций решение задачи определяется

как последовательность решений подзадач безусловной минимизации. В связи с этим возникает желание построить точную штрафную функцию с локальным безусловным минимумом в точке , что позволит решать задачу минимизации лишь один раз. При этом необходимо, чтобы функция была гладкой в окрестности точки , а матрица была бы положительно определенной. В этом случае значение можно найти посредством однократной безусловной минимизации функции при помощи одного из стандартных методов поиска минимума без ограничений.
Слайд 7

Точная штрафная функция Флетчера Если представить функцию как функцию Лагранжа, в

Точная штрафная функция Флетчера

Если представить функцию как функцию Лагранжа, в которой

вектор , состоящий из множителей Лагранжа, зависит от , то расчет потребует конечного числа элементарных операций над значениями функций задачи и их производных в точке .
Для того чтобы искомое решение было стационарной точкой соответствующей функции , т.е. , достаточно, чтобы при . Другими словами, если
то
Слайд 8

Точная штрафная функция Флетчера где - матрица, столбцами которой являются производные

Точная штрафная функция Флетчера
где - матрица, столбцами которой являются производные от

вектор-функции ограничений и, следовательно, равенство получается при в силу непрерывности и равенств . В качестве функции , сходящейся к при , можно взять
где
то есть вычисляется как вектор, минимизирующий сумму квадратов невязок уравнений переопределенной системы
Слайд 9

Точная штрафная функция Флетчера Тогда Посмотрим, будет ли доставлять локальный минимум

Точная штрафная функция Флетчера

Тогда
Посмотрим, будет ли доставлять локальный минимум этой функции.

Матрица ее вторых производных в точке выглядит так
где - матрица проектирования, ,
и
По поводу положительной определенности матрицы вторых производных сказать ничего нельзя поэтому модифицируем исходную функцию:
Слайд 10

Пример. Аппроксимация кривой гауссианами. где N – количество измеренных точек спектра,

Пример.

Аппроксимация кривой гауссианами.

где N – количество измеренных точек спектра, n

- количество функций Гаусса, и - параметры, задающие амплитуду и ширину гауссианов,
, - координата середины гауссиана на оси абсцисс,
- значение спектра в измеренной точке

,

Слайд 11

Основные компоненты синего красителя 10.03.2012

Основные компоненты синего красителя

10.03.2012

Слайд 12

Фиолетовый краситель 10.03.2012 Результаты хроматографического анализа фиолетового красителя

Фиолетовый краситель

10.03.2012

Результаты хроматографического анализа фиолетового красителя