Математика оптимизации Оптимизация функции нескольких переменных Даня Вишнев, Даня Евсеев ЛЭШ — 2015 23 августа 2015 г. План 1 Функция двух переменных и ее график 2 Производная функции двух переменных 3 Задача двумерной оптимизации 4 Линии уровня 5 Более чем двумерные случаи 6 Review Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 2 / 36 План 1 Функция двух переменных и ее график Функция График 2 Производная функции двух переменных 3 Задача двумерной оптимизации 4 Линии уровня 5 Более чем двумерные случаи 6 Review Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 3 / 36 Функция двух переменных и ее график Определение Функцией двух переменных называется отображение f , которое каждому элементу некоторого множества упорядоченных пар (x, y ) ставит в соответствие единственное действительное число. Ее обычно обозначают f (x, y ). Примеры f (x, y ) = √︀ 1 − y2 − x2 f (x, y ) = x 2 + y 2 f (x, y ) = −x 2 − y 2 f (x, y ) = x 2 − y 2 f (x, y ) = x + y Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 4 / 36 Функция двух переменных и ее график Определение Графиком функции двух переменных называется множество {(x, y , z) | z = f (x, y )}. Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Определение Графиком функции двух переменных называется множество {(x, y , z) | z = f (x, y )}. Примеры f (x, y ) = √︀ 1 − y2 − x2 Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Определение Графиком функции двух переменных называется множество {(x, y , z) | z = f (x, y )}. Примеры f (x, y ) = √︀ 1 − y2 − x2 f (x, y ) = x 2 + y 2 Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Определение Графиком функции двух переменных называется множество {(x, y , z) | z = f (x, y )}. Примеры f (x, y ) = √︀ 1 − y2 − x2 f (x, y ) = x 2 + y 2 f (x, y ) = −x 2 − y 2 Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Определение Графиком функции двух переменных называется множество {(x, y , z) | z = f (x, y )}. Примеры f (x, y ) = √︀ 1 − y2 − x2 f (x, y ) = x 2 + y 2 f (x, y ) = −x 2 − y 2 f (x, y ) = x 2 − y 2 Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Определение Графиком функции двух переменных называется множество {(x, y , z) | z = f (x, y )}. Примеры f (x, y ) = √︀ 1 − y2 − x2 f (x, y ) = x 2 + y 2 f (x, y ) = −x 2 − y 2 f (x, y ) = x 2 − y 2 f (x, y ) = x + y Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Определение Графиком функции двух переменных называется множество {(x, y , z) | z = f (x, y )}. Примеры f (x, y ) = √︀ 1 − y2 − x2 f (x, y ) = x 2 + y 2 f (x, y ) = −x 2 − y 2 f (x, y ) = x 2 − y 2 f (x, y ) = x + y f (x, y ) = x Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 Функция двух переменных и ее график Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 5 / 36 План 1 Функция двух переменных и ее график 2 Производная функции двух переменных 3 Задача двумерной оптимизации 4 Линии уровня 5 Более чем двумерные случаи 6 Review Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 6 / 36 Производная функции двух переменных На плоскости мы проводили касательную к кривой в точке. Какой аналог будет для поверхности в пространстве? Касательная плоскость! Как ее построить? Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 7 / 36 Производная функции двух переменных Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 8 / 36 Производная функции двух переменных Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 8 / 36 Производная функции двух переменных Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 8 / 36 Производная функции двух переменных Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 8 / 36 Производная функции двух переменных Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 8 / 36 Производная функции двух переменных Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 8 / 36 Производная функции двух переменных Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 8 / 36 Производная функции двух переменных Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 8 / 36 Производная функции двух переменных Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 8 / 36 Производная функции двух переменных Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 8 / 36 Производная функции двух переменных Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 8 / 36 Производная функции двух переменных Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 8 / 36 Производная функции двух переменных Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 8 / 36 Производная функции двух переменных Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 8 / 36 Производная функции двух переменных Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 8 / 36 Производная функции двух переменных Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 8 / 36 Производная функции двух переменных Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 8 / 36 Производная функции двух переменных Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 8 / 36 Производная функции двух переменных Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 8 / 36 Производная функции двух переменных Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 8 / 36 Производная функции двух переменных Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 8 / 36 Производная функции двух переменных Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 8 / 36 План 1 Функция двух переменных и ее график 2 Производная функции двух переменных 3 Задача двумерной оптимизации Постановка задачи: максимизация Решение задачи максимизации Теорема Пример 1 Пример 2 Пример 3 О существовании решения Последовательная оптимизация Пример 4 Пример 3 Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 9 / 36 Задача двумерной оптимизации Постановка задачи: максимизация Задача максимизации F = f (x, y ) → max (X ⊂ D(f )) (x,y )∈X Решение задачи максимизации пара (x * , y * ), такая что для всех (x, y ) из X выполняется f (x * , y * ) > > f (x, y ) Примеры f (x, y ) = √︀ 1 − y2 − x2 → max (x,y )∈D(f ) f (x, y ) = x 2 + y 2 → max x+y =4 2 2 f (x, y ) = x − y → max x+y =10 Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 10 / 36 Задача двумерной оптимизации Постановка задачи: максимизация Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 10 / 36 Задача двумерной оптимизации Постановка задачи: максимизация Задача максимизации F = f (x, y ) → max (X ⊂ D(f )) (x,y )∈X Решение задачи максимизации пара (x * , y * ), такая что для всех (x, y ) из X выполняется f (x * , y * ) > > f (x, y ) Обязательно ли решение существует? Единственно ли решение? Решить задачу максимизации — значит найти все ее решения (все различные пары (x * , y * )) или доказать, что их нет. Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 10 / 36 Задача двумерной оптимизации Решение задачи максимизации Решение задачи максимизации пара (x * , y * ), такая что для всех (x, y ) из X (X ⊂ D(f )) выполняется f (x * , y * ) > f (x, y ) Можно было бы перебрать все (x, y ) из D(f ) и выбрать ту, которой соответствует наибольшее значение функции, но точек может быть много. Нужно как-то оптимизировать перебор. Например, разделить точки на группы и исключить некоторые из них из рассмотрения. Но как это сделать? Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 11 / 36 Задача двумерной оптимизации Теорема Для задачи одномерной оптимизации мы сформулировали теорему. Теорема (1) Если f ′ (x) > 0 для всех x из интервала I или f ′ (x) < 0 для всех x из интервала I , то x * ∈ / I. Можно ли сейчас сформулировать какой-то аналог? Теорема (2.1) Если A = (x1 , y ), B = (x2 , y ) и для всех точек из интервала AB fx′ > 0 или fx′ < 0, то (x * , y * )AB. Аналогично, если С = (x, y1 ), D = (x, y2 ) и для всех точек из интервала AB fy′ > 0 или fy′ < 0, то (x * , y * ) ∈ / CD. Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 12 / 36 Задача двумерной оптимизации Теорема Немного об 𝜀-окрестностях. Каков аналог интервала на плоскости? А в 3-мерном пространстве? А в n-мерном? 𝜀-окрестность точки на прямой, плоскости и в пространстве Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 13 / 36 Задача двумерной оптимизации Теорема Теорема (2.2) Если для каждой точки некоторого 𝜀-круга (без границы) из D(f ) верно хотя бы одно из утверждений fx′ > 0, fx′ < 0, fy′ > 0, fy′ < 0, то (x * , y * ) не принадлежит этому 𝜀-кругу. Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 14 / 36 Задача двумерной оптимизации Теорема Доказательство Предположим, от противного, что это не так. Пусть (x * , y * ) принадлежит этому 𝜀-кругу. Мы знаем, что в этой точке выполняется хотя бы одно из неравенств fx′ > 0, fx′ < 0, fy′ > 0, fy′ < 0. Пусть, для определенности, это fx′ > 0 (для других неравенств рассуждения аналогичны). Тогда, рассмотрим сечение той поверхности, на которой мы ищем самую высокую точку, плоскостью y = y * . Поверхность и эта плоскость пересекаются по некоторой кривой. В точке x * производная этой кривой по x положительна, то есть найдется окрестность точки x * , в которой данная кривая строго возрастает. Значит, найдется такое число ∆, что f (x * + ∆, y * ) > f (x * , y * ). Но ведь по определению, (x * , y * ) для всех (x, y ) из D(f ) выполняется f (x * , y * ) > f (x, y ). Противоречие! То есть (x * , y * ) не принадлежит этому 𝜀-кругу, что и требовалось. Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 14 / 36 Задача двумерной оптимизации Теорема Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 14 / 36 Задача двумерной оптимизации Теорема Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 14 / 36 Задача двумерной оптимизации Теорема Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 14 / 36 Задача двумерной оптимизации Теорема Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 14 / 36 Задача двумерной оптимизации Теорема Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 14 / 36 Задача двумерной оптимизации Теорема Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 14 / 36 Задача двумерной оптимизации Теорема Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 14 / 36 Задача двумерной оптимизации Теорема Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 14 / 36 Задача двумерной оптимизации Теорема Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 14 / 36 Задача двумерной оптимизации Теорема Доказательство Предположим, от противного, что это не так. Пусть (x * , y * ) принадлежит этому 𝜀-кругу. Мы знаем, что в этой точке выполняется хотя бы одно из неравенств fx′ > 0, fx′ < 0, fy′ > 0, fy′ < 0. Пусть, для определенности, это fx′ > 0 (для других неравенств рассуждения аналогичны). Тогда, рассмотрим сечение той поверхности, на которой мы ищем самую высокую точку, плоскостью y = y * . Поверхность и эта плоскость пересекаются по некоторой кривой. В точке x * производная этой кривой по x положительна, то есть найдется окрестность точки x * , в которой данная кривая строго возрастает. Значит, найдется такое число ∆, что f (x * + ∆, y * ) > f (x * , y * ). Но ведь по определению, (x * , y * ) для всех (x, y ) из D(f ) выполняется f (x * , y * ) > f (x, y ). Противоречие! То есть (x * , y * ) не принадлежит этому 𝜀-кругу, что и требовалось. Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 14 / 36 Задача двумерной оптимизации Теорема Теорема (2.2) Если для каждой точки некоторого 𝜀-круга (без границы) из D(f ) верно хотя бы одно из утверждений fx′ > 0, fx′ < 0, fy′ > 0, fy′ < 0, то (x * , y * ) не принадлежит этому 𝜀-кругу. Что из этого следует? Что можно сказать про точку (x * , y * )? Внутренние точки области определения, в которых хотя бы одна частная производная положительна или отрицательна, не могут быть решением задачи оптимизации. Это может быть либо внутренняя точка области определения с нулевыми частными производными по обеим переменным, либо граничная точка области определения, либо точка, в которой не существует хотя бы одной из частных производных (а вторая не положительна и не отрицательна). Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 15 / 36 Задача двумерной оптимизации Пример 1 Задача 𝜋(q1 , q2 ) = −q12 − q22 + 8q1 + 10q2 + 10 → max q1 ,q2 ∈R Решение Заметим, что 𝜋(q1 ,q2 ) = f (q1 ) + g (q2 ) + 10, f (q1 ) = −q12 + 8q1 , g (q2 ) = −q22 + 10q2 . Графики f (q1 ) и g (q2 ) — параболы, с ветвями вниз (с вершинами q1 = 4, q2 = 5), поэтому несложно убедиться, что f (q1 ) 6 16, g (q2 ) 6 25. Отсюда 𝜋(q1 ,q2 ) 6 16 + 25 + 10 = 51, причем равенство достигается тогда и только тогда, когда q1 = 4, q2 = 5. Значит, (q1* , q2* ) = (4, 5). Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 16 / 36 Задача двумерной оптимизации Пример 2 Задача f (x, y ) = x 2 + y 2 → max x+y =4 Решение Для (x * , y * ) должно выполняться x * + y * = 4, то есть точки для которых x + y ̸= 4 нам заведомо не подходят и мы их рассматривать не будем. Остаются точки с координатами вида (x, 4 − x). Подставим координаты в уравнение функции. f (x, 4 − x) = x 2 + (4 − x)2 → max x∈R Эту задачу мы умеем решать, хотя решения у нее нет. Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 17 / 36 Задача двумерной оптимизации Пример 2 Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 18 / 36 Задача двумерной оптимизации Пример 2 Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 18 / 36 Задача двумерной оптимизации Пример 2 Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 18 / 36 Задача двумерной оптимизации Пример 2 Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 18 / 36 Задача двумерной оптимизации Пример 2 Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 18 / 36 Задача двумерной оптимизации Пример 2 Задача f (x, y ) = x 2 + y 2 → max x+y =4 Решение Для (x * , y * ) должно выполняться x * + y * = 4, то есть точки для которых x + y ̸= 4 нам заведомо не подходят и мы их рассматривать не будем. Остаются точки с координатами вида (x, 4 − x). Подставим координаты в уравнение функции. f (x, 4 − x) = x 2 + (4 − x)2 → max x∈R Эту задачу мы умеем решать, хотя решения у нее нет. Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 19 / 36 Задача двумерной оптимизации Пример 3 Задача f (x, y ) = −2x 2 + 4x + 4xy + 2y − y 2 → max x,y ∈R Решение По Теореме 2.2 исключим из рассмотрения все точки, в которых хотя бы одна из частных производных не нулевая (т.к. все точки — внутренние, а частные производные везде существуют). fx′ = −4x + 4 + 4y = 0 ⇔ y = x − 1, fy′ = 4x + 2 − 2y = 0 ⇔ y = 2x + 1. Точка (−2, −3) — единственная точка, где обе частные производные нулевые. Но мы снова не можем быть уверены в существовании решения. Почему? Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 20 / 36 Задача двумерной оптимизации Пример 3 Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 21 / 36 Задача двумерной оптимизации Пример 3 Задача f (x, y ) = −2x 2 + 4x + 4xy + 2y − y 2 → max x,y ∈R Решение По Теореме 2.2 исключим из рассмотрения все точки, в которых хотя бы одна из частных производных не нулевая (т.к. все точки — внутренние, а частные производные везде существуют). fx′ = −4x + 4 + 4y = 0 ⇔ y = x − 1, fy′ = 4x + 2 − 2y = 0 ⇔ y = 2x + 1. Точка (−2, −3) — единственная точка, где обе частные производные нулевые. Но мы снова не можем быть уверены в существовании решения. Почему? Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 21 / 36 Задача двумерной оптимизации Пример 3 Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 21 / 36 Задача двумерной оптимизации Пример 3 Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 21 / 36 Задача двумерной оптимизации Пример 3 Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 21 / 36 Задача двумерной оптимизации Пример 3 Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 21 / 36 Задача двумерной оптимизации Пример 3 Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 21 / 36 Задача двумерной оптимизации Пример 3 Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 21 / 36 Задача двумерной оптимизации Пример 3 Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 21 / 36 Задача двумерной оптимизации Пример 3 Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 21 / 36 Задача двумерной оптимизации Пример 3 Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 21 / 36 Задача двумерной оптимизации Пример 3 Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 21 / 36 Задача двумерной оптимизации Пример 3 Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 21 / 36 Задача двумерной оптимизации Пример 3 Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 21 / 36 Задача двумерной оптимизации Пример 3 Задача f (x, y ) = −2x 2 + 4xy + 4x − y 2 + 2y → max x,y ∈R Решение По Теореме 2.2 исключим из рассмотрения все точки, в которых хотя бы одна из частных производных не нулевая (т.к. все точки — внутренние, а производная везде существует). fx′ = −4x + 4y + 4 = 0 ⇔ y = x − 1, fy′ = −2y + 4x + 2 = 0 ⇔ y = 2x + 1. Точка (−2, −3) — единственная точка, где обе частные производные нулевые. Но мы снова не можем быть уверены в существовании решения. Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 22 / 36 Задача двумерной оптимизации О существовании решения Теорема (Вейерштрасса) Непрерывная функция на компакте ограничена и достигает своего наибольшего и наименьшего значения. Теорема (следствие теоремы Вейерштрасса) Непрерывная функция от двух переменных на множестве упорядоченных пар (x, y ), где x ∈ [xmin , xmax ], y ∈ [ymin , ymax ], ограничена и достигает своего наибольшего и наименьшего значения. Значит задача F = f (x, y ) → max x∈[xmin ,xmax ],y ∈[ymin ,ymax ] , где f непрерывна, обязательно имеет решение. Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 23 / 36 Задача двумерной оптимизации Последовательная оптимизация Задача максимизации F = f (x, y ) → max (X ⊂ D(f )) (x,y )∈X Решение задачи максимизации пара (x * , y * ), такая что для всех (x, y ) из X выполняется f (x * , y * ) > > f (x, y ) Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 24 / 36 Задача двумерной оптимизации Последовательная оптимизация Последовательная оптимизация Зафиксируем y = ȳ и решим задачу F = f (x, ȳ ) → max , (x,ȳ )∈X которая является обычной задачей максимизации функции одной переменной. Пусть все ее решения — это пары вида (x * , ȳ ). Проделаем то же самое для всех допустимых ȳ и получим множество пар (x * , ȳ ), которое иначе можно назвать (многозначной) функцией x * (ȳ ). Решим теперь задачу F = f (x * (ȳ ), ȳ ) → max , (x * (ȳ ),ȳ )∈X которая снова является задачей максимизации функции одной переменной. Если у нее есть решение ȳ * , то ((x * (ȳ * ), ȳ * ) — решение исходной задачи максимизации функции двух переменных. Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 24 / 36 Задача двумерной оптимизации Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 25 / 36 Задача двумерной оптимизации Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 25 / 36 Задача двумерной оптимизации Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 25 / 36 Задача двумерной оптимизации Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 25 / 36 Задача двумерной оптимизации Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 25 / 36 Задача двумерной оптимизации Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 25 / 36 Задача двумерной оптимизации Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 25 / 36 Задача двумерной оптимизации Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 25 / 36 Задача двумерной оптимизации Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 25 / 36 Задача двумерной оптимизации Пример 4 Задача f (x, y ) = −x 2 + xy − y 2 → max x,y ∈R Решение fx′ = −2x + y = 0 ⇔ y = 2x, поэтому если (x * , y * ) существует, то его координаты удовлетворяют y * = 2x * . То есть если решение задачи существует, то его координаты имеют вид (x, 2x). Подставим их в функцию. f (x, 2x) = −x 2 + 2x 2 − 4x 2 = −3x 2 , ее график — парабола с ветвями вниз, поэтому (0, 0) — решение. Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 26 / 36 Задача двумерной оптимизации Пример 4 Задача f (x, y ) = −x 2 + xy − y 2 → max x,y ∈R Почему наше решение работает? Можем ли мы что-то пропустить? Можем ли мы найти что-то лишнее? Всегда ли мы что-то найдем? Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 27 / 36 Задача двумерной оптимизации Пример 3 Задача f (x, y ) = −2x 2 + 4xy + 4x − y 2 + 2y → max x,y ∈R Решение fx′ = −4x + 4y + 4 = 0 ⇔ y = x − 1, поэтому если (x * , y * ) существует, то его координаты удовлетворяют y * = x * − 1. То есть если решение задачи существует, то его координаты имеют вид (x, x − 1). Подставим их в функцию. f (x, x − 1) = −2x 2 + 4x(x − 1) + 4x − (x − 1)2 + 2(x − 1) f (x, x − 1) = x 2 + 4x − 3, график — парабола с ветвями вверх, поэтому решения нет. Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 28 / 36 Задача двумерной оптимизации Пример 3 Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 28 / 36 Задача двумерной оптимизации Пример 3 Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 28 / 36 Задача двумерной оптимизации Пример 3 Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 28 / 36 Задача двумерной оптимизации Пример 3 Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 28 / 36 План 1 Функция двух переменных и ее график 2 Производная функции двух переменных 3 Задача двумерной оптимизации 4 Линии уровня Пример 4 5 Более чем двумерные случаи 6 Review Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 29 / 36 Линии уровня Определение Линией уровня функции f (x, y ) называют кривую в плоскости xOy , которая задаются уравнением f (x, y ) = с, где с — какое-нибудь действительное число. Пример Как будут выглядеть линии уровня функции f (x, y ) = x 2 + y 2 при с = 1, с = 4, с = 9? Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 30 / 36 Линии уровня Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 30 / 36 Линии уровня Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 30 / 36 Линии уровня Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 30 / 36 Линии уровня Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 30 / 36 Линии уровня Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 30 / 36 Линии уровня Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 30 / 36 Линии уровня Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 30 / 36 Линии уровня Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 30 / 36 Линии уровня Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 30 / 36 Линии уровня Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 30 / 36 Линии уровня Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 30 / 36 Линии уровня Пример 4 Задача Фирма владеет двумя заводами: TC1 (q1 ) = q12 , TC2 (q2 ) = q22 . Найдите функцию общих издержек фирмы TC (Q). Решение Пусть фирме нужно произвести Q — const единиц продукции. Запишем задачу оптимизации: ⎧ ⎨ TC (q1 , q2 ) = q12 + q22 → min q1 ,q2 >0 ⎩ q + q = Q. 1 2 Построим в плоскости q1 Oq2 прямую q1 + q2 = Q (Q — const.) и семейство кривых q12 + q22 = c для разных c. График такой кривой представляет собой для каждого конкретного значения c множество точек, для которых издержки производства одинаковы и равны c. Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 31 / 36 Линии уровня Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 32 / 36 Линии уровня Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 32 / 36 Линии уровня Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 32 / 36 Линии уровня Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 32 / 36 Линии уровня Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 32 / 36 Линии уровня Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 32 / 36 Линии уровня Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 32 / 36 Линии уровня Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 32 / 36 Линии уровня Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 32 / 36 План 1 Функция двух переменных и ее график 2 Производная функции двух переменных 3 Задача двумерной оптимизации 4 Линии уровня 5 Более чем двумерные случаи 6 Review Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 33 / 36 Более чем двумерные случаи Что если переменных больше, чем 2? Что если множества точек, удволетворяющих fx′ = 0, не являются прямыми на плоскости? Как проверять, не седловую ли точку мы нашли, если функция не является ’параболой с ветвями вниз’ относительно каждой переменной? А если переменных к тому же больше 2? Правда ли, что метод последовательной оптимизации корректен? Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 34 / 36 План 1 Функция двух переменных и ее график 2 Производная функции двух переменных 3 Задача двумерной оптимизации 4 Линии уровня 5 Более чем двумерные случаи 6 Review Самое важное из рассказанного Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 35 / 36 Review Самое важное из рассказанного Теорема (2.2) Если для каждой точки некоторого 𝜀-круга (без границы) из D(f ) верно хотя бы одно из утверждений fx′ > 0, fx′ < 0, fy′ > 0, fy′ < 0, то (x * , y * ) не принадлежит этому 𝜀-кругу. Теорема (следствие теоремы Вейерштрасса) Непрерывная функция от двух переменных на множестве упорядоченных пар (x, y ), где x ∈ [xmin , xmax ], y ∈ [ymin , ymax ], ограничена и достигает своего наибольшего и наименьшего значения. Даня Вишнев, Даня Евсеев Математика оптимизации 23 августа 2015 г. 36 / 36