Аннотация Ключевые слова: слабо выпуклое множество, сумма Минковского, модуль невыпуклости, селектор многозначного отображения Классический математический анализ изучает, главным образом, гладкие и однозначные функции, что совершенно недостаточно в задачах аппроксимации, оптимизации и дифференциальных игр, где естественным образом возникают негладкие и многозначные объекты, требующие развития нового математического аппарата. Роль такого математического аппарата во многих задачах играет выпуклый и многозначный анализ. Классический выпуклый анализ в свою очередь недостаточен для детального описания выпуклой структуры объектов, возникающих в современных задачах техники и экономики. Более эффективными для таких задач являются методы сильно и слабо выпуклого анализа – нового интенсивно развивающегося направления современной математики. Цель работы - Исследование свойств слабо выпуклых и негладких множеств Применяются современные методы выпуклого и многозначного анализа, в том числе, методы сильно и слабо выпуклого анализа, разрабатываемые авторским коллективом. При исследовании дифференциальных свойств многозначных отображений вместо классических методов гладкого дифференциального исчисления используется техника касательных конусов. Исследованы свойства операций сложения и вычитания множеств по Минковскому в топологическом векторном пространстве. В частности, получены условия, при которых геометрическая сумма или разность множеств будет открытым или замкнутым множеством. Получены свойства отношения «выпукло сильнее», связанные с операциями пересечения и объединения, а также сложения и вычитания по Минковскому над множествами. 1 Выведены необходимые и достаточные условия на выпуклые множества X, Y, обеспечивающие равенство X+Y÷Y=X. Кроме того, получены достаточные условия, при которых операция сложения множеств по Минковскому сохраняет отношение «выпукло сильнее» для множеств. Приведены примеры, показывающие существенность условий этой теоремы. Разработано исчисление констант сильной и слабой выпуклости для множеств. Доказано, что если в гильбертовом пространстве множество X замкнуто и слабо выпукло по Виалю с константой R, а множество Y сильно выпукло с константой r (0<r<R) , то множество X+Y замкнуто и слабо выпукло по Виалю с константой R-r. Доказано, что для «не очень невыпуклых» областей мера невыпуклости простой многоугольной области на плоскости не уменьшается при операции суммы Минковского, гарантируя таким образом отсутствие «дыр» в сумме Минковского, и в этом случае сумма произвольного количества простых многоугольников является простым многоугольником. Получены новые положительные решения задачи расщепления для селекций в равномерно выпуклых банаховых пространствах для множественнозначных отображений с невыпуклыми значениями. Введено понятие модуля невыпуклости множества. Показано, что модуль невыпуклости является аналогом средней кривизны (для, вообще говоря, негладких множеств), что делает его актуальным в приложениях. Показано, что в банаховых пространствах с модулем выпуклости второго порядка, слабо выпуклые множества с модулем невыпуклости второго порядка являются проксимально гладкими (в смысле Ф. Кларка). Результаты НИР внедряются в образовательный процесс в рамках НОЦ «Фундаментальная проводятся в и тесном прикладная математика» взаимодействии с МФТИ. учебным Исследования процессом при непосредственном участии в качестве основных исполнителей студентов и аспирантов МФТИ. Внедряются новые учебные программы и курсы, разработанные в ходе выполнения проекта. 2