ПРИМЕНЕНИЕ ВИЗУАЛИЗАЦИИ ГРАНИЦЫ ПАРЕТО ДЛЯ ПОИСКА ЭФФЕКТИВНЫХ СТРАТЕГИЙ ТЕРАПИИ ВИЧ-ИНФЕКЦИИ А.С.Братусь ВМК МГУ им. М.В.Ломоносова, МИИТ А.В.Лотов, Н.С.Горбун Вычислительный центр им. А.А.Дородницына РАН, ВМК МГУ им. М.В.Ломоносова Содержание Основные понятия МКО Метод Диалоговых карт решений Модель терапии ВИЧ-инфекции Результаты анализа границы Парето модели терапии с помощью метода ДКР 5. Эффективные стратегии 1. 2. 3. 4. Основные понятия МКО Множество допустимых решений Задана зависимость вектора критериев от заданного решения y f ( x) min Y f (X ) X W y f (x) Условная запись, означающая, что желательно уменьшать значение каждого из критериев (при неизменных значениях других критериев) Множество достижимых значений критериальных векторов Граница Парето • Доминирование по Парето • Граница Парето P(Y ) { y Y : { y' Y : y' y, y' y} } Оболочка Эджворта-Парето Имеет место Y* Y R m Решение задачи МКО Решение задачи – множество P(Y ) и множество P( X ) {x X : f ( x) P(Y )} Более сложный пример y2 Y=f(X) y1 Граница Парето y2 y y y P(Y) f(X) y1 ОЭП и идеальная точка y2 P(Y) f(X) y* y1 Главное отличие МКО от задачи скалярной оптимизации • Главное отличие – решением является не единственная точка x X , а множество точек f ( x) P (Y ) • С теоретической точки зрения, решение задачи МКО состоит в нахождении множества решений, эффективных по Парето. Теоретическое решение, однако, не представляется удовлетворительным с практической точки зрения, которая требует единственной точки x X . Методы МКО • Для практического применения множества решений, эффективных по Парето, требуется дополнительно осуществить выбор единственного решения из этого множества. Возникает вопрос о том, что может служить основой для такого выбора. • В МКО считается, что основой выбора являются неформализованные предпочтения человека, участвующего в процессе поиска решения – так называемого лица, принимающего решение (ЛПР). Зачастую это просто эксперт. • Было предложено большое число методов МКО, поразному использующих предпочтения ЛПР в процессе выбора единственного решения. Классификация методов МКО: 1) 2) 3) 4) методы без участия ЛПР, в рамках которых на основе некоторых характеристик задачи МКО (скажем, идеальной точки) строится скалярная функция критериев (свертка критериев), значение которой максимизируется; методы, основанные на вовлечение ЛПР в процесс построения модели его предпочтений; интерактивные (итеративные) методы, в рамках которых осуществляется вариация свертки от итерации к итерации; на каждой итерации ЛПР оценивает результаты максимизации текущей свертки и дает рекомендации по ее модификации; методы, основанные на изучении границы Парето; ЛПР изучает границу Парето и указывает ее наиболее предпочтительную точку, по которой находится решение. Экспериментальное обобщение О.И.Ларичева У людей вызывают затруднение многие операции связанные в высказыванием предпочтений, в частности, назначение весов критериев, сравнение двух многокритериальных альтернатив, и т.д. См. • Ларичев О.И. Объективные модели и субъективные решения. Москва: Наука, 1987. • Ларичев О.И. Теория и методы принятия решений. Москва: Логос, 2007. В связи с этим в последнее время все большее внимание привлекают методы, основанные на аппроксимации границы Парето и ее предъявлении ЛПР без моделирования предпочтений Метод Диалоговых карт решений Аппроксимация ОЭП с целью визуализации границы Парето Метод основан на аппроксимации ОЭП простыми фигурами и быстрой диалоговой визуализации двумерных сечений ОЭП. Совокупность границ двумерных сечений ОЭП дает ЛПР представление о границе Парето. Аппроксимация ОЭП ОЭП может быть представлено в виде: Y * y R :y f x,x X m В качестве аппроксимирующих тел берутся: • выпуклое многогранное множество выпуклом случае, • объединение конечного числа конусов в невыпуклом случае. Пример выпуклой задачи Практические приложения • Поддержка переговоров относительно выбора проекта улучшения качества воды в реке Ока (федеральная программа «Возрождение Волги») • Анализ эффективности стратегий уменьшения загрязнения атмосферы за счет уменьшения выбросов в России, Финляндии и Эстонии (совместно с ETLA, Finland) • Выбор национальных долгосрочных стратегии развития производства электричества (совместно с Министерством Национальных Инфраструктур Израиля) • Среднесрочное планирование потребления воды в бассейне реки с использованием Интернета (совместно с Университетом Рура в Бохуме) • Выбор проектов улучшения качества воды в реках Каталонии (совместно с испанскими организациями) • Выбор числа и размещения миксеров в питьевых водохранилищах Австралии (совместно с Миланским политехническим университетом) Невыпуклый случай Аппроксимация осуществляется объединением множеств y m R где y принадлежит конечному набору T точек множества Y (базе аппроксимации). Аппроксимация обозначена символом T*. Модель терапии ВИЧинфекции Модель • n – число здоровых лимфоцитов типа CD4+, • I1 – число лимфоцитов, инфицированных исходным (т.н. диким) штаммом вируса ВИЧ, • I2 – число лимфоцитов, инфицированных мутантным вирусом ВИЧ, • h – количество лекарства в организме, • u – интенсивность введения лекарства, 0<u<U Функции терапии ri i ( h) i , i 1,2 1 кh • Здесь δi , ri и k -- положительные постоянные величины Влияние количества лекарственного средства на процесс увеличения доли мутантных вирусов mh ( h) 0 Ah • Здесь μ0, m и A – положительные постоянные величины Динамика при отсутствии лечения Класс стратегий лечения • В исследовании рассматривался временной отрезок в 360 дней, который был разбит на 12 равных интервалов по 30 дней. На протяжении каждого из 12 интервалов суточная доза лекарства считалась постоянной. Таким образом, функция управления описывалась 12 параметрами. Критерии • Критерий y1 описывает общее количество лекарства, принятого пациентом за время лечения [0, T]. Этот критерий характеризует стоимость лечения, поэтому его значение желательно уменьшать. • Критерий y2 описывает максимальное (за период лечения) количество лекарства в организме больного, которое желательно уменьшать. • Критерии y3 и y4 характеризуют число зараженных лимфоцитов к концу курса лечения и их максимальное число в течение курса лечения, соответственно. Значения критериев y3 и y4 также желательно минимизировать. • Критерии y5 и y6 описывают число здоровых лимфоцитов CD4+ к концу курса лечения и их минимальное число за период лечения, соответственно. Значения критериев y5 и y6 желательно максимизировать. Результаты анализа границы Парето модели терапии с помощью метода ДКР Две критериальные точки Эффективные стратегии Выбранная стратегия терапии Результаты терапии Книги о ДКР • Лотов А.В., Бушенков В.А., Каменев Г.К., Черных О.Л. Компьютер и поиск компромисса. Метод достижимых целей. М.: Наука, 1997. • Lotov A.V., Bushenkov V.A., Kamenev G.K. Interactive Decision Maps. Boston: Kluwer Academic Publishers, 2004. • Лотов А.В., Поспелова И.И. Многокритериальные задачи принятия решений. М.: изд. МАКС Пресс, 2008. Работы по моделям терапии ВИЧ 1.Deforge R., Camacho К., Van Lethem K. et.el. Estimation the Relative Contribution of dNTP Pool Imbalance and APOBEC3G/3F dating to HIV Evolution In Vivo // J. оf Comput. Biology. 2007. V.14. № 8. P. 1105-1114. 2. Marier J.F. and others. Pharmacokinetics Lamivudine, Zidovudine, and Nevirapine Administred as a Fixed-Dose Combination Formulation Versus Co administration of the individual product // J. of Clinical Pharrmacology. 2007. V.47. P. 1381-1389. 3. Nowak M., May R. Virus Dynamics. Oxford University. New-York, 2000. 4. Murray J.D. Mathematical Biology. Springer- Verlag, Berlin-Heidelberg. 1989. 5. Kirschner D.E., Webb G. A model for treatment strategy in the chemotherapy of AIDS // Bull. Math . Biol. 1996. № 58. P. 167-190. 6. Kirschner D.E., Webb G. Immunotherapy of HIV-1 Infection // О. Biol. Systems 1998. № 6. P. 352-362. 7. Hee-Dae Kwon Optimal treatment strategies derived from a HIV model with drug-resistance mutants // Appl. Math. and Comput. 2007. № 188. P. 1193-1204. 8. Novak M., Bonhoeffer G., Shaw G., May R. Anti-viral drug treatment: dynamics of resistence in free virus and infected cell populations // J. Theor. Biol. 1997. .№ 184. P. 207-214. 9. Yadav V., Balakrishman S. Optimal Impulse Control of Systems with Control Constraints and Application to HIV Treatment // Proceedings of the American Control Conference, Minnesota, 2006, USA, June 1416, P. 4824-4829. 10. Felippe de Souza J.A.M., Caetano M.A., Yoneyama T. Optimal Control Theory Applied to the Anti-Viral Treatment of AIDS // Proceedings of the 39 th IEEE Conference on Decisions and Control, Sydney, 2000, Australia, P. 4839-4844. 11. Bratus A.S., Zaichik S. Yu., Smooth Solution of the Hamilton-Jacobi-Bellman Equation in a Mathematical Model of Optimal of Viral Infections // Differential Equations, 2010, V. 46, № 11, P. 15711583. 12. Gulshaw R.V., Ruan S., Spiteri R.J. Optimal HIV treatment immune response // J. Math. Biol. 2004, 48, P. 545-562. • Спасибо за внимание! Особенности класса нелинейных моделей, для которых разработаны методы аппроксимации • Задание отображения F в виде вычислительного модуля, рассчитывающего значения критериев по заданному решению; • Одно из следствий – отсутствие информации о постоянной Липшица • Обычно: невыпуклость множества Y и многоэкстремальность критериев. 1. Методы аппроксимации границы Парето на основе постоянных Липшица Применение метода ветвей и границ для покрытия X параллелепипедами с использованием оценки критериальных векторов (Ю.Г.Евтушенко и др.) Свертывание критериев в единственный параметрический критерий оптимизации и решении большого числа задач глобальной скалярной оптимизации (П.С.Краснощеков и др.). Точность аппроксимации можно оценить на основе использования постоянных Липшица. Для достижения разумной точности аппроксимации требуется решить огромное число задач глобальной скалярной оптимизации нелинейных функций. 2. Методы аппроксимации границы Парето без использования постоянных Липшица Случайный поиск: расчет критериев для случайных точек и отбор среди них недоминируемых векторов (И.М.Соболь и Р.Б.Статников). Генетические методы одновременного поиска многих точек, близких к границе Парето, на основе мутации точек, обмена координатами и отбора. Эти методы легко реализуемы, поэтому широко применяются для решения разнообразных задач проектирования технических систем. Главный недостаток: в этих методах оценка точности аппроксимации не осуществляется. Разработанный нами гибридный метод аппроксимации ОЭП Метод основан на модификации и комбинации перечисленных подходов, но без использования информации о постоянных Липшица. Благодаря этому можно аппроксимировать ОЭП для объектов, заданных «черным ящиком». Основное отличие: нами аппроксимируется не граница Парето, а ОЭП, благодаря чему, кроме устойчивости процесса аппроксимации, обеспечивается удобная визуализация, аналогичная выпуклому случаю. Итеративные гибридные методы аппроксимации ОЭП (простейший вариант) 1. Однофазный метод (заданы правила остановки –максимальное отклонение сгенерированных критериальных точек от имеющейся аппроксимации должно быть меньше заданной величины) А) генерируется случайная выборка, оценивается выполнение правил остановки; В) если правил остановки не выполняются, база аппроксимации пополняется полученными критериальными точками и из нее исключаются доминируемые. 2. Двухфазный метод – итерация дополняется «улучшением» случайных точек на основе решения специально сформулированных задач локальной скалярной оптимизации. 3. Трехфазный метод – итерация дополняется аппроксимацией подмножества множества X, в котором надо искать решения; генерируются две выборки – во всем множестве X и на его подмножестве. 4. Генетический метод – итерация состоит в расчете критериальных точек случайных выпуклых комбинаций специально подобранных пар решений; база аппроксимации пополняется наиболее удаленными точками и из нее исключаются доминируемые критериальные точки. Для адаптации методов к конкретной задаче пользователь сначала должен провести серию экспериментов с разными методами и выбирать их параметры, а затем уже можно осуществить автоматический расчет ОЭП. Параметры r1 8 10 8 [ 1 ] шт день m 0.17 r2 2 10 8 [ 1 ] шт день A 1 k 0.5 шт 1 ] d 0.18[ ] день день 1 1 0.3[ ] 1 9 10 6 [ ] день шт день 36 10 4 [ 1 1 ] 2 0.06[ ] день день 1 2 12 10 6 [ ] 1 5 10 9 шт день n0 15 10 5 шт. I 10 5 10 5 шт I 20 15 3 шт ho 0 1 0.05[ 0 0.03 2 10 8 Реализация гибридных методов на двух платформах • схема Модуль аппроксимации ОЭП (персональный компьютер) Модуль аппроксимации ОЭП (многопроцессорная система) Модуль интерактивной визуализации паретовой границы (ПК) Распараллеливание гибридных методов В связи с тем, что методы основаны на генерировании случайных точек и операций с ними, имеется возможность естественного распараллеливания процесса расчета. Более того, потеря части результатов не страшна – она влияет только на надежность оценок. Благодаря этому возможен быстрый переход к работе в системе GRID. Общая схема распараллеливания