Оптимизация квантильного критерия при выпуклой целевой функции с помощью стохастического квазиградиентного алгоритма тема диссертации и автореферата по ВАК РФ 05.13.01, кандидат физико-математических наук Матвеев, Евгений Леонидович

• Матвеев, Евгений Леонидович
• кандидат физико-математических наук
• 2010

Оглавление диссертации кандидат физико-математических наук Матвеев, Евгений Леонидович

Введение

1 Оценки квантили

1.1. Введение.

1.2. Выборочная оценка квантили

1.2.1. Определение выборочной оценки квантили.

1.2.2. Свойства первых моментов выборочной оценки квантили

1.3. Ядерная оценка квантили.

1.3.1. Определение и свойства ядерной оценки квантили.

1.3.2. Структура оптимального ядра.

1.4. Децентрализированная оценка квантили.

1.4.1. Определение децентрализированной оценки квантили

1.4.2. Свойства децентрализированной оценки квантили.

1.4.3. Сравнение децентрализированной оценки квантили с выборочной оценкой.

2 Свойства выпуклости функции квантили

2.1. Введение.

2.2. 7-вогнутные функции и их свойства.

Д.З. .Кваздаогнутррт^ .^ероятностцор, меры, . ;. ., . . ,>1;.л.,„,.

2.3.1. Определение квазивогнутости вероятностной меры.

2.3.2. Достаточные условия квазивогнутости вероятностной меры

2.3.3. Достаточные условия выпуклости и квазивыпуклости функции квантили.

2.3.4. Примеры.

2.4. Логарифмическая вогнутость вероятностной меры.

2.4.1. Определение логарифмической вогнутости вероятностной меры

2.4.2. Достаточные условия логарифмической вогнутости вероятностной меры.

2.4.3. Пример.

3 Стохастический квазиградиентный алгоритм оптимизации функции квантили

3.1. Введение.

3.2. Постановка задачи квантильной оптимизации.

3.3. Определение стохастического квазиградиента функции квантили

3.4. Стохастический квазиградиентный алгоритм на основе выборочной оценки квантили.

3.4.1. Стохастический квазиградиентный алгоритм минимизации функции квантили. , 3.4^2. ь Сходимость стохастического,- квазшрадиентного алгоритма на основе выборочной оценки квантили.

3.4.3. Пример использования стохастического квазиградиентного алгоритма на основе выборочной оценки квантили.

3.5. Распараллеливание процесса оптимизации функции квантили

3.5.1. Распараллеливание процедуры вычисления верхней оценки функции квантили.

3.5.2. Стохастический квазиградиентный алгоритм на основе децентрализованной оценки квантили.

3.5.3. Пример использования стохастического квазиградиентного алгоритма на основе децентрализованной оценки квантили

3.6. Оптимизация площади ВПП.

3.6.1. Постановка задачи.

3.6.2. Эквивалентная задача квантильной оптимизации.

3.6.3. Обзор существующих методов решения задачи оптимизации площади ВПП.

3.6.4. Применение стохастического квазиградиентного алгоритма для оптимизации площади ВПП.

Введение диссертации (часть автореферата) на тему «Оптимизация квантильного критерия при выпуклой целевой функции с помощью стохастического квазиградиентного алгоритма»

В данной диссертационной работе исследуются задачи анализа и оптимизации систем с квантильным критерием качества.

В настоящее время при синтезе и анализе алгоритмов управления широкое распространение получили задачи стохастического программирования. Их решению посвящены, например, работы [33], [37], [54], [55]. Поиск решения в практических задачах часто приходится вести в случае, когда некоторые исходные данные не являются детерминированными, а известны лишь их законы распределения вероятностей. Например, при управлении летательными аппаратами необходимо решать задачу минимизации промаха, характеризующего точность попадания объекта в заданную область. При детерминированном подходе к моделированию систем влияние неопределенных факторов не учитывается. Но с практической точки зрения в этом случае может быть потерян реализм присутствующих в задаче явлений. В силу того, что на движение летательного аппарата оказывают воздействие случайные составляющие, задача сводится к минимизации функции со случайными параметрами. Стохастические модели, как правило, более адекватны реальным явлениям и процессам, чем детерминированные. Поэтому стратегии (управления), полученные на основе решения задач стохастического управления, являются практически более значимыми, чем стратегии, полученные в детерминированных постановках. Одним из способов решения задач стохастического управления является сведение их к задачам стохастического программирования. Естественный, на первый - взгляд; путь-анализа* стохастических-задач (замена"-случайных параметров их средними значениями и нахождение оптимальных управлений полученных таким образом детерминированных задач) не всегда оправдан и может нарушить адекватность модели изучаемого явления. Решение детерминированной задачи

В книге [18] рассмотрены задачи стохастического программирования с вероятностным и квантильным критериями. Исследованы прикладные модели в производстве и экономике с вероятностным и квантильным критериями, свойства функции вероятности и квантили, в том числе их непрерывность и дифференцируемость, выпуклость для некоторых классов задач. Также изложены методы нахождения функций вероятности и квантили, определения нижних и верхних границ для данных функций, условия эквивалентности вероятностной и квантильной постановок, соотношение задачи квантильной оптимизации с минимаксной, описаны методы численной оптимизации функций вероятности и квантили.

При анализе систем в присутствии случайных параметров по квантильному критерию качества возникает сложности следующего характера.

Во-первых, в большинстве постановках квантильного анализа найти аналитическое выражение для квантильного критерия при заданном уровне доверительной вероятности, как правило, невозможно. Это связано с неявным (через вероятность) определением функции квантили. Кроме того, анализ усложняется нелинейностью квантильного критерия.

Во-вторых, для статистического оценивания квантили не всегда понятно, сколько н^жно провести испытаний, чтобы с заданной точностью оценить искомую величину.

В-третьих, если количество опытных данных фиксировано, не понятно как улучшить точность оценки квантили. В силу указанных причин при разработке численных методов для вычисления квантили приходится использовать различные аппроксимации. Обычно применяют аппроксимации двух типов: основывающиеся на статистических оценках и на построении детерминированных границ квантили.

Так как в большинстве случаев точное распределение неизвестно, то вместо значения квантили распределения используется её оценка, полученная по статистической выборке. Работы [5, 57, 68, 69, 79, 80, 88, 92-94, 97-100] посвящены различным способам статистического оценивания квантилей и свойствам этих оценок. Книга [68] посвящена порядковым статистикам, частным случаем которых является выборочная оценка квантили. Рассматриваются распределения порядковых статистик, нахождение точечных оценок, а также построение доверительных интервалов для различных функций от порядковых статистик. В [5] исследована асимптотическая теория порядковых статистик. Получено асимптотическое распределение квантилей, а также асимптотическое распределение экстремального (крайнего) значения для различных видов распределений. Альтернативный подход к получению оценок функции квантили был предложен в [94] который основывается на решении определённого ~ функционалвного 'уравнения:" В'-работе [80|"впервые была предложена ядерная оценка квантили. В [100] исследовано асимптотическое поведение первых моментов ядерной оценки квантили. В работе [69] сравнивается относительная эффективность выборочной и ядерной оценок квантили. В работе [93] устанавливается эффективность ядерных оценок в зависимости от типа ядерной функции, а также предлагается процедура выбора оптимальной "ширины окна" из условия минимума среднеквадратического отклонения. В работе [98] предложена ядерная оценка условной квантили, а также доказана асимптотическая нормальность ошибки оценки. В [79] предложена оценка квантили, полученная из ядерной оценки функции распределения. В работах [57], [88] получено выражение для среднеквадратической ошибки при таком представлении. Данный результат обобщается в работе [92]. В работе [99] .устанавдив§ед;ся.,асшУ1птотинеска^^нормальиость ядерной оценки квантили в , некоторых нестандартных случаях, а также устанавливается закон повторного логарифма для ядерной оценки квантили. В [97] рассматривается вероятность отклонения ядерной оценки квантили от истинного значения квантили. К сожалению, выражения для первых моментов ядерной оценки квантили зависят от выбора конкретного вида ядерной функции. Поэтому актуальной становится задача выбора класса функций для нахождения оптимальной оценки квантили с точки зрения минимума среднеквадратичного отклонения ядерной оценки квантили от истинного значения. В первой главе диссертации рассматривается класс функций с конечным носителем, обладающих условием несмещённости и нормировки. Данный класс плотностей использовался в [6], [60], [62] в связи с проблемой ядерного оценивания плотности вероятности. В рамках указанного класса ищется оптимальная с точки зрения минимума среднеквадратичного отклонения ядерная оценка квантили. Характерной особенностью современных быстродействующих вычислительных систем является параллельная обработка информации. Поэтому актуальной становятся проблема разработки специальных алгоритмов, учитывающих параллельный процесс вычислений. В первой главе диссертации рассматривается децентрализованный алгоритм оценивания квантили основанный на использовании многопроцессорной архитектуры. Рассматриваются свойства оценки, полученной с помощью данного алгоритма. Показывается, что дисперсия оценки квантили, полученной с помощью децентрализованного алгоритма, убывает с ростом числа процессоров, участвующих в обработки данных.

При исследовании сходимости вычислительных алгоритмов оптимизации желательно, чтобы исследуемая функция обладала достаточно "хорошей" структурой и можно было сделать качественные выводы относительно получившихся результатов. Одним из примеров такого рода свойств является строгая квазивогнутость (квазивыпуклость) исследуемой функции вероятности (квантили) в силу того, что каждый локальный минимум функции будет являться одновременно и глобальным. Основным требованием, обеспечивающим квазивогнутость функции вероятности, является квазивогнутость вероятностной меры и квазивыпуклость целевой функции [18]. Но проверить условие квазивогнутости вероятностной меры с помощью определения оказывается весьма затруднительно. Впервые достаточное условие квазивогнутости вероятностной меры приведено в [84] и основано оно на логарифмической вогнутости плотности вероятности. В обзорной статье [66] приведены многочисленные результаты, посвященные обобщению неравенства Брунна-Минковского-Люстерника. В [59], [63], [73], [81] приведены различные неравенства для логарифмически вогнутых функций. В [74] получены неравенства типа Берри-Эссеена для случайных величии с логарифмически вогнутой плотностью вероятности. Оценки для хвостов распределений в случае логарифмически вогнутой функции распределения получены в [82]. В [56] устанавливаются необходимые и достаточные условия для того, чтобы вероятностная мера была логарифмически вогнутой. В [64] приведено достаточное условие квазивогнутости вероятностной меры, основанное на так называемой а-выпуклости плотности [36]. Однако доказательство соответствующего утверждения в [64] оказалось чрезвычайно сложным. Поэтому в работах [65], [67], [86], [90] дано новое доказательство сформулированного в [64] утверждения, основанное на неравенстве Брунна-Минковского-Люстерника [32] для некоторых множеств Лебега. Во второй главе диссертации приведено приведено альтернативное доказательство данного утверждения, а также показано, что доказательства в работах [65], [67], [86], [90] содержатся неточности. Доказательство носит достаточно универсальный характер и позволяет использовать его с небольшими модификациями для нахождения достаточных условий логарифмической вогнутости вероятностной меры.

Применение стандартных численных методов решения оптимизационных задач затруднено тем, что терминальная функция имеет случайную структуру. Для преодоления данной проблемы может быть использован стохастический квазиградиентный алгоритм [8], [12], [13], [19], [39], [49], [75], [78]. Квазиградиент отличается от обычного градиента тем, что позволяет учитывать вероятностную природу оптимизируемой функции. Использование стохастических квазиградиентных алгоритмов позволяет определить точное значение оптимизируемой величины, а не верхнюю оценку как при доверительном подходе. В книге [8] на примере различных задач указаны способы построения стохастических квазиградиентов. Работа [49] является в некотором смысле обобщением и продолжением работы [8]. В ней развиваются идеи алгоритмов квазиградиентного типа решения задач выпуклого стохастического программирования с негладкими функционалами цели и ограничений. В этой книге с единой точки зрения рассматривается вопрос построения адаптивных процедур регулирования параметров для различных градиентных алгоритмов оптимизации и теории игр: формируются критерии, определяющие качество регулировок, затем для регулировки параметров применяется итерационный алгоритм, работающий в этом классе задач. В [49] предложен сходящийся в чезаровском смысле квазиградиентный алгоритм типа Эрроу-Гурвица. Однако применение этого алгоритма к решению игры, возникающей из квантильной постановки, наталкивается на определённые трудности. Эти трудности указаны в [29], где отмечено, что применение квази- [8] и псевдоградиентных [39] алгоритмов к решению задач квантильной оптимизации затруднено сложностью функции вероятности (с помощью которой определяется функция квантили), обусловленной разрывностью индикаторной функции множества. В [91] предложен квазиградиентный алгоритм для максимизации функции вероятности. Квазиградиентные алгоритмы на основе ядерных оценок предложены в [78] в связи с проблемой максимизации функции вероятности, однако, сходимость алгоритма доказана в предположении, что функция вероятности является дважды дифференцируемой. Однако, во многих случаях функция вероятности не является дифференцируемой. Тогда можно воспользоваться алгоритмом, предложенным Юби в [52, 53]. В [12] предложен, а в [13] доказана сходимость алгоритма, базирующегося на неантагонистической игре двух лиц, и сводящегося к минимизации функции -квантили с, помощью ^стохастического квазиградиентного-алгоритма типа Эрроу-Гурвица. Однако, данный алгоритм предназначен для поиска минимума функции квантили на всём пространстве. Для поиска минимума функции квантили на ограниченном множестве в [19] предложен квазиградиентный алгоритм на основе выборочной оценки функции квантили с использованием свойств экстремальных порядковых статистик. Однако не получено строгое доказательство сходимости указанного алгоритма. Поэтому представляется актуальной проблема обоснования сходимости квазиградиентного алгоритма поиска минимума функции квантили на ограниченном множестве. В третьей главе диссертации приведён алгоритм на основе выборочной оценки квантили и доказана сходимость данного алгоритма при достаточно общих предположениях. Как известно, рекуррентные алгоритмы нельзя в принципе распараллелить, т.е. ускорить процесс решения, используя современную вычислительную технику. Поэтому актуальным является вопрос о распараллеливании процесса оптимизации функции квантили. В [17] приведены алгоритмы получения верхних оценок для оптимального значения функции квантили, которые удается распараллелить. При этом исходно невыпуклая задача квантильной оптимизации сводится к решению набора задач выпуклого программирования, которые можно решать независимо друг от друга. Поэтому помимо алгоритма на основе выборочной оценки квантили в третьей главе диссертации приведён также стохастический квазиградиентный алгоритм минимизации функции квантили на основе децентрализованной оценки квантили, полученной при использовании многопроцессорной архитектуры.

Подводя итог вышесказанному, можно сделать вывод о том, что постановки задач анализа и стохастического программирования с квантильным критерием активно исследуются в настоящее время, что подтверждает актуальность диссертационной работы.

Целью работы является оптимизация квантильного критерия при выпуклой целевой функции с помощью стохастического квазиградиентного алгоритма. Для достижения данной цели предлагается:

1) построение оптимального ядра для ядерной оценки квантили;

2) построение децентрализованной оценки квантили и исследование её свойств;

3) получение универсального доказательства достаточных условий квазивогнутости и логарифмической вогнутости вероятностной меры;

4) обоснование стохастического квазиградиентного алгоритма минимизации функции квантили с использованием порядковых статистик;

5) демонстрация работоспособности алгоритма на примере решения прикладной задачи.

Основные результаты диссертации опубликованы в 4 статьях [20-23] в журналах, входящих в Перечень ВАК. Кроме того, данные результаты были апробированы на научных семинарах Московского авиационного института на кафедре "Теория вероятностей" и в Институте проблем управления на кафедре "Теория автоматического управления". Диссертация состоите ла трёх ,глав, заключения и списка литературы (100 источников). Объем диссертации включает 103 машинописных страницы, включая 7 рисуноков.

Краткое содержание основных результатов работы по главам состоит в следующем.

В первой главе рассматриваются различные оценки квантили. Рассматриваются ядерная и децентрализованная оценка квантили.

Для минимизации среднеквадратической ошибки ядерной оценки сформирован класс Ет при т ^ 2 функций с конечным носителем, обладающих условиями несмещенности и^ нормировки.,

Доказано утверждение, которое указывает вид оптимального в Нт с точки зрения минимума среднеквадратического отклонения ядра и устанавливает значение асимптотического среднеквадратического отклонения и смещения данной оценки.

Кроме того, приводится децентрализированная оценка, которая позволяет распараллелить процесс нахождения квантили. Алгоритм базируется на использовании многопроцессорной архитектуры и позволяет находить значение квантили при достаточно общих ограничениях.

Доказана теорема, которая устанавливает асимптотические оценки первых моментов децентрализированной оценки квантили.

Также приводится сравнение данной оценки с выборочной оценкой квантили.

Во второй главе рассматриваются выпуклые свойства функции квантили. В основе результатов лежит понятие 7-вогнутой функции, которое является обобщением понятия выпуклой функции.

Устанавливаются достаточные условия квазивогнутости вероятностной меры.

Также приведены условия, обеспечивающие квазивыпуклость функции квантили и квазивогнутость функции вероятности.

Кроме того, приводится пример, показывающий, что квазивогпутость плотности не гарантирует квазивогнутость меры.

Третья глава посвящена стохастическому квазиградиентному алгоритму минимизации функции квантили. Введено понятие стохастического квазиградиента функции квантили.

Рассмотрен стохастический квазиградиентный алгоритм минимизации функции квантили. г

П.и[ик-рк£к(ик,$к)], ШЫ,5к)\\ ^ Ь, ик+1 = (1) V где Ь — некоторое достаточно большое число, — длина шага алгоритма, ;(ик,$к) — значение стохастического квазиградиента функции квантили в точке

П[/[-] — оператор рандомизированного проецирования, а й имеет равномерное распределение на множестве и.

Доказан результат, который устанавливает условия сходимости описанного выше алгоритма к оптимальному значению функции квантили.

Помимо алгоритма на основе выборочной оценки квантили приведён также стохастический квазиградиентный алгоритм минимизации функции квантили на основе децентрализованной оценки квантили, описанной в главе 1.

Глава завершается рассмотрением примера оптимизации площади взлётно-посадочной полосы. Задача решается двумя способами: стохастическим квазиградиентным алгоритмом на основе выборочной оценки квантили и на основе децентрализованной оценки квантили, предложенными в данной работе. Полученные этими методами решения совпадают, а значения критериев оказываются достаточно близкими друг к другу.

Заключение диссертации по теме «Системный анализ, управление и обработка информации (по отраслям)», Матвеев, Евгений Леонидович

Основные результаты, выносимые на защиту:

1. построена оптимальная ядерная оценка квантили в классе функций с конечным носителем, обладающих условиями несмещённости и нормировки и исследованы её свойства;

2. предложен алгоритм получения децентрализованнрй оценки квантили и получены асимптотические оценки первых её моментов;

3. получено универсальное доказательство достаточных условий квазивогнутости и логарифмической вогнутости вероятностной меры;

4. предложен стохастический квазиградиентный алгоритм минимизации функции квантили и доказана его сходимость с вероятностью единица;

5. продемонстрирована работоспособность алгоритма на примере решения задачи оптимизации площади взлётно-посадочной полосы.

Заключение

В диссертации исследуются задачи анализа и оптимизации систем с квантильным критерием качества. В первой главе приведены различные оценки квантили. Доказана теорема, устанавливающая оптимальный вид ядерной оценки в некотором классе функций. Также приведён децентрализованный алгоритм оценки квантили и исследованы свойства первых моментов этой оценки. Во второй главе указаны достаточные условия, обеспечивающие квазивогнутость вероятностной меры, а также достаточные условия квазивыпуклости функции квантили и квазивогнутости функции вероятности. В третьей главе проведено обоснование стохастического квазиградиентного алгоритма минимизации функции квантили на основе выборочной оценки.-Помимо алгоритма на основе выборочной оценки также приведён стохастический квазиградиентный алгоритм минимизации функции квантили на основе децентрализованной оценки квантили, описанной в главе 1. Завершается глава рассмотрением примера применения описанных квазиградиентных алгоритмов для оптимизации площади взлётно-посадочной полосы. Показано преимущество использования стохастических квазиградиентных алгоритмов перед использованием гарантирующего решения при малых уровнях доверительной вероятности а.

Основным итогом диссертации является обоснование стохастического квазиградиентного алгоритма минимизации функции квантили.

Список литературы диссертационного исследования кандидат физико-математических наук Матвеев, Евгений Леонидович, 2010 год

1. Афанасьев В. Н'.','Ко'лмаНовский В. Б., Носов В. Р. Математическая теория конструирования систем управления. - М.: Высш. шк., 1998.

2. Вахшиян Б. Ц., Назиров Р. Р., Элъясберг П. Е. Определение и коррекция движения. М.: Наука, 1980.

3. Богачев В. И. Гауссовские меры М.: Наука, 1997.

4. Вишняков Б. В., Кибзун А. И. Применение метода бутстрепа для оценивания функции квантили // Автоматика и Телемеханика, 2007, N0. 11. С. 46 60.

5. Галамбош Я. Асимптотическая теория экстремальных поряковых статистик // М.: Наука, 1984.

6. Деврой Л. Дьёрфи Л. Непараметрическое оценивание плотности. Ьг подход.• // М.: Мир, 1985. • ' .

7. Дзотцоев А. А., Кан Ю. С., Шахлевич П. К. Оптимизации прощади взлётно-посадочной полосы //Изв. РАН, Теория и системы управления, 2007, №6, С. 4449.

8. Ермольев Ю. М. Методы стохастического программирования М.: Наука, 1976.

9. Зорич В. А. Математический анализ. М.: Наука. 1984.

10. Зубов В. И. Лекции по теории управления. М.: Наука, 1975.

11. Иоффе А. Д., Тихомиров В. М. Теория экстремальных задач. М.: Наука, 1974.

12. Кан Ю. С. Квазиградиентый алгоритм минимизации функции квантили // Изв. РАН. Теория и системы управления, 1996, №2, С. 81-86.

13. Кан Ю. С. О сходимости одного стохастического квазиградиентного алгоритма квантильной оптимизации // АиТ, 2003, №2, С. 100-116.

14. Кан Ю. С., Кибзун А. И. Свойства выпуклости функции вероятности и квантили в задачах оптимизации // АиТ, 1996, №3, С. 82-102.

15. Кац И. Я. Метод функций Ляпунова в задачах устойчивости и стабилизации систем случайной структуры. Екатеринбург: изд-во Уральской, . государственной.академии путей, сообщения, 1998, . ,

16. Кенуй М. Г. Быстрые статические вычисления. М.: Статистика, 1979.

17. Кибзун А. И. Распараллеливание алгоритмов оптимизации функции квантили // АиТ, 2007. N0.5. С 59 70.

18. Кибзун А. И., Кан Ю. С. Задачи стохастического программирования с вероятностными критериями. М.: Физматлит, 2009.

19. Кибзун А. И., Курбаковский В. Ю. Численные алгоритмы квантильной оптимизации и их применение к решению задач с вероятностными ограничениями // Изв. АН СССР. Техн. кибернетика 1991. N0. 1. С. 75-81.

20. Кибзун А. И., Матвеев Е. Л.Оптимизация функции квантили на основе2007;4о,1,С,187 -,189; --------- .„ ,

21. Кибзун А. И., Матвеев Е. Л. Алгоритм распараллеливания процесса оптимизации функции квантили // Вестнк МАИ, 2008, Т.15, №2, С. 51 59.

22. Кибзун А. И., Матвеев Е. Л. Достаточные условия квазивогнутости функции вероятности // АиТ, 2010, N0 3, С. 54 71.

23. Кибзун А. И., Матвеев Е. Л. Стохастический квазиградиентный алгоритм минимизации функции квантили // АиТ, 2010, N0 6, С. 64 78.

24. Кибзун А. И., Наумов А. В. Гарантирующий алгоритм решения задачи квантильной оптимизации // Космические исследования, 1995, т. 33, № 2. С. 160-165.

25. Колмановский В. Б. Об управлении по вероятности некоторыми системами // Прикладная математика и механика, 1976, т.40, вып.5, сс.782-789.

26. Коростелёв А. П. Стохастические рекуррентные процедуры. Локальные свойства М.: Наука. 1984.

27. Красовский Н. Н. Об оптимальном регулировании при случайных возмущениях // Прикладная математика и механика, 1960, т.24, вып.1, сс.64-79.

28. Кузьмин В. П., Ярошевский В. А. Оценка предельных отклонений фазовых координат динамической системы при случайных возмущениях. М.: Наука, 1995.

29. Лепп Р. Минимизация гладкой функции при вероятностных ограничениях // Изв. АН ЭССР. Физ.-мат., 1980. Т.29 N0.2. Р. 140 144.

30. Лепп Р. Детерминистические эквиваленты задач стохастического программирования с эллиптически симметричными распределениями // Изв. АН ЭССР. Физ.-мат., 1979. Т.28 N0.2. Р. 158 160.

31. Лидов М. Л., Лукьянов С. С. Задача о времени движения точки в области при случайных ошибках управления // Космические исследования, 1971, т.9, вып. 5, сс.707-722.

32. Люстерник Л. Неравенство Брунна-Минковского для измеримых по Лебегу множеств // Докл. АН СССР. 1935. Т. 3. №2. С. 55-58.

33. Малышев В. В., Кибзун А. И. Анализ и синтез высокоточного управления летательными аппаратами // М.: Машиностроение, 1987.

34. Мирошкин В. Л. Алгоритм квантильного оценивания неизвестного параметра // Теория и системы управления. 1996. Т.2. №2. С. 56-80.

35. Михалевич В. С., Гупал А. М., Норкин В. И. Методы невыпуклой оптимизации М.: Наука, 1987.

36. Норкин В. И., Роенко Н. В. а-вогнутые функции и меры и их применения //Кибернетика и системный анализ. 1991. №6. С. 77-88.

37. Пантелеев А. В. Оптимальные нелинейные системы управления: синтез при неполной информацииМ.: Вузовская книга, 2008.

38. Поляк Б. Т. Введение в оптимизацию М.: Наука, 1983.

39. Поляк Б. Т., Цыпкин Я. 3. Псевдоградиентные алгоритмы адаптации и обучения // Автоматика и Телемеханика, 1973, №3, С. 45-68.

40. Пугачев В. С. Лекции по функциональному анализу М.: Изд-во. МАИ, 1996.

41. Райк Э. О функции квантили в задачах стохастического нелинейного. программирования //.,Изв,,.АН„ЭССР, Физг-маяу1971. 24. N0. Д. С.- З 8.

42. Райк Э. Качественные исследования в задачах стохастического нелинейного программирования // Изв. АН ЭССР, физ.-мат., 1971, 20, № 1, сс. 8-14.

43. Райк Э. О функции квантиля в стохастическом нелинейном программировании // Изв. АН ЭССР, физ.-мат., 1971, 20, № 2, сс. 229231.

44. Райк Э. О задачах стохастического программирования с функционалами вероятности и квантиля // Изв. АН ЭССР, физ.-мат., 1972, 21, № 2, сс. 142-148.

45. Райк Э. Дифференцируемость по параметру функции вероятности и стохастический псевдоградиентный метод для ее оптимизации // Изв. АН ЭССР, физ.-мат., 1975, 24, № 1, сс. 3-9.

46. Тамм Э. О квазивыпуклости функций вероятности и квантили // Изв. АН ЭССР Физ.-мат., 1976. Т.25. N0.2. С.141 143.

47. Тамм Э. О минимизации функции вероятности // Изв. АН ЭССР. Физика. Математика. 1979, 28, № 1, сс.17-24.

48. Ширяев А. Н. Вероятность 1 М.: МЦНМО, 2004.

49. Урясъев С. П. Адаптивные алгоритмы стохастической оптимизации и теории игр. М.: Наука, 1990.

50. Эфрон Б. Нетрадиционные методы многомерного статистического анализа. М.: Финансы и статистика, 1988.

51. Элъстер К. X. Введение в нелинейное программирование М.: Наука, 1985.

52. Юби Э. Статистическое исследование задач стохастического программирования и метод их решения // Изв. АН ЭССР. Физика. Математика. 1977, 26, № 4, сс.369-375.

53. Юби Э. Минимизация функции вероятности методом статистического моделирования // Труды Таллинского политехнического института, 1976, 411, сс.57-76.

54. Юдин Д. Б. Математические методы управления в условиях неполной информации // М.: Советское радио, 1974.

55. Юдин Д. Б. Задачи и методы стохастического программирования // М.: Советское радио, 1979.

56. Ambrosio L., Giuseppe S., Zambotti L. Existence and stability for Fokker-Planck equations with log-concave reference measure // Probab. Theory Relat. Fields, 2009, 145, P. 517-564.

57. Azzalini A. A note on the estimation of a distribution function and quantiles by a kernel method // Biometrica, 68, С. 326-328.

58. Bahadur R. R. A note on quantiles in large samples // Ann. Math. Statist., 1966, No. 37. P. 577 580.

59. Barihe F. Log-concave and spherical models in isoperimetry // GAFA, Geom. funct. anal., 2002, V. 12. P. 32-55

60. Bartlett M. S. Statistical estimation of density functions // Sankhya Series A, 1963, V. 25. P. 245-254

61. Benveniste A., Metivier M., Priouret P. Adaptive Algorithms and Stochastic Approximations Springer-Verlag, New York, NY, 1990.

62. Bretagnolle J., Huber C. Estimation de densites: risque minimax // Zeitschrift für Wahrscheinlich keitstheorie und verwandte Gebiete, 1979, V. 47, P. 119-137

63. Bobkov S. G., Ledoux M. Weighted Poincare-type inequalities for Cauchy and other convex measures // The Annals of Probability, 2009, V. 37, No. 2, P. 403-427

64. Borell G. Convex set functions in d-spaces // Periodica Mathematica Hungari-ca. 1975. V. 6. No. 2. P. 111-136.

65. Brascamp H.J., Lieb E.H. On extensions of the Brunn-Minkowski and Prekopa-Liendler theorems, including inequalities for log-concave functions, and with application to the diffusion equations //J. Functional Analysis. 1976. V. 22. P. 366389.

66. Gardner R. J. The Brunn-Minkowski Inequality // Bulletin (New Series) of the American Mathematical Society, V. 39, No. 3, P. 355-405.

67. Das Gupta S. Brunn-Minkowski inequlity and its aftermath //J. Multivariate Analysis. 1980. V. 10. P. 296-318.

68. David H.A., Nagaraja H.N. Order Statistics. Third Edition John Willey, New Jersey, 2003.

69. Falk M. Relative deficienty of kernel type estimators of quantiles // Universitat-Gesamthochschule Siegen, 1983, Vol. 12, No. 1, C. 261-267.

70. Gaivoronski A. A., Pfug G. Finding optimal portfolios with constraints on value at risk //In Proceedings of III Stockholm Seminar on Risk Behavior and Risk Management, 1999.

71. Gaivoronski A. A., Pfug G. Value at Risk in Portfolio Optimization: Properties and Computational Approach // Working Paper 00/2, Norwegian University of Science and 28 Technology, 2000.

72. Kail P., Wallace S. W. Stochastic Programming // Chichester: John Wiley & Sons, 1994.

73. Kahn J., Yang Yu. Log-concave functions and poset probabilities // Combinatoria, 1998, V. 18, P. 85-99

74. Klartag B. A Berry-Esseen type inequality for convex bodies with an unconditional basis // Probab. Theory Relat. Fields, 2009, V. 145 P. 1-33

75. Kibzun A. I., Kurbakovkiy V. Yu. Guaranteeing approach to solving quantile otimization problems // Ann. Oper. Research. 1991, V. 30, P. 81-93.

76. Kibzun A. I., Kuznetsov E. A. Analysis of criteria VaR and CVaR //J. of Banking and Finance, 2006, V. 30, P. 779-796.

77. Kushner H. J., Yin G. G. Stochastic Approximation and Recursive Algoritms and Applications Springer-Verlag, New York, NY, 2003.

78. Lepp R. Stochastic approximation type algorithm for the maximization of the probability function // Eesti NSV Teaduste Akademia Toimetised, Fiiusika * Matemaatika, 32, No. 2, C. 150-156.

79. Nadaraya E. A. Some new estimates for distribution functions // Theory Probab.'Appl., 9^C. 497-500. ' ' *'' '

80. Parzen E. Nonparametric Statistical Data Modeling //J. Amer. Statist. Association, 1979, Vol. 74, No. 365, C. 105-131.

81. Pecaric J. On Hadamard Inequality for Log-Concave Functions // Southeast Asian Bulletin of Mathematics, 2002, V. 26, P. 307-312.

82. Pinelis I. Exact inequalities for sums of asymmetric random variables, with applications // Probab. Theory Relat. Fields, 2007, V. 139, P. 605-635.

83. Prekopa A. Logarithmic Concave Measures with Application to Stochastic Programming 11 Acta Sci. Math. (Szeged), 1971, 32, pp.301-316.

84. Prekopa A. On logarithmic concave measures and functions // Acta Scientiarum

85. Mathematicarum. 1973. V. 34. P." 335-343.

86. Prekopa A. Logarithmic Concave Measures and Related Topics. In: Stochastic Programming, ed. M.A.H.Dempster. London: Academic Press, 1980, pp.63-82.

87. Prekopa A. Stochastic programming Kluwer, Dordrecht, Netherlands, 1995.

88. Raik E. On the Stochastic Programming with the Probability and quantile Function // Eesti NSV Teaduste Akademia Toimetised, Fiiiisika -Matemaatika, 1972, 21, No.2, C. 142-148.

89. Reiss R. D. Nonparametric estimation of smooth distribution function // Scand. J. Statist. 8, C. 116-119.

90. Reiss R.D. Approximate Distributions of Order StatisticsSpringer, New York, pp. 207-212.

91. Rinott Y. On convexity of measures // Ann. Probability. 1976. No. 6, P. 1020-1026.

92. Shao Y., Xiang X. Some extensions of the asymptotics of a kernel estimator of a1.• , . V" t ' >distribution function // Statistics and Probability Letters, 34, C. 301-308.

93. Sheather S. J., Marron J. S. Kernel Quantile Estimators // Journal of the American Statistical Associations, 1990, Vol. 85, No. 410.

94. Tamm, E. Estimation of quantiles avoding order statistics // Research Report Math. 55/92. Inst. Cybernetics, Estonian Academy Sei., 1992.

95. Tamm E. On g-concave Functions and Probability Measures // Изв. АН ЭССР, физ.-мат., 1977, 26, № 4, cc.376-379.

96. Tamm E. On Minimization of a Function under an Equality Chance Constraint // Math. Operationsforsch. Statist., Ser. Optimization, 1981, 12, No.2, pp.253-262.

97. Xiang X. A Berry-Essen theorem for the kernel quantile estimator with application to studying the deficiency of quantile estimators // Ann. Inst. Statist. Math., 1995, Vol. 47, No. 2.

98. Xiang X. A Kernel Estimator of a Conditional Quantile // Journal of multivariate analysis, 59, C. 206-216.

99. Xiang X. Estimation of a quantile in some nonstandard cases // Ann. Inst. Statist. Math., 1995, Vol. 47, No. 1.

100. Yang S. A Smooth nonparametric Estimator of a quantile function // Journal of the. American Statistical Associations,. 1985, Vol.80, No. 392.