Неасимптотическое оценивание параметров авторегрессионных процессов в условиях различной априорной неопределенности тема диссертации и автореферата по ВАК РФ 00.00.00, кандидат наук Пупков Андрей Викторович

  • Пупков Андрей Викторович
  • кандидат науккандидат наук
  • 2025, ФГАОУ ВО «Национальный исследовательский Томский государственный университет»
  • Специальность ВАК РФ00.00.00
  • Количество страниц 129
Пупков Андрей Викторович. Неасимптотическое оценивание параметров авторегрессионных процессов в условиях различной априорной неопределенности: дис. кандидат наук: 00.00.00 - Другие cпециальности. ФГАОУ ВО «Национальный исследовательский Томский государственный университет». 2025. 129 с.

Оглавление диссертации кандидат наук Пупков Андрей Викторович

Введение

1 Оценивание параметров процесса авторегрессии

1.1 Процесс авторегрессии

1.2 Методы точечного оценивания

1.3 Результаты теории асимптотического точечного оценивания

1.4 Методы неасимптотического точечного оценивания

1.5 Методы доверительного оценивания

1.6 Выводы по главе

2 Неасимптотическое оценивание параметров авторегрессионных процессов

2.1 Доверительное оценивание параметра зашумленного процесса гауссовской авторегрессии ЛИ,(1) при известных дисперсиях шумов

2.2 Доверительное оценивание параметра зашумленного процесса гауссовской авторегрессии ЛЯ(1) при неизвестных дисперсиях шумов

2.3 Доверительное оценивание параметра гауссовского процесса ЛКМЛ(1, д) в случае неизвестной дисперсии шума

2.4 Доверительное оценивание параметра зашумленного гауссовского процесса ЛИ,(р) при известных дисперсиях шумов

2.5 Доверительное оценивание параметра гауссовской авторегрессии ЛЯ(р) в случае неизвестной дисперсии шума

2.6 Гарантированное точечное оценивание параметра авторегрессии ЛЯ(р) в случае неизвестной дисперсии шума

2.7 Выводы по главе

3 Приложения неасимптотического оценивания в задаче обнаружения

разладки

3.1 Обнаружение разладки в процессе ЛЯ(1) при неизвестном параметре процесса после момента отклонения

3.2 Обнаружение разладки процесса АЯ(р) в случае неизвестных параметров до и после разладки

3.3 Выводы по главе

4 Численное моделирование

4.1 Доверительный интервал параметра зашумленной АЯ(1) в случае известных дисперсий

4.2 Доверительный интервал параметра зашумленной АЯ(1) в случае неизвестных дисперсий

4.3 Доверительный эллипсоид параметра процесса АЯ(р) в случае неизвестной дисперсии шума

4.4 Гарантированное точечное оценивание параметра АЯ(р) в случае неизвестной дисперсии шума

4.5 Различные распределения в контексте оценивания дисперсии шума

4.6 Отслеживание разладки процесса АЯ(1)

4.7 Отслеживание разладки процесса АЯ(р)

4.8 Отслеживание разладки в звуковом сигнале

4.9 Выводы по главе

Заключение

Список условных обозначений, символов, сокращений

Список использованной литературы

Приложение А Теоремы об остановленных квадратично интегрируемых

мартингалах с условно-гауссовскими приращениями

Рекомендованный список диссертаций по специальности «Другие cпециальности», 00.00.00 шифр ВАК

Введение диссертации (часть автореферата) на тему «Неасимптотическое оценивание параметров авторегрессионных процессов в условиях различной априорной неопределенности»

Введение

В рамках внедрения новых технологий происходит развитие методов моделирования, прогнозирования и управления сложными системами. Для решения задачи управления необходимо иметь адекватную модель процесса, описывающего поведение рассматриваемой системы. Проблеме построения моделей реальных объектов, которая носит общее название идентификация систем, уделяется существенное внимание. Для того, чтобы в этом убедиться достаточно взглянуть на монографии Р.Ш. Липцера и А.Н. Ширяева [1], Ш. Закса [2], А. Алберта [3], И.А. Ибрагимова и Р.З. Хасьминского [4], В.В. Конева [5], Г.М. Кошкина, В.А. Васильева, А.В. Добровидова [6] и других авторов. Часто под идентификацией подразумевают восстановление распределения процесса, связанного с рассматриваемым объектом. Как правило, эту задачу невозможно решить с удовлетворительным уровнем качества, в силу недостаточности априорной информации, что, в свою очередь, может приводить к большим вычислительным, временным или финансовым затратам. В таком случае ограничиваются определением некоторых базовых характеристик процесса, которые способны уловить основные паттерны поведения системы. Часто в качестве таких характеристик может выступать "сила" линейной связи между наблюдениями системы, что естественным образом приводит нас к использованию процессов линейной авторегрессии при создании моделей реальных объектов.

Актуальность темы исследования. Ключевой проблемой при использовании регрессионных моделей является отсутствие априорного знания о значениях параметров рассматриваемой модели. Если для детерминированной регрессии вопрос оценивания неизвестных параметров разработан достаточно полно [3,7,8], то при использовании стохастических моделей (даже в случае линейной зависимости процесса от неизвестных параметров) возникают проблемы, связанные в первую очередь, с тем фактом, что входы модели случайны, а это кратно усложняет задачу исследования свойств построенных оценок. Упомянутая сложность является следствием того, что оценки представляют из себя нелинейные функции от наблюдений. Проиллюстрируем это следующим примером. Предполагая, что

{£к} - последовательность независимых стандартных гауссовских случайных величин, то для процесса авторегрессии первого порядка хк = вхк-\ + £к, где х0 = 0, оценка наименьших квадратов вп параметра в будет иметь вид

Нетрудно заметить, что знаменатель построенной оценки является случайной величиной. Ситуацию усугубляет тот факт, что числитель и знаменатель зависимы. При рассмотрении многомерных процессов или процессов более высоких порядков ситуация усложняется. Это приводит к фундаментальным проблемам при исследовании свойств оценок параметров стохастических систем. Одним из выходов является асимптотический подход, т.е получение свойств оценок в случае, когда объем наблюдений бесконечно большой. Но этот подход упирается в проблему практической применимости, поскольку в рамках эксперимента объем выборки конечен, дополнительно к этому, всегда присутствует возможность перехода исследуемого процесса в другое состояние. В случае если построенная модель не подразумевает возможности смены состояний процесса, то данное изменение часто трактуют как разладку, т.е. событие при котором происходит непредсказуемое изменение условного распределения рассматриваемого процесса в неизвестный момент времени. Соответственно, возникают две взаимоподдерживающие проблемы. С одной стороны, построение оценки параметра стохастического процесса, удовлетворительного качества осложняется из-за возможности присутствия разладок в наблюдениях, с другой стороны, для отслеживания разладки необходимо знать параметры модели процесса. В дополнение к этому часто бывает, что наблюдения можно получить только за счет большой траты ресурсов, и, следовательно, возникает необходимость в минимизации количества требуемых наблюдений для построения оценок удовлетворительного качества. Очевидно, что для решения поставленных проблем могут использоваться процедуры неасимптотического оценивания параметров стохастических систем. Построение процедур неасимптотического оценивания и применение их для отслеживания разладок процессов авторе-

грессионного типа является предметом данного диссертационного исследования.

Степень разработанности темы исследования. Вопросом качества оценивания параметров случайных процессов занимались такие исследователи как Р.Э. Фишер, Дж.Л. Дуб, Г.Б. Манн, А. Вальд, Г. Рубин, Л. Гурвиц, Дж.С. Уайт, Т.В. Андерсон, М.М. Рао, Д.А. Дикки, У.А. Фюллер, Б.П. Стигум, Г. Роббинс, Л. Льюнг, Дж. Тейлор, Т.Л. Лай, Д. Зигмунд, С.З. Вей, А.Н. Ширяев, Р.Ш. Липцер, П.Е. Гринвуд и др. [1,7-28].

В основе теории оценивания стояли работы посвященные методу максимального правдоподобия (ММП), который был популяризован Р. Фишером и приведен в работе [7]. Дж. Дуб в [8] обосновал состоятельность оценок ММП в случае последовательности независимых наблюдений при достаточно общих ограничениях накладываемых на совместное распределение выборки, а также показал асимптотическую нормальность оценки ММП. В дальнейшем, существенное развитие получила теория оценивания, основанная на методе наименьших квадратов (МНК). МНК является частным случаем ММП, но при условии неизвестного распределения исследуемого процесса представляет из себя самодостаточный метод оценивания.

Было приложено множество усилий для исследования свойств оценки МНК в случае, когда выборка состоит из зависимых наблюдений. Частным случаем процесса, порождающего зависимые наблюдения, выступает, так называемое, стохастическое разностное уравнение или процесс авторегрессии. В частности, в работах [9-17] изучался вопрос асимптотических распределений оценки МНК, а также справедливость ее состоятельности для процесса авторегрессии при различных входных условиях, накладываемых на процесс. В зависимости от истинного значения неизвестного параметра, у процесса авторегрессии р-го порядка может наблюдаться три типа поведения: стационарность, взрывное поведение и переходное поведение между стационарным и взрывным. И в зависимости от того какое у процесса фактическое поведение очень сильно меняются и асимптотические свойства оценки МНК (см. детали в разделах 1.1 - 1.3). В результате, после 30 лет интенсивных исследований удалось доказать состоятельность оценки МНК при любом фактическом типе поведения процесса авторегрессии.

Далее, исследовательский интерес был направлен на поиск условий, при которых МНК-оценка параметра процесса обобщенной стохастической регрессии является сильно состоятельной, в случае линейной зависимости процесса от неизвестного параметра. В работах [20-25] было показано, что при достаточно общих ограничениях накладываемых на шум, оценка МНК процесса авторегрессии является сильно состоятельной при определенном типе асимптотической зависимости между максимальным и минимальным собственными значениями нормировочной матрицы оценки МНК (см. раздел 1.3). Отметим, что в этот период также велись интенсивные исследования для обоснования сильной состоятельности оценок, построенных на основе метода стохастической аппроксимации (МСА) [19,29-31].

Дальнейшие работы были напрямую связаны с идеями последовательного анализа, фундамент которых заложил А. Вальд [32]. При оценивании параметров предполагалось, что объем выборки не фиксирован, а накапливается в соответствии со специальным правилом остановки. Данное предположение позволило обобщить некоторые асимптотические свойства, связанные с предельным распределением МНК-оценки параметра процесса АЯ(1) и показать асимптотическую эффективность и свойство минимаксности последовательной модификации оценки МНК [26,27,33,34].

Параллельно с обоснованием сильной состоятельности МНК-оценки, силами исследователей Томского государственного университета, велись работы в области неасимптотического оценивания параметров стохастических систем с гарантированным качеством в смысле ограниченности среднеквадратической ошибки. Существенный вклад в развитие направления внесли В.В. Конев, В.З. Борисов, С.Э. Воробейчиков, В.А. Васильев, С.М. Пергаменщиков [5,34-46]. Было построено множество модификаций классических процедур оценивания (МНК, МСА, оценки Юла-Уокера), позволяющих при тех или иных ограничениях строить оценки с неасимптотическими свойствами. Основополагающие идеи, ставшие базой для последующих работ, представлены в трудах [35,36], где авторами была введена оценка параметра процесса многомерной стохастической регрессии, в случае линейной зависимости процесса от неизвестного параметра. Полученная оценка обладает свойством ограниченности среднеквадратической ошибки, а также является

несмещенной, как в случае дискретного так и непрерывного времени. Недостатком данного подхода является то, что полученные результаты справедливы только для процессов, размерность которых не меньше размерности неизвестного параметра. Методы построения гарантированных оценок параметров, а также изучение их свойств в случае, когда размерность процесса меньше размерности параметра, рассматривались в работах [38-41,45-47]. В [34,42,44] изучались некоторые асимптотические свойства построенных последовательных модификаций. Дальнейшее развитие последовательных методов привело к возможности построения неасимптотических распределений для точечных оценок параметров стохастических систем, а также неасимптотических доверительных областей для параметров стохастических систем [48-52]. Отметим, что большинство современных методов доверительного оценивания параметров стохастических систем являются асимптотическими, т.е. используют для вычисления границ доверительной области квантили предельного распределения [53-57] (подробнее см. раздел 1.5).

Важной задачей при последовательном оценивании является поиск способа, позволяющего уйти от необходимости знания структуры волатильности рассматриваемой динамической системы, поскольку скорость накопления информации напрямую связана с уровнем условной дисперсии шума. В простейшем случае это означает, что необходимо модифицировать процедуры последовательного оценивания таким образом, чтобы уменьшался объем априорной информации о дисперсии шума процесса. Соответствующие модификации рассматривались в работах [52,58,59].

В работах [20-25] при исследовании свойств МНК-оценок параметров стохастических систем предполагалось, что шум является мартингал-разностью, и показано, что это существенно не влияет на асимптотические свойства МНК-оценок. С другой стороны, в случае, когда шум не удовлетворяет этому свойству возникают проблемы, которые могут приводить к асимптотической смещенности оценки МНК. Классическими примерами таких процессов выступают процессы класса ЛЯМЛ(р,д) и зашумленная авторегрессия. Задача оценивания параметра зашум-ленного процесса ЛЯ(р) рассматривалась в [41,59-65].

Помимо последовательных методов оценивания в класс оценок с неасимптоти-

ческими свойствами также входят последовательно-усеченные и усеченные оценки [66-70]. Основные идеи этих методов кратко приведены в разделе 1.4.

Одной из задач последовательного анализа является проблема обнаружения разладки. При использовании классических алгоритмов таких как процедура кумулятивных сумм (СИБИМ) требуется знание отношения правдоподобия [71]. При отслеживании разладки стохастических процессов необходимо знать распределение шума, структуру процесса и значения параметров до и после разладки, для вычисления условных распределений. Г. Лорден показал, что процедура СИБИМ является оптимальной в смысле минимизации среднего времени запаздывания при фиксированном уровне вероятности ложной тревоги в последовательности независимых случайных величин [72]. Т. Лай решил более сложную задачу и обобщил результаты Лордена на случай зависимых наблюдений [73]. Также были разработаны процедуры, позволяющие отслеживать разладку при неизвестном значении параметра распределения после момента изменения [74]. Но во всех этих случаях требуется знание отношения правдоподобия, а в случае неизвестного параметра после разладки возникает необходимость в большом объеме вычислительных затрат для расчета многомерных интегралов или решения оптимизационных задач. Довольно часто такой объем априорного знания на практике получить невозможно и возникает естественное желание ослабить условия, накладываемые на исследуемый процесс. В работах [75-80] развивался метод, в котором использовалась другая система статистик, отличная от отношения правдоподобия. Существенным здесь является тот факт, что базовая статистика не зависит от распределения и для ее вычисления необходимо знать лишь структуру модели до и после разладки. Случай, когда у процесса неизвестно не только распределение шума, но и значения параметров рассматривался в [81].

Цели и задачи исследования. Цель исследования состоит в разработке и улучшении процедур неасимптотического оценивания параметров линейных авторегрессионных процессов и в использовании построенных оценок для отслеживания разладок процессов линейной авторегрессии.

Для достижения цели решены следующие задачи:

1. построены доверительные области для параметров гауссовских процессов авторегрессионного типа при различных априорных предположениях: процесс наблюдается с аддитивной помехой с известными/неизвестными дисперсиями шумов; процесс наблюдается без помех с неизвестной дисперсией шумов;

2. построены улучшенные точечные оценки параметров процесса авторегрессии, сокращающие среднее время оценивания;

3. построены процедуры обнаружения момента разладки процесса авторегрессии с неизвестными параметрами.

Новизна исследования:

1. Впервые построены доверительные эллипсоиды для параметров гауссовских процессов авторегрессии, наблюдаемых с шумами с известной дисперсией. При этом гарантируется заданная вероятность попадания неизвестных параметров в доверительный эллипсоид;

2. Впервые построены доверительные эллипсоиды для параметров гауссовских процессов авторегрессии с неизвестной дисперсией шумов;

3. Построены улучшенные точечные оценки параметров процесса авторегрессии с неизвестной дисперсией шумов, гарантирующие заданное среднеквадрати-ческое отклонение и сокращающие время оценивания по сравнению с известными оценками;

4. Предложены процедуры обнаружения момента разладки авторегрессионного процесса с неизвестными параметрами и дисперсией шумов.

Теоретическая и практическая значимость работы. Теоретическая значимость работы заключается в том, что разработанные методы доверительного и точечного оценивания вносят существенный вклад в теорию идентификации стохастических систем. Предложенные процедуры позволяют получать оценки неизвестных параметров процессов авторегрессионного типа с гарантированным качеством при конечном объеме наблюдений.

Практическая значимость определяется тем, что построенные процедуры оценивания и обнаружения разладки позволяют указать требуемый объем наблюдений для получения оценок параметров с заданным качеством. Построенные процедуры могут быть использованы в инженерных приложениях, таких как обработка сигналов и изображений, контроль качества, прогнозирование.

Методология и методы исследования. Для получения результатов были использованы элементы теории временных рядов, теории мартингалов, элементы теории последовательного анализа и методы теории оценивания. В частности, использовались оценки Юла-Уокера и наименьших квадратов при построении неасимптотических доверительных областей и гарантированных точечных оценок. Для построения процедуры отслеживания разладки в качестве основы была взята процедура кумулятивных сумм (СИБИМ). Для получения численных результатов применялись методы Монте-Карло. Положения, выносимые на защиту:

1. Процедура доверительного неасимптотического (гарантированного) оценивания параметра процесса гауссовской авторегрессии р-го порядка в случае за-шумленного канала наблюдений при известных дисперсиях управляющего и аддитивного шумов;

2. Процедура построения неасимптотического доверительного интервала для корреляционного параметра процесса авторегрессии - скользящего среднего ЛЯ-МЛ(1, д) и процесса зашумленной авторегрессии первого порядка ЛЯ(1) в случае гауссовских шумов с неизвестными дисперсиями;

3. Процедура построения доверительной области (доверительного эллипсоида) для параметра гауссовского процесса авторегрессии р-го порядка в случае неизвестной дисперсии управляющего шума;

4. Модифицированная процедура гарантированного точечного оценивания параметра авторегрессии, основанная на использовании улучшенной оценки дисперсии шума и позволяющая уменьшить средний объем выборки, требуемый для оценивания;

5. Модификация процедуры обнаружения момента скачкообразного изменения значения параметра процесса авторегрессии первого порядка с неизвестным значением параметра после момента разладки, для которой показана логарифмическая зависимость среднего времени запаздывания обнаружения от среднего времени между ложными тревогами;

6. Процедура обнаружения момента разладки процесса авторегрессии р-го порядка с неизвестными значениями параметров и неизвестной дисперсией шумов.

Степень достоверности полученных результатов. Достоверность результатов, выносимых на защиту, подтверждается корректным использованием аппарата статистических выводов, в частности, результатами теории временных рядов и теории мартингалов. Необходимым условием корректности выступает согласованность теоретических результатов и результатов моделирования предложенных процедур на искусственно сгенерированных реализациях авторегрессионных процессов, путем применения методов Монте-Карло.

Соответствие паспорту специальности. Содержание диссертации соответствует специальности 2.3.1. Системный анализ, управление и обработка информации, статистика (физико-математические науки) по направлениям исследования «Разработка методов и алгоритмов решения задач обработки информации и принятия решений» (п. 4 паспорта специальности), «Методы и алгоритмы параметрической идентификации сложных систем» (п. 7 паспорта специальности).

Апробация результатов исследования. Результаты были представлены на научных конференциях: Международная молодежная научная конференция «Математическое и программное обеспечение информационных, технических и экономических систем» (Россия, Томск, 2017); Международная молодежная научная конференция «Математическое и программное обеспечение информационных, технических и экономических систем» (Россия, Томск, 2018); Международная молодежная научная конференция «Математическое и программное обеспечение информационных, технических и экономических систем» (Россия, Томск, 2019); Международная научная конференция «Математическое и программное обеспечение

информационных, технических и экономических систем» (Россия, Томск, 2020); International Scientific Conference «Robust Statistics and Financial Mathematics» (Russia, Tomsk, 2020); Международная молодёжная научная конференция «Математическое и программное обеспечение информационных, технических и экономических систем» (Россия, Томск, 2022); International Scientific Conference «Robust Statistics and Financial Mathematics» (Russia, Tomsk, 2022); 25th International Conference on Distributed Computer and Communication Networks: Control, Computation, Communications (Russia, Moscow, 2022); Международная молодёжная научная конференция «Математическое и программное обеспечение информационных, технических и экономических систем» (Россия, Томск, 2023).

Публикации. По теме диссертации опубликовано 11 работ, в том числе 4 статьи в журналах, включенных в Перечень рецензируемых научных изданий, в которых должны быть опубликованы основные научные результаты диссертаций на соискание ученой степени кандидата наук, на соискание ученой степени доктора наук (из них 1 статья в российском научном журнале, переводная версия которой входит в Web of Science [82]; 1 статья в российском научном журнале, переводная версия которого входит в Scopus [83]; 2 статьи в российском научном журнале, входящем в Web of Science [84,85]), 7 публикаций в сборниках материалов международных научных конференций [86-92].

Структура и объем диссертации. Диссертация состоит из введения; четырех глав; заключения; списка условных обозначений, символов, сокращений; списка использованной литературы; одного приложения. Суммарно работа представлена на 129 страницах, включая приложение. Список использованной литературы состоит из 104 наименований. Работа включает 16 таблиц, в которых приведены усредненные результаты работы рассматриваемых в диссертации процедур оценивания и обнаружения разладки, а также 3 рисунка, на которых продемонстрирована реализация процедуры отслеживания разладки на реальных данных.

1 Оценивание параметров процесса авторегрессии

В данной главе приведем основные результаты, описанные в литературе и связанные с методами оценивания параметров стохастических систем, применительно к процессу авторегрессии р-го порядка. Рассмотрим отдельно результаты в сфере точечного и доверительного оценивания.

1.1 Процесс авторегрессии

Авторегрессионный процесс или, так называемое, стохастическое разностное уравнение [93] описывается схемой

Хк = Х'к-1в + Ъек, к > 1, (1.1)

где Хк = (Хк,... У - р-мерный вектор наблюдений процесса, в = (вь ..., 0Р)'

- вектор параметров, Ъ2 < то - дисперсия шума процесса, {ек} - последовательность независимых случайных величин с нулевыми средними Е^к = 0, единичными дисперсиями Е^к = 1 и с функцией плотности /£(х); штрих (') означает транспонирование. Вектор начальных значений процесса Х0 не зависит от последовательности шумов {£к}.

При рассмотрении процессов авторегрессии важным является вопрос определения области устойчивости процесса [94], т.е. поиск подмножества в в пространстве КР, которому принадлежит вектор параметров в, при котором асимптотическая дисперсия процесса (1.1) ограничена. Для определения области устойчивости в необходимо найти все значения параметра в € КР такие, что корни = 1,... ,р характеристического полинома

ф(г) = ¿Р - в^-1-----вр-1Х - вр (1.2)

удовлетворяют условию < 1, г = 1,... , р. В случае если шах1<к<Р |^к | = 1, то происходит разбалансировка системы и процесс {хк} переходит в неустойчивое состояние, в случае шах1<к<Р |^к | > 1 наблюдается взрывное поведение при котором

второй момент процесса (1.1) возрастает экспоненциально быстро.

В инженерных приложениях, медицине, финансах, биохимии, гидрологии и т.д. процессы авторегрессионного типа часто используются для аппроксимации стационарных временных рядов и их прогнозирования [95-99], что сводится к задаче определения структуры исследуемого процесса и оценивания его параметров (точечного, доверительного или толерантного). Нетрудно заметить, что вопрос поиска области устойчивости процесса авторегрессии может помочь в корректировке оценок неизвестных параметров, или при задании начального значения неизвестного параметра при использовании итерационных алгоритмов оценивания, таких как метод стохастической аппроксимации.

Начнем с методов точечного оценивания, к которым относят алгоритмы, позволяющие получить приближенное значение неизвестного р-мерного параметра в как точку пространства значение которой оптимизирует некоторую целевую функцию от наблюдений процесса. Начнем с классических методов: ММП (метод максимального правдоподобия), МНК (метод наименьших квадратов) и МСА (метод стохастической аппроксимации).

Метод максимального правдоподобия сводится к задаче максимизации функции правдоподобия, что применительно к модели (1.1) записывается в виде

Например, в случае экспоненциально распределенного шума для процесса ЛЯ(1), принимающего неотрицательные значения, приходим к оценке экстремальных значений (1.17), гауссовский случай дает оценку наименьших квадратов, которая будет рассмотрена далее.

Метод наименьших квадратов. Сущность рассматриваемого метода оценивания состоит в минимизации суммы остатков модели, что описывается оптимиза-

1.2 Методы точечного оценивания

ционнои задачей вида

к=1

решение которой определяется выражением

к=1 к=1

Отметим, что свойства оценки (1.3), вообще говоря, получены только в асимптотике [4,93], поскольку при анализе возникают существенные трудности из-за случайности матрицы Сп. Краткий обзор асимптотических результатов будет приведен в разделе 1.3. При конечных объемах выборки для получения неасимптотических свойств необходимо прибегать к модификациям МНК-оценок, частные примеры которых для процесса ЛЯ(1) будут приведены в разделе 1.4.

Метод стохастической аппроксимации можно рассматривать как модификацию рекуррентной формы метода наименьших квадратов [100].

Оценка МНК, заданная формулой (1.3), преобразуется к рекуррентному виду

^п+1 = ^п + С-+1Хп(хп+1 — ХП 6>п), (1.4)

где вычисление обратной матрицы С—+ можно задать через соотношение

с—1 X х ' с—1

С —1 = С —1 _ Сп ХпХпСп

Сп+1 = Сп 1 , ХС- .

1 + ХпСп Хп

Для того, чтобы получить метод стохастической аппроксимации достаточно в соотношении (1.4) последовательность матриц заменить на некоторую

убывающую числовую последовательность {ап}, что приводит нас к итерационному методу вычисления оценки параметра авторегрессии по схеме

Похожие диссертационные работы по специальности «Другие cпециальности», 00.00.00 шифр ВАК

Список литературы диссертационного исследования кандидат наук Пупков Андрей Викторович, 2025 год

Список использованной литературы

1. Липцер, Р.Ш. Статистика случайных процессов / Р.Ш. Липцер, А.Н. Ширяев. - М. : Наука, 1974. - 696 с.

2. Закс, Ш. Теория статистических выводов / Ш. Закс. — М. : Изд-во «Мир», 1975. — 776 с.

3. Алберт, А. Регрессия, псевдоинверсия и рекуррентное оценивание / А. Ал-берт. — М. : Наука, 1977. — 224 с.

4. Ибрагимов, И.А. Асимптотическая теория оценивания / И.А. Ибрагимов, Р.З. Хасьминский. — М. : Наука, 1979. — 528 с.

5. Конев, В.В. Последовательные оценки параметров стохастических динамических систем / В.В. Конев. — Томск : Изд-во Томск. ун-та., 1985. — 268 с.

6. Васильев, В. А. Непараметрическое оценивание функционалов от распределений стационарных последовательностей / В. А. Васильев, А.В. Добровидов, Г.М. Кошкин. — М. : Наука, 2004. — 508 с.

7. Fisher, R. A. On the Mathematical Foundations of Theoretical Statistics / R. A. Fisher // Philosophical Transactions of the Royal Society of London. Series A, Containing Papers of a Mathematical or Physical Character. — 1922. — Vol. 222. — P. 309-368.

8. Doob, J. L. Probability and Statistics / J. L. Doob // Transactions of the American Mathematical Society. — 1934. — Vol. 36, № 4. — P. 759-775.

9. Mann, H. B. On the Statistical Treatment of Linear Stochastic Difference Equations / H. B. Mann, A. Wald // Econometrica. — 1943. — Vol. 11, № 3/4. — P. 173-220.

10. Rubin, H. Consistency of maximum-likelihood estimates in the explosive case / H. Rubin // Statistical Inference in Dynamic Economic Models / Ed. by T.C. Koopmans. — Cowles Commission papers. — Wiley, 1950. — P. 356-364.

11. Hurwicz, L. Least-squares bias in time series / L. Hurwicz // Statistical Inference in Dynamic Economic Models / Ed. by T.C. Koopmans. — Cowles Commission papers. — Wiley, 1950. — P. 365-383.

12. White, J. S. The Limiting Distribution of the Serial Correlation Coefficient in the Explosive Case / J. S. White // The Annals of Mathematical Statistics. — 1958.

— Vol. 29, № 4. — P. 1188-1197.

13. White, J. S. The Limiting Distribution of the Serial Correlation Coefficient in the Explosive Case II / J. S. White // The Annals of Mathematical Statistics. — 1959.

— Vol. 30, № 3. — P. 831-834.

14. Anderson, T. W. On Asymptotic Distributions of Estimates of Parameters of Stochastic Difference Equations / T. W. Anderson // The Annals of Mathematical Statistics. — 1959. — Vol. 30, № 3. — P. 676-687.

15. Rao, M. M. Consistency and Limit Distributions of Estimators of Parameters in Explosive Stochastic Difference Equations / M. M. Rao // The Annals of Mathematical Statistics. — 1961. — Vol. 32, № 1. — P. 195-218.

16. Dickey, D. A. Distribution of the Estimators for Autoregressive Time Series With a Unit Root / D. A. Dickey, W. A. Fuller // Journal of the American Statistical Association. — 1979. — Vol. 74, № 366. — P. 427-431.

17. Stigum, B. P. Asymptotic properties of dynamic stochastic parameter estimates (III) / B. P. Stigum // Journal of Multivariate Analysis. — 1974. — Vol. 4, № 4.

— P. 351-381.

18. Stigum, B. P. Least squares and stochastic difference equations / B. P. Stigum // Journal of Econometrics. — 1976. — Vol. 4, № 4. — P. 349-370.

19. Ljung, L. Analysis of recursive stochastic algorithms / L. Ljung // IEEE Transactions on Automatic Control. — 1977. — Vol. 22, № 4. — P. 551-575.

20. Lai, T. L. Strong consistency of least squares estimates in multiple regression / T. L. Lai, H. Robbins, C. Z. Wei // Proceedings of the National Academy of Sciences. - 1978. - Vol. 75, № 7. - P. 3034-3036.

21. Anderson, T. W. Strong Consistency of Least Squares Estimates in Dynamic Models / T. W. Anderson, J. B. Taylor // The Annals of Statistics. - 1979. - Vol. 7, № 3. - P. 484-489.

22. Lai, T. L. Least Squares Estimates in Stochastic Regression Models with Applications to Identification and Control of Dynamic Systems / T. L. Lai, C. Z. Wei // The Annals of Statistics. - 1982. - Vol. 10, № 1. - P. 154-166.

23. Lai, T.L. Asymptotic properties of projections with applications to stochastic regression problems / T.L Lai, C.Z Wei // Journal of Multivariate Analysis. -1982. - Vol. 12, № 3. - P. 346-370.

24. Lai, T.L. Asymptotic properties of general autoregressive models and strong consistency of least-squares estimates of their parameters / T.L Lai, C.Z Wei // Journal of Multivariate Analysis. - 1983. - Vol. 13, № 1. - P. 1-23.

25. Wei, C. Z. Asymptotic Properties of Least-Squares Estimates in Stochastic Regression Models / C. Z. Wei // The Annals of Statistics. - 1985. - Vol. 13, № 4. - P. 1498-1508.

26. Lai, T. L. Fixed Accuracy Estimation of an Autoregressive Parameter / T. L. Lai, D. Siegmund // The Annals of Statistics. - 1983. - Vol. 11, № 2. - P. 478-485.

27. Greenwood, P. E. Asymptotic minimaxity of a sequential estimator for a first order autoregressive model / P. E. Greenwood, A. N. Shiryaev // Stochastics and Stochastic Reports. - 1992. - Vol. 38, № 1. - P. 49-65.

28. Konev, V. V. Estimators with prescribed Precision in Stochastic regression models / V. V. Konev, T. L. Lai // Sequential Analysis. - 1995. - Vol. 14, № 3. -P. 179-192.

29. Lai, T. L. Adaptive Design and Stochastic Approximation / T. L. Lai, H. Rob-bins // The Annals of Statistics. - 1979. - Vol. 7, № 6. - P. 1196-1221.

30. Lai, T. L. Consistency and asymptotic efficiency of slope estimates in stochastic approximation schemes / T. L. Lai, H. Robbins // Zeitschrift für Wahrscheinlichkeitstheorie und Verwandte Gebiete. — 1981. — Vol. 56. — P. 329-360.

31. Борисов, В.З. Сильная состоятельность оценок параметров нормальной авторегрессии / В.З. Борисов // Математическая статистика и ее приложения. — 1980. — Т. 6. — С. 82-85.

32. Вальд, А. Последовательный анализ / А. Вальд. — М. : Физматлит, 1960. — 328 с.

33. Sriram, T.N. Sequential estimation of the autoregressive parameter in a first order autoregressive process / T.N. Sriram // Sequential Analysis. — 1988. — Vol. 7, № 1. — P. 53-74.

34. Konev, V.V. On Optimality of the Fixed-Accuracy Estimate of the Parameter in an Explosive Autoregressive Process of the First Order / V.V. Konev, S.M. Perga-menshchikov // Sequential Analysis. — 1993. — Vol. 12, № 1. — P. 25-78.

35. Borisov, V.Z. On sequential parameter estimation in discrete time processes / V.Z. Borisov, V.V. Konev // Automation and Remote Control. — 1977. — Vol. 38, № 10. — P. 1475-1480.

36. Борисов, В.З. Последовательное оценивание параметров случайных процессов / В.З. Борисов, В.В. Конев // Математическая статистика и ее приложения. — 1979. — Т. 5. — С. 4-12.

37. Воробейчиков, С.Э. О по^едовательной идентификации стохастических систем / С.Э. Воробейчиков, В.В. Конев // Известия академии наук СССР. Техническая кибернетика. — 1980. — Т. 4. — С. 176-182.

38. Воробейчиков, С.Э. О построении последовательных оценок параметров процессов рекуррентного типа / С.Э. Воробейчиков, В.В. Конев // Математическая статистика и ее приложения. — 1980. — Т. 6. — С. 72-81.

39. Konev, V. V. Sequential identification procedures for the parameters of dynamic systems / V. V. Konev, S. M. Pergamenshchikov // Autom. Remote Control. — 1981. — Vol. 42. — P. 917-924.

40. Воробейчиков, С.Э. О последовательной идентификации параметров случайных процессов рекуррентного типа / С.Э. Воробейчиков // Математическая статистика и ее приложения. — 1983. — Т. 9. — С. 42-47.

41. Васильев, В.А. Последовательное оценивание параметров динамических систем при наличии мультипликативной и аддитивной помех в наблюдениях /

B.А. Васильев, В.В. Конев // Автоматика и телемеханика. — 1985. — Т. 6. —

C. 33-43.

42. Конев, В.В. Об асимптотической нормальности последовательной оценки параметра авторегрессии / В.В. Конев, С.М. Пергаменщиков // Математическая статистика и ее приложения. — 1983. — Т. 9. — С. 117-129.

43. Васильев, В.А. Об оценивании распределения возмущений процесса авторегрессии / В.А. Васильев // Математическая статистика и ее приложения. — 1986. — Т. 10. — С. 9-24.

44. Конев, В.В. Об асимптотических свойствах последовательных планов оценивания параметров динамических систем / В.В. Конев, С.М. Пергаменщиков // Математическая статистика и ее приложения. — 1986. — Т. 10. — С. 100-119.

45. Васильев, В. А. Об оценивании дрейфа параметров динамических систем по зашумленным наблюдениям / В. А. Васильев, В.В. Конев // Математическая статистика и ее приложения. — 1987. — Т. 11. — С. 13-23.

46. Konev, V. On Guaranteed Estimation of the Mean of an Autoregressive Process / V. Konev, S. Pergamenshchikov // The Annals of Statistics. — 1997. — Vol. 25, № 5. — P. 2127-2163.

47. Meder, N. On guaranteed estimation of parameters of random processes by the weighted least squares method / N. Meder, S. Vorobejchikov // IFAC Proceedings Volumes. — 2002. — Vol. 35, № 1. — P. 409-412.

48. Konev, V. V. On one property of martingales with conditionally Gaussian increments and its application in the theory of nonasymptotic inference / V. V. Konev // Doklady Mathematics. — 2016. — Vol. 94, № 11. — P. 676680.

49. Konev, V. Sequential Fixed Accuracy Estimation for Nonstationary Autoregressive Processes / V. Konev, B. Nazarenko // Annals of the Institute of Statistical Mathematics. — 2020. — Vol. 72, № 1. — P. 235-264.

50. Vorobeichikov, S. E. On sequential confidence estimation of parameters of stochastic dynamical systems with conditionally Gaussian noises / S. E. Vorobeichikov, V. V. Konev // Automation and Remote Control. — 2017. — Vol. 78. — P. 18031818.

51. Konev, V. V. Non-asymptotic confidence estimation of the parameters in stochastic regression models with Gaussian noises / V. V. Konev, S. E. Vorobeychikov // Sequential Analysis. — 2017. — Vol. 36, № 1. — P. 55-75.

52. Vorobeychikov, S. Non-asymptotic Confidence Estimation of the Autoregressive Parameter in AR(1) Process with an Unknown Noise Variance / S. Vorobeychikov, Yu. Burkatovskaya // Austrian Journal of Statistics. — 2020. — Vol. 49, № 04. — P. 19-26.

53. Hsiao, W. Interval Estimation for a First-Order Positive Autoregressive Process / W. Hsiao, H. Huang, C. Ing // Journal of Time Series Analysis. — 2018. — Vol. 39, № 3. — P. 447-467.

54. Liu, X. Asymptotic Theory and Unified Confidence Region for an Autoregressive Model / X. Liu, L. Peng // Journal of Time Series Analysis. — 2019. — Vol. 40, № 1. - P. 43-65.

55. Jirak, M. Simultaneous confidence bands for sequential autoregressive fitting / M. Jirak // Journal of Multivariate Analysis. - 2014. - Vol. 124. - P. 130-149.

56. Jirak, M. Simultaneous confidence bands for Yule-Walker estimators and order selection / M. Jirak // The Annals of Statistics. - 2012. - Vol. 40, № 1. -P. 494-528.

57. Tunno, F. New confidence intervals for the AR(1) parameter / F. Tunno, A. Erwin // Involve a Journal of Mathematics. - 2013. - Vol. 6, № 1. - P. 53-63.

58. Дмитриенко, А.А. О гарантированном оценивании параметров авторегрессии при неизвестной дисперсии помех / А.А. Дмитриенко, В.В. Конев // Автоматика и телемеханика. - 1994. - Т. 2. - С. 87-99.

59. Xia, Y. Novel parameter estimation of autoregressive signals in the presence of noise / Y. Xia, W. X. Zheng // Automatica. - 2015. - Vol. 62. - P. 98-105.

60. Moore, J. B. On strong consistency of least squares identification algorithms / J. B. Moore // Automatica. - 1978. - Vol. 14, № 5. - P. 505-509.

61. Kelejian, H. H. A Generalized Spatial Two-Stage Least Squares Procedure for Estimating a Spatial Autoregressive Model with Autoregressive Disturbances / H. H. Kelejian, I. R. Prucha // The Journal of Real Estate Finance and Economics. - 1998. - Vol. 17. - P. 99-121.

62. Consistent estimation of autoregressive parameters from noisy observations based on two interacting Kalman filters / D. Labarre, E. Grivel, Y. Berthoumieu et al. // Signal Processing. - 2006. - Vol. 86, № 10. - P. 2863-2876.

63. Diversi, R. Identification of autoregressive models in the presence of additive noise / R. Diversi, R. Guidorzi, U. Soverini // International Journal of Adaptive Control and Signal Processing. - 2007. - Vol. 22. - P. 465-481.

64. Mahmoudi, A. Parameter estimation of autoregressive signals in presence of colored AR(1) noise as a quadratic eigenvalue problem / A. Mahmoudi, M. Karimi, H. Amindavar // Signal Processing. — 2012. — Vol. 92, № 4. — P. 1151-1156.

65. Amanat, A. Two-dimensional noisy autoregressive estimation with application to joint frequency and direction of arrival estimation / A. Amanat, A. Mahmoudi, M. Hatam // Multidimensional Systems and Signal Processing. — 2018. — Vol. 29, № 04. — P. 671-685.

66. Konev, V.V. Truncated sequential estimation of the parameters in a random regression / V.V. Konev, S.M. Pergamenschicov // Sequential Analysis. — 1990. — Vol. 9, № 1. — P. 19-41.

67. Konev, V. V. On Truncatd sequential estimation of the drifting parametermean in the first order autoregressive models / V. V. Konev, S.M. Pergamenschjcov // Sequential Analysis. — 1990. — Vol. 9, № 2. — P. 193-216.

68. Fourdrinier, D. Truncated sequential estimation of the parameter of a first order autoregressive process with dependent noises / D. Fourdrinier, V. Konev, S. Pergamenshchikov // Mathematical Methods of Statistics. — 2009. — Vol. 18.

— P. 43-58.

69. Vasiliev, V. A truncated estimation method with guaranteed accuracy / V. Vasiliev // Annals of the Institute of Statistical Mathematics. — 2014. — Vol. 66, № 02. — P. 141-163.

70. Dogadova, T.V. Truncated estimation method and application / T.V. Dogadova, M.I. Kusainov, V.A. Vasiliev // Serdica Math. J. — 2017. — Vol. 49. — P. 221-266.

71. Page, E. S. Continuous inspection schemes / E. S. Page // Biometrika. — 1954.

— Vol. 41. — P. 100-115.

72. Lorden, G. Procedures for Reacting to a Change in Distribution / G. Lorden // The Annals of Mathematical Statistics. — 1971. — Vol. 42, № 6. — P. 1897-1908.

73. Lai, T. L. Information bounds and quick detection of parameter changes in stochastic systems / T. L. Lai // IEEE Transactions on Information Theory.

- 1998. - Vol. 44, № 7. - P. 2917-2929.

74. Tartakovsky, A. Sequential Analysis: Hypothesis Testing and Changepoint Detection / A. Tartakovsky, I. Nikiforov, M. Basseville. — Chapman & Hall/CRC, 2014.

- 574 p.

75. Воробейчиков, С.Э. К обнаружению моментов разладки случайных процессов / С.Э. Воробейчиков, В.В. Конев // Математическая статистика и ее приложения. — 1982. — Т. 8. — С. 20-34.

76. Конев, В.В. Обнаружение моментов разладки случайных процессов рекуррентного типа при многоальтернативной конечной модели / В.В. Конев // Математическая статистика и ее приложения. — 1983. — Т. 9. — С. 109-116.

77. Воробейчиков, С.Э. Обнаружение моментов скачкообразных изменений параметров случайных процессов / С.Э. Воробейчиков, В.В. Конев // Математическая статистика и ее приложения. — 1983. — Т. 9. — С. 34-41.

78. Воробейчиков, С.Э. Последовательный метод обнаружения разладок случайных процессов рекуррентного типа / С.Э. Воробейчиков, В.В. Конев // Автоматика и телемеханика. — 1984. — Т. 5. — С. 27-38.

79. Воробейчиков, С.Э. Обнаружение разладки процесса авторегрессии, наблюдаемого с помехами / С.Э. Воробейчиков, Ю.Б. Буркатовская // Автоматика и телемеханика. — 2000. — Т. 3. — С. 76-89.

80. Konev, V. Quickest Detection of Parameter Changes in Stochastic Regression: Nonparametric CUSUM / V. Konev, S. Vorobeychikov // IEEE Transactions on Information Theory. — 2017. — Vol. 63, № 9. — P. 5588-5602.

81. Burkatovskaya, Yu. On Guaranteed Sequential Change Point Detection for TAR(1)/ARCH(1) Process / Yu. Burkatovskaya, E. Sergeeva, S. Vorobeychikov // Information Technologies and Mathematical Modelling / Ed. by A. Dudin,

A. Nazarov, R. Yakupov, A. Gortsev. — Cham: Springer International Publishing, 2014. — P. 59-68.

82. Konev, V. Confidence Estimation of Autoregressive Parameters Based on Noisy Data / V. Konev, A. Pupkov // Automation and Remote Control. — 2021. — Vol. 82, № 06. — P. 1030-1048.

83. Воробейчиков, С. Э. Неасимптотическое доверительное оценивание параметров авторегрессионного процесса в случае неизвестной дисперсии шума / С. Э. Воробейчиков, А. В. Пупков // Автометрия. — 2023. — Т. 59, № 4. — С. 39-48.

84. Воробейчиков, С. Э. Доверительное неасимптотическое оценивание параметра авторегрессии AR(1) по зашумленным данным / С. Э. Воробейчиков, А. В. Пупков // Вестник Томского государственного университета. Управление, вычислительная техника и информатика. — 2022. — Т. 59. — С. 83-90.

85. Воробейчиков, С. Э. О гарантированном оценивании параметров процесса авторегрессии с неизвестной дисперсией шума / С. Э. Воробейчиков, А. В. Пупков // Вестник Томского государственного университета. Управление, вычислительная техника и информатика. — 2023. — Т. 63. — С. 53-61.

86. Пупков, А. В. Обнаружение разладки при помощи процедуры CUSUM для процессов с независимыми и зависимыми значениями / А. В. Пупков // Материалы Междунар. молодеж. науч. конф. «Математическое и программное обеспечение информационных, технических и экономических систем» (Томск, 19-20 мая 2017 г.). — Томск: 2017. — С. 154-160.

87. Пупков, А. В. Скорейшее обнаружение разладки авторегрессионных процессов при неизвестной конечной модели / А. В. Пупков // Материалы Меж-дунар. молодеж. науч. конф. «Математическое и программное обеспечение информационных, технических и экономических систем» (Томск, 24-26 мая 2018 г.). — Томск: 2018. — С. 191-195.

88. Пупков, А. В. Обнаружение разладки в гауссовском процессе AR(1) с неизвестным параметром / А. В. Пупков // Материалы Междунар. молодеж. науч. конф. «Математическое и программное обеспечение информационных, технических и экономических систем» (Томск, 23-25 мая 2019 г.). — Томск:

2019. — С. 165-168.

89. Пупков, А. В. Численное сравнение процедур оценивания параметра авторегрессии с аддитивным шумом / А. В. Пупков // Материалы Междунар. науч. конф. «Математическое и программное обеспечение информационных, технических и экономических систем» (Томск, 28-30 мая 2020 г.). — Томск:

2020. — С. 229-233.

90. Pupkov, A. V. Change-point detection in AR(1) process with unknown parameter after the disruption / A. V. Pupkov // Международная научная конференция «Робастная статистика и финансовая математика - 2022» (4-5 июля 2022 г.). — Томск: 2022. — С. 56-63.

91. Vorobeychikov, S.E. Non-asymptotic Confidence Estimation of the Autoregressive Parameter in ARMA(1,q) Model / S.E. Vorobeychikov, A.V. Pupkov // Материалы XXV Междунар. науч. конф. «Распределенные компьютерные и телекоммуникационные сети: управление, вычисление, связь (DCCN-2022) = Distributed Computer and Communication Networks: Control, Computation, Communications (DCCN-2022)» (Москва, 26-30 сентября 2022 г.). — Москва: 2022. — С. 101-106.

92. Пупков, А. В. Отслеживание точек разладки авторегрессионного сигнала / А. В. Пупков // Материалы Междунар. науч. конф. «Математическое и программное обеспечение информационных, технических и экономических систем» (Томск, 26-29 мая 2023 г.). — Томск: 2023. — С. 120-123.

93. Anderson, T.W. The Statistical Analysis of Time Series / T.W. Anderson. — New York : John Wiley & Sons, Inc., 1971. — 704 p.

94. Ширяев, А.Н. Основы стохастической финансовой математики : монография, в 2 т. / А.Н. Ширяев. — М. : МЦНМО, 2016. — Т. 1. — 440 с.

95. Kunitomo, N. Stationary and Non-Stationary Simultaneous Switching Autoregressive Models with an Application to Financial Time Series / N. Kunitomo, S. Sato // The Japanese Economic Review. — 1999. — Vol. 50. — P. 161-190.

96. Autoregressive Modeling and Feature Analysis of DNA Sequences / N. Chakravarthy, A. Spanias, L. D. Iasemidis, K. Tsakalis // EURASIP Journal on Advances in Signal Processing. — 2004. — Vol. 2004, № 1. — P. 13-28.

97. Berezina-Greene, M. Autoregressive modeling of voiced speech / M. Berezina-Greene, D. Rudoy, P. Wolfe // ICASSP, IEEE International Conference on Acoustics, Speech and Signal Processing - Proceedings. — № 04. — 2010. — P. 5042-5045.

98. Sheng, H. Fractional Autoregressive Integrated Moving Average with Stable Innovations Model of Great Salt Lake Elevation Time Series / H. Sheng, Y. Chen, T. Qiu // Fractional Processes and Fractional-Order Signal Processing: Techniques and Applications. — London: Springer London, 2012. — P. 179-188.

99. Cheng, K. Tolerance intervals for autoregressive models, with an application to hospital waiting lists / K. Cheng, D. S. Young // Applied Stochastic Models in Business and Industry. — 2020. — Vol. 36, № 2. — P. 268-282.

100. Kushner, H. J. Stochastic Approximation and Recursive Algorithms and Applications / H. J. Kushner, G. G. Yin. — New York : Springer, 2003. — 474 p.

101. Колмогоров, А. Н. Три подхода к определению понятия "количество информации" / А. Н. Колмогоров // Пробл. передачи информ. — 1965. — Т. 1, № 1. — С. 3-11.

102. Демин, Н.С. Теория информации / Н.С. Демин, Ю.Б. Буркатовская. — Томск : Изд-во Том. ун-та, 2007. — 142 с.

103. Gallagher, C. A small sample confidence interval for autoregressive parameters / C. Gallagher, F. Tunno // Journal of Statistical Planning and Inference. — 2008. - Vol. 138, № 12. — P. 3858-3868.

104. Anderson, T. W. The Integral of a Symmetric Unimodal Function over a Symmetric Convex Set and Some Probability Inequalities / T. W. Anderson // Proceedings of the American Mathematical Society. — 1955. — Vol. 6, № 2. — P. 170-176.

Приложение А

(Справочное)

Теоремы об остановленных квадратично интегрируемых мартингалах с условно-гауссовскими приращениями

Теорема А.1. Пусть (Мк, Тк)к>0 - квадратично интегрируемый мартингал

14«1: >

1. его квадратическая характеристика удовлетворяет условию

Р «М)то — +то) — 1;

2. Law(ЛMk|ТА-х) = N_1), к — 1, 2,..., т.е. Тк-1 - условное распределение АМк — Мк — Мк-1 является гауссовским с параметрами 0 и — Е ((АМк)21Тк—1).

Для каждого Н определим момент остановки

( п

т — т(Н) — т£ < п > 0 : У^

I к=1

> Н

т£ {0} — то,

(А.1)

и случайную величину

г(Ь)

т(Н) — ^ -/вкЩЛМк, вк(Н)

к=1

1, если 1 < к < т(Н), а(Н), если к — т(Н);

(А.2)

а(Н) - множитель, определяемый из уравнения ^к=1 1 + а(Н)а^

т (Ь)-1

— Н.

Тогда для любого Н > 0 величина т(Н) является стандартной гауссовской. Теорема А.2. Пусть заданы [49]:

1. вероятностное пространство (П, Т, Р) с фильтрацией (Т)к>0,

2. семейство (М^,Fk) , l = 1,p, квадратично интегрируемых мартингалов V к / к>0 _

с квадратическими характеристиками {(М(/))n}n>i, l = 1,Р, такими, что

(a) P ((M(/))то = +то) =1, l = 1TP;

(b) Law (ЛМ^0 |F—i) = N(0,o2(k - 1)), к = 1, 2,..., l = 1p, т.е. F—i -условное распределение приращения ЛМ^ = М^ — М^ является гаус-совским с параметрами 0 и of (к — 1) = E ^ (ЛМ^^ |Fk—^ .

Для каждого h > 0 определим момент остановки

т/ = т/ (h) = inf <n>T/_i(h): Е О2 (к — 1) > h, l = 1,p,

[ k=T;_i + 1 J

T0 = T0(h) = 0, inf {0} = +TO,

и случайные величины

mi (h) = E ^в^ЛМ^, l = 1^;

1, если T/—i(h) < к < Ti(h),

вк (h,l) = <j

a/(h), если к = t/(h);

а/(к), I = 1,р, - корректирующие множители, определяемые из уравнений

Т1-1

Е - 1)+ а/(Ч^Сп(к) - 1) = к.

Л=т,_1+1

Тогда для любого к > 0 случайный вектор т(к) = (т1(к),... ,шр(к))/ имеет стандартное нормальное распределение, т.е. т(к) ~ N(0,1р), где - единичная матрица размерности р.

Обратите внимание, представленные выше научные тексты размещены для ознакомления и получены посредством распознавания оригинальных текстов диссертаций (OCR). В связи с чем, в них могут содержаться ошибки, связанные с несовершенством алгоритмов распознавания. В PDF файлах диссертаций и авторефератов, которые мы доставляем, подобных ошибок нет.