Модели и алгоритмы идентификации и оценивания случайных последовательностей на основе вейвлетов и нейронечетких систем тема диссертации и автореферата по ВАК РФ 05.13.18, кандидат технических наук Магола, Дмитрий Степанович

• Магола, Дмитрий Степанович
• кандидат технических наук
• 2009

Оглавление диссертации кандидат технических наук Магола, Дмитрий Степанович

ОСНОВНЫЕ ОБОЗНАЧЕНИЯ И СОКРАЩЕНИЯ.

ВВЕДЕНИЕ.

ГЛАВА 1. МАТЕМАТИЧЕСКИЕ МОДЕЛИ И АЛГОРИТМЫ ОБРАБОТКИ ИНФОРМАЦИИ НА ОСНОВЕ МЕТОДОВ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА И ТЕОРИИ ВЕЙВЛЕТОВ.

1.1. Искусственные нейронные сети и нечеткие системы.

1.1.1. Строение биологического нейрона.

1.1.2. Структура и свойства искусственного нейрона.

1.2. Комбинация нейронных сетей и систем, основанных на нечеткой логике.

1.3. Вейвлет-анализ.

1.4. Комбинация нейронных сетей и вейвлетов.

1.5. Задачи идентификации и оценивания.

1.6. Выводы, цель и задачи исследования.

ГЛАВА 2. ОБРАБОТКА СИГНАЛОВ НА ОСНОВЕ ВЕЙВЛЕТОВ И НЕЧЕТКИХ СИСТЕМ.

2.1. Оценивание случайных последовательностей с использованием регрессии и вейвлетов.

2.2. Применение нечеткого логического вывода при вейвлет-анализе сигналов.

2.2.1. Пример создания нечеткой системы определения вида вейвлета.

2.2.2. Пример создания нечеткой системы определения типа порога.

2.3. Выводы.

ГЛАВА 3. МОДЕЛИ И АЛГОРИТМЫ ИДЕНТИФИКАЦИИ ПОЛЬЗОВАТЕЛЯ КОРПОРАТИВНОЙ ИНФОРМАЦИОННОЙ СИСТЕМЫ НА ОСНОВЕ НЕЙРОННЫХ СЕТЕЙ И ВЕЙВЛЕТОВ.

3.1. Модели для идентификации пользователя КИС.

3.2. Использование нейронной сети для идентификации пользователя.

3.3. Использование вейвлетов для идентификации пользователя КИС.

3.4. Выводы.

ГЛАВА 4. МАТЕМАТИЧЕСКОЕ И КОМПЬЮТЕРНОЕ МОДЕЛИРОВАНИЕ, АЛГОРИТМЫ ОБУЧЕНИЯ ВЕЙВЛЕТ-НЕЙРОННЫХ СЕТЕЙ И НЕЧЕТКИХ ВЕЙВЛЕТ-НЕЙРОННЫХ СЕТЕЙ.

4.1. Обработка информации на основе вейвлет-нейронных сетей.

4.1.1. Алгоритмы обучения вейвлет-нейрона.

4.1.2. Проверка адекватности математических моделей на основе данных натурного и вычислительного экспериментов.

4.2. Разработка модели нечеткой вейвлет-нейронной сети.

4.2.1. Компьютерное моделирование нечеткой вейвлет-нейронной сети

4.3. Выводы.

Введение диссертации (часть автореферата) на тему «Модели и алгоритмы идентификации и оценивания случайных последовательностей на основе вейвлетов и нейронечетких систем»

Современное развитие различных областей человеческой деятельности характеризуется ростом в них информационной составляющей, представляющей собой опыт, накопленный при решении конкретных задач в прошлом. В настоящее время структура информационной составляющей такова, что получение на ее основе строгой математической модели посредством методов интерполяции или экстраполяции, сводящихся к задаче построения регрессионных уравнений, весьма затруднительно, а в некоторых случаях невозможно. В условиях недетерминированной системы (где отсутствует четкая функциональная связь между причиной и следствием) накладываются значительные ограничения на использование распространенных методов системного анализа - например, статистики. В таких условиях хорошо зарекомендовали себя интеллектуальные системы, построенные на основе теории нечетких множеств и нейронных сетей [1-2, 28, 54, 56, 57, 82, 88-90, 103]. Параллельно с интеллектуальными системами развивался аппарат вейвлетов [40, 42, 48, 55, 58, 59, 61-63], являющийся весьма эффективным средством локального представления сигналов как во временной, так и в частотной областях.

Каждый из методов интеллектуальных систем имеет свои достоинства и недостатки, что в отдельности позволяет с их помощью эффективно решать различные задачи. В последнее время наблюдается тенденция к объединению различных подходов в гибридные интеллектуальные системы, которые позволяют усилить эффективность применения. На стыке этих концепций появились новые конструкции, получившие название нечетких нейронных сетей [28, 54, 78] и вейвлет-нейронных сетей [64, 80, 84, 110, 117], которые сочетают в себе гибкость и обучаемость нейронных сетей, возможности компактного описания сигналов, присущее вейвлетам и возможность построения прозрачных правил вывода решений на основе аппарата нечеткой логики.

Следует отметить, что в работах ученых не уделяется внимание вейвлет-оцениванию случайных последовательностей и формализации выбора вейвлета при вейвлет-анализе, в следствие чего вейвлет подбирается «вручную», буквально под каждую конкретную ситуацию; не достаточно освещена математическая задача идентификации пользователя информационной системы; процедуры обучения гибридных сетей, которые традиционно используются, имеют низкую скорость сходимости, что в свою очередь ограничивает их использование, особенно при работе в реальном времени.

В связи с этим актуальной является задача разработки методов и алгоритмов обработки информации на основе совместного использования теории нейронных сетей, теории вейвлетов и теории нечетких систем, имеющих повышенную скорость обучения, способных функционировать в условиях априорной и текущей неопределенности.

Вклад в развитие искусственных нейронных сетей внесли такие ученные, как МакКаллок B.C., Питтс В.Х., Роземблат Ф., Кохонен Т., Хопфилд Дж., Танк Д., Фальман С.Е., Липман Р., Янг Дж., Вильяме Р., Зипсер Д, Хе-рольт Дж., Джуттен К., Круглов В.В. и другие. Теории нечеткой логики посвящены работы Заде Л.А., Мамдани Е.Х., Такаги Т., Сугено М., Янга Дж., Ванга Л., Менделя Дж., Ларсена, Круглова В.В. и других. Теории вейвлетов посвящены работы ученных Гроссмана А., Морле Дж., Добеши И., Малла С., Мейера Р., Лемарье П., Смоленцева Н.К. и других.

Целью исследования является разработка современных моделей и алгоритмов с использованием вейвлетов и нейронечетких систем и комплекса программ на их основе для решения задач идентификации и оценивания случайных последовательностей.

В ходе достижения цели решались следующие задачи:

• разработка алгоритма оценивания случайных последовательностей с использованием вейвлетов;

• разработка алгоритма выбора вейвлета и типа порога для процедуры трешолдинга на основе аппарата нечеткой логики;

• разработка математической модели пользователя корпоративной информационной системы, модели и алгоритма идентификации пользователя на основе аппаратов нейронных сетей и вейвлетов;

• модификация алгоритмов обучения вейвлет-нейрона на основе градиентных методов;

• разработка математической модели и алгоритма реализации нечеткой вейвлет-нейронной сети;

• реализация программных средств обеспечения имитационного моделирования разрабатываемых алгоритмов и моделей.

Основные методы исследования базируются на математическом аппарате теории нечетких множеств, искусственных нейронных сетей, теории вейвлетов, дискретной математике, математического анализа, методах вычислительной математики и математического программирования. Для практических исследований и алгоритмической обработки использованы среды «Math Works Matlab 7.5», «Borland С++ Builder 6.0».

Научную новизну работы составляют:

- алгоритм оценивания случайных последовательностей на основе вейвлет-преобразования;

- алгоритм определения материнского вейвлета и вида порога для тре-шолдинга на основе аппарата нечеткой логики;

- математическая модель пользователя корпоративной информационной системы;

- технология идентификации пользователя корпоративной информационной системы;

- модели и алгоритмы идентификации пользователя с использованием нейронных сетей и вейвлетов;

- модифицированные алгоритмы обучения вейвлет-нейрона на основе градиентных методов;

- математическая модель и алгоритм реализации нечеткой вейвлетнейронной сети, реализующие систему нечеткого вывода Сугено в виде пя-тислойной нейронной сети прямого распространения сигнала;

- алгоритмы и компьютерные программы для обработки одномерных, двумерных и трехмерных сигналов с использованием вейвлетов.

Научная и практическая значимость работы:

Основные результаты диссертационной работы были получены автором при проведении исследований, выполнявшихся в 2005 - 2009 гг. Практическая ценность работы состоит в возможности использования ее результатов для решения задач идентификации и оценивания реальных случайных процессов в динамических системах различного назначения, в том числе, в системах управления, информационных системах и др. Практическая полезность подтверждается актом об использовании результатов при разработке и внедрении в эксплуатацию корпоративной информационной системы ФГОУ ВПО «АмГПГУ» и актом внедрения результатов в учебной деятельности ГОУВПО «КнАГТУ». В 2005 году издано пособие «Искусственные нейронные сети, нечеткие и экспертные системы: Лабораторный практикум» [2], рекомендованное Дальневосточным региональным учебно-методическим центром в качестве учебного пособия для студентов специальностей «Прикладная информатика (по областям)», «Информационные системы и технологии» вузов региона; авторы: Амосов О.С., Магола Д.С. С июля 2008 года функционирует сайт www.magdm.narod.ru, на котором размещены научные труды соискателя.

Публикации. Содержание диссертации отражено в 12 публикациях. В числе основных - 8 статей, из них 2 опубликованы в журналах, рекомендованных ВАК; 2 авторских свидетельства о регистрации программ для ЭВМ.

Структура и объем работы.

Диссертация состоит из введения, четырех глав, заключения и списка литературы, содержащего 118 наименований работ отечественных и зарубежных авторов. Объем диссертации составляет 125 страниц, включая 43 ри

Заключение диссертации по теме «Математическое моделирование, численные методы и комплексы программ», Магола, Дмитрий Степанович

4.3. Выводы

В данной главе получены следующие результаты:

1. На основе радиально-базисной нейронной сети представлена модель вейвлет-нейронной сети и вейвлет-нейрона.

2. На основе градиентных методов модифицированы алгоритмы обучения вейвлет-нейронов. Пример исследования реального объекта позволяет сделать вывод об адекватности предложенных моделей и алгоритмов.

3. На основе системы ANFIS предложена модель нечеткой вейвлет-нейронной сети AWNFIS. Пример исследования реального объекта позволяет сделать вывод об адекватности предложенной модели.

108

ЗАКЛЮЧЕНИЕ

В ходе диссертационного исследования были получены следующие результаты:

- разработан алгоритм оценивания случайных последовательностей на основе регрессии и вейвлетов. Рассмотрен пример вейвлет-оценивания скалярного процесса;

- разработан алгоритм определения материнского вейвлета и вида порога для трешолдинга на основе аппарата нечеткой логики. Рассмотрены примеры определения вида вейвлета и типа порога с использованием нечеткого вывода Мамдани;

- разработана формальная математическая модель пользователя корпоративной информационной системы;

- разработана технология идентификации пользователя корпоративной информационной системы;

- разработаны модели и алгоритмы идентификации пользователя корпоративной информационной системы с использованием нейронных сетей радиально-базисных функций и вейвлетов. Рассмотрены примеры идентификации пользователя с помощью нейронной сети радиально-базисных функций и ортогонального вейвлета Добеши;

- модифицированы 3 алгоритма обучения вейвлет-нейрона на основе градиентных методов. Рассмотрен пример использования вейвлет-нейронной сети для исследования реальной компьютерной сети предприятия;

- разработаны математическая модель и алгоритм реализации нечеткой вейвлет-нейронной сети, реализующие систему нечеткого вывода Сугено в виде пятислойной нейронной сети прямого распространения сигнала. Рассмотрен пример использования нечеткой вейвлет-нейронной сети для исследования реальной компьютерной сети предприятия;

- созданы алгоритмы и компьютерные программы для обработки одномерных, двумерных и трехмерных сигналов с использованием вейвлетов.

Свидетельства о регистрации программ для ЭВМ представлены в приложении С. В приложении D представлен код программы для обработки трехмерных сигналов с использованием вейвлетов.

Таким образом, в диссертации решена комплексная задача математического, и на его основе численного, моделирования обработки случайных последовательностей на основе теории вейвлетов, теории искусственных нейронных сетей и теории нечеткой логики.

Апробация работы. Основные положения и отдельные результаты работы докладывались и обсуждались на научных конференциях: 35, 37 и 38 научно-технических конференциях студентов и аспирантов КнАГТУ (Комсомольск-на-Амуре, 2005 г., 2007 г., 2008 г.), научно-практической конференции «Информационно-коммуникационные технологии в образовании» (Хабаровск, 2007 г.), IX (Всероссийской) и X (Международной) научно-технических конференциях «Теоретические и прикладные вопросы современных информационных технологий» (Улан-Удэ, 2008 г., 2009 г.), научно-практической конференции «Информационные и коммуникационные технологии в образовании и научной деятельности» (Хабаровск, 2008 г.), XI Санкт-Петербургской международной конференции «Региональная информатика-2008» (Санкт-Петербург, 2008 г.), региональной научно-практической конференции «Актуальные проблемы математики, физики, информатики в вузе и школе» (Комсомольск-на-Амуре, 2009 г.).

Практическая полезность подтверждается актом об использовании результатов при разработке и внедрении в эксплуатацию корпоративной информационной системы ФГОУ ВПО «АмГПГУ» и актом внедрения результатов в учебной деятельности ГОУВПО «КнАГТУ». Акты об использовании и внедрении результатов представлены в приложениях А, В.

Научные труды соискателя размещены в сети Интернет на сайте [118].

Список литературы диссертационного исследования кандидат технических наук Магола, Дмитрий Степанович, 2009 год

1. Амосов, О.С. Интеллектуальные информационные системы. Нейронные сети и нечеткие система: учеб. пособие. / О.С. Амосов. Комсомольск-на-Амуре: ГОУВПО «КнАГТУ», 2005. - 106 с.

2. Амосов, О.С. Искусственные нейронные сети, нечеткие и экспертные системы. Лабораторный практикум: учеб. пособие. / О.С. Амосов, Д.С. Магола. Комсомольск-на-Амуре: ГОУВПО «КнАГТУ», 2005. - 100 с.

3. Амосов, О.С. Математическое моделирование и программная реализация вейвлет-преобразования сигналов. / О.С. Амосов, Д.С. Магола // Информационно-коммуникационные технологии в образовании: Сб. науч. трудов Хабаровск, 2008. - С. 3-12.

4. Амосов, О.С. Модели и алгоритмы идентификации пользователя корпоративной информационной системы на основе нейронных сетей и вейвлетов. / О.С. Амосов, Д.С. Магола // Информатика и системы управления. 2008. -№ 3(17). - С. 91-101.

5. Амосов, О.С. Оценивание случайных последовательностей с использованием регрессии и вейвлетов. / О.С. Амосов, JI.H. Амосова, Д.С. Магола // Информатика и системы управления. 2009. - № 3(21). - С. 101-109.

6. Астафьева, Н.М. Вейвлет-анализ: основы теории и примеры применения / Н.М. Астафьева // УФН-1996. Т. 166.- № 11 - С. 1145-1170.

7. Барский, А.В. Нейронные сети: распознавание, управление, принятие решений. / А.В. Барский. М.: Финансы и статистика, 2004.

8. Бодянский, Е.В. Искусственные нейронные сети: архитектуры, обучение, применения. / Е.В. Бодянский, О.Г. Руденко. Харьков: ТЕЛЕТЕХ, 2004. - 369 с.

9. Вейвлет-анализ сигналов: Св. 2008610136 Российская Федерация / Д.С. Магола, О.С. Амосов №2007614335; заявл. 02.11.07; опубл. 09.01.08.

10. Воробьев В. Теория и практика вейвлет-преобразования. / В. Воробьев, В. Грибунин. СПб.: Издательство ВУС, 1999.

11. Громыко, И.А. Общая парадигма защиты информации. / И.А. Громыко. // Защита информации. 2008. - № 1. - С. 12-18.

12. Добеши, И. Десять лекций по вейвлетам. / И. Добеши. М.: Ижевск: РХД, 2001.

13. Дремин, И. Вейвлеты и их использование. / И. Дремин, О. Иванов, В. Нечитайло. Успехи физических наук, 2001, т. 171, № 5, с. 465—561.

14. Дьяконов, В.П. Вейвлеты. От теории к практике / В.П. Дьяконов. М.: СОЛОН-Пресс, 2004. - 400 с.

15. Зегжда, П.Д. Обеспечение безопасности информации в условиях создания единого информационного пространства / П.Д. Зегжда // Защита информации. 2007. - № 4. - С. 28-33.

16. Иванов, А.И. Нейросетевое преодоление «проклятие» размерности, выход на «благодать» высокой размерности биометрических данных. / А.И. Иванов // Защита информации. 2007. - № 5. — С. 50-56.

17. Каллан, Р. Основные концепции нейронных сетей. / Р. Каллан. — М.: Вильяме, 2001.

18. Кеннеди, Дж. Нейросетевые технологии в диагностике аномальной сетевой активности. / Дж. Кеннеди; пер. с англ. НИП «Информзащита». 1999. www.citforum.ru.

19. Комарцова, Л.Г. Нейрокомпьютеры. / Л.Г. Комарцова, А.В. Максимов. — М.: МГТУ, 2004.

20. Круглов, В.В. Искусственные нейронные сети. Теория и практика. / В.В. Круглов, В.В. Борисов. М.: Горячая линия-Телеком, 2002. - 382 с.

21. Круглов, В.В. Нечеткая логика и искусственные нейронные сети. / В.В. Круглов, М.И. Дли, Р.Ю. Голунов. М.: Физматлит, 2001. - 224 с.

22. Лашунин, Д. Обзор программы «Соло на клавиатуре» / Д. Лашунин // http://www.aspirantura.spb.rU/artcl/l.html.

23. Левин, М. Криптография без секретов. / М. Левин. М.: Новый издательский дом, 2005.

24. Леоненков, А.В. Нечеткое моделирование в среде MATLAB и fuz-zyTECH. / А.В. Леоненков. СПб.: БХВ-Петербург, 2005. - 736 с.

25. Малоземов В. Быстрое вейвлетное преобра-зование дискретных периодических сигналов и изображений. / В. Малоземов, А. Певный, А. Третьяков. Проблемы передачи информации, 1998, т. 34. - № 5. - с. 465561.

26. Маркин, В.И. Логика предикатов / В.И. Маркин // Новая философская энциклопедия в 4-х т., т.2. М.: Мысль, 2000.

27. Медич, Дж. Статистически оптимальные линейные оценки и управление / Дж. Медич; пер с англ.; под ред. А.С. Шаталова. -М.: Энергия, 1973.

28. Новиков, Л. Адаптивный вейвлет-анализ сигналов / Л. Новиков. — Научное приборостроение, 1998, т. 9. № 2. - с. 35.

29. Оссовский, С. Нейронные сети для обработки информации. / С. Оссов-ский. М.: Финансы и статистика, 2002.

30. Ососков, Г. Применение вейвлет-анализа для обработки дискретных сигналов гауссовой формы. / Г. Ососков, А. Шитов. — Сообщение ОИЯИ Р11-97-347. Дубна, 1997.

31. Петренко, С.А. Проблема обнаружения компьютерных атак в критически важных инфраструктурах. / С.А. Петренко, А.В. Беляев // Защита информации. 2008. - № 2. - С. 32-36.

32. Пивкин, В.Я. Нечеткие множества в системах управления / В.Я. Пивкин, Е.П. Бакулин, Д.И. Кореньков // http://www.idisys.iae.nsk.su/fuzzy-book.

33. Провека правил политики безопасности для корпоративных компьютерных сетей / И.В. Котенко, А.В, Тишков, Е.В. Сидельникова, О.В. Черва-тюк // Защита информации. 2007. - № 6. — С. 52-59.

34. Райан, Дж. Обнаружение атак с помощью нейросетей. / Дж. Райан, Менг-Джанг Лин, Р. Миккулайнен; пер. с англ. А.В. Лукацкого, Ю.Ю. Цаплева. 2002. http://neurnews.iu4. bmstu.ru/book/security/inst.htm.

35. Романов, В.П. Интеллектуальные информационные системы в экономике: учебное пособие / В.П. Романов; под ред. Н.П. Тихомирова. М.: Изд-во «Экзамен», 2003. - 496 с.

36. Смоленцев, Н.К. Основы теории вейвлетов. Вейвлеты в MATLAB. / Н.К. Смоленцев. М.: ДМК, 2005. - 304 с.

37. Степанов, О.А. Байесовское оценивание с использованием нейронной сети / О.А. Степанов, О.С. Амосов // Авиакосмическое приборостроение. 2004.-№6.

38. Степанов, О.А. Нерекуррентное линейное оценивание с использованием нейронной сети / О.А. Степанов, О.С. Амосов // Математика, информатика, управление: Материалы III Всероссийской конференции, 29 июня— 1 июля 2004. Иркутск. 2004. С. 1-12.

39. Степанов, О.А. Применение теории нелинейной фильтрации в задачах обработки навигационной информации. / О.А. Степанов. СПб.: ГНЦ РФ-ЦНИИ «Электроприбор», 1998. - 370 с.

40. Тихонов, В.И. Статистический анализ и синтез радиотехнических устройств и систем. / В.И. Тихонов, В.Н. Харисов. М.: Радио и связь,1991.-608 с.

41. Уланов В.А. Защита от DDoS-атак: механизмы предупреждения, обнаружения, отслеживания источника и противодействия / В.А. Уланов, И.В. Котенко // Защита информации. 2007. - № 2. - С. 70-77.

42. Уоссермен, Ф. Нейрокомпьютерная техника. / Ф. Уоссермен. М.: Мир,1992.

43. Чуй, К. Введение в вэйвлеты. / К. Чуй. М.: Мир, 2001.

44. Штовба, С.Д. Проектирование нечетких систем средствами MATLAB. / С.Д. Штовба. М.: Горячая линия-Телеком, 2007. - 288 с.

45. Яхъяева, Г.Э. Нечеткие множества и нейронные сети. / Г.Э. Яхъяева. — М.: Бином, 2006.

46. Altaisky, М. On Standard and Non-Standard Applications of Wavelet Analysis. / M. Altaisky. JINR Rapid Communications, vol. 74. - 1995, № 6, pp. 35-60.

47. Altaisky M. WASP (Wavelet Analysis of Secondary Particles distribu-tions) package. Long Write Up and User's Guide. // M. Altaisky, G. Ososkov, A. Soloviev, A. Shitov, A. Stadnik. — JINR Communication El0-2001-205, Dubna, 2001.

48. Amosov, O.S. Optimal Estimation by Using Fuzzy Systems / O.S. Amosov, L.N. Amosova // Proc. of the 17th IFAC World Congress, Seoul, Korea, July 6-11, 2008. pp. 6094-6099.

49. Antonini, M. Image coding using the wavelet transform. // M. Antonini, M. Barlaud, P. Mathieu, I. Daubechies. — IEEE Trans. Image Proc., vol. 1. — 1992, pp. 205-220.

50. Arneodo, A. Wavelet Transform of Multi-fractals. / A. Arneodo, G. Grasseau, G. Holschneider. Phys. Rev. Lett., vol. 61. - 1988, p. 2281.

51. Barclay, V.J. Application of Wavelet Transforms to Experimental Spectra: Smoothing, Denoising and Data Set Compression / V.J. Barclay, R.F. Bonner, I.P. Hamilton //Anal.Chem.1997.-V. 69, No.l. pp. 78-90.

52. Bodyanskiy, Ye. Learning wavelet neuron based on the RASP-function / Ye. Bodyanskiy, V. Kolodyazhniy, I. Pliss, O. Vinokurova // Radio Electronics. Computer Science. Control. 2004. - №1. - P.l 18-122.

53. Burrus, C. Sidney. Introduction to Wavelets and Wavelet Transforms. / C. Sidney Burrus, A. Gopinath Ramesh, Guo Haitao. Prentice Hall, New Jersey, 1998.-268 p.

54. Chui, C. A Tutorial in Theory and Applications. / C. Chui. — Academic Press Inc., 1992.

55. Cohen, A. Biorthogonal Bases of Compactly Supported Wavelets / A. Cohen, I. Doubechies, J.-C. Feanveau //Communications on Pure and Applied Mathematics, 1992-Vol. XLV-pp.485-560.

56. Cohen, A. Wavelets on the Interval and Fast Wavelet Transforms. / A. Cohen, I. Daubechies, P. Vial. Aplied and Computational Harmonic Analysis 1, 1993, pp. 54-81.

57. Daubechies, I. Orthonormal Bases of Compactly Supported Wavelets. / I. Daubechies. Comm. Pure. Apl. Math., vol. 41. - 1998, pp. 909-996.

58. Daubechies, I. Recent Results in Wavelet Applications. / I. Daubechies. — Proceedings of SPIE Aerosense Symposium, 1998, pp. 23-31.

59. Daubechies, I. The wavelet transform, time-frequency localization and signal analysis / I. Daubechies. // IEEE Trans. Inform. Theory . 1990. - Vol. 36. -pp. 961-1005.

60. Eide, E. Eye Identification for Face Recognition with Neural Networks. // E. Eide, C. Jahren, S. Jorgensen, T. Lindblad, C. Lindsey, K. Osterud. Norway, 1996.

61. Fuzzy wavelet: Св. 2008612974 Российская федерация, / Д.С. Магола, О.С. Амосов.-№2008610092; заявл. 09.01.08; опубл. 19.06.08.

62. Grossberg, S. Contour enhancement, short-term memory, and consistencies in reverberating neural networks. / S. Grossberg. Studies in Applied Mathematics 52:217, 257.-1973.

63. Grossmann A., Morlet J. Decomposition of Hardy Functions into Square Inte-grable Wavelets of Constant Shape / A. Grossmann, J. Morlet // SIAM J. Math. Anal. 1984. - vol. 15. - № 4. - pp. 723-736.

64. Hebb, D. Organization of behavior. / D. Hebb. New York: Science Edition. 1961.

65. Ivanov, P. Wavelets in medicine and Physiology. // P. Ivanov, A. Gold-berg, S. Halvin, C. Peng, M. Posenblum, H. Stanley. In Wavelets in Physics. -Cambridge University Press, 1999, pp. 391^-19.

66. Jang, J.-S.R. ANFIS: Adaptive-Network-Based Fuzzy Inference System / J.-S.R. Jang // IEEE Trans. Systems & Cybernetics. 1993. - vol. 23. - pp. 665-685.

67. Kaiser, G. Wavelet Filtering with the Mellin Transform. / G. Kaiser- Applied Mathe-matics Letters, 1996. vol. 9. - № 5. - pp. 69-74.

68. Kohonen, T. 1984. Self-organization and associative memory. Series in Information Sciences, vol. 8. Berlin: Springer Verlag.

69. Kosko, B. Fuzzy Systems as Universal Approximators / B. Kosko // IEEE Trans. On Computers. 1994. - vol. 43. - № 11. - pp. 1329-1333.

70. Kruger, N. Object Recognition with a Sparse and Autonomously Learned Representation Based on Banana Wavelets. / N. Kruger, G. Peters, C. Mals-burg. In-ternal Report IR-INI 96-11, Bochum Institit for Neuroinformatics, 1996.

71. Lekutai, G. Self-tuning control of nonlinear systems using neural network adaptive frame wavelets / G. Lekutai, H.F. van Landingham // Proc. IEEE Int. Conf. on Systems, Man and Cybernetics. Piscataway, N.J. - 1997. -vol. 2.-pp. 1017-1022.

72. Louis A. Wavelet Theory and Applications. / A. Louis, P. Maas, A. Reider. -John Wiley & Sons, 1997.

73. Mallat, S.G. A theory for multiresolution signal decomposition: The wavelet representation / S.G. Mallat // IEEE Trans, on Pattern Anal. Machine Intell. -1989.-11.-pp. 674-693.

74. Mallat, S.G. Muiliresolution approximation and wavelet orthonormal basis of LA2(R) / S.G. Mallat // Trans. AMS. 1989. - vol. 315. - pp. 69-87.

75. Mamdani, E.H. Advances in the linguistic synthesis of fuzzy controllers. / E.H. Mamdani. International Journal of Man-Machine Studies, 1976. -vol. 8. - pp. 669-678.

76. Mamdani, E.H. An experiment in linguistic on thesis with a fuzzy logic controller. / E.H. Mamdani, S. Assislian International Journal of Man-Machine Studies, 1975. - vol. 7. -№ 1. - pp. 1-13.

77. Mamdani, E.H. Application of fuzzy logic to approximate reasoning using linguistic synthesis. / E.H. Mamdani. IEEE Transactions on Computers, 1977. -vol. 26.-№12.-pp. 1182-1191.

78. Mandelbrot, B.B. Die fractale Geometrie der Natur. / B.B. Mandelbrot. -Basel: Birkhaeuser Verlag, 1991. 491 p.

79. Morev, S. Applying Wavelet Analysis Methods to Processing of Electrocar-diographical Data. / S. Morcv, G. Ososkov, F. Shitov. Proceedings of Rat-mino Summer School. Dubna, 2001, pp. 34-43.

80. Morlet, J. Sampling Theory and Wave Propagation in NATO ASI Series. — Issues in Acoustic signal / J. Morlet // Image processing and recognition. Vol. 1. Berlin, 1983, pp. 233-261.

81. Morlet, J. Wave Propagation and Sampling Theory // J. Morlet, G. Arens, I. Fourgeau, D. Giard. Geophysics, 1982. - vol. 47. - pp. 203-236.

82. Norgun, Erdol. Use of the wavelet transform in optimal receiver design / Er-dol Norgun, Basbug Filiz. // Applied Optics. 1994. - vol.33. - №23. -pp. 5303-5307.

83. Ososkov, G. Gaussian Wavelet Features and their Applications for Analysis of Discretized Signals. / G. Ososkov, F. Shitov. — Computer Physics Communications, 2000. vol. 126. - pp. 149-157.

84. Pen, W. Application of Wavelets to Filtering of Noisy Data. / W. Pen. In Wavelets: the Key to Intermittent Information? — Oxford University Press, 2000.

85. Rauch, H.E. Neural networks for Routing Communication Traffic / H.E. Rauch, T. Winarske // IEEE Control Syst. Mag., 1988. vol.8. - pp. 26-31.

86. Rosenblatt, F. Principles of neurodynamics. / F. Rosenblatt. New York: Spartan Books. 1962. (Русский перевод: Розенблатт Ф. Принципы нейродина-мики. М.: Мир, 1965.)

87. Sankar, К. Fuzzy Sets, and Classification. / К. Sankar, Mitra Sushmita, Per-ceptron Multilayer // IEEE Transactions on Neural Networks, 1992. -vol.3. -№5.-pp. 683-696.

88. Stepanov, O.A. Optimal Estimation by Using Neural Networks. / O.A. Stepanov, O.S. Amosov. Proceeding of the 16-th IFAC World Congress, Prague, Czech Republic July 3-8, 2005. 6 p.

89. Stotva, S. A fuzzy back propagation algorithm. / S. Stotva, A. Nikov // Fuzzy sets and systems, 112(2000) pp. 27-39.

90. Sugeno, M. Fuzzy measures and fuzzy integrals: a survey. / M. Sugeno. (in M.M. Gupta, G.N. Saridis, and B.R. Gaines, editors) Fuzzy Automata and Decision Processes, North-Holland, New York, 1977. pp. 89-102,

91. Sweldens, W. Wavelets and the lifting scheme: A 5 minute tour. / W. Sweldens. Zeitschrift fiir Angewandte Mathematik und Mechanik, (Suppl. 2), 1996. - vol. 76. - pp. 4H4.

92. Sweldens, W. Building your own Wavelets at Home (in Wavelets in Computer Graphics). / W. Sweldens, P. Schroder. ACM SIG-GRAPH Course Notes, 1996, pp. 15-87.

93. Sweldens, W. Factoring Wavelet Transforms into Lifting Steps. / W. Sweldens, I. Daubechies. Fourier Anal. Appl., 1998. - vol. 4. - №. 3. -pp. 247-269.

94. Sweldens, W. Wavelet Sampling Techniques. / W. Sweldens, R. Pissens -Proceedings of the Statistical Computing Section, American Statistical Association, 1993. pp. 20-29.

95. Sweldens, W. Wavelets: What Next? / W. Sweldens. Proceedings of the IEEE, 1996. - vol. 84. - № 4. - pp. 680-685.

96. Szu, H. H. Neural network adaptive wavelets for signal representatin and classification / H. H. Szu, B.A. Telfer, S. Kadambe. // Optical Engineering. -1992. 31. - № 9. - pp. 1907-1916.

97. Takagi, T. Fuzzy identification of systems and its applications to modeling and control. / T. Takagi, M. Sugeno. IEEE Transactions on Systems, Man, and Cybernetics, 1985. - vol. 15. - № 1. - pp. 116-132.

98. Turiel, A. Multifractal Wavelet Filter of Natural Images. / A. Turiel, N. Parga. Physical Review Letters, 2000. - vol. 85. - pp. 3325-3328.

99. Vetterli, Martin. Wavelets and Subband Coding. / Martin Vetterli, Jelena Kovacevic. // Prentice Hall, New Jersey, 1995, 430 p.

100. Zadeh, L.A. Fuzzy logic. / L.A. Zadeh. IEEE Transactions on Computers, 1988. -vol. 21. - № 4. - pp. 83-93.

101. Zadeh, L.A. The concept of a linguistic variable and its application to approximate reasoning. / L.A. Zadeh. Information Sciences, 1975. - vol. 8 — pp. 43-80.

102. Zadeh, L.A. Fuzzy sets. / L.A. Zadeh. Information and Control, 1965. -vol. 8.-pp. 338-353.

103. Zhang, Q. Wavelet networks / Q. Zhang, A. Benveniste. // IEEE Trans, on Neural Networks. 1992. - 3. - pp. 889-898.118. www.magdm.narod.ru интернет-сайт Магола Д.С.

104. Использование результатов диссертационной работы Д.С. Магола в учебном процессе позволяет улучшить качество подготовки специалистов, повысить уровень знаний по указанным курсам.124