Алгоритмы генетического программирования для формирования интеллектуальных информационных технологий тема диссертации и автореферата по ВАК РФ 05.13.01, кандидат технических наук Липинский, Леонид Витальевич

• Липинский, Леонид Витальевич
• кандидат технических наук
• 2006

Оглавление диссертации кандидат технических наук Липинский, Леонид Витальевич

Введение.

Глава 1. Нейросетевые технологии.

1.1. Нейросетевые технологии и методы работы с ними.

1.2. Генетический алгоритм.

1.3. Метод генетического программирования.

1.4. Автоматическое формирование нейронной сети.

1.5. Проверка работоспособности на тестовых задачах.

Выводы.

Глава 2. Интеллектуальные системы на нечеткой логике.

2.1. Нечеткая логика и системы на нечеткой логике.

2.2. Автоматизированное формирование базы нечетких правил.

2.3. Настройка семантики лингвистических переменных.

2.4. Тестовая задача построения нечеткого контроллера.

2.5. Формирование базы правил методом генетического программирования.

2.6. Проверка работоспособности на тестовых задачах.

Выводы.

Глава 3. Практическая реализация.

3.1. Комплексная процедура использования эволюционных алгоритмов, автоматически формирующих нечеткие системы управления и нейронные сети.

3.2. Программная система, автоматически генерирующая нейросетевые модели.

3.3. Программная система, автоматически генерирующая нечеткие логические системы.

3.4. Практическая реализация.

Выводы.

Введение диссертации (часть автореферата) на тему «Алгоритмы генетического программирования для формирования интеллектуальных информационных технологий»

Интеллектуальные информационные технологии (ИИТ) широко и успешно используются для решения различных практических задач. В принципе, можно уже говорить о массовом характере их внедрения. Однако в большинстве конкретных случаев реализация ИИТ является, как правило, трудоемким процессом, требующим больших временных затрат и материальных вложений. Каждый раз исследователь, решивший использовать для решения той или иной задачи технологии искусственных нейронных сетей, сталкивается с вопросом об архитектуре нейронной сети. В отличие от настройки весовых коэффициентов, данный вопрос не так широко освещен в литературе. В большинстве случаев основной метод подбора структуры - метод проб и ошибок, который не может гарантировать оптимального решения. Недостаточная сложность архитектуры нейронной сети ведет к недопустимой ошибке и лишает сеть свойства обобщения. Избыточная сложность архитектуры ведет к увеличению скорости срабатывания и аппроксимации шума, что также лишает сеть свойства обобщения. Все это приводит к необходимости создания эффективного метода автоматизированного формирования нейронных сетей, который мог бы повысить обоснованность и снизить трудоемкость нейросетевого моделирования сложных систем.

Проектирование ИИТ другого типа - систем на нечеткой логике -тоже является сложным творческим процессом, требующим значительных затрат, что существенно сужает круг пользователей и разработчиков, которые могут себе это позволить. Инженеру по знаниям необходимо извлечь знания из эксперта, представить их в виде формальной модели, состоящей из двух основных частей: базы нечетких правил и набора лингвистических переменных. Большинство методик извлечения знаний являются слабо формализованными, что существенно сказывается на стоимости и времени разработки. Одной из основных проблем существующих на этапе извлечения является наличие так называемых «скрытых» знаний эксперта, т.е. тех знаний, которыми эксперт пользуется не осознанно. Инженеру по знаниям необходимо выявить такие знания и формализовать их в виде некоторой модели. В свою очередь, эксперт должен предоставлять свои знания с учетом особенностей используемых информационных технологий. Таким образом, взаимодействие инженера по знаниям и эксперта превращается во взаимное обучение, на которое и уходит основное время разработки системы. Однако во многих случаях, когда имеются готовые базы данных предметной области, можно было бы избежать значительных временных затрат на разработку рабочих прототипов систем на нечеткой логике.

В этой связи для действительно массового использования ИИТ при решении практических задач разработка алгоритмического обеспечения для автоматизации моделирования сложных систем интеллектуальными информационными технологиями является актуальной научной проблемой.

Целью данной диссертационной работы является повышение эффективности и обоснованности принятия решений при автоматизированном формировании интеллектуальных информационных технологий.

Для достижения поставленной цели необходимо решить следующие задачи:

1. Проанализировать методы формирования интеллектуальных информационных технологий. Выявить их достоинства и недостатки.

2. Разработать подход, позволяющий автоматически проектировать нейронные сети (подбор структуры, активационных функций, весовых коэффициентов).

3. Разработать подход, автоматически проектирующий базу правил систем на нечеткой логике.

4. Разработать подход, автоматически настраивающий семантику лингвистических переменных в системах на нечеткой логике.

5. Выполнить программную реализацию разработанных методов и проверить их работоспособность на тестовых задачах.

6. Разработать процедуру совместного использования обоих подходов в рамках решения конкретной практической задачи.

7. Проверить работоспособность разработанных подходов и программных систем на реальных практических задачах.

Методы исследования. Результаты проведенных и представленных в данной работе исследований получены с использованием методов системного анализа, теории информации, теории оптимизации, нейросетевого моделирования, теории нечетких множеств и нечеткой логики.

Научная новизна работы состоит в следующем:

1. Разработан новый эволюционный алгоритм, автоматически формирующий нейросетевые модели и отличающийся от известных универсальностью подхода к выбору структур нейронных сетей.

2. Разработан новый эволюционный алгоритм, автоматически формирующий нечеткие системы управления и отличающийся комплексностью подхода, позволяющего формировать базы правил и лингвистические переменные одновременно.

3. Разработана интегрированная процедура совместного использования эволюционных алгоритмов, автоматически формирующих нечеткие системы управления и нейронные сети, позволяющая осуществлять комплексное моделирование сложных систем интеллектуальными информационными технологиями.

Практическая ценность. Разработаны формальные методики, позволяющие автоматически проектировать интеллектуальные информационные технологии. Разработанные программные системы позволяют пользователю, не обладающему профессиональными знаниями в области ИИТ и эволюционного моделирования, получать решения для конкретных практических задач. Решены реальные практические задачи из области техники и медицины. Программные системы, разработанные в ходе выполнения работы, используются в качестве лабораторных установок для обучения студентов Сибирского государственного аэрокосмического университета по дисциплинам «Интеллектуальные технологии и принятие решения» и «Интеллектуальный анализ данных», студентов Красноярского государственного университета по дисциплинам «Эволюционные алгоритмы моделирования и оптимизации» и «Интеллектуальные технологии анализа данных».

Работа выполнена в рамках ФЦНТП «Исследования и разработки по приоритетным направлениям развития науки и техники на 2002-2006 годы» по теме 2006-РИ-16.0/001/076 (государственный контракт № 02.438.11.7043) и 2006-РИ-19.0/001/377 (государственный контракт № 02.442.11.7337), в рамках НИР 4422 «Разработка и исследование эффективности гибридных методов оптимизации алгоритмически заданных функций дискретных переменных», выполняемой по ведомственной научной программе «Развитие научного потенциала высшей школы», а также по темплану СибГАУ «Бионические методы идентификации и оптимизации сложных систем» (№ Б 1.1.05).

Реализация результатов работы. Разработанные программные системы эволюционного формирования нейросетевых моделей сложных систем и эволюционного формирования интеллектуальных систем на нечеткой логике, а также программная система поддержки принятия решений при комплексной диагностике послеоперационной когнитивной дисфункции зарегистрированы в отраслевом фонде алгоритмов и программ, что делает их доступными для широкого круга пользователей. Первые две программные системы использованы при решении реальных технических задач прогнозирования деградации солнечных электрических батарей космических аппаратов (результаты решения задачи переданы НПО прикладной механики (г. Железногорск) в составе отчета по государственному контракту 02.438.11.7043) и моделирования работы малогабаритной электростанции на водородных топливных элементах (fuel cell). Вторая задача решалась в рамках совместного проекта СибГАУ и Ульмской специальной высшей школы (Fachhochschule Ulm, Германия). Результаты решения получили высокую оценку немецких специалистов, что подтверждено соответствующими документами. Кроме того, все три программы прошли апробацию при решении реальных задач медицинской диагностики и переданы для эксплуатации при проведении клинических исследований Институту последипломного образования ГОУ ВПО «Красноярская государственная медицинская академия» Федерального агентства по здравоохранению и социальному развитию, что подтверждено актом о передаче и использовании.

Апробация. Разрабатываемые подходы и результаты исследований докладывались и обсуждались на следующих конференциях: X Национальная конференция по искусственному интеллекту с международным участием (КИИ-2006); Международная научно-практическая конференция: «Исследование, разработка и применение высоких технологий в промышленности», Санкт-Петербург, 2006г.; Всероссийская научная конференция «Решетневские чтения», Красноярск, 2003-2006; Межрегиональный научный фестиваль «Молодежь и наука - третье тысячелетие», Красноярск, 2004 г; Региональная конференция "Молодежь и наука - третье тысячелетие", Красноярск, 2006; VIII Международная научно-практическая конференция, Тамбов 2004; Пятая международная конференция молодых ученых, Самара, 2004; Всероссийская научная конференция молодых ученых «Наука. Технологии. Инновации, Новосибирск», 2003.

Основные защищаемые положения.

1. Разработанный модифицированный эволюционный алгоритм формирования нейросетей позволяет автоматически проектировать нейронные сети и выявлять входы, слабо влияющие на выходы.

2. Разработанный модифицированный эволюционный алгоритм проектирования систем на нечеткой логике позволяет автоматически формировать базы правил таких систем и получать обобщенные правила, понятные конечному пользователю.

3. Разработанная процедура совместного использования эволюционных алгоритмов, автоматически формирующих нечеткие системы управления и нейронные сети, позволяет комплексно решать задачу проектирования интеллектуальных информационных технологий для моделирования сложных систем.

Публикации. По теме диссертационного исследования опубликовано 22 работы, среди которых 8 статей, в том числе три в изданиях из Перечня ВАК.

Структура и объем работы. Работа состоит из введения, трех глав, заключения, списка литературы и приложений. к

Заключение диссертации по теме «Системный анализ, управление и обработка информации (по отраслям)», Липинский, Леонид Витальевич

ОСНОВНЫЕ РЕЗУЛЬТАТЫ И ВЫВОДЫ

В диссертационной работе получены следующие результаты:

1. Разработан алгоритм генетического программирования, позволяющий автоматически формировать нейронные сети (подбирать структуру, активационные функции нейронов, настраивать коэффициенты).

2. Разработан алгоритм генетического программирования, автоматически формирующий базу правил для систем на нечеткой логике.

3. Разработан гибридный эволюционный алгоритм, автоматически настраивающий семантику лингвистических переменных для систем на нечеткой логике.

4. Разработана интегральная процедура совместного использования эволюционных алгоритмов, автоматически формирующих нечеткие системы и нейронные сети, позволяющая комплексно решать задачу интеллектуального анализа данных при моделировании сложных систем.

5. Разработаны, апробированы и внедрены две программные системы, реализующие предложенные алгоритмы.

6. С помощью разработанных программных систем решен целый комплекс реальных практических задач моделирования технических систем и медицинской диагностики.

7. Разработана специальная система поддержки принятия решений врача при тестировании, диагностировании и назначении лечения послеоперационной когнитивной дисфункции, использующая разработанный подход к автоматическому проектированию интеллектуальных информационных технологий.

Таким образом, в данной работе предложено решение задачи автоматизации проектирования интеллектуальных информационных технологий, что имеет существенное значение для теории и практики интеллектуального анализа данных.

Заключение

Список литературы диссертационного исследования кандидат технических наук Липинский, Леонид Витальевич, 2006 год

1. Абидова С.С. Влияние анестезии пропофолом на содержание продуктов перекисного окисления липидов в сыворотке крови / С.С. Абидова, И.В. Овчинников, J1.A. Назырова, Э.А. Иванчина // Анестезиол. и реаниматол. 2003. - № 2. - С. 22 - 24.

2. Абрамченко В.В. Медикаментозная регуляция посленаркозной депрессии сознания при использовании мононаркоза кетамином / В.В. Абрамченко, В.Н. Моисеев, A.J1. Костюченко // Воен. мед. журн. - 1984. -№ 11.-С. 24-26.

3. Акопян A.M. Генетические алгоритмы для решения задачи глобальной оптимизации. URL: http://www.cp.ni i f.spb.su/inpe/4/gaover/gaover.htm

4. Алуха X., Введение теории нечетких множеств в управление предприятием. / X Алуха., А. Кофман // Минск: Высшая школа, 1992 г. 223 с.

5. Архангельский А.Я. Программирование в C++Builder 6. М.: «Издательство БИНОМ», 2003 г. - 1152 е.: ил.

6. Архангельский А.Я. C++Builder 6. Справочное пособие. Книга 1. Язык С++. М.: Бином-Пресс, 2002. - 544 е.: ил.

7. Архангельский А.Я. C++Builder 6. Справочное пособие. Книга 2. Язык С++. М.: Бином-Пресс, 2002. - 544 е.: ил.

8. Асаи К, Прикладные нечеткие системы: Пер. с япон. / К. Асаи, Д. Ватада, С. Иваи // М.: Мир, 1993. 368 е., ил.

9. Батищев Д. И. Генетические алгоритмы решения экстремальных задач / Под ред. Львовича Я.Е.: Учеб. пособие. Воронеж, 1995.

10. Березин Б.И., Березин С.Б. Начальный курс С и С++. М.: ДИАЛОГ-МИФИ, 1996.-288 с.

11. Бурт А.Ю. Молекулярные механизмы наркотического действия общих анестетиков / А.Ю. Бурт // Анестезиол. и реаниматол. 1982. - №4. -С. 71 -77.

12. Васильев B.B. Мониторинг амнестического компонента общей анестезии у детей. Автореф. дисс. .канд. мед. наук / В.В. Васильев -Ростов на - Дону, 2001. - 22 с.

13. Вдовенко В.В. Язык С.: Учеб. Пособие / В.В. Вдовенко; СибГАУ. -Красноярск, 2002. 252 с.

14. Вороновский Г.К. Генетические алгоритмы, искусственные нейронные сети и проблемы виртуальной реальности / Г.К. Вороновский, К.В. Махотило, С.Н. Петрашев, С.А. Сергеев. X.: ОСНОВА, 1997. - 112 с.

15. Гаврилова Т.А., Хорошевский В.Ф. Базы знаний интеллектуальных систем. «Питер», 2001. 384 с.

16. Горбань А.Н. Нейронные сети на персональном компьютере / Горбань А.Н., Россиев Д.А. Новосибирск: Наука, 1996. - 276 С.

17. Женило В.М. Центральные механизмы общего обезболивания / В.М. Женило // Тезисы докладов II Российской конференции по изучению боли.-СПб., 1995.-С. 287-288.

18. Заенцев И.В. Нейронные сети: основные модели. Воронеж 1999 г. 76 стр.

19. Исаев С.А. Популярно о генетических алгоритмах. URL: http://saisa.chat.ru/ga/ga-pop.htiril#top

20. Киселев В.В. Обучение в системах нечеткого управления. / Математические структуры и моделирование, вып.6, 2000. с.78-90.

21. Кириллин В.А. Энергетика. Главные проблемы / В.А. Кириллин. -М.: Знание, 1990.-120 с.

22. Короткий С., Нейронные сети: алгоритм обратного распространения. http://www.neurok.ru

23. Короткий С. Нейронные сети: основные положения. http://www.neurok.ru

24. Круглов В.В., Дли М.И., Голунов Р.Ю. Нечеткая логика и искусственные нейронные сети: Учеб. Пособие. М.Издательство Физико-математической литературы, 2001 г - 224с.

25. Кьоу Дж., Джеанини М. Объектно-ориентированное программирование: Учебный курс. Издательство: Питер, 2005-237 с.

26. Леоненков A.B. Нечеткое моделирование в среде MATLAB иfuzzy TECH. СПб.: БХВ-Петербург, 2003. - 736 с.:ил.

27. Липинский Л.В. Подходы к формированию базы правил для нечетких систем управления. / Л.В. Липинский, В.А. Малько // Вестник Сибирского государственного аэрокосмического университета имени академика М.Ф. Решетнева. Вып. 5. - Красноярск, 2004. - с 83-90.

28. Липинский Л.В., Малько В.А., Семенкин Е.С. Интеллектуальные технологии автоматизации проектирования системы управления на нечеткой логике. М.: ВНТИУ, 2006. - №ЕСПД .03524577.01348-01

29. Липинский Л.В., Семенкин Е.С. Система эволюционного t формирования нейросетевых моделей сложных систем. М.: ВНТИЦ,2006. Код ЕСПД .03524577.01719-01.

30. Ляшков В.И., Кузьмин С.Н. Нетрадиционные и возобновляемые источники энергии: Учебное пособие. Тамбов: Изд-во Тамб. гос. техн. ун-та, 2003. - 96 с.

31. Малько В.А. Автоматизация процесса формирования нечеткого логического контроллера. Красноярск: КФ МЭСИ, 2005, - с. 89-94

32. Мейерс Г. Искусство тестирования программ / Пер. с англ. Под ред. Б.А. Позина. М.: Финансы и статистика, 1982 - 176 с.

33. Миркес Е.М. Нейрокомпьютер, проект стандарта. // "Наука". Новосибирск. 1999.337 с.

34. Оссовский С. Нейронные сети для обработки информации. / Пер. с польского И.Д. Рудинского.-М.: Финансы и статистика, 2002.-344 с.

35. Растригин Л.А. Бинаризация задач оптимизации решений в САПР. -В кн.: Моделирование и оптимизация решений в САПР. Таллин, 1983, ч.2.

36. Растригин Jl.А. Случайный поиск. М.: Знание, 1979.

37. Редько В. Прикладное эволюционное моделирование. Генетический алгоритм. Оценка эффективности генетического алгоритма. URL:http://ww\v.keldysh.ru/BioCvber/Lecture 10.html

38. Семенкин Е.С., Семенкина О.Э., Терсков В.А. Методы оптимизации в управлении сложными системами / Учебное пособие. Красноярск: СибЮИ МВД РФ, 2000. - 254 с.

39. Семенкин Е.С. Системы управления на нечеткой логике.

40. Сергеев С.А. Генетические алгоритмы в синтезе прямонаправленных нейронных сетей. / С.А. Сергеев, К.В. Махотило // Труды XIII межд. Конф. «Новые информационные технологии в науке, образовании и бизнесе». Украина, Крым, Ялта Гурзуф, 1996. сс. 338-342

41. Стариков A. BaseGroup Labs. Генетические алгоритмы-математический аппарат. URL: http://www.basegroup.ru/genetic/math.htrn

42. Степанов М.Ф., Степанова Т.В. Планирующие искусственные нейронные сети для решения задач теории автоматического управления // Труды четвертого международного симпозиума «Интеллектуальные системы». Москва. 2000. Сс. 191-193.

43. Теплоэнергетика и теплотехника: Справочник. Кн. 2: Теоретические основы теплотехники. Теп-лофизический эксперимент. М.: МЭИ, 2001. -564 с.

44. Терано Т. Введение в системотехнику вызов нечетким проблемам. -Токио: Керицу сюпан, 1985 г.

45. Турский В. Методология программирования. / Пер. с англ. Под ред. и с предисл. А.П.Ершова. -М.: Мир, 1981.-264 с.

46. Уоссермен Ф. Нейрокомпьютерная техника. / Теория и практика. -М.: Мир, 1984.

47. Уэно X. Введение в инженерию знаний. Токио: Омск, 1985 г

48. Ф.И. Перегудов, Ф.П. Тарасенко. Введение в системный анализ. М. Высшая школа., 1989. 367 с.

49. Хант Э. Искусственный интеллект. М.: Мир, 1978. - 558с.

50. Холингвэрт, Джарод, Баттерфилд, Ден, Сворт, Боб и др. С++ Builder 5. Руководство разработчика, том 1. Основы: Пер. с англ.: Уч. Пос. М.: Издательский дом «Вильяме», 2001. - 880 е.: ил.

51. Шамис В.А. С++ Builder 5. Техника визуального программирования. -М.: «Нолидж», 1998.-512 с.

52. Шилдт Г. Теория и практика С++. СПб: BHV - Санкт-Петербург, 1996.-416.

53. Шитиков И.И. Практические шаги в решении проблемы безопасности больного во время анестезиологического пособия / И.И. Шитиков // Анестезиол. и реаниматол. 1995. - № 2. - С. 70 - 80.

54. Шнайдер H.A., Салмина А.Б. Неврологические осложнения общей анестезии. Красноярск: Изд-во КрасГМА, 2004. - 383 с.

55. Шнайдер H.A., Шпрах В.В, Салмина А.Б. Постоперационнаякогнитивная дисфункция (диагностика, профилактика, лечение). -Красноярск: ООО «Новые компьютерные технологии», 2005. 95 с.

56. Яноши JI. Теория и практика обработки результатов измерений. -М.: Мир, 1968.-462 с.

57. Adewuya, A. A. New methods in genetic search with real-valued chromosomes. Master's thesis. Massachusetts Institute of Technology, Cambridge. 1996.

58. Aleksandr I. Morton H. An Introduction to Neural Computing London, U.K.: Chapman & Hall, 1990

59. Anderson D., McNeill G. Artificial neural networks technology. DACS report 1992 87 p.

60. Banzhaf W., Francone F. D., Nordin P. «The Effect of Extensive Use of the Mutation Operator on Generalization in Genetic Programming» Department of Computer Science, Dortmund University, Germany

61. Bartlett, P. and Downs, T. Training a neural network with a genetic algorithm. Technical Report, Dept. of Electrical Engineering., University of Queensland. 1990.

62. Booker, L. Improving search in genetic algorithms. In L. Genetic lgorithms and Simulated Annealing. London: Pitman, 1987. p. 61-73.

63. Chen D., Jain C. A robust back propagation learning algorithms for function approximation // IEEE Trans. Neural Networks, 1994. Vol.5. - Pp 467-479.

64. De Jong K. A. Genetic Algorithms: A 10 Year Perspective //In: Procs of the First Int. Conf. on Genetic Algorithms, 1985. —pp.167—177.

65. F. D. Sisler, 'Biochemical Fuel Cells', in "Progress in Industrial Microbiology", D. J. D. Hockenhull (Ed), J. & A. Churchill, London, Vol. 9, pp. 1-11 (1971)

66. Freeman J., Skapura D. Neural Networks. Algorithms, Applications, and Programming Techniques. Houston. University of Houston at Clear Lake. Addison-Wesley Publishing Company. 1991, Pp. 89-125.

67. F. Specht, Polynomial Neural Networks, Neural Networks, Vol.3. No. 1 pp. 1990. pp. 109-118.

68. Girosi F., Jones M., Poggio T. Regularization theory and neural network architecture // Neural Computation, 1995. Vol. 7. - Pp 219-270

69. Goldberg, D. E., A comparative analysis of selection schemes used in genetic algorithms. / D. E. Goldberg, Deb K.// In Foundations of Genetic Algorithms. San Mateo, CA:Morgan Kaufmann, 1991. pp. 69-93.

70. Goldberg D.E. Genetic algorithms in search, optimization and machine learning. / Reading, MA: Addison-Wesley, 1989.

71. Haupt R.L., Haupt S.E. Practical Genetic Algorithms / R.L. Haupt, S.E Haupt // 2ed., Wiley, 2004. 261s

72. Hopfield J. Tank D. Neural computations of decisions in optimization problems // Biological Cybernetics, 1985. Vol. 52. - Ppl41-152.76. http://www.genetic-programming.com

73. Janikow, C. Z. Genetic algorithms simulating nature's methods of• evolving the best design solution. / C. Z. Janikow, D. St. Clair // IEEE Potentials 14 1995 pp. 31-35.

74. J. Park and I. W. Sandberg, Approximation and Radial-Basis-Function Networks, Neural Computation, Vol 5. No. 2. 1993. pp. 305-316.

75. K. S. Narendra and K. Pathasarathy, Identification and Control of Dynamical Systems Using Neural Networks, IEEE Trans. Neural Networks, Vol. 1. 1990. pp.

76. Koza John R. «Genetic programming tutorial» URL: http.V/www.genetic-programming.com/gpaniinatedtutorial.html

77. Koza John R. «Genetic Programming: On Programming Computer by Means of Natural Selection and Genetics» Cambridge, MA: The MIT Press, 1992

78. Koza John R. «The Genetic Programming Paradigm: Genetically Breeding Populations of Computer Programs to Solve Problems» Cambridge, MA: MIT Press, 1992

79. Koza J.R. Genetic programming. The MIT Press Cambridge, Massachusetts London, England, 1998. 609s

80. Koza John R. «Hierarchical genetic algorithms operating on populations of computer programs» Proceedings of the 11th International Joint Conference on Artificial Intelligence. San Mateo: Morgan Kaufman, 1989

81. Lex P. and Jonshagen B. (1999) "The zinc/bromine battery system for utility and remote area applications", Power Engineering Journal, 13(3), 142— 148.

82. M. H. Hassoun, Fundamentals of Artificial Neural Networks, MIT Press, Cambridge, MA. 1995.

83. Poli Riccardo «Exact Schema Theory for Genetic Programming and Variable-Length Genetic Algorithms with One-Point Crossover». Genetic Programming and Evolvable Machines, 2, 2001.

84. Price A., Bartley S., Male S., and Cooley G. (1999) "A novel approach to utility scale energy storage", Power Engineering Journal, 13(3), 122-129.

85. Takagi T., Sugeno M. Fuzzy identification of system and its application to modeling and control // IEEE Trans. SMC, 1985. Pp. 116-132.

86. Verbruggen H.B., Babuska R. Constructing fuzzy models by product space clustering // Fuzzy model identification / Eds. H. Helendorm, D. Driankov. Berlin: Springer, 1998. Pp 53-90

87. Wright,A. Genetic algorithms for real parameter optimization. Foundations of Genetic Algorithms. San Mateo, CA: Morgan Kaufmann, 1991. pp. 205-218.

88. Yuceer C., Oflazer K. A rotation, scaling and translation invariant pattern classification system // Pattern Recognition., 1993. Vol. 26. Pp 687-710

89. Zadeh L.A. Fuzzy sets // Information and control, 1965. Pp 338-353