Разработка математической модели "состав-свойства" технологического процесса варки оптического стекла тема диссертации и автореферата по ВАК РФ 05.13.18, кандидат технических наук Родькин, Сергей Владимирович

• Родькин, Сергей Владимирович
• кандидат технических наук
• 2003

Оглавление диссертации кандидат технических наук Родькин, Сергей Владимирович

Введение.

Глава I Многокомпонентные системы - описание и методы моделирования.

1.1. Физико-химическая теория многокомпонентных природных и техногенных систем.

1.2 Методы математического моделирования многокомпонентных систем.

1.3 Моделирование свойств свинецсодержащих и безсвинцовых стекол, как пример плохо формализованной многокомпонентной системы.

1.3.1 Общие замечания.

1.3.2 Промышленное производство свинецсодержащего и безсвинцово-го стекол.

1.3.3 Анализ системы «состав-свойства» при варке бариево-литиевого стекла.

1.4 Выводы по главе I.

Глава II Применение искусственных нейронных сетей при моделировании многокомпонентных систем.

2.1. Анализ и выбор нейронной сети для решения задачи моделирования системы «состав—свойства» при варке бариево-литиевого стекла.

2.1.1 Структуры нейронных сетей.

2.1.2 Модели нейронных сетей.

2.1.2.1 Модель Маккалоха.

2.1.2.2 Модель Розенблата.

2.1.2.3 Модель Хопфилда.

2.1.2.4 Модель сети с обратным распространением.

2.1.3 Способы реализации нейронных сетей.

2.1.4 Выбор модели нейронной сети для решения задачи моделирования системы «состав-свойства» при варке бариево-литиевого стекла.

2.3. Выводы по главе II.

Глава III Описание программного комплекса для моделирования многокомпонентных систем.

3.1 Структура программного комплекса.

3.2. Особенности организации данных.

3.2.1. Особенности организации входных данных.

3.2.2. Преобразование входных данных программного комплекса. к' 3.3. Описание программы BPNN и её модификаций.

3.3.1. Загрузка данных для моделирования.

3.3.2. Установка параметров нейронной сети.

3.3.3. Обучение нейронной сети.

3.3.4. Особенности реализации алгоритмов обучения нейронных сетей.

3.3.5. Просмотр результатов, и сохранение последних во внешнем файле.

3.4. Получение графиков изменения среднеквадратических ошибок с использованием электронных таблиц Microsoft Excel.

3.5. Получение таблиц результатов экспериментов с использованием текстового процессора Microsoft Word.

3.6. Получение ЗЭ-моделей и их проекций на координатные плоскости с + использованием программы 3D Grapher.

3.7. Практическая ценность программного комплекса.

3.8. Выводы по главе III.

Глава IV. Моделирование многокомпонентных систем с использованием нейронных сетей с алгоритмом обратного распространения ошибки.

4.1. Общий подход к моделированию многокомпонентных систем с использованием нейронных сетей с алгоритмом обратного распространения ошибки.

4.2. Описание экспериментов.

4.3. Анализ полученных практических данных.

4.3.1. Анализ работы модифицированного алгоритма обратного распространения ошибки.

4.3.2. Анализ работы модифицированного алгоритма обратного распро-* странения ошибки при моделировании обратных данных.

Введение диссертации (часть автореферата) на тему «Разработка математической модели "состав-свойства" технологического процесса варки оптического стекла»

Актуальность темы. В последнее время все большее внимание уделяется применению автоматизированных систем обработки данных в реальном производстве[1-9]. Это связано прежде всего с тем, что современные технологические процессы требуют значительных материальных и временных затрат. Большое количество различных производств практически не мыслимо без предварительного создания моделей технологических процессов.

Примером такого производства может служить варка стекла. Помимо большой конкуренции, сложившейся в данной области, существуют и другие проблемы, связанные, прежде всего, с неудовлетворительной проработкой технологии производства.

Не достаточно точно подобранные параметры технологического процесса, такие как состав шихты, температура и давление варки стекла, приводят к тому, что тонны не удовлетворяющего по выходным параметрам стекла подвергаются переплавке. Это в свою очередь приводит к простою оборудования и огромным убыткам. Кроме того, встречаются ситуации, когда неправильные параметры приводят к выходу из строя печи, что требует её перестройки и, следовательно, влечет за собой многомиллионные потери.

При решении этих проблем до последнего времени использовался, в основном, профессиональный опыт, накопленный специалистами. Очевидно, что данная практика губительна для производства. Поэтому единственным выходом из сложившейся ситуации может, по нашему мнению, стать внедрение на начальных этапах технологических процессов программных комплексов, позволяющих заранее смоделировать, «предугадать», «предсказать» ситуацию, которая может сложиться. Эти предсказания должны основываться на ранее полученных данных и обладать точностью, гибкостью настройки, наличием обратных связей. к Существующие пакеты обработки статистических данных не удовлетворяют конечного потребителя, во-первых, по стоимости затрат на внедрение, во-вторых, по сложности обучения персонала работе с этими пакетами.

Следовательно, для реального производства необходимо создание программного продукта, удовлетворяющего предъявляемым требованиям качества, быстрого в освоении, позволяющего в кратчайшие сроки получать графические и иные представления технологических процессов.

При анализе статистических данных, полученных в результате некоторых производственных процессов, до недавнего времени использовались модели, основанные на построении и дальнейшем решении уравнений регрессии. У этого подхода есть ряд недостатков, отметим лишь два наиболее существенных: во-первых, регрессионный анализ не учитывает возможную неточность, неадекватность, ошибочность исходных данных, во-вторых, реально построенные модели линейны, создание же нелинейных моделей, которые, естественно, более точно представляют реальную физическую картину, приводит к такому усложнению уравнения регрессии и дальнейших методов его решения, что это становится невыгодным.

Наряду со стандартными подходами при анализе статистических данных все чаще применяются нейронные сети. Особенностью нейросете-вых технологий является, во-первых, возможность работы с плохо заданными, неточными данными, во-вторых, нелинейность моделей, позволяющая выиграть в качестве и во времени по сравнению со стандартными методами.

Кроме того, применение моделей нейронных сетей для решения различных задач является приоритетным направлением в связи с переходом компьютеров пятого поколения к новой архитектуре, основанной на элементах интеллектуального поведения систем обработки данных и устройств.

Неоспоримые преимущества нейросетевых алгоритмов перед стан tr дартными и переход к компьютерам пятого поколения определяют актуальность темы диссертационной работы.

Цель исследования. Целью работы является разработка математических моделей многокомпонентных систем на базе нейронных сетей.

К числу подобных систем относится моделирование зависимости «состав-свойства» при варке бариево-литиевого стекла для ОАО «Лисма», г. Саранск.

Для достижения поставленной цели выделяются три основные задачи.

Решение первой задачи предусматривает анализ нейронных сетей с различными модификациями в алгоритмах обучения, а так же выбор наи-^ более подходящего алгоритма.

Решение второй задачи включает в себя написание компонента в среде программирования Delpi 7.0, реализующего выбранный при решении первой задачи алгоритм обучения, а также последующее написание программного продукта для анализа многокомпонентных систем.

Наконец третья задача включает в себя несколько этапов, связанных с обучением полученных нейронных сетей на конкретных экспериментальных данных, и анализом полученных результатов. Составными задачами работы являются:

1. Теоретический анализ современного состояния в области применения нейросетевых технологий и обоснование основных задач исследований диссертационной работы.

2. Анализ набора обучающих выборок - данных экспериментальных варок бариево-литиевого стекла для ОАО «Лисма», г. Саранск.

3.Создание математической модели нейронной сети. Создание программного продукта, реализующего алгоритм выбранной нейронной сети.

4. Установление (с помощью созданного программного продукта) аналитических зависимостей между процентным содержанием компонентов шихты и основными параметрами полученных стекол.

5. Сравнительный анализ эффективности новых способов моделирования.

Научная новизна работы. Для существующей проблемы предложен алгоритм, отвечающий требованиям перехода к компьютерам пятого поколения.

Впервые нейросетевые технологии с применением алгоритма обратного распространения ошибки реализованы для решения круга задач в области моделирования многокомпонентных технологических систем.

Создан невизуальный компонент в среде Delphi 7.0, реализующий алгоритм обратного распространения ошибки для нейронных сетей, а также программный комплекс с интуитивно понятным и «дружественным» интерфейсом для анализа результатов экспериментальных варок бариево-литиевого стекла, построения моделей и получения конечных результатов моделирования в виде графиков изменения среднеквадратических ошибок и трехмерных графиков обратных зависимостей.

На основе программного комплекса создан АРМ технолога для поддержки производства стекла с заданными свойствами из шихты, содержащей произвольные процентные содержания компонентов. Даны рекомендации по производству бариево-литиевого стекла на ОАО «Лисма», г. Саранск.

Практическая значимость результатов исследований.

1. Разработанная математическая модель адекватно отражает зависимость «состав - свойства» для бариево-литиевого стекла. Можно получить обратные зависимости «свойства — состав» для любых компонентов модели. Это позволяет технологу, не прибегая к осуществлению дополнительных дорогостоящих экспериментальных варок, определять, каким образом необходимо изменить состав шихты для получения требуемых свойств стекла.

2.Предложенная методика позволяет рассчитывать с большой долей уверенности конечные параметры стекла в зависимости от состава шихты. Выполнение прогнозирования свойств стекла особенно важно в целях уменьшения потерь предприятия, возникающих в результате применения некачественных компонентов при его производстве, когда это может привести к переплавке готового стекла, либо к выходу печи из строя. 3.Метод нейронных сетей для моделирования многокомпонентных систем универсален. Поэтому программный продукт можно применять и в других, отличных от стекловарения, отраслях производства. Положения, выносимые на защиту.

- Предложенный метод моделирования многокомпонентных систем нейронными сетями, обученными алгоритмом обратного распространения ошибки, отражающий новые подходы к обработке статистических и плохо формализованных данных.

- Разработанная модель нейронной сети с модифицированным алгоритмом обратного распространения ошибки, позволяющим избежать попадания сети в локальные минимумы.

- Методика прогнозирования результирующих качеств стекла по неизвестному начальному процентному содержанию компонентов в шихте ба-риево-литиевого стекла.

- Разработка программного комплекса, осуществляющего моделирование многокомпонентных технологических систем нейронными сетями.

При разработке алгоритмов и проведении исследования в диссертационной работе использовались методы и аппарат численных методов, теории экспертных систем и искусственных нейронных сетей, регрессионного анализа, систем автоматизированного объектно-ориентированного программирования.

Первая глава диссертационной работы посвящена рассмотрению общей теории многокомпонентных систем. Описан вклад российских и зарубежных авторов в теоретическом исследовании проблемы. Рассмотрен регрессионный анализ, как стандартный метод моделирования, указаны его недостатки. Описаны другие сложившиеся подходы в этой области. Приведена система «состав-свойства» для варки бариево-литиевого стекir, ла, показано, что она относится к классу многокомпонентных плохо формализованных систем.

Вторая глава посвящена рассмотрению аппарата нейронных сетей с различными алгоритмами обучения. Производится выбор наиболее эффективного алгоритма. Обосновываются преимущества алгоритма обратного распространения ошибки перед остальными алгоритмами обучения нейронных сетей.

В третьей главе описывается структура созданного программного комплекса, его основные характеристики, а так же способы работы с ним. Рассмотрены программы BPNN и Exchange и их модификации, предназначенные для моделирования многокомпонентных систем с использованием ^ нейросетевых технологий и алгоритма обратного распространения ошибки.

В четвертой главе описаны эксперименты по моделированию многокомпонентных систем с использованием нейронных сетей с алгоритмом обратного распространения ошибки. Для экспериментов, которые показали удовлетворительные результаты обучения, в приложениях приведены таблицы и графики результатов моделирования.

В заключении перечислены основные научные и практические результаты. к

Заключение диссертации по теме «Математическое моделирование, численные методы и комплексы программ», Родькин, Сергей Владимирович

Основные результаты настоящей диссертационной работы состоят в следующем:

1. Предложена модификация стандартного алгоритма обратного распространения ошибки для обучения многослойных нейронных сетей, которая как показали теоретические и практические исследования позволяет избавиться от проблемы зависания сети в локальных минимумах, свойственной обычным методам обучения нейронных сетей.

2. Предложен метод определения зависания в локальном минимуме для многослойных нейронных сетей с алгоритмом обратного распространения ошибки. Показана эффективность предложенного метода на данных экспериментальных варок бариево-литиевого стекла.

3. Предложены различные способы решения проблемы переполнения списка локальных минимумов в модифицированном алгоритме обратного распространения ошибки. Предложен подход, позволяющий при незначительном увеличении сложности алгоритма добиться значительного уменьшения сегмента данных программы, и гарантирующий полную защиту от ошибок переполнения.

4. Предложена методика реализации многослойных нейронных сетей с использованием технологии создания и проектирования компонент среды Delphi. Методика, с одной стороны позволяет шаг за шагом, последовательно, «по кирпичику» создавать целостное приложение, с другой стороны значительно упрощает с точки зрения понимания программный код, который выглядит как последовательный вызов методов компонент приложения и описание обработки событий.

5. На основе полученных теоретических результатов были проведены экспериментальные исследования, которые подтвердили правильность подхода к моделированию многокомпонентных систем с использованием многослойных нейронных сетей с модифицированным алгоритмом обратного распространения ошибки. По результатам экспериментов даны практические рекомендации по варке бариево-литиевого стекла в условиях реального производства.

6. Основные научные и практические результаты работы нашли воплощение в программном комплексе для поддержки технологического процесса стекловаренного производства, используемого в процессе прогнозирования выходных параметров стекла по имеющимся входным -составу шихты и условиям варки.

ЗАКЛЮЧЕНИЕ

Список литературы диссертационного исследования кандидат технических наук Родькин, Сергей Владимирович, 2003 год

1. Вольфсон С.А., Ениколопян Н.С. Расчеты высокоэффективных полимеризационных процессов. М.: Химия, 1980. - 312 с.

2. Кафаров В.В., Дорохов Н.Е., Кольцова Э.М. Системный анализ процессов химической технологии. Энтропийный и вариационный методы неравновесной термодинамики. М.: Наука, 1988. - 367 с.

3. Силинг М.И. Поликонденсация, физико-химические основы и математическое моделирование. М.: Химия, 1988. - 256 с.

4. Александров И.А. Перегонка и ректификация в нефтепереработке. -М.: Химия, 1981. 182 с.

5. Хакен Г. Синергетика. М.: Мир, 1985. - 419 с.

6. Гладышев Г.П. Термодинамика и макрокинетика природных иерархических процессов -М.: Наука, 1988. 287 с.

7. Применение вероятностных методов в физике элементарных частиц М.: Наука, 1989. - 220 с.

8. Сурис A.J1. Термодинамика высокотемпературных процессов. — М.: Металлургия, 1989. 500 с.

9. Ландау Л.Д., Лифшиц Е.М. Краткий курс теоретической физики. Т. 1-2 .-М.: Наука, 1968.

10. Иродов И.Е. Основные законы механики: Учеб. пособие для физ. спец. вузов. М.: Высшая школа, 1985. - 248 с.

11. П.Иванов Б.Н. Принципы современной физики. М.: Наука, 1973.127 с.

12. Николис Г., Пригожин И. Сомоорганизация в неравновесных системах. М.: Мир, 1979.-512 с.

13. Николис Дж. Динамика иерархических систем: Эволюционное представление. М.: Мир, 1989. - 488 с.

14. Дж. Марри. Нелинейные дифференциальные уравнения в биологии. Лекции о моделях. М.: Мир, 1983. - 397 с.

15. Разумихин Б.С. Физические модели и методы теории равновесияв программировании и экономике. М.: Наука, 1975. - 304 с.

16. Гладышев Г.П. Термодинамика и макрокинетика природных иерархических процессов. М.: Наука, 1988. - 289 с.

17. Маркова Е.В., Лисенков А.Н. Комбинаторные планы в задачах многофакторного эксперимента. М.: Наука, 1979. — 348 с.

18. Ферстер Э., Ренц Б. Методы корреляционного и регрессионного анализа. М.: Финансы и статистика, 1983. - 302 с.

19. Розанов Ю.А. Случайные процессы (1. Краткий курс) М.: Наука, 1971.-с. 245

20. А.С. Бычков, П.П. Макарычев Технология моделирования многокомпонентных сложных систем // Материалы IV Международной научно-технической конференции «Новые информационные технологии и системы» Пенза, 2000, 159 с.

21. Доломатов М. Ю. Пределы науки и фрагменты теории многокомпонентных природных систем Уфа, Уфимский Технологический Институт Сервиса - 1998. - 121 с.

22. Ю.П. Адлер, В.Е. Маркова, Ю.В. Грановский. Планирование эксперимента при поиске оптимальных условий.-М.:Наука, 1975,279 с.

23. В.В. Налимов, Н.А. Чернов. Статистические методы планирования экстремальных экспериментов. М.:Наука, 1965,268 с.

24. Абу-Мустафа Я.С., Псалтис Д. Оптические нейронно-сетевые компьютеры//В мире науки, 1987. N 5. С. 42-50.

25. Барцев С.И. Некоторые свойства адаптивных сетей (программная реализация).- Красноярск: Институт физики СО АН СССР, -1987.

26. Барцев С.И., Охонин В. А. Адаптивные сети обработки информации. Красноярск: Институт физики СО АН СССР, 1986.

27. Гольцев А.Д. Яркостная сегментация изображения при помощи нейроподобной сети.//Автоматика 1965 - N 5 - с. 40-50.

28. Джеффри Е. Хинтон. Как обучаются нейронные сети.// В мире науки 1992 - N 11 - N 12 - с. 103-107.

29. Иванченко А.Г. Персептрон системы распознавания образов.//1. К.: Наукова думка, 1972.

30. Картавцев В.В. Нейронная сеть предсказывает курс доллара?// Компьютеры + программы 1993 - N 6(7) - с. 10-13.

31. Куссуль В.М., Байдык Т.Н. Разработка архитектуры нейроподобной сети для распознавания формы объектов на изображении.//Автоматика 1990 - N 5 - с. 56-61.

32. Маккалох Дж., Питтс У. Логические исчисления идей, относящихся к нервной деятельности.// Автоматы. М.: ИЛ, 1956.

33. Масалович А.И. От нейрона к нейрокомпьютеру.// Журнал доктора Добба 1992 - N 1 - с. 20-23.

34. Минский М., Пейперт С. Персептроны. М.: МИР, 1971. С.261.

35. Розенблат Ф. Аналитические методы изучения нейронных сетей.// Зарубежная радиоэлектроника. 1965 - N 5 - с. 40-50.

36. Розенблат Ф. Принципы нейродинамики.//М.: МИР, 1965.

37. Соколов Е.Н., Вайтнявичус Г.Г. Нейроинтеллект: от нейрона к нейрокомпьютеру.- М.: Наука, 1989. С. 283.

38. Суворов С.В., Матихина Н.Ю. Программное моделирование нейроподобных структурУ/Распределенная обработка информации.- Улан-Уде, 1989,-с. 28.

39. Трикоз Д.В. Нейронные сети: как это делается?// Компьютеры +программы 1993 - N 4(5) - с. 14-20.

40. Тэнк Д.У., Хопфилд Д. Д. Коллективные вычисления в нейроноподобных электронных схемах.//В мире науки. 1988. N 2. С. 44-53.

41. Цуприков С. Нейронные вычисления берутся на вооружение финансистами.// Computerworld Moscow - 1985 - N 7 - с. 57-58.

42. Чертков М., Грималюк А. Методика валютного прогнозирования.// Одесские деловые новости 1995 - май N 16 - с. 4.

43. Щербаков М.А. Введение в искусственные нейронные сети — Пенза: Информационно-издательский центр Пенз. гос. ун-та, 2002 40 с.

44. Aarts E.H.L., Korst J.H.M. Boltzmann machines and their applications//Lect. Notes Comput. Sci. 1987. V. 258. P. 34-50.

45. Aarts E.H.L., Korst J.H.M. Boltzmann machines for travelling salesman problem//European J. Oper. Res. 1989. V. 39. P. 79-95.

46. Abu-Mostafa Y.S., Jaques J.N.St. Information capacity of the Hopfield model//IEEE Trans. Inform. Theory. 1985. V. 31. P.461.

47. Ackley D.H., Hinton G.E., Sejnowski T.J. A learning algorithm for Bolzmann machines//Cognit. Sci. 1985. V. 9. N 1. P. 147-169.

48. Amari S. Field theory of self-organizing neural networks//IEEE Trans. Syst., Man, Cybern. 1983. V. 13. P. 741.

49. Artificial Intelligence. // Amsterdam: Time Life - Books, 1986.

50. Athale R., Stirk C.W. Compact architectures for adaptive neuraal nets//Ibid. 1989. V. 28. N 4.

51. Bardcev S.I., Okhonin V.A. The algorithm of dual functioning (backpropagation): general approach, vesions and applications. Krasnoyarsk: Inst, of biophysics SB AS USSA 1989.

52. Carpenter G.A., Grossberg S. A massively parallel architecture for a self-organizing neural pattern recognition machine.//Comput. Vision Graphics Image Process. 1986. V. 37. p. 54-115.

53. Cohen M.A., Grossberg S. Absolute stability of global pattern formation and parallel memory storage by competitive neural networks//IEEE Trans. Syst., Man, Cybern. 1983. V. 13. N 5. P. 815-826.

54. Computing with neural circuits: a model .//Science, 1986.V. 233. p. 625-633.

55. Cross Michael. Brain ware hits Japanese computers.// New Sci. 1988- 120, # 1640-p. 33.

56. Dayhoff J. Neural network architectures.//New-York:Van Nostrand reinhold, 1991.

57. Fogelman Soulie F. Neural networks, state of the art, neural computing.//London: IBC Technical Services, 1991.

58. Fox G.C., Koller J.G. Code generation by a generalized neural networks: general principles and elementary examples./Л. Parallel Distributed Comput. 1989. V. 6. N 2. P. 388-410.

59. Hecht-Nielsen R. Neurocomputing: picking the human brain.// IEEE * SPECTRUM 1988 V. 25. N 3 - p. 36-41.

60. HebbD.O. The organization of behaviour. N.Y.: Wiley, 1949.

61. Hopfield J.J. Neural networks and physical systems with emergent collective computational abilities.//Proc. Natl. Acad. Sci. 1984. V. 9. p. 147169.

62. Hopfield J.J., Tank D.W. Neural computation of decision in optimization problems.//Biol. Cybernet. 1985. V. 52. p. 112-132

63. Hopfield J.J., Feinstein D.I., Palmer F.G. Unlearning has a stabilizing effect in collective memories//Nature. 1983. V. 304. P. 141-152.

64. Hopfield J.J., Tank D.W. Neural computation of decision inoptimization problems//Biol. Cybernet. 1985. V. 52. P. 141-152.

65. Jeffery W., Rosner R. Neural network processing as a tool for friction optimization.//Neuronet Comput. Conf., Snowbird, Utah, Apr. 13-16, 1986. New York, N.Y., 1986 p. 241-246.

66. Kuzewski Robert M., Myers Michael H., Grawford William J. Exploration of fourword error propagation as self organization structure.//IEEE 1st. Int. Conf. Neural Networks, San Diego, Calif., June 21-24, 1987. V. 2. San Diego, Calif., 1987. - p. 89-95.

67. Lippmonn Richard P. Gold Ben Neuronet classifiers useful for speech recognition.// IEEE 1st. Conf. Neural Networks, San Diego, (Calif), 1987 p.417.425.

68. Montgomery, Douglas C. Forecasting and time series analysis./Douglas C. Montgomery, Lynwood A. Johnson, John S. Gard iner. -2nd ed. ISBN 0-07-042858-1.

69. Neural Computing.// London: IBE Technical Services, 1991.

70. Rosenblatt F. The peseptron: a probabilistic model for information storage and organization in the brain//Psychol. Rev. 1958. V. 65. P. 386.

71. Rosenblatt F. Principles of neurodynamics. Spartan., Washington, D.C., 1962.

72. Rumelhart B.E., Minton G.E., Williams R.J. Learning representations * by back propagating error.// Wature, 1986. V. 323. p. 1016-1028.

73. Takefuji D.Y. A new model of neural networks for error correction.//Proc. 9th Annu Conf. IEEE Eng. Med. and Biol. Soc., Boston, Mass., Nov. 13-16, 1987. V. 3, New York, N.Y., 1987 p. 1709-1710.

74. Treliven P. Neurocomputers.//London: University college, 1989.