Система интеллектуального анализа данных для прогнозирования успешности учебной деятельности тема диссертации и автореферата по ВАК РФ 05.13.01, кандидат технических наук Павлюк, Александр Александрович

• Павлюк, Александр Александрович
• кандидат технических наук
• 2004

Оглавление диссертации кандидат технических наук Павлюк, Александр Александрович

ВВЕДЕНИЕ

ГЛАВА I. Теоретические и методологические основы создания нейросетевых систем интеллектуального анализа данных

§1.1. Методы интеллектуального анализа данных

§ 1.2. Модели нейронных сетей

§1.3. Структура нейронной сети

§ 1.4. Функционирование нейрона

§1.5. Функционирование нейронной сети

§ 1.6. Алгоритм обратного распространения

§ 1.7. Алгоритм генетического программирования

Выводы

ГЛАВА II. Прогнозирование значения среднего балла обучения в произвольном семестре

§2.1. Постановка задачи

§2.2. Инициализация и обучение нейросети

Выводы

ГЛАВА III. Прогнозирование дисциплинарных нарушений в процессе учебной деятельности

§3.1. Решение задачи с помощью нейронной сети

§ 3.2. Решение задачи с помощью генетического программирования

Выводы

ГЛАВА IV. Восстановление потерянной информации в исходных данных обучаемых

§4.1. Постановка задачи

§ 4.2. Алгоритм восстановления потерянных данных

Выводы

ГЛАВА V. Программный комплекс "Прогноз успешности обучения"

§5.1. Методика прогнозирования успешности учебной деятельности

§ 5.2. Программный комплекс

§5.3. Формат файлов vib и dan

Выводы

Введение диссертации (часть автореферата) на тему «Система интеллектуального анализа данных для прогнозирования успешности учебной деятельности»

В условиях возросших требований к уровню профессиональной компетентности особую значимость приобретает повышение эффективности обучения и подготовки учащихся. Профессионализм зависит не только от качества подготовки, но и от индивидуальных возможностей учащихся и специалистов, наличия у них необходимых профессионально важных характеристик личности.

Успешность учебной деятельности обучаемых в высших учебных заведениях важна, так как она предопределяет успешность последующей профессиональной деятельности. На сегодняшний день отсутствуют единые тестовые методики отбора и сопровождения обучаемых, не разработаны соответствующие унифицированные компьютерные программы.

Требуется новая методика системного анализа, позволяющая выносить решение об эффективности будущей учебной деятельности, удовлетворяющая следующим требованиям: должна быть основана на современном математическом аппарате, позволяющем эффективно обрабатывать накопленную в процессе учебной деятельности информацию; должна обеспечивать совместимость с существующими системами накопления и обработки информации, принятыми в высших учебных заведениях; может быть использована как часть более сложной системы поддержки принятия решений, используемой в управлении учебно-образовательным процессом.

Получение прогноза успешности учебной деятельности обучаемых в высших учебных заведениях позволит оптимизировать систему этапного формирования кадров, более целенаправленно проводить профессионально-психологический отбор и сопровождение обучаемых.

Отсутствие современной унифицированной методики прогнозирования успешности обучения свидетельствует об актуальности и научно-практической значимости работы.

Целью диссертационной работы является разработка методики системного анализа психодиагностических данных, эффективно решающей задачу прогнозирования успешности учебной деятельности.

Для достижения указанной цели необходимо решить следующие задачи:

- провести анализ моделей систем обработки информации;

- выбрать модель, обеспечивающую эффективное решение задачи прогнозирования успешности учебной деятельности по результатам психодиагностического тестирования;

- провести исследование выбранной модели;

- программно реализовать и проверить на реальных данных модель прогнозирования;

- разработать и реализовать методику прогнозирования успешности обучения.

Научная новизна диссертационной работы состоит в следующем:

1. Разработана новая методика прогнозирования успешности учебной деятельности, основанная на методах интеллектуального анализа данных.

2. Предложен модифицированный алгоритм генетического программирования, отличающийся от известных методом выбора точки скрещивания.

3. Впервые предложен алгоритм, позволяющий заполнять пробелы в данных профессионально-психологического обследования и верифицировать имеющиеся данные.

Практическая ценность работы состоит в разработке методики прогнозирования успешности учебной деятельности по результатам психодиагностического тестирования, обеспечивающей возможность использования её широким кругом учебных заведений в целях повышения эффективности обучения и подготовки обучаемых.

Реализация результатов работы. Созданная в рамках диссертационной работы программная реализация методики прогнозирования успешности учебной деятельности успешно внедрена в учебный процесс Сибирского юридического института МВД России (г. Красноярск) и рекомендована к внедрению во все образовательные учреждения МВД России.

Разработанный программный продукт зарегистрирован Российским агентством по патентам и товарным знакам (№ гос. per. 2004610685). Основные защищаемые положения:

1. Построенная модель прогнозирования позволяет предсказать основные аспекты успешности учебной деятельности.

2. Модифицированный метод генетического программирования позволяет прогнозировать дисциплинарные нарушения, возникающие в процессе учебной деятельности.

3. Разработанный в работе алгоритм заполнения попусков позволяет эффективно решать задачи восстановления данных профессионально-психологического обследования.

Основное содержание работы:

В первой главе проведен обзор существующих систем интеллектуального анализа данных, приведена классификация на основании используемых ими методов и алгоритмов, указаны преимущества и недостатки каждого подхода. Определены основные требования к искомой системе интеллектуального анализа данных.

Произведен обоснованный выбор системы анализа данных в пользу нейросетей и алгоритмов генетического программирования, как максимально удовлетворяющих предъявленным к аналитическим системам требованиям.

Проведен обзор существующих моделей нейронных сетей. Для решения задачи прогнозирования успешности учебной деятельности выбрана сеть с обратным распространением ошибки. Рассмотрены структура и функционирование отдельного нейрона и нейронной сети в целом, общая схема обучения сети. Рассмотрены основные составляющие алгоритма генетического программирования, указаны достоинства и недостатки каждой из них.

Во второй главе решается задача прогнозирования значения среднего балла за период обучения.

В третьей главе рассматривалась задача прогнозирования дисциплинарных нарушений в процессе учебной деятельности, которая особо актуальна в специализированных учебных заведениях МВД РФ, Минобороны и т.п.

В четвертой главе рассматривается задача восстановления потерянной информации в исходных данных.

В пятой главе предлагается методика прогнозирования успешности учебной деятельности учащихся и описывается программный комплекс, реализующий эту методику.

В заключении диссертации приведены основные результаты, полученные в ходе выполнения работы, и сформулированы выводы.

Рассмотрим используемую в работе литературу:

Рассвет эры компьютеров повлек за собой стремительное развитие интеллектуальных методов анализа информации. Теоретические основы были заложены в начале 40-х годов в работе Маккалоха и Питтса [38, 116].

Дальнейшее развитие нейрокибернетика получила в работах Розенбла-та [69, 124, 125], предложившего модель персептрона [41].

Параллельно с этим развитие получили другие методы обработки информации, в основе которых также лежала биологическая модель. В 1966 году JI. Фогель, А. Оуэне, М. Уолш предложили схему эволюции логических автоматов, решающих задачи прогноза [81]. В 1975 г. вышла основополагающая книга Дж. Холланда [103], в которой был предложен генетический алгоритм [9, 72, 117].

Примерно в это же время группа немецких ученых (И. Рехенберг, Г.-П. Швефель и др.) начала разработку так называемой эволюционной стратегии

123, 127]. Эти работы заложили основы прикладного эволюционного моделирования или эволюционных алгоритмов.

В нашей стране исследования по прикладному эволюционному моделированию, близкие к работам Л. Фогеля, были развиты в работах И.Л. Бу-катовой [7].

Очередной виток в развитии нейронных сетей связан с работами работами Амари [91], Андерсона [92], Карпентера [96], Кохена [97] и, в особенности, Хопфилда [79, 93, 104, 105, 106], а также под влиянием успехов оптических технологий [1, 39, 94].

Модель Хопфилда получила свое развитие в работах Д. Хинтона и Р. Земела и была названа машиной Больцмана [74, 87 - 90].

В 1974 Поль Дж. Вербос [23] предложил алгоритм сети с обратным распространением [31,52, 78,95,98, 107, 111 - 113, 121, 126, 129, 130].

В начале 80-х годов сформировалась отдельная наука - нейроинформа-тика [13, 100, 102, 128]. Регулярно проводятся конференции по данной тематике [44- 51,53].

В 1992 году Джон Р. Коза предложил алгоритм генетического программирования [109, 110].

В начале 90-х множество методов обработки и анализа данных сформировали новое направление - Data Mining [25, 26, 33, 85, 108, 120, 122].

Основные алгоритмы обучения нейронных сетей изложены в [2, 3, 9, 10, 11, 16,30, 34, 76, 78, 80, 99, 114, 118, 119].

Методика и результаты программной реализации нейронных сетей описаны в [12, 15, 32, 75, 77, 80, 101].

Широкое применение нейронные сети нашли в задачах распознавания изображений [6, 27, 36, 40, 55, 84, 86] и речи [115].

Нейронные сети позволяют получать новые знания из баз данных [5, 13,54,56,57, 60,67, 82, 83].

Широкое применение нейронные сети получили в медицине [24, 42,

Имеют место попытки использования нейросетей в сфере образования [19, 22, 59,61,62].

Методика психологического тестирования представлена в [8, 17, 18, 43, 64, 65, 68, 73, 77].

На основании проведенного анализа литературы можно сделать следующие выводы:

1. Несмотря относительную новизну нейросетевых технологий, широко описаны структура и алгоритмы функционирования. Регулярно проводятся различные конференции по данной тематике.

2. Программные продукты на основе нейросетевых технологий получают все более широкое распространение. В основном это программы распознавания изображений и анализа финансовой информации.

3. У отечественных авторов не нашла отражения тема генетического программирования. В подавляющем большинстве этот метод описан зарубежными авторами.

4. В сфере образования нейросетевые технологии не нашли широкого применения.

Автор выражает глубочайшую признательность доктору медицинских наук Горбач Наталье Андреевне за предоставленные статистические данные и ценные консультации.

Гпава I. Теоретические и методологические основы создания нейро-сетевых систем интеллектуального анализа данных

Заключение диссертации по теме «Системный анализ, управление и обработка информации (по отраслям)», Павлюк, Александр Александрович

Основные результаты и выводы:

1. Выполнена постановка задачи прогнозирования успешности учебной деятельности, предполагающая использование аппарата нейронных сетей и алгоритмов генетического программирования.

2. Разработана методика прогнозирования успешности учебной деятельности.

3. В рамках методики разработан новый алгоритм восстановления пропущенных данных обучаемых, обеспечивающий оптимальный процент точности восстановления на небольших выборках.

4. В рамках методики разработан новый метод создания промежуточной популяции, исключающий рост дерева-представления, тем самым обеспечивающий увеличение скорости нахождения оптимальной функции оценки в сравнении со стандартными методами создания промежуточной популяции.

5. Разработана программная система обработки данных, включающая в себя программные средства предобработки данных, моделирования работы нейронной сети и получения из обученной сети данных, на основании которых можно судить об успешности обучения.

6. Произведен ряд экспериментов, в ходе которых подтверждена обоснованность применения приемов и процедур, использующихся в рамках методики, а также эффективность методики в целом. Так, была достигнута приемлемая точность на реальных данных, что является практически значимым результатом.

Таким образом, в данной диссертационной работе получено решение задачи прогнозирования успешности учебной деятельности по результатам психодиагностического тестирования, имеющей существенное значение в процессе управления учебной деятельностью и дальнейшем сопровождении обучаемых.

Заключение

Список литературы диссертационного исследования кандидат технических наук Павлюк, Александр Александрович, 2004 год

1. Абу-Мустафа Я.С. Оптические нейронно-сетевые компьютеры / Абу-МустафаЯ.С., Псалтис Д. //В мире науки, 1987.- с. 42-50.

2. Аведьян Э.Д. Алгоритмы обучения нейронных сетей // Ин-т проблем управления. М., 1997.-16 с.

3. Авеньян Э.Д. Алгоритмы настройки многослойных нейронных сетей.//Автоматика и телемеханика, 1995.-е. 106-118.

4. Анастази А. Психологическое тестирование / Анастази А., Урбина С //СПб., 2001.- с. 488.

5. Барцев С.И. Адаптивные сети обработки информации / Барцев С.И., Охонин В.А.// Красноярск: Институт физики СО АН СССР, 1986. с. 56.

6. Боровков И.К. Разработка структур и исследование функциональных свойств нейроподобных сетей с локальными связями для решения задач анализа изображений // Таганрог: радиотехн. ин-т им. В.Д.Калмыкова, 1992.-е. 16.

7. Букатова И.Л. Эволюционное моделирование и его приложения // М.: Наука, 1979.- с. 211.

8. Бурлачук Л.Ф. Психодиагностика / Бурлачук Л.Ф., Морозов С.М. // СПб.: Питер Ком, 1999.- с. 328.

9. Вороновский Г.К. Генетические алгоритмы, искусственные нейронные сети и проблемы виртуальной реальности / Вороновский Г.К., Махоти-ло К.В., Петрашев С.Н., Сергеев С.А. // Харьков: Основа, 1997. с. 112.

10. Горбань А.Н. Нейронные сети на персональном компьютере / Горбань А.Н., Россиев Д.А.// Новосибирск: Наука, 1996. с. 276.

11. Горбань А.Н. Обучение нейронных сетей. // М.: СП «Параграф», 1990.-с. 159.

12. Горбань А.Н. Применение самообучающихся нейросетевых программ / Горбань А.Н., Гилев С.Е., Коченов Д.А., Россиев Д.А., Миркес Е.М., Жуков Л.А. // Красноярск: СибГТУ, 1997.- с. 56.

13. Горбань А.Н. Логически прозрачные нейронные сети для производствазнаний из данных / Горбань А.Н., Миркес Е.М. // Красноярск, 1997. -с. 12.

14. Горбань А.Н. Нейроинформатика и ее приложения // Открытые системы №04-05, 1998

15. Горбань А.Н. Применение самообучающихся нейросетевых программ / Горбань А.Н., Россиев Д.А., Коченов Д.А. // Учебно-методическое пособие.- Красноярск: СТИ, 1994. с. 24.

16. Горбань А.Н. Новая игрушка человечества / Горбань А.Н., Фриденберг В.И. // Мир ПК № 9, 1993. с. 36.

17. Горбач Н.А. Инновационные технологии отбора и сопровождения обучаемых и специалистов // Красноярск: Сиб. юридический ин-т МВД России, 2001.- с. 134.

18. Горбач Н.А. Методологические подходы к созданию информационных систем психологического обеспечения образования // Философия образования для XXI века.- 2001.- с. 196-200.

19. Горбач Н.А. Методология проектирования и управления базой данных профессионально-психологического отбора и сопровождения обучаемых и специалистов // Информатизация правоохранительных систем: сб. тр. IX междунар. научн. конф.- М., 2000.- с. 328-333.

20. Горбач Н.А. Разработка базы данных профессионально-психологического обследования абитуриентов образовательных учреждений МВД России / Горбач Н.А., Гуляева М.В. //: Науч.-метод. пособие.- Красноярск: Сиб. юридический ин-т МВД России, 1999.- с. 55.

21. Горбач Н.А. Интеллектуальный анализ данных в прогнозировании успешности учебной деятельности обучаемых ВУЗов / Горбач Н.А., Павлюк А.А. // Информатизация и информационная безопасность правоохранительных органов.- М., 2004. с. 21-26.

22. Джеффри Е. Хинтон. Как обучаются нейронные сети // В мире науки, 1992.-с. 103-107.

23. Дюк В.А. Компьютерная психодиагностика //СПб: Изд-во "Братство", 1994.- с. 264.

24. Змитрович А. И. Интеллектуальные информационные системы // Минск: Тетрасистемс, 1997, с. 268.

25. Киселев М. Средства добычи знаний в бизнесе и финансах / Киселев М., Соломатин Е. // Открытые системы, 1997.- с. 41-44.

26. Кольцов П.П. Нейрообработка визуализированной информации / Кольцов П.П., Прохоров В.В. // Рос. акад. наук. НИИ системных исследований. М.: Наука, 1997. - с. 74.

27. Концепция информатизации сферы образования Российской Федерации//М., 1998.

28. Корбут А.А. Дискретное программирование / Корбут А.А., Финкель-штейн Ю.Ю. //М.:Наука, 1969.- с. 318.

29. Короткий С. Нейронные сети: основные положения // М., 1997. с. 46.

30. Короткий С. Нейронные сети: алгоритм обратного распространения //М, 1997.-с. 67.

31. Кречетов Н. Продукты для интеллектуального анализа данных // Рынок программных средств, № 14-15, 1997.- с. 32-39.

32. Крисилов В.А. Применение нейронных сетей в задачах интеллектуального анализа информации / Крисилов В.А., Олешко Д.Н., Трутнев А.В. // Одесский политехнический университет, 1999.- с. 134.

33. Кричевский M.J1. Введение в искусственные нейронные сети // учеб. пособие. СПб.: Изд. центр. Мор. техн. ун-та, 1999. - с. 139.

34. Круглов В.В. Искусственные нейронные сети: Теория и практика /

35. Круглов В.В., Борисов В.В. // М.: Горячая линия -Телеком, 2001. -с.381.

36. Куссуль В.М. Разработка архитектуры нейроподобной сети для распознавания формы объектов на изображении / Куссуль В.М., Байдык Т.Н. //Автоматика, 1990. с. 56-61.

37. Лоскутов А.Ю. Введение в синергетику / Лоскутов А.Ю., Михайлов А.С. // М.: Наука. Гл. ред. физ.-мат. лит., 1990. с. 272.

38. Маккалох Дж. Логические исчисления идей, относящихся к нервной деятельности / Маккалох Дж., Питтс У. // Автоматы.- М.: ИЛ, 1956.- с. 78.

39. Маныкин Э.А. Нейронные сети и их оптические реализации / Маныкин Э.А., Сурина И.И. // Гос. ком. по использ. атом, энергии СССР. -М., 1988.- с. 46.

40. Масалович А.И. От нейрона к нейрокомпьютеру // Журнал доктора Добба, 1992. с. 20-23.

41. Минский М. Персептроны / Минский М., Пейперт С. // М.: МИР, 1971.-с. 161.

42. Муха Ю.П. Применение нейронных сетей в медицинском приборостроении / Муха Ю.П., Скворцов М.П., Авдеюк О.А. // Вол-гогр.гос.техн.ун-т. Волгоград: ВолгГТУ, 2000. - с. 78.

43. Невирко Д.Д. Методика изучения профессионально-психологических качеств молодежи / Невирко Д.Д., Горбач Н.А. // Красноярск: Сиб. юридический ин-т МВД России, 1999.- с. 45.

44. Нейроинформатика / А.Н Горбань, В.А. Дунин-Барковский, А.Н. Кир-дин и др.; Отв. ред. Е.А Новиков; Рос. акад. наук. Сиб. отд-ние. Ин-т вычисл. моделирования. Новосибирск: Наука, Сиб. предприятие, 1998. - 295 с.

45. Нейроинформатика и ее приложения. Материалы 3 Всероссийского семинара 6-8 октября 1995. Красноярск: изд. КГТУ, 1995. 229с.

46. Нейроинформатика и ее приложения: III Всерос. семинар, 6-8 окт. 1995 г.: Тез. докл. / Ин-т биофизики Рос. акад. наук, Краснояр. гос. ун-т. -Красноярск: КГТУ, 1995. 93 с.

47. Нейроинформатика и ее приложения: Материалы VIII Всерос. семинара, 6-8 окт. 2000 г., Красноярск / Краснояр. гос. ун-т и др.; Под общ. ред. А.Н. Горбаня. Красноярск: ИПЦ КГТА 2000.-204 с.

48. Нейроинформатика и ее приложения: Тезисы докладов 4 Всероссийского семинара, 5-7 октября 1996г./Подред. А.Н.Горбаня. Красноярск: КГТУ, 1996.- 122с.

49. Нейроинформатика и ее приложения: Тезисы докладов 5 Всероссийского семинара, 3-5 октября 1997г./Подред. А.Н.Горбаня. Красноярск: КГТУ, 1997,- 139с.

50. Нейронные сети: определения, концепции, применение / ЦНИИ управ., экономики и информат. Минатом энергопрома СССР; А.Н.Скурихин. -М., 1991 - 53 с.

51. Нейронформатика и ее приложения: IV Всерос. семинар, 2-5 окт. 1998 г.: Тез. докл. Красноярск, 1998. - 207 с.

52. Нуйдель И.В. Разработка алгоритмов обработки изображений в однородных распределенных нейроноподобных системах: Автореф. дис. на соиск. учен. степ. канд. физ.-мат. наук: 05.13.16 / Ин-т прикл. физики Рос. акад. наук. Нижн. Новгород, 1998. - 19 с.

53. Обработка информации нейронными сетями / Ред. Веденов А.А. // М.: 1990.- с. 111.

54. Обработка информации нейросетями / Ред. Веденов А.А. // М.: 1991.- с. 145.

55. Основные виды деятельности и психологическая пригодность к службе в системе органов внутренних дел / Под ред. Бовина Б.Г., Мягких Н.И., Сафронова А.Д. и др. // М.: Академия МВД России, 1997. с. 278.

56. Павлюк А.А. Анализ современных концепций и технологий профессионально-психологического отбора и сопровождения обучаемых специалистов // Информатика и информационные технологии: межвуз. сб. научн. тр. Красноярск: ИПЦ КГТУ, 2003. - с. 202-204.

57. Павлюк А.А. Извлечение знаний с помощью нейросетей // Информатика и информационные технологии: межвуз. сб. научн. тр. Красноярск: ИПЦ КГТУ, 2003. - с. 200-202.

58. Павлюк А.А. Нейронные сети обратного распространения в задаче прогнозирования успешности учебной деятельности учащихся вузов // Актуальные проблемы информатики и информационных технологий, Тамбов: ТГУ, 2004.- с. 94-95.