Метод оценки значений параметров математической модели медицинской диагностики тема диссертации и автореферата по ВАК РФ 05.13.18, кандидат технических наук Смагин, Сергей Владимирович

• Смагин, Сергей Владимирович
• кандидат технических наук
• 2012

Оглавление диссертации кандидат технических наук Смагин, Сергей Владимирович

Глоссарий терминов.

Заключение диссертации по теме «Математическое моделирование, численные методы и комплексы программ», Смагин, Сергей Владимирович

Заключение

В настоящей работе получены следующие результаты:

1. Разработана новая постановка задачи классификации для математических моделей зависимости с параметрами (как частный случай задачи оценки значений параметров модели), в которой качество алгоритма классификации оценивается на основе близости вычисленных значений параметров модели к значениям, характеризующим предметную область.

2. Предложен метод получения оценок внешних и внутренних свойств алгоритмов классификации для моделей зависимости с параметрами с помощью компьютерных экспериментов на модельных данных. Используя предложенный метод, в сериях компьютерных экспериментов показано, что при хорошей разделимости классов предметной области плохой алгоритм классификации может иметь как абсолютно (и относительно) хорошие, так и абсолютно (и относительно) плохие оценки внешних свойств, а при плохой разделимости классов предметной области такой алгоритм имеет абсолютно и относительно плохие оценки внешних свойств. Также показано, что вне зависимости от степени разделимости классов предметной области, оценки внешних свойств хорошего алгоритма классификации являются относительно хорошими, а при плохой разделимости классов предметной области оценки внешних свойств такого алгоритма являются абсолютно плохими. Тем самым показано, что оценки внешних свойств алгоритмов классификации (связанные с постановкой задачи классификации, рассматриваемой в литературе) в большей мере отражают степень разделимости классов предметной области и в меньшей - свойства алгоритма классификации, а оценки внутренних свойств (связанные с постановкой задачи классификации, разработанной в диссертации), напротив, отражают именно свойства алгоритма классификации, и в меньшей мере связаны с разделимостью классов предметной области, т.е. решение задачи классификации в разработанной в диссертации постановке является и решением задачи классификации в традиционной постановке, однако обратное не всегда верно.

3. Разработана новая постановка задачи кластеризации для математических моделей зависимости с параметрами (как частный случай задачи оценки значений параметров модели), в которой качество алгоритма кластеризации зависит от выбранной модели зависимости с параметрами. Разработан алгоритм классификации для практически полезной и хорошо интерпретируемой математической модели зависимости с параметрами, являющейся онтологией медицинской диагностики, приближенной к реальной (заданной системой логических соотношений с параметрами), решающий задачу классификации, а также частную задачу кластеризации в новых постановках. С помощью компьютерных экспериментов показано, что разработанный алгоритм классификации для модели зависимости с параметрами (онтологии медицинской диагностики, приближенной к реальной) является хорошим. При этом показано, что вне зависимости от степени разделимости классов предметной области, оценки внешних свойств разработанного алгоритма для онтологии медицинской диагностики, приближенной к реальной, являются относительно хорошими.

4. Разработан комплекс программ и технология его применения для индуктивного формирования баз медицинских знаний в форме, принятой в медицинской литературе. При помощи этого комплекса, на основе обучающей выборки реальных данных, содержащей 69 историй болезни из раздела медицины «острый живот», индуктивно сформирована база знаний, представленная в форме, понятной практикующему врачу. Полученные описания заболеваний, входящие в базу знаний, по оценке эксперта соответствуют знаниям, имеющимся в научной и учебной медицинской литературе, а в ряде случаев дополняют их описанием динамики клинических проявлений; кроме того, полученная база знаний подтверждена реальными историями болезни из обучающей выборки. Формальное представление базы знаний позволяет использовать ее в экспертных системах медицинской диагностики. При этом, по мнению эксперта, ввиду высокой степени интерпретируемости полученных в работе описаний заболеваний, база знаний может быть использована при обучении студентов медицинских ВУЗов, а в случае обработки обучающей выборки большого объема, состоящей из хорошо обследованных историй болезни, сформированная на ее основе база знаний может быть использована и врачами в их профессиональной деятельности.

Список литературы диссертационного исследования кандидат технических наук Смагин, Сергей Владимирович, 2012 год

1. Вагин В.Н., Головина Е.Ю., Загорянская А.А., Фомина М.В. Достоверный и правдоподобный вывод в интеллектуальных системах / Под ред. В.Н. Вагина, Д.А. Поспелова. - М.: ФИЗМАТЛИТ. - 2004. -704 с.

2. Загоруйко Н.Г. Прикладные методы анализа данных и знаний. -Новосибирск: Изд-во Ин-та математики. 1999. - 270 с.

3. Ryszard S. Michalski, Kenneth A. Kaufman. Data Mining and Knowledge Discovery: A Review of Issues and a Multistrategy Approach. 1997. rhttp://citeseer.ist.psu.edu/michalski97data.html.

4. Frawley W., Piatetsky-Shapiro G., Matheus C. Knowledge Discovery in Databases: An Overview. AI Magazine. - 1992. - Vol. 13. No. 3. - pp. 5770. rhttp://www.aaai.org/ois/index.php/aimagazine/article/viewArticle/10111.

5. MachineLearning.ru Профессиональный информационно-аналитический ресурс, посвященный машинному обучению, распознаванию образов и интеллектуальному анализу данных rhttp://machinelearning.ru/l

6. Fayyad U. Piatetsky-Shapiro G., Smyth P. From Data Mining to Knowledge Discovery in Databases. AI Magazine. - 1996. - Vol. 17. No. 3. - pp. 3754. rhttp://www.aaai.org/ois/index.php/aimagazine/article/viewArticle/12301

7. Вапник B.H., Червоненкис А.Я. Теория распознавания образов. -М.: Наука. 1974.-416 с.

8. Журавлев Ю.И., Рязанов В.В., Сенько О.В. «Распознавание». Математические методы. Программная система. Практические применения. М.: Фазис. - 2006.

9. Neyman J., Pearson E.S. On the problem of the most efficient tests of statistical hypothesis. 1933. - Philos Trans R Soc Lond. - pp. 289-337.

10. Fisher R.A. The use of multiple measurements in taxonomic problems, Ann. Eugenics. 1936. - 7. Part II. - pp. 179-188.

11. Wald A. Contributions to the theory of statistical estimation and testing of hypotheses. 1939. - Ann.Math.Stat. 10. - pp. 299-326.

12. Розенблатт Ф. Принципы нейродинамики (перцептрон и теория механизмов мозга). М.: Мир. - 1965. - 480 с.

13. Айзерман М.А., Браверман Э.М., Розоноэр Л.И. Метод потенциальных функций в теории обучения машин. М.: Наука. - 1970. - 384 с.

14. Бонгард М.М. Проблема узнавания. М.: Наука. - 1967. - 320 с.

15. Журавлев Ю.И., ИЗБРАННЫЕ НАУЧНЫЕ ТРУДЫ. M.: Издательство Магистр. - 1998.-420 с.

16. Мазуров Вл.Д. Метод комитетов в распознавании образов. -Свердловск: ИММ УНЦ АН СССР. 1974. - 165 с.

17. Загоруйко Н.Г. Методы распознавания и их применение. М.: Сов.радио. - 1972. - 206 с.

18. Ивахненко А.Г. Системы эвристической самоорганизации в технической кибернетике. Киев: Техшка. - 1971. - 372 с.

19. Лбов Г.С. Методы обработки разнотипных экспериментальных данных. // Новосибирск. Наука. 1981. - 160 с.

20. Себастьян Г.С. Процессы принятия решений при распознавании образов. -М.: Изд-во «Техника». 1965.

21. Фукунага К. Введение в статистическую теорию распознавания образов.- М.:Наука. 1979. - 367 с.

22. Fu K.S. Sequential Methods in Pattern Recognition and Machine Learning. -1968. Academic Press. New York.

23. Minsky M., Papert S. Perceptrons: An Introduction to Computational Geometry (MIT Press, Cambridge, Mass., 1969). Русский перевод: Перцептроны. - M.: «Мир». 1971.

24. Nilsson N.J. Learning Machines (McGraw-Hill, New York, 1965). Русский перевод: Обучающие машины. - M.: «Мир». - 1967.

25. Дмитриев А.Н., Журавлев Ю.И., Кренделев Ф.П. О математических принципах классификации предметов и явлений. Сб. «Дискретный анализ». Вып. 7. Новосибирск. ИМ СО АН СССР. - 1966. - С. 3-11.

26. Журавлев Ю.И., Никифоров В.В. Алгоритмы распознавания, основанные на вычислении оценок. // Кибернетика. 1971. - №3. - С. 1-11.

27. Журавлев Ю.И., Об алгебраическом подходе к решению задач распознавания или классификации. Проблемы кибернетики. М.: Наука.- 1978. Вып.ЗЗ. - С.5-68.

28. Журавлев Ю.И. Корректные алгебры над множествами не корректных (эвристических) алгоритмов. I. // Кибернетика. 1977. - N4. - С. 5-17., II. Кибернетика. - 1977. - N6., III. Кибернетика. - 1978. - N2. - С. 35-43.

29. Рудаков К.В. Об алгебраической теории универсальных и локальных ограничений для задач классификации. // Распознавание, классификация, прогноз: Матем. методы и их применение. М.: Наука.- 1988. -Вып. 1.-С. 176-200.

30. Матросов В.Л. Синтез оптимальных алгоритмов в алгебраических замыканиях моделей алгоритмов распознавания. // Распознавание, классификация, прогноз: Матем. методы и их применение. М.: Наука. - 1988. -Вып.1. - С.229-279.

31. Рязанов В.В. О построении оптимальных алгоритмов распознавания и таксономии (классификации) при решении прикладных задач. // Распознавание, классификация, прогноз: Матем. методы и их применение. М.: Наука. - 1988. - Вып.1. - С.229-279.

32. Рязанов В.В. Комитетный синтез алгоритмов распознавания и классификации. // ЖВМ и МФ. 1981. - Том 21. - №6. - С. 1533-1543.

33. Рязанов В.В. О синтезе классифицирующих алгоритмов на конечных множествах алгоритмов классификации (таксономии). // ЖВМ и МФ. -1982. Том 22. - №2. - С.429-440.

34. Дюкова Е.В. Асимптотически оптимальные тестовые алгоритмы в задачах распознавания. // Проблемы кибернетики. М.: Наука. - 1982. -Вып.39.-С. 165-199.

35. Дюкова Е.В. Алгоритмы распознавания типа «Кора»: сложность реализации и метрические свойства. // Распознавание, классификация, прогноз (матем. методы и их применение). М.: Наука. - 1989. - Вып.2. -С. 99-125.

36. Сенько О.В. Использование процедуры взвешенного голосования по системе базовых множеств в задачах прогнозирования. // М. Наука, Ж. вычисл. матем. и матем. физ. 1995. -Т.35. -№ 10. - С. 1552-1563.

37. Донской В.И. Алгоритмы обучения, основанные на построении решающих деревьев. // Журнал выч. мат. и матем. физики. 1982. -Т.22. - №4. - С. 963-974.

38. Донской В.И., Башта А.И. Дискретные модели принятия решений при неполной информации. Симферополь: Таврия. - 1992. - 166 с.

39. Лбов Г.С., Бериков В.Б. Устойчивость решающих функций в задачах распознавания образов и анализа разнотипной информации. -Новосибирск: Изд-во Ин-та математики. 2005. - 218 с.

40. Владимир Вежневец. Оценка качества работы классификаторов. Компьютерная графика и мультимедиа. 2006. - Выпуск №4(1).

41. Загоруйко Н.Г. Проблемы построения эмпирической теории интеллектуального анализа данных. // Материалы Всероссийской конференции с международным участием «Знания Онтологии -Теории» (ЗОНТ-07). Т. 1. - Новосибирск. - 2007. - С. 4-13.

42. Орлов А.И. Заметки по теории классификации. Социология: методология, методы и математическое моделирование (Социология: 4M). - 1992. - № 2. - С. 28-50.http://ecsocman.hse.ru/data/2012/03/14/1216861661/Qrlov.pdfl

43. Орлов А.И. Эконометрика. Учебник. М.: Издательство «Экзамен». -2002.

44. Data Mining управление знаниями https://sites.google.com/site/upravlenieznaniami/tehnologii-upravlenia-znaniami/data-miningl

45. Местецкий JIM. Математические методы распознавания образов. Курс лекций. МГУ. ВМиК. Кафедра «Математические методы прогнозирования». - 2002-2004. http://www.ccas.ru/frc/papers/mestetskii04course.pdf.

46. Финн В.К. Интеллектуальные системы и общество: Сборник статей. -Экспертные системы и некоторые проблемы их интеллектуализации. С. 58-90. М.: Российск. гос. гуманит. ун-т. - 2000. - 309 с.

47. Финн В.К. О роли машинного обучения в интеллектуальных системах. // НТИ. Серия 2.-М.: ВИНИТИ РАН. 1999. - № 12. - С. 1-3.

48. Витяев Е.Е. Извлечение знаний из данных. Компьютерное познание. Модели когнитивных процессов: Моногр. / Новосиб. гос. ун-т. Новосибирск. 2006. - 293 с.

49. Data Mining Cup http://www.data-mining-cup.de/en.51. «Полигон алгоритмов» распределенная система тестирования алгоритмов классификации на данных реальных прикладных задач http://poligon.machinelearning.ru/.

50. Воронцов К.В., Инякин A.C., Лисица A.B. Система эмпирического измерения качества алгоритмов классификации. // Математические методы распознавания образов-13. М.: МАКС Пресс. - 2007. - С. 577580.

51. Воронцов К.В. Обзор современных исследований по проблеме качества обучения алгоритмов. // Таврический вестник информатики и математики. 2004.

52. Дружков П.Н., Половинкин А.Н. Реализация параллельного алгоритма обучения в методе градиентного бустинга деревьев решений rhttp://pavt.susu.ru/2012/short/144.pdfl

53. Вапник В.Н. Восстановление зависимостей по эмпирическим данным. -М.: Наука. 1979.-448 с.

54. Приобретение знаний: Пер. с япон. / Под ред. С.Осуги, Ю.Саэки. М.: Мир.-1990.-304 с.

55. Asuncion, А & Newman, D.J. (2007). UCI Machine Learning Repository rhttp://www.ics.uci.edu/~mlearn/mlrepository.htmll. Irvine, С A: University of California, Department of Information and Computer Science.

56. H. Altay Guvenir and I. Uysal, Bilkent University Function Approximation Repository rhttp;//funapp.cs.bilkent.edu.tr/datasets/l. 2000.

57. StatLib Datasets Archive. Data, Software and News from the Statistics Community rhttp://lib.stat.cmu.edu/datasets/l

58. Панкратова E.C., Добрынин Д.А., Цапенко И.В., Зуева М.В., Захарова Г.Ю. Интеллектуальная ДСМ-система для диагностики заболеваний органов зрения. // НТИ. 2007. - Сер. 2. - №3. - С. 14-18.

59. Akhiro Suyama, Takimura Yamaguchi. Specifying and Learning Inductive Learning Systems Using Ontologies. 1998. rhttp://citeseer.ist.psu.edu/suyama98specifying.htmll

60. Реброва О.Ю. Применение методов интеллектуального анализа данных для решения задачи медицинской диагностики. // Новости искусственного интеллекта. 2004. — №3. - С. 76-80.

61. Бериша A.M., Вагин В.Н., Куликов А.В., Фомина М.В. Методы обнаружения знаний в «зашумленных» базах данных. // Известия РАН. Теория и системы управления. 2005. - №6. - С. 143-158.

62. Дюк В.А. Технологии Data Mining в медико-биологических исследованиях. // Новости искусственного интеллекта. №3. - 2004. С. 49-57.

63. Powell Benedict, Larry Rendell, and the University of Illinois, 1990. Data Generation Program/2 V1.0. rhttp://www.ics.uci.edu/~mlearn/databases/dgp-2/l

64. Dataset Generator (DatGen). http://www.datgen.eom/1

65. Michie D. Expert Systems. // The Computer Journal. 1980. - Vol. 23. № 4. - pp. 369-376.

66. Клещев A.C. Задачи индуктивного формирования знаний в терминах непримитивных онтологий предметных областей. // НТИ. Серия 2. М.: ВИНИТИ РАН. - 2003. - № 8. - С. 8-18.

67. Финн В.К. Синтез познавательных процедур и проблема индукции. // НТИ. Серия 2.-М.: ВИНИТИ РАН. 1999. - № 1-2. - С. 8-45.

68. Клещев А.С., Артемьева И.Л. Необогащенные системы логических соотношений. В 2 Ч. // НТИ. Серия 2. М.: ВИНИТИ РАН. - 2000. -№ 7-8: № 7. - С. 18-28, № 8. - С. 8-18.

69. Клещев А.С., Артемьева И.Л. Математические модели онтологий предметных областей. Часть 1. Существующие подходы к определению понятия «онтология». // НТИ. 2001. - Сер. 2. - № 2. - С. 20-27.

70. Клещев А.С., Артемьева И.Л. Математические модели онтологий предметных областей. Часть 2. Компоненты модели. // НТИ. 2001. -Сер. 2.-№ 3. - С. 19-29.

71. Клещев А.С., Смагин С.В. Задачи индуктивного формирования знаний для онтологии медицинской диагностики. // НТИ. Серия 2. М.: ВИНИТИ РАН. - 2012. - №1. - С. 9-21.

72. Клещев А.С., Смагин С.В. Организация компьютерных экспериментов по индуктивному формированию знаний. // НТИ. Серия 2. М.: ВИНИТИ РАН.- 2008. -№!.- С. 16-24.

73. Клещев A.C., Смагин C.B. Организация компьютерных экспериментов по индуктивному формированию знаний. Владивосток: ИАПУ ДВО РАН.-2007.-36 с.rhttp://iacp.dvo.ru/is/publications/2007-Kleschev,Smagin-Qrganizing.pdfl

74. Смагин С.В. Организация компьютерного эксперимента по ИФБЗ на основе непримитивной онтологии медицинской диагностики с использованием МВС. // Сб. тез. докл. Дальневосточной математической шк.-сем. им. акад. Золотова. Владивосток. - 2004.

75. Клещев А.С., Смагин С.В. Генерация модельных данных для экспериментов по индуктивному формированию знаний. // Научная сессия МИФИ-2007. Сборник научных трудов. В 17 томах. Т.З. Интеллектуальные системы и технологии. М.: МИФИ. - 2007. - С. 82-83.

76. Клещев А.С., Смагин С.В. Индуктивное формирование знаний для непримитивных онтологий медицинской диагностики. // Тезисы доклада на Втором Международном форуме «MedSofit-2006» медицинские информационные технологии. 2006.

77. Клещев А.С., Смагин С.В. О роли внешних и внутренних оценок свойств методов индуктивного формирования знаний. // НТИ. Серия 2. М.: ВИНИТИ РАН. - 2011. - №4. - С. 22-35.

78. Клещев A.C., Смагин С.В. О роли внешних и внутренних оценок свойств методов индуктивного формирования знаний. Владивосток: ИАПУ ДВО РАН.-2010.-44 с.http://iacp.dvo.ru/is/publications/2010-Kleschev, Smagin-ExperTwo.pdf.

79. Соболь И.М. Метод Монте-Карло. М.: Наука. - 1968. - 64 с.

80. Miller G.A. The magic number seven, plus or minus two: some limits in our capacity for processing information. // Psycholog. Rev. 1956. - N63. -P.81-97.

81. Клещев A.C., Смагин С.В. Экспериментальное исследование свойств метода Монте-Карло для индуктивного формирования знаний в терминах упрощенной онтологии медицинской диагностики. // НТИ. Серия 2.-М.: ВИНИТИ РАН. 2009. - №7. - С. 12-22.

82. Клещев A.C., Смагин C.B. Некоторые свойства метода случайной расстановки границ периодов динамики. // Информатика и системы управления. 2009. - №1(19). - С. 103-115. rhttp://amursu.ru/attachments/ics/N19 13.pdf)

83. Клещев A.C., Смагин C.B. Компьютерный эксперимент по исследованию свойств метода случайной расстановки границ периодов динамики. Владивосток: ИАПУ ДВО РАН. 2009. - 44 с. rhttp://iacp.dvo.ru/is/publications/2009-Kleschev,Smagin-ExperQne.pdf|

84. Клещев A.C., Смагин C.B. Распараллеливание вычислений при решении задачи индуктивного формирования баз знаний. // Искусственный интеллект. 2006. - №3. - С. 421-428.

85. Клещев A.C., Москаленко Ф.М., Черняховская М.Ю. Онтология и модель онтологии предметной области «Медицинская диагностика». -Владивосток: ПАПУ ДВО РАН. 2005. - 44 с.

86. Грибова В.В., Тарасов A.B., Черняховская М.Ю. Система Интеллектуальной поддержки обследования больных, управляемая онтологией. // Программные продукты и системы. 2007. - №2. -С.49-51.

87. Учреждение Российской академии наук ИНСТИТУТ АВТОМАТИКИ И ПРОЦЕССОВ УПРАВЛЕНИЯ

88. Дальневосточного отделения РАН

89. ИАПУ ДВО РАН Радио ул., д. 5, Владивосток, 690041 Тел./факс [phone], 310452 E-mail: director@ia

90. ОКПО 02698217, ОГРН 10225021278781. УТВЕРЖДАЮ»гор ИАПУ ДВО РАН.http: www.iacp.dvo.ru 9007627/2539010011. АКТ №от « 29об использовании результатов кандидатской диссертационной работы

91. СМАГИНА СЕРГЕЯ ВЛАДИМИРОВИЧА1. Н. Кульчин Ш2г.

92. Председатель комиссии Члены комиссии:

93. В.В. Грибова A.C. Клещев М.Ю. Черняховская Е.А. Шалфеева

94. МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ РОССИЙСКОЙ ФЕДЕРАЦИИ Федеральное государственное автономное образовательное учреждение высшего профессионального образования

95. Дальневосточный федеральный университетдвфу)1. Школа естественных наук