Разработка системы инвариантной сегментации и классификации растровых изображений тема диссертации и автореферата по ВАК РФ 05.13.01, кандидат технических наук Гальяно Сизаско, Фелипе Робертович

• Гальяно Сизаско, Фелипе Робертович
• кандидат технических наук
• 2011

Оглавление диссертации кандидат технических наук Гальяно Сизаско, Фелипе Робертович

Обозначения и сокращения.

Введение.

1 Современное состояние проблемы анализа растровых изображений.

1.1 Сегментация.

1.2 Описание сегментированного изображения.

1.3 Этап классификации.

1.4 Постановка задачи исследования.

1.5 Выводы по главе.

2 Разработка математических методов классификации и алгоритмов сегментации на основе' инвариантного представления изображения и сингулярного разложения матрицы.

2.1 Основные положения.

2.2 Формальные определения и обозначения.

2.3 Морфологические операции.

2.4 Преобразования гистограммы.

2.5 Инвариантное представление изображения.

2.6 Метод отбора алгоритмов сегментации.

2.7 БУБ - классификация.

2.8 Выводы по главе.

3 Разработка системы параметрических представлений.

3.1 Язык описания алгоритмов сегментации.

3.2 СКАС на основе ИЛИ.

3.3 Совокупность параметрических представлений.

3.4 Степень полноты совокупности параметрических представлений.

3.5 Выводы.

4 Оценка эффективности разработанных методов.

4.1 Оценка полноты совокупности параметрических представлений.

4.2 Сегментация мультиспектральных изображений методом БVI).

4.3 Исследование разработанных алгоритмов приближения изображения сегментами из заданной иерархии.

4.4 Система определения уровня сплоченности льда по ДДЗ.

4.5 Выводы по главе 4.

Введение диссертации (часть автореферата) на тему «Разработка системы инвариантной сегментации и классификации растровых изображений»

Актуальность темы

При создании сложных технических систем, решающих задачи анализа, управления и обработки информации, во многих случаях возникает необходимость обработки данных, представленных в форме изображений.

Значительный объем анализируемых данных и ограничения на доступные вычислительные ресурсы осложняют использование высокоэффективных алгоритмов анализа и требуют разработки специального' математического и алгоритмического обеспечения, позволяющего обеспечить удовлетворительное качество анализа при соблюдении налагаемых ограничений.

Методы и алгоритмы обработки изображений и распознавания образов рассматривались в работах В.В. Александрова, Н.Д. Горского, Р. Дуды, В.А.Дюка, Ю.И. Журавлева, Д. Марра, М. Минского, Ф. Розенблатга, М. Харинова, П. Харта и многих других.

Одной из подзадач, возникающей при анализе изображений, является разбиение изображения на области(сегменты), удовлетворяющие заданным критериям и их классификация. Если между объектами искомого класса и характерными по своим свойствам сегментами существует взаимнооднозначное соответствие, результат классификации сегментов может быть использован непосредственно. В противном случае, полученный результат может подвергаться дальнейшей обработке с помощью структурных методов распознавания образов. В частности, первый случай имеет место при поиске объектов естественного происхождения, а второй — искусственного по данным дистанционного зондирования Земли (ДДЗ).

Таким образом, при функционировании систем сегментации и классификации сегментов основными этапами являются:

1. Сегментация изображений,

2. Обработка и описание сегментированного изображения - этап извлечения признаков (feature extraction), 3 . Классификация полученных сегментов по их признакам.

На третьем этапе могут применяться классические методы классификации и кластеризации элементов пространства признаков (искусственные нейронные сети, кластерный анализ и др).

Общими трудностями, возникающими при создании таких систем являются:

1. На* этапе сегментации^ - необходимость значительного труда высококвалифицированных экспертов для отбора, описания и настройки алгоритмов сегментации с учетом особенностей предметной области, что осложняется отсутствием развитой оценки качества отобранных алгоритмов.

2. При. выполнении классификации — сложность процесса обучения искусственных нейронных сетей и других методов ИИ, которая зачастую заставляет отказаться от их использования в пользу более простых методов. Для улучшения результатов классификации используются предварительные преобразования пространства признаков. В частности, расчет сингулярного разложения матрицы (англ. Singular Value Decomposition, SVD), составленной из обучающих векторов, позволяет уменьшить размерность пространства признаков. Последовательное использование SVD-разложения и классификации в новом пространстве признаков (SVD-классификация) превосходит по быстродействию классификацию с помощью ИНС. Однако при SVD-классификации затруднен учет информации о значимости отдельных признаков объекта и разница в цене ошибки классификации (англ. misclassification cost) при решении различных задач. Также не учитывается информация о классе объектов, близких к текущему пространстве и/или во времени.

Необходимость устранения описанных выше недостатков обуславливает актуальность научной задачи, решаемой в диссертации. Объектом исследования; является задача классификации и распознавания образов, а предметом — задача автоматизированной сегментации изображений.

Цель работы. Целью диссертационной работы является разработка, математических методов; классификации и алгоритмов сегментации растровых изображений с целью повышения эффективности систем анализа изображений с учетом ограничения навычислительные ресурсы.

Задачи исследования Для достижения поставленной цели требуется решить ряд частных задач:

1. Анализ существующих методов и алгоритмов сегментации, извлечения признаков и классификации, применяемых для анализа растровых изображений с целью оценки текущего состояния предметной области и требований к системе анализа.

2. Развитие метода отбора алгоритмов сегментации на основе запатентованного в СПИИРАН инвариантного представления изображения1, посредством уточнения критериев интегральной оценки совокупности алгоритмов.

3. Создание языка описания алгоритмов сегментации (Properties Description Language, PDL) и совокупности алгоритмов сегментации для выделения элементов изображения, подлежащих последующей классификации.

4. Разработка методов классификации на основе SVD, позволяющих учитывать различную значимость признаков объектов и ошибок классификации.

5. Создание прототипа системы анализа ДДЗ для ГИС.

Методы исследования Для решения поставленных задач использовались методы теории распознавания образов и обработки изображений, элементы теории графов и теории множеств. При разработке программного обеспечения использовалась технология объектно-ориентированного программирования.

1 Патент РФ № 2329552. Адаптивное встраивание водяных знаков по нескольким каналам. / М.В.Харннов, заявители: СПИИРАН, «Сачсунг Электроник Ко., Лтд.» // Бюл. №20. Опубл. 20.07.2008. -41 с.

Научная новизна

1. На основе метода отбора алгоритмов предложены критерии интегральной« оценки совокупности параметрических представлений(ПП) изображения, позволяющие сформировать элементарные сегменты, из которых, составляются объекты; и до обучения оценить возможность выделения объектов.

2. Разработана совокупность алгоритмов построения! параметрических представлений, в том числе — алгоритм приближения изображения сегментами с различных уровней иерархической сегментации, который применяется для аппроксимации изображения в целом, исходя из величины дисперсии или энтропии.

3. Предложен алгоритм классификации образов, позволяющий учитывать экспертную информацию о вкладе свойства объекта в результат классификации, влиять на соотношение ошибок классификации, первого и второго рода и учитывать класс объектов, близких к текущему для адаптации SVD-классификатора к требованиям различных предметных областей.

Практическая значимость. В результате работы программно реализована подсистема анализа ДДЗ для ИГИС. При этом разработана библиотека алгоритмов обработки изображений, включающая ряд алгоритмов разработанных с учетом большого размера ДДЗ и ограничений на время их обработки. На основе инвариантного представления изображения(ИПИ) программно реализована обучаемая система композиции алгоритмов сегментации(СКАС), позволяющая автоматизировать процесс отбора и композиции алгоритмов сегментации для выделения заданных экспертом элементов изображения. Разработан язык описания параметрических представлений и программно реализован транслятор с этого языка. Разработанный язык позволяет описывать последовательности lili для автоматизации процесса анализа ДДЗ и композиции алгоритмов сегментации.

Разработанная-система используется в ЗАО «СПИИРАН-НТБВТ», а также внедрена в серийные изделия «Алеврит» и АП ГАР «Кижуч» (проект. «Создание экспериментальной аппаратуры подсистемы гидроакустических расчетов», шифр «Кижуч — СПИИРАН — АП ГАР»). Результаты работы использовались в рамках программы ПР РАН «Фундаментальные проблемы океанологии: физика, геология; биология, экология» (проект «Расчет акустического поля» в слоисто-неоднородной океанической среде на основе интеллектуальной геоинформационной системы»), совместного Российско - Вьетнамского проекта «Разработка программного обеспечения информационно-справочной системы по гидроакустическим расчетам и отображению интегрированной базы океанографических и гидрометеорологических данных всемирного Гидрометцентра»; в рамках проекта РФФИ № 11-07-00685-А "Разработка инновационных алгоритмов преобразования информации цифровых изображений" и учебном процессе в Санкт-Петербургском государственном электротехнический университете «ЛЭТИ» им. В.И. Ульянова (Ленина). Практическая ценность подтверждена актами о внедрении результатов работы.

На защиту выносятся следующие результаты:

1. Система композиции алгоритмов сегментации на основе инвариантного представления изображения, позволяющая оптимизировать совокупность алгоритмов сегментации.

2. Алгоритм построения параметрических представлений для системы композиции алгоритмов сегментации на основе выбора сегментов из заданной иерархии, отличающийся тем, что он применяется не к отдельным участкам изображения, а для аппроксимации изображения в целом.

3. Алгоритм классификации на основе БУЛ, позволяющий учитывать класс объектов, близких к классифицируемому, а также веса признаков и классов объектов.

Апробации работы. Результаты работы докладывались на международных семинарах IF&GIS «Интеграция информации и геоинформационные системы» (Санкт-Петербург, 2007 и 2009 год), Санкт-Петербургской- международной конференции "Региональная'информатика» (Санкт-Петербург, 2008 и 2010 год), «Математические методы распознавания образов» (Суздаль, 2009),* а также использованы в НИР' «Разработка подсистемы анализа данных для интеллектуальной ГИС» (СПИИРАН, шифр «ИГИС-ДДЗ»).

Публикации. Основные результаты и выводы диссертационной работы опубликованы в 8 печатных работах, в том числе 3 в журналах из перечня ВАК.

Структура и объем работы. Диссертационная работа состоит из введения, 4-х глав, заключения, двух приложений, списка использованной» литературы, включающего 201 наименование и акта о внедрении полученных результатов. Общий объем работы составляет 129 страниц, в том числе 36 иллюстраций и 14 таблиц.

Заключение диссертации по теме «Системный анализ, управление и обработка информации (по отраслям)», Гальяно Сизаско, Фелипе Робертович

4.5 Выводы по главе 4

1. На примере поиска льда низкой сплоченности установлено, что выделение сложных объектов заданного класса возможно с помощью разработанной системы ПП, СКАС и 8УО-классификатора с точностью более 90%.

2. Проведенный вычислительный эксперимент показывает улучшение результатов 8УО-классификации на 15% за счет учета весов и на 4,8% при учете локальной окрестности вектора.

3. Сравнение результатов работы БУБ-классификатора и ИНС на ДДЗ показывает превосходство 8УО-классификатора более чем на* порядок по скорости работы.

5 Заключение

В ходе исследований были получены следующие основные результаты:

1. На основе ИЛИ разработана СКАС, позволяющая выполнять отбор алгоритмов сегментации, релевантных данному изображению и обучающей выборке, а также сегментацию изображений с помощью отобранной совокупности.

2. В случае отсутствия обучающей выборки СКАС позволяет разделить пиксели изображения на классы, исходя из подобия их свойств. Используемые при сравнении свойства задаются совокупностью ПП.

3. Разработан алгоритм разбиения изображения на минимальные сегменты, разделение которых средствами СКАС невозможно при заданной совокупности ПП.

4. Отношение количества минимальных сегментов к количеству пикселей рассматривается как интегральная характеристика совокупности ПП (степень полноты). Показана возможность построения системы признаков, со степенью полноты, больше 85%.

5. При наличии обучающей выборки СКАС обеспечивает выделение из множества алгоритмов сегментации подмножество рекомендуемых для данных? изображений и класса« искомых объектов, а также упорядочивает элементы изображения по их близости к обучающей? выборке.

6. Разработан РЭЬ, позволяющий» упростить настройку СКАС под требования; определенной предметной области. Язык позволяет единообразно представить яркостыые и геометрические характеристики сегментов и адаптировать СКАС к свойствам искомых объектов.

7. Предложена совокупность алгоритмов сегментации, позволяющих достичь компромисса между скоростью гистограммных и точностью негистограммных алгоритмов сегментации.

8. Разработан модифицированный алгоритм БУБ-классификации, позволяющий» учесть веса признаков и классов объектов, а также влияние объектов, близких к текущему пространстве и/или во времени на результат его классификации. Модифицированный алгоритм позволяет, повысить точность классификации- на 4,8% при учете локальной окрестности объектов и на 15% за счет учета весов.

Научная новизна работы заключается в «использовании СКАС на основе ИЛИ и

8УВ-классификации, что позволяет:

1. На этапе сегментации, — упростить процесс описания и отбора алгоритмов сегментации для выделения объектовзаданного класса;

2. На этапе классификации — увеличить скорость классификации по сравнению с ближайшим конкурентом (ИНС) более чем на порядок.

Достоверность полученных результатов обеспечивается применением обоснованных и корректных научных методов исследования. Подтверждением? достоверности и надежности служит результаты экспериментов и внедрение программной реализации системы.

Полученные научные результаты могут найти- применение при создании систем' обработки, изображений в! условиях ограниченных вычислительных ресурсов; Это. связано1 с- тем, что использование, предложенных методов позволяет на этапе* сегментации ускорить адаптацию системы к требованиям предметной области, снизить объем труда экспертов при описании и отборе алгоритмов; на этапе классификации - увеличить скорость обучения и классификации, и учесть знания'1 экспертов при анализе изображений, что приводит к снижению затрат на^оздание системы.

Практическая значимость работы состоит в том, что в' рамках НИР «ИГИС-ДДЗ» при использовании предложенных методов удалось достичь следующих результатов:

1. Создана система анализа ДДЗ, состоящая из СКАС, подсистемы алгоритмов сегментации изображения и подсистемы классификации.

2. Разработана библиотека алгоритмов сегментации изображения, включающая ряд новых алгоритмов сегментации.

3. Разработан РБЬ и программно реализован транслятор с этого языка. Разработанный язык позволяет описывать последовательности алгоритмов сегментации для автоматизации процесса анализа изображений и формирования множества алгоритмов, использующихся для отбора средствами СКАС.

4. Программно реализована система композиции алгоритмов сегментации на основе инвариантного представления изображения, позволяющая автоматизировать процесс отбора алгоритмов сегментации подходящих для выделения заданных экспертом элементов изображения и объединения результатов их применения.

Теоретическая значимость научных результатов заключается в развитии алгоритма классификации на основе 8\Т) для учета особенностей предметной области и разработки критериев интегральной оценки совокупности алгоритмов сегментации изображения.

В качестве направлений дальнейшего развития полученных результатов работы можно выделить:

1. Совершенствование критериев отбора алгоритмов сегментации на основе принципа минимальной длинны описания [35].

2. Повышение производительности подсистемы сегментации посредством использования для описания сегментированного изображения аппарата индексированных динамических деревьев [1,46].

3. Применение разработанных алгоритмов для задач классификации объектов в других предметных областях и классификации тактических ситуаций [101,170,171].

Список литературы диссертационного исследования кандидат технических наук Гальяно Сизаско, Фелипе Робертович, 2011 год

1. Александров В.В., Алексеев А.И., Горский Н.Д. Анализ данных на ЭВМ) (на примере системы СИТО) М.: Финансы и статистика, 1990. - 192 е.: ил». - (Мат. обеспечение прикладной статистики).

2. Александров В.В., Горский Н.Д. Представление и обработка изображений. Рекурсивный подход. — JL: Наука, 1985. — 192с.

3. Александров В.В., Кулешов C.B., Цветков О.В. Цифровая технология инфокоммуникации. Передача, хранение и семантический анализ текста, звука, видео. СПб.: Наука, 2008. - 244 с.

4. Барабанов А.Е., Тимофеев A.B., Усова С.Н. Алгоритмическое обеспечение подсистемы распознавания интеллектуального робота // Робототехника. Л.: ЛПИ, 1981. С.58-65.

5. Берлянт A.M., Кошкарев A.B. Геоинформатика. Толковый словарь. -М.: ГИС Ассоциация, 1999.

6. Бонгард М.М. Проблема узнавания. М.: Наука, 1967.

7. Бутаков Е.А., Островский В.И., Фадеев, И.Л. Обработка изображений на ЭВМ. М.: Радио и связь, 240 с. 1987 г.

8. Воронцов К.В. Локальные базисы в алгебраическом подходе к проблеме распознавания: 1999г.: Автореф. дис. . канд. техн. наук. М., 1999.-17с.

9. Выгодский М.Я. Справочник по высшей математике. М.:000 «Издательство Астрель»: ООО Издательство «ACT», 2003.

10. Гальяно Сизаско Ф.Р. Обучаемая программа распознавания данных дистанционного зондирования // Оптический журнал /2010. № 8. С. 42-46.

11. Гальяно Ф.Р. Алгоритм представления данных дистанционного зондирования заданным числом сегментов // Информация и космос /, 2010. №7. С. 96-98.

12. Гальяно Ф.Р. Алгоритм классификации участков поверхности Земли на основе сингулярного разложения матриц // Информационные технологии»/ 2010. №12. С. 35-37.

13. Гонсалес Р., Вудс Р. Цифровая обработка изображений. М.:1. Техносфера, 2006.

14. Горелик A.JI. Скрипкин В.А. Методы распознавания: Учебное пособие. М., Высшая школа, 1989.'

15. Гренадер У. Лекции по теории образов. -М.: Мир. т.1. Синтез образов. -1979 год. т.2. Анализ образов. - 1981. т.З: Регулярные структуры. -1983.

16. Даджион Д., Мерсеро Р., Цифровая обработка многомерных сигналов. М.: Мир, 1988.

17. Дасгупта Д. Искусственные иммунные системы. М. :Физматлит,2006.

18. Добеши И. Десять лекций по вейвлетам. Ижевск: НИЦ «Регулярная и хаотическая динамика», 2001

19. Дюк В., Самойленко A. Data Mining: учебный курс (+CD). СПб.: Питер, 2001. - 368 е.: ил.

20. Журавлёв Ю.И. Непараметрические задачи распознавания образов // Кибернетика. 1976. - № 6 - С.93-103

21. Журавлёв Ю.И. Об алгебраическом подходе к решению задач распознавания и классификации // Проблемы кибернетики. -М.:Наука, 1978. -Вып.ЗЗ. С.5-68.

22. Журавлёв Ю.И. Корректные алгебры над множествами некорректных (эвристических) алгоритмов. // Кибернетика. 1978. -№ 2 С.35-43.

23. Журавлёв Ю.И. Экстремальные задачи, возникающие при обосновании эвристических процедур // Проблемы прикладной математики имеханики.-М.:Наука, 1971. С.67-75.

24. Журавлёв Ю.И., Никифоров В.В. Алгоритмы распознавания, основанные на вычислении оценок // Кибернетика. 1971. № 3 - С. 1-11

25. Зайцева A.A. Метод и» алгоритмы! реализации адаптивно-динамической сегментации изображений "Информационно-измерительные и управляющие системы", №4, т.7, 2009. - С. 16-18.

26. Кодирование и обработка изображений. / Ред. Лебедев Д.С., Зяблов B.B. М.: Наука, 1988.

27. Кулешов С.В., Зайцева A.A., Аксенов А.Ю. Ассоциативно-пирамидальное представление данных. "Информационно-измерительные и управляющие системы", №4, т.6, 2008. - С. 14-17.

28. Люггер Д. Ф. Искусственный интеллект: Стратегии и методы решения сложных проблем. М.: Вильяме, 2003.

29. Марр Д. Зрение. 1 Информационный подход к изучению представления и обработки зрительных образов. -М.: Радио и связь, 1987.

30. Методы компьютерной обработки изображений. / Ред. Сойфер В.А. М.: Физматлит, 2001.

31. Минский М., Пейперт С. Персептроны. М.: Мир, 1971.

32. Оппенгейм Э. (ред.). Применение цифровой обработки сигналов. -М.: Мир, 1980.

33. Осовский С. Нейронные сети для обработки информации. М.: Финансы и статистика, 2002.

34. Патент РФ № 2329552. Адаптивное встраивание водяных знаков по нескольким каналам. / М.В.Харинов, заявители: СПИИРАН, «Самсунг Электроник Ко., Лтд.» // Бюл. №20. Опубл. 20.07.2008. -41 с.

35. Потапов A.C. Распознавание образов и машинное восприятие: общий подход на основе принципа минимальной длинны описания. СПб.: Политехника, 2007.

36. Потапычев С.Н. Архитектура интеллектуальной ГИС.// Труды, семинара EF&GIS, 25-27 сентября 2005, Санкт-Петербург, С. 216-221. littp://oogis.ru/component/option,comremositoiy/Itemid,34/fonc,fileinfo/id,5/laiig,ru /.

37. Столниц. Э., Де Роуз Т., Салезин Д. Вейвлеты в компьютерной графике. Теория и приложения:, 2002.

38. Тимофеев А.В. Адаптивная система логического' вывода и оптимальные опознающие графы // Вопросы кибернетики: Адаптация в системах со сложной организацией. М.: Научный совет по комплексной проблеме "Кибернетика" АН СССР. 1977. С. 33-35.

39. Тимофеев А.В. Адаптивные робототехнические комплексы.-JI.: Машиностроение. Ленинградское отделение, 1988. 332 е.: ил.

40. Тимофеев А.В. Роботы и искуственный интеллект. М.: Наука, 1978.192 с.

41. Тимофеев А.В. Системы инвариантного опознавания и их реализация методами когерентной и некогерентной оптики // Изв. АН СССР. Сер. Технич. кибернетика. 1971. №6. С. 155-163.

42. Форсайт Д., Понс Ж. Компьютерное зрение. Современный подход. -М.: Вильяме, 2004.

43. Фукунага К. Введение в статистическую теорию распознаваниягобразов. М.: Наука, 1979.

44. Хайкин С. Нейронные сети: полный курс. М.: Вильяме, 2008.

45. Харинов М.В. Запоминание и адаптивная обработка информации цифровых изображений. Спб.: Издательство Санкт-Петербургского1. Университета, 2006.

46. Харинов M.B. Применение сегментации изображений с сохранением зрительного образа . Доклад на конференции «Информационная' безопасность регионов России (ИБРР-2009)» .

47. Хуанг Т.С., Эклунд Дж.О., Нуссбаумер Г.Дж. и др. Быстрые алгоритмы в цифровой обработке изображений: преобразования и медианные фильтры. / Ред. Хуанг Т.С. М.: Радио и связь, 1984.50: Хорн Б.К.П. Зрение роботов. М.: Мир, 1989.

48. Цифровая обработка телевизионных и компьютерных изображений. / Дворкович A.B., Дворкович В.П., Зубарев Ю.Б. и др. М.: Международный центр научной и технической информации, 1997.

49. Чубукова И.A. Data mining. М.:Бином, 2008

50. Чуй К. Введение в вейвлеты. М.: Наука, 2001.

51. Шапиро JL, Стокман Дж. Компьютерное зрение. М.:Бином, 2006

52. Яншин В.В. Анализ и обработка изображений: принципы и алгоритмы. М.: Машиностроение, 1994.

53. Ярославский Л.П. Введение в цифровую обработку изображений. -М.: Сов. Радио, 1979.

54. Ahmed N., Rao K.R. Orthogonal Transforms for Digital Signal Processing. Berlin, Springer-Verlag, 1975.

55. Aiazzi, В., Alparone, L., Baronti, S., Santurri, L., and Selva, M. Information theoretic assessment of aster super-spectral imagery. In Image and Signal Processing for Remote Sensing XI, Bruzzone, L., ed., Proc. SPIE, Bellingham,

56. Washington, Volume 5982, 2005.

57. Almeida L. B. MISEP Linear and Nonlinear ICA Based on» Mutual Information// J. of Machine Learning Research. 2003. Vol. 4. p. 1297-1318s.

58. Andrews H.C. Computer techniques in image processing. -NY. :Academic press, 1970.

59. Andrews H.C., Hunt B.R. Digital image restoration. -Upper Saddle River. :Prentice Hall, 1977.

60. Andrews H.C. Introduction to Mathematical Techniques in Pattern Recognition, New York, Wiley, 1972*.

61. Ballard D.H., Brown C.M. Computer vision. -Upper Saddle River. :Prentice Hall,1982.

62. Ball G. H., Hall D. J. ISODATA: An iterative method of multivariate data, analysis and pattern classification // Proc. IEEE Int. Communications Conference. Philadelphia, 1966.

63. Ball G. H., Hall D: J. ISODATA, a novel method of data analysis and pattern classification // Stanford Research Institute Technical Report (NTIS AD699616). Stanford, CA, 1965.

64. Baxes G.A. Digital image processing: principles and applications. -NY. John Wiley & Sons, 1994.

65. Baxter R. A., Oliver J. J. The kindest cut: minimum message length segmentation // In S. Arikawa and A. Sharma, eds. Lecture Notes in Artificial Intelligence 1160, Algorithmic Learning Theory, ALT-96, p.83-90, 1996.

66. Bazi, Y., Bruzzone, L., and Melgani, F. An unsupervised approach based on the generalized Gaussian model to automatic change detection in multitemporal SAR images, IEEE Trans. Geosci. Rem. Sens., 43, 874-887, 2005.

67. Bazi, Y., Bruzzone, L., and Melgani, F. Automatic identification of the number andf values of decision thresholds in the log-ratio image for change detection" in SAR images, IEEE Lett. Geosci. Rem. Sens., 43, 874-887, 2005.

68. Bazi, Y., Bruzzone, L. and Melgani; F. Change detection in multitemporal SAR images based on the EM-GA algorithm and Markov Random Fields, Proc. IEEE Third Int. Workshop Anal. MultiTemporal Rem. Sens. Images (Multi-Temp 2005), 2005. .

69. Benediktsson J.A., Swain P.H., Esroy O.K. Conjugate-Gradient Neural Networks in Classification of Multisource and Very-High-Dimensional Remote Sensing Data. Int. J. Remote Sensing, 14, p.2883-2903, 1993.

70. Benediktsson J.A., Swain P.H:, Esroy O.K. Neural Network Approaches Versus Statistical" Methods in Classification of Multisource Remote Sensing Data. IEEE Trans Geoscience and Remote Sensing; 28, p.540-552, 1990.

71. Besag J. On the Statistical Analysis of Dirty Pictures. J. Royal Statistical Soc. (B), 48, p.259-302, 1986.

72. Boser В. E., Guyon I. M., Vapnik V. N. A training algorithm for optimal margin classifiers // Proc. 5th Annual ACM Workshop on Computatio- nal Learning Theory. ACM Press, p.144-152, 1992.

73. Bovolo, F. and Bruzzone, L. A detail-preserving scale-driven approach to change detection in multitemporal SAR images IEEE Trans. Geosci. Rem. Sens., 43, 2963-2972, 2005.

74. Brigham E.O. The Fast Fourier Transform and its Applications. N.J. Prentice-Hall, 1988.

75. Brzakovic D., Patton R., R.L. Wang: Rule-based Multitemplate Edge Detector. CVGIP: Graphical Models and Image Processing, 53, p.258-268, 1991.

76. Burges C.T.C. A Tutorial on Support Vector Machines for Pattern Recognition. Data Mining and Knowledge Discovery, 2, p.121-167,1998.

77. Byrne E.F., Crapper P.F., Mayo K.K. Monitoring Land-Cover Change by Principal» Components Analysis of Multitemporal Landsat Data. Remote Sensing of Environment, 10, p. 175-184; 1980:

78. Campbell N. A. The Decorrelation Stretch Transformation. Int. J. Remote Sensing, 17, 1939-1949, 1996.

79. Canny J. F. A computational approach to edge detection // IEEE Transactions on pattern analysis and Machine Intelligence. 1986. Vol. 8. No 6. p.679-698.

80. Cappellini V., Fini S., Harrigan E., Mecocci A. Circular shape detection in remote sensing multispectral images // In Arcelli C., Cordelia L.P., Sanniti di Baja G. (Eds.) Visual Form Analysis and Recognition. Plenum Press, New York, p. 119126, 1992.

81. Carlin, L. and Bruzzone, L. A scale-driven classification technique for very high geometrical resolution images, Proc. SPIE Conf. Image Signal Proc. Rem. Sens. XI, 2005.

82. Castleman K.R. Digital image processing. 2nd ed. -Upper Saddle River. :Prentice Hall,1996.

83. Castleman K.R. Digital Image Processing. N J. Prentice-Hall, 1996.

84. Chan T.F., Shen J., Vese L. Variational PDE models in image processing//Notices of Amer. Math. Soc. Vol. 50. p. 14-26, 2003.

85. Chi-hau Chen. Image processing for remote sensing. -Boca Raton.: CRC Press, 2008.

86. Cumani A. Edge Detection in Multispectral Images. CVGIP: Computer Models and Image Processing, 53, p.40-51, 1991.

87. Dasarathy B.V. Nearest Neighbour (NN) Norms: NN Pattern Classification Techniques. IEEE Computer Society Press, Los Alamitos, California,1991.

88. Day N. E. Estimating the components of mixture of normal distributions // Biometrika, Vol. 56, p.463-474,1969.

89. Drewnick C. Multispectral Edge Detection. Some Experiments on Data fromLandsat. Int. J. Remote Sensing, 15, p.3743-3765, 1994.

90. Edelman S. Representation and recognition in vision. -Cambridge.:Tlie MIT Press, 1999.

91. Eliason E.M., McEwan A.S. Adaptive Box Filters for Removal of Random Noise from Digital Images. Photogrammetric Engineering and' Remote Sensing, 56, p.453-458, 1990.

92. ENVI FeatureExtraction ModuleUser's Guide. ht1p://www.ittvis.com/portals/0/pdfs/envi/FeatureExtractionModule.pdf

93. Etienne E.K., Nachtegael Mi (eds.). Fuzzy techniques in image processing. -NY.:Springer-Verlag, 2000.

94. Field D. J. Relations between the statistics of natural images and response properties of cortical cells // Journal of Optical Society of America, 1987. Vol. 4. N 12. p.2379-2394.

95. Fu K.S. Syntactic pattern recognition and applications. .-Upper Saddle River. :Prentice Hall, 1982.

96. Geman S., Geman D., 1984: Stochastic Relaxation, Gibbs Distributions,and the Bayesian Restoration of Images. IEEE Trans Pattern Analysis and Machine Intelligence, PAMI-6, p.721-740.

97. Geman S., Geman D. Stochastic relaxation, Gibbs distributions and Bayesian restoration of images// IEEE Trans. PAMI. 1984. Vol.6. p:721-741.

98. Giardina C.R., Douglierty E.R. Morphological methods in image and-signal processing. -Upper Saddle River. :Prentice-Hall, 1988.

99. Gong P., HowarthP.J., Performance Analyses of Probabilistic Relaxation Methods for Land-Cover Classification. Remote Sensing of Environment, 30, p.33-42,1989.

100. Gong P., Howarth P.J., The Use of Structural Information for Improving Land-Cover Classification Accuracies at the Rural-Urban Fringe. Photogrammetrie Engineering and Remote Sensing, 56, p.67-73, 1990.

101. Goutsias J, Vincent L., Bloomberg D.S. (eds.). Mathematical morphology and its applications to image and signal processing. -Boston.:Kluwer Academic Publishes,2000.

102. Grimson W. E. L., Marr D. A computer implementation of a theory of human stereo vision // Proc. ARPA Image Understanding Workshop, L. S. Baumann, ed. SRI, 1979. p. 41-45.

103. Grossberg S. Adaptive pattern classification and universal recoding (I, II). Parallel development and coding of neural feature detectors // Biol. Cybernet. 1976. Vol. 23. p.121-134,187-202.

104. Growe S. Knowledge based interpretation of multisensor and multitemporal remote sensing images // IAPRS. Vol. 32,1999.

105. Gualtieri J.A., Cromp R.F. Support Vector Machines for Hyperspectral Remote Sensing Classification. Proc. SPIE, 3584, p. 221-232, 1999.

106. Gurney C.M., Threshold Selection for Line Detection Algorithms. IEEE Trans. Geoscience and Remote Sensing, GE-18, p.204-211,1980.

107. Hall E.L. Computer image processing and recognition. -NY.:Academic1. Press,1979.

108. Haralick R.M. Statistical and Structural Approaches to Texture. Proc. IEEE, 67, p.786-802, 1979.115i Haralik R;M., Shapiro E.G.!Computerand robot vision^ volums L & 2.-Readingr. Addison-Wesley, 1992:

109. Harris R., Contextual" Classification Post-Processing of Landsat Data Usinga Probabilistic Relaxation Model: Int. J;Remote Sensing, 6, p.847-866, 1985:117. ilord R.M., Digital Image Processing of Remotely Sensed Data; N.Y. Academic, 1982.

110. Howarth P.J., Boasson E., Landsat Digital Enhancements for Change Detection in Urban Environments. Remote Sensing of Environment, 13, p.149-160,1983.

111. Huang J. G;, Mumford D. B. Statistics of natural images and models // Proc. of IEEE Int. Conf. on Computer Vision and Pattern Recognition, p. 541-547, 1999.

112. Hyvaninen A., Karhunen J., Oja E. Independent component analysis. — J. Wiley, 2001 .

113. Hyvaninen A., Oja E. A fast fixed-point algorithm for independent component analysis //Neural Computation. Vol. 9. No 7. p.1483-1492,1997.

114. Hyvaninen A., Pajunen P. Nonlinear independent component analysis: Existence and uniqueness results // Neural Networks. Vol. 12. No 3. p.429-439, 1999.

115. Jaime B. Digital image processing: concepts, algorithms and scientificapplications. -NY.:Springer-Verlag, 1997.

116. Jain A.K. Fundamentals of digital image processing. -Upper Saddle River. :Prentice Hall; 1989;

117. Jose M.P. Nascimonto and Jose M. Bioucas Dias. Vertex component analysis: A fast algorithm to unmix hyperspectral data. IEEE Transactions on Geoscience and Remote Sensing, vol: 43, no. 4, pp. 898-910, 2005.

118. Karhunen J., Pajunen P., Oja E. The nonlinear PCA criterion in blind source separation: Relations with other approaches // Neurocomputing; .

119. Kauth R.J., Thomas G.S;, The Tasseled Cap -A Graphic Description of the Spectral Temporal Development of Agricultural Crops as Seen by Landsat. Proc. LARS 1976 Symp. on Machine Process. Remotely Sensed Data, Purdue University, 1976.

120. Keerthi S. S., Gilbert E. G. Convergence of a generalized SMO algorithm for SVM classifier design// Machine Learning. Vol. 46. p.351-360, 2002;

121. Kettig R.L., Landgrebe D.A., Classification of Multispectral Image Data by Extraction and Classification of Homogeneous Objects. IEEE Trans. Geoscience Electronics, GE-14, p. 19-26; 1976.

122. Khazenie N, Crawford М.М. Spatial-Temporal Autocorrelation Model? for Contextual Classification; IEEE Trans. Geoscience and Remote Sensing; 28, p:529-539; 1990*

123. Kittler J., PairmanD:,. Contextual Pattem^RecognitionfApplied'to Cloud! Detection» and;identification: IEEE Trans Geoscience and! Remote Sensing; GE-23, p.855-863; 1985.

124. K.R. Babu, R. Nevatia:. Linear Feature Extraction and Description. Computer Graphics and Image Processing, 13, p.257-269,1980.

125. Kuo B.-C., Landgrebe D:A. A Robust Classification Procedure Based on Mixture Classifiers andi Nonparametric Weighted Feature Extraction: IEEE Trans. Geoscience and Remote Sensing; 40, p:2486-2494, 2002.

126. Kuo R. J. Integration of adaptive resonance theory II neural network and genetic K-Means algorithm for data mining // Journal of the Chinese Institute of Industrial Engineers. Vol. 19. No 4. p.64-70, 2002.

127. Lappalainen H. Using an MDL-based cost function with neural networks // Proc. IJCNN-98. p.23 84-2389, 1998.

128. Lee Т., Richards J.A. A Low Cost Classifier for Multitemporal Applications; Int. L Remote Sensing, 6, p.1405-1417,1985.

129. Lee T.-W. et al. A unifying information-theoretic framework for independent component analysis // Int. J. on Mathematical and Computer Modeling. №39. p.1-21, 2000.

130. Levine M.D. Vision in man and machine. -NY.:McGraw-ffill,1985.

131. Lillesand T.M., Kiefer R.W. Remote sensing and image interpretation.

132. NY. John Wiley & Sons,1999.

133. Lim J.S. Two-dimensional signal and image processing; -Upper Saddle River. :Prentice Hall, 1990.

134. Mansouri A.-R., Konrad J. Motion segmentation with level sets // Proc. IEEE Int. Conf. Image Processing. Vol. II. p. 126-130-1999:

135. Marchand-Maillet S., Sharahia, Y.M. Binary digital image processing: A discrete approach.-NY.:Academic press, 2000.153: Mather P.M. Computer Processing of remotely sensing images: an introduction. -NY. John Wiley & Sons, 1999.

136. McGillem C.D., Cooper G.R. Continuous and Discrete Signal and SystemsAnalysis, 2e, N.Y., Holt, Reinhard and Winston, 1984.

137. Milligan G. W., Cooper M: C. An examination of procedures for determining the number of clusters in a data set // Psychometrika. 1985. Vol. 50. №1. p.159-179.

138. Minka T. P. Automatic Choice of Dimensionality for PC A // Advances in-Neural Information Processing Systems. Vol. 1'3; p. 598-604,2000.

139. Mitiche A. Computational analysis of visual motion. -NY.:Perseus Publishing, 1994.

140. Mitra S.K., Sicuranza G.L. (eds.). Nonlinear image processing. -NY.:Academic press, 2000.

141. Moik J.G., Digital; Processing of Remotely Sensed Images, N.Y., Academic, 1980;

142. Olsen S.I., Estimation of Noise in Images: an Evaluation. Graphical Models and Image Processing, 55 j p.319-323;1993: .

143. Paine S.H., Lodwick G.D. Edge Detection and Processing of Remotely Sensed Digital Images. Photogrammetria (PRS), 43, p.323-336, 1989:

144. Pajunen P. Blind- source separation using algorithmic information theory//Neurocomputing. Vol. 22. p.35-48, 1998:

145. Pavildis T. Algorithms for graphics and image: processing. -RockvilIe.:Computer Since Press,1982.

146. Pavlidis T. Algorithms for Shape Analysis of Contours and Waveforms. IEEE Trans. Pattern Analysis and Machine Intelligence, PAM1-2, p.301-312,1980:

147. Pavlidis T. Straeteal pattern recognition; -NY.: Springer-Verlag, 1977.

148. Pavlidis T. Structural; pattern recognition: primitives and juxtaposition relations // In: M. S. Watanabe, ed. Frontiers of Pattern Recognition. N. Y.: Academic Press, p. 421-451, 1972.

149. Petrou M., Bosdogianny P. Image processing: the fundamentals. -UK.:John Wiley & Sons,1999.

150. Popovich, V., Prokaev, A., Schrenk, Ml, Galiano^ F., Voronin, M.,

151. Smirnova, A. Monitoring of Terrorist's Treats: a Theoretical Approach// Proceedings of C0RP2008, Edited by Manfred Schrenk, May 19-22,20 08, Vienna.

152. Potapov A. S., Lutsiv V. R. Information-theoretic approach to image description and interpretation // Proceedings of SPIE. Vol. 5400: p.277-283,2003.

153. Pratt W.K. Digital" Image processing, 3rd ed.-NY.:John Wiley & Sons,2001.

154. Quinlan J. R. Learning efficient classification procedures and. their application to chess end games // In: R. S. Michalski, J. G. Carbonell', T. M. Mitchell, eds. Machine Learning: Springer-Verlag, 1983.

155. Radke R.J., Andra S., Al-Kofahi O., Roysam B. Image change detection algorithms: A systematic survey, IEEE Transactions on Image Processing, 14(3), 294-307.2005.

156. Richards J.A., Thematic Mapping from Multitemporal Image Data Using the Principal Components Transformation. Remote Sensing of Environment, 16, p.35-46,1984.

157. Ritter G.X., Wilson J.N. Handbook of computer vision algorithms in image algebra. -Boca Raton. :CRC Press,2001.

158. Robinson, D. J., Redding, N. J., and Crisp, D. J. (2002). Implementation of a fast algorithm for segmenting SAR imagery, Scientific and Technical Report, 01 January 2002. Australia: Defense Science and Technology Organization.

159. Rosenfeld A., Thurston M., Edge and Curve Detection for Visual Scene Analysis, IEEE Trans. Computers, C-20, p.562-569, 1971.

160. Rosenfeld R., Kak A.C. Digital picture processing, 2nd ed. Vols 1 & 2: -NY.:Academic Press,1982.

161. Ruderman D. L., Bialek W. Statistics of natural images: Scaling in the woods // Physical Review Letters. Vol. 73. N 6. p. 100-105, 1994.

162. Russ, J.C. The image processing handbook, 3rd ed.-Boca Raton:CRC press, 1999.

163. Santisteban A., L. Munoz, Principal Components of a Multispectral Image: Application* to a Geologic Problem. IBM J. Research and Development, 22, p.444-454, 1978.

164. Schalkoff R. J. Digital image processing and computer vision. -NY. John Wiley & Sons,1989.

165. Sebesteyen G., Edie J. An algorithm for non-parametric pattern recognition // IEEE Trans, on Electronic Computers. Vol. EC-15. p.908-915, 1966.

166. Serra J. Image analysis and mathematical morphology.-NY.-.Academic Press, 1982'.

167. Sid-Ahmed M. A. Image processing: theory, algorithms and architectures. -NY. McGraw-Hill, 1995.

168. Smirnov A. Processing of multidimensional signals.-NY.:Springer-Verlagjl999.

169. Smith S.M., Brady J.M. SUSAN a new approach to low level image processing//Int. J. Computer Vision. Vol. 23. №1. p.45-78,1997.

170. Soha J.M., A.A. Schwartz. Multispectral Histogram Normalization Contrast Enhancement. Proc. '5th Canadian Symp. on Remote Sensing, p.86-93, 1978.

171. Sonka M., Hlavac V., Royle R. Image processing, analisys and computer vision. -NY.:PWS Publishing, 1999.

172. Standard ISO/IEC 14977:1996 Information technology Syntactic metalanguage - Extended BNF, http://standards.iso.org/ittf/PubliclyAvailableStandards/index.htmi.

173. Storvik G., Fjortoft R., and Solberg A.H.S. A bayesian approach to classification of multiresolution remote sensing data, IEEE Trans. Geosci. Rem. Sens., 43(3), 539-547,2005.

174. Swain P.H., Davis S.M. (Eds.). Remote Sensing: The Quantitative Approach, New York, McGraw-Hill, 1978.

175. Tarakanov A.O., Skormin V.A., Sokolova S.P. Immimocomputing: Principles and applications. -New York.: Springer, 2003.

176. Tarakanov A. O., Tarakanov Y. A., A Comparison of Immune and Genetic Algorithms for Two Real-Life Tasks of Pattern Recognition. International Journal of unconventional computing, volume 14, 2005

177. Tarakanov A. O., Tarakanov Y. A. A Comparison of Immune and Neural Computing for Two Real-Life Tasks of Pattern Recognition. -Berlin.: Springer, 2004.

178. Tou J.T., Gonzalez R.C. Pattern recognition principles. -Reading. Addison-Wesley,1974.