Биофизические методы и модели машинного обучения для диагностики эпилепсии по данным электрической активности головного мозга тема диссертации и автореферата по ВАК РФ 00.00.00, кандидат наук Назариков Сергей Игоревич

• Назариков Сергей Игоревич
• кандидат наук
• 2025

Оглавление диссертации кандидат наук Назариков Сергей Игоревич

2.1 Каскадный подход

2.2 Методы постобработки с учетом биофизических особенностей

2.3 Методы оценки качества работы моделей для выявления приступов с учетом их биофизических особенностей

2.4 Результаты каскадного подхода

2.5 Выводы ко второй главе

3 Комбинация биофизических подходов к описанию эпилептического приступа и глубокого обучения для выявления эпилептических приступов

3.1 Эпилепсия и теория экстремальных значений

3.2 Биофизическая концепция эпилептического приступа как многокомпонентного экстремального события

3.3 Двухстадийный подход для выявления эпилептических приступов

3.4 Результаты двухстадийного подхода

3.5 Выводы к третьей главе

4 Выявление биофизических признаков эпилептического приступа при помощи интерпретируемости математических моделей

4.1 Проблемы методов интерпретируемости моделей для выявления эпилептических приступов

4.2 Требования к методам интерпретации моделей для обнаружения эпилептических приступов

4.3 Численный алгоритм для частотно-пространственной интерпретации моделей для выявления эпилептических приступов на базе ИНС

4.3.1 Важность пространственной области

4.3.2 Важность частотного диапазона

4.3.3 Частотно-пространственная интерпретация

4.4 Интерпретация разработанных моделей и биофизические особенности динамики эпилептических разрядов

4.4.1 Базовая модель

4.4.2 Каскадная модель

4.4.3 Двухстадийная модель

4.5 Выводы по четвертой главе

5 Комплекс программ для выявления эпилептических приступов на ЭЭГ записях

5.1 Структура комплекса программ

5.2 Модуль "Анализ данных"

5.3 Модуль "Обучение моделей"

5.4 Модуль "Получение предсказаний"

5.5 Модуль "Оценка качества"

5.6 Выводы по пятой главе

Заключение

Благодарности

Введение

Введение диссертации (часть автореферата) на тему «Биофизические методы и модели машинного обучения для диагностики эпилепсии по данным электрической активности головного мозга»

Актуальность исследуемой проблемы

Эпилепсия — это хроническое неврологическое расстройство, характеризующееся редкими, повторяющимися припадками, вызванными аномальной активностью структур головного мозга [1]. Эти приступы могут широко варьироваться по своим проявлениям: от коротких, незаметных эпизодов без клинических симптомов до длительных приступов, сопровождающихся потерей сознания и неконтролируемыми движениями [2]. Такие эпизоды существенно влияют на качество жизни пациента, что приводит к необходимости разработки эффективного противоэпилептического лечения и диагностики. По данным Всемирной организации здравоохранения, эпилепсией страдают более пятидесяти миллионов человек во всем мире, что подчеркивает глобальную важность борьбы с этим заболеванием [3].

Достижения в области медицины и неврологии позволили до 70% пациентов достичь ремиссии с помощью фармакологических методов лечения, нейростимуляции или хирургических вмешательств [4-8]. Однако любое успешное лечение эпилепсии начинается со своевременной диагностики, что подчеркивает острую необходимость в эффективных и точных методах диагностики.

Электроэнцефалография (ЭЭГ) выступает главным инструментом диагностики эпилепсии. Этот неинвазивный метод измеряет электрическую активность мозга с помощью электродов на поверхности головы, которые фиксируют биопотенциалы, возникающие в результате активации нейронов [9]. Процедура ЭЭГ-диагностики включает в себя наблюдение за пациентом с одновременной регистрацией ЭЭГ и последующий анализ сигналов ЭЭГ в поисках эпилептических приступов. Таким образом, диагностика эпилепсии неразрывно связана с задачей выделения приступов на сигналах ЭЭГ.

Несмотря на свою полезность, традиционный подход к интерпретации ЭЭГ, основанный на визуальном осмотре опытным эпилептологом, сопряжен со значительными трудностями. Редкость и вариабельность приступов требуют длительного мониторинга, иногда до нескольких дней или недель, что приводит к получению больших массивов данных, требующих тщательного ручного анализа. Это дорогой процесс, который требует много времени и усилий опытного врача-эпилептолога. Кроме того, сложность интерпретации различных проявлений судорожных припадков усугубляет трудности с постановкой точного диагноза.

Необходимость решения этих проблем порождает спрос на автоматизированные методы, помогающие в выделении приступов и диагностике эпилепсии. Автоматизированные инструменты, такие как системы поддержки принятия врачебных решений (СППВР), были разработаны для выявления эпизодов, похожих на судорожные припадки, для их дальнейшего рассмотрения врачом [10,11]. На сегодняшний день полностью автоматизированная диагностика остается недостижимой целью, в то время как СППВР обеспечивает практический баланс, снижая нагрузку на эпилептологов и

сохраняя при этом точность экспертного анализа. Такие системы могут

5

существенно ускорить диагностический процесс, повысить эффективность скрининга и предоставить врачу альтернативное мнение. Построение подобных систем в настоящее время является актуальной и важной научной задачей [12,13].

Несмотря на проблемы, описанные выше, в ходе обширных исследований были изучены различные подходы к обнаружению припадков на основе ЭЭГ. В ранних исследованиях использовались экспертные системы, основанные на правилах [14], и статистические модели, которые предлагали интерпретируемые решения, но часто были ограничены в своей масштабируемости и производительности [15]. С развитием машинного обучения (МО) для решения этой задачи был применен широкий спектр алгоритмов, которые показали многообещающие результаты [16-19]. Глубокое обучение (ГО) стало мощной альтернативой, а искусственные нейронные сети (ИНС) и, в частности, сверточные нейронные сети, демонстрируют исключительные возможности в задачах распознавания образов [20-22]. Сверточ-ные ИНС, первоначально разработанные для классификации изображений, были эффективно адаптированы для анализа спектров ЭЭГ, используя их структурное сходство с изображениями [23,24]. Способность ИНС автоматически извлекать признаки из данных позволила снизить зависимость от ручного построения признакового пространства, которое является трудоемким процессом при традиционных подходах к задаче.

Таким образом, анализ современного состояния исследований в области автоматизированного выявления эпилептических приступов позволил выявить ряд проблем. Во-первых, апробация существующих методов обычно проводится на общедоступных наборах данных, которые часто не способны отразить разнообразие и сложность реальных клинических состояний. Эти

наборы данных, как правило, имеют ограничения, такие как небольшое ко-

6

личество записей ЭЭГ, узкие возрастные диапазоны пациентов, специфические диагнозы и несогласованные условия предварительной обработки и записи [25,26]. Следовательно, методы, проверенные исключительно на таких наборах данных, могут оказаться неэффективными в клинических условиях. Для качественного тестирования требуется разнообразный набор данных, собранный в условиях, которые наиболее приближены к реальным медицинским сценариям, но такие наборы данных редко доступны.

Во-вторых, серьезной проблемой является сильная вариабельность эпилептических припадков, наблюдаемая на записях ЭЭГ [27]. У разных пациентов приступы проявляются по-разному и часто скрываются за шумом и артефактами в ЭЭГ-сигнале. Эта вариабельность затрудняет автоматическое обнаружение и часто приводит к большому числу ложноположитель-ных событий. Компромисс между полнотой и точностью остается основным препятствием для подходов машинного обучения (МО) и глубокого обучения (ГО). В то время как улучшение полноты имеет решающее значение для выявления редких случаев судорожных припадков, снижение точности может привести к тому, что специалисты будут получать огромное число ложных событий на анализ, ставя под сомнение практичность таких систем в реальных условиях применения [28].

В-третьих, автоматизированные методы также часто не учитывают особенностей эпилепсии как заболевания, которые можно почерпнуть из биофизики [29]. Это выражается как в формальном подходе к моделированию процесса выявления эпилептических приступов на ЭЭГ записях, так и в методах оценки, которые не учитывают биофизические особенности заболевания [30]. Многие подходы ставят на первое место высокую точность выявления, игнорируя все особенности и специфику конечного применения,

что может ограничить их клиническую значимость.

7

В-четвертых, даже самые передовые модели глубокого обучения не лишены недостатков. Компромисс между высоким качеством работы и интерпретируемостью решения остается нерешенным [31]. Так, модели, основанные на ИНС, с одной стороны автоматизирующие процесс построения признакового пространства, с другой стороны являются "черным ящиком", который не поддается интерпретации. В медицинской диагностике, где ставки высоки, интерпретируемость имеет решающее значение для укрепления доверия между врачом и пациентом [32]. Без прозрачности процесса принятия решений внедрение СППВР в клиническую практику остается ограниченным [33]. Необходимы инструменты, которые не только дают точные прогнозы, но и дают представление о процессе принятия решений, позволяя выносить обоснованные клинические суждения, подтверждаемые современными исследованиями из области биофизики. Кроме того, интерпретируемость моделей глубокого обучения представляет интерес и с исследовательской точки зрения: понимание логики работы эффективной модели может дать ценную информацию о новых неизученных биомаркерах эпилепсии на сигналах ЭЭГ [34].

Цель диссертационной работы

Целью диссертационной работы работы является выявление ЭЭГ-биомаркеров, характеризующих биофизические механизмы спонтанного формирования эпилептических приступов, разработка методов диагностики фокальной эпилепсии на основе комбинации биофизических подходов и математических моделей с использованием нейронных сетей для выделения эпилептических приступов на многоканальных записях ЭЭГ, в том числе в условиях реальной клинической практики, а также создание новых

8

численных методов и комплекса программ для диагностики и разметки эпилептических ЭЭГ данных.

Для достижения поставленной цели в диссертационной работе решаются следующие задачи:

1. Выявление биофизических характеристик эпилептических приступов и особенностей их возникновения на сигналах ЭЭГ.

2. Разработка математических моделей для выделения эпилептических приступов на ЭЭГ при фокальной эпилепсии на основе знаний предметной области об эпилепсии и алгоритмов машинного и глубокого обучения.

3. Разработка новых биофизических подходов к оценке эффективности выявления эпилептических приступов на ЭЭГ с учетом знаний предметной области.

4. Разработка численного метода для определения важных признаков сигналов многоканальной ЭЭГ в пространственно-частотном домене, оценка с его помощью разработанных моделей и биофизическая интерпретация признаков, по которым проводится выделение эпилептических приступов на многоканальных ЭЭГ записях.

5. Создание комплекса программ для автоматической разметки эпизодов эпилептической активности на многоканальных записях ЭЭГ.

Достоверность и обоснованность

Достоверность и обоснованность полученных результатов обеспечиваются использованием методов и подходов к анализу данных, которые строго

9

обоснованы, апробированы и широко обсуждены в современной научной литературе. Все полученные результаты анализа ЭЭГ имеют четкую биофизическую интерпретацию, которая соответствует современным научным представлениям и не противоречит достоверно известным результатам. Достоверность результатов, полученных с помощью математических моделей на основе машинного обучения, подтверждается использованием известных и апробированных алгоритмов. Достоверность результатов, полученных с использованием разработанных численных алгоритмов и комплекса программ, подтверждается проведенными исследованиями точности и устойчивости расчетных методик.

Научная новизна

Научная новизна работы соответствует паспортам специальности 1.5.2 -"Биофизика" и 1.2.2. - "Математическое моделирование, численные методы и комплексы программ" и заключается в обнаружении характеристик эпилептических приступов, связанными с биофизическими механизмами их возникновения на сигналах ЭЭГ (пункты 1.4, 4 паспорта специальности 1.5.2), в разработке нового подхода к построению математических моделей для выявления эпилептических приступов на ЭЭГ записях при фокальной эпилепсии (пункт 3 паспорта специальности 1.5.2, пункты 2, 5 паспорта специальности 1.2.2) и новых алгоритмов постобработки и критериев оценки качества работы систем для выявления эпилептических приступов с учетом биофизических особенностей эпилептической активности (пункты 1.4, 4 паспорта специальности 1.5.2), а также в создании комплекса программ для выявления эпизодов эпилептической активности на многоканальных ЭЭГ записях (пункты 2, 3 и 5 паспорта специальности 1.2.2).

10

В данной диссертационной работе получены следующие новые результаты:

1. Разработана биофизическая концепция эпилептического приступа как многокомпонентного экстремального события. Выявлены важные частотно-пространственные особенности эпилептических приступов при фокальной эпилепсии на вейвлет-спектрах сигналов ЭЭГ, которые демонстрируют наличие экстремального поведения в различных частотных диапазонах и связаны с процессами формирования и развития эпилептического приступа. Показана связь между механизмами активации глобальных сетей мозга и обнаруженными частотно-пространственными особенностями ЭЭГ.

2. Предложена математическая модель для выявления эпилептических приступов при фокальной эпилепсии на реальных клинических данных ЭЭГ с использованием сверточной нейронной сети.

3. Учитывая обнаруженные биофизические особенности формирования эпилептического приступа, разработана каскадная модель, отличающаяся добавлением второй сверточной нейронной сети, обучающейся на ошибках первой для повышения точности выявления приступов, а также двухстадийная модель, основанная на совместном использовании машинного обучения без учителя для обнаружения выбросов в ЭЭГ и глубокого обучения для их классификации. Показано существенное увеличение точности выделения приступов с использованием разработанных математических моделей, основанных на знаниях предметной области, по сравнению с другими известными подходами для выделения приступов.

4. Разработан набор правил и метрик для оценки эффективности выявления эпилептических приступов на записях ЭЭГ с учетом знаний о биофизических особенностях эпилептической активности.

5. Разработан численный метод для определения важных признаков математических моделей на основе глубокого обучения в пространственно-частотном домене, проведена их оценка, а также сравнение выделенных важных признаков с биофизическими особенностями эпилептической ЭЭГ, известными из предметной области.

6. Создан комплекс программ для обработки электроэнцефалографических сигналов, полученных в ходе мониторинга пациентов с эпилепсией, для разметки эпизодов эпилептической активности на ЭЭГ записях.

Личный вклад

Все результаты анализа данных, предоставленных Национальным медико-хирургическим центром имени Н. И. Пирогова, получены лично автором. Автором производилась разработка программного обеспечения для предварительной обработки и анализа нейрофизиологических данных, а также для построения моделей машинного обучения. Постановка задач, обсуждение результатов и их интерпретация проводились совместно с научными руководителями и соавторами опубликованных работ.

Практическая значимость

Практическая значимость заключается в возможности использования полученных в диссертационной работе результатов для автоматического выявления и диагностики эпилептических приступов по данным электрической активности головного мозга. Помимо этого, полученные результаты могут быть использованы при создании системы поддержки принятия врачебных речений, а также для автоматической аннотации большого объема ЭЭГ записей. Также, предложенные в данной работе методы могут использоваться в широком спектре приложений, где данные представляются в виде временных рядов и используются модели искусственных нейронных сетей.

Основные научные положения и результаты, выносимые на защиту

1. На вейвлет-спектрах сигналов ЭЭГ, полученных из центральной, затылочной и теменных областей, определены важные компоненты эпилептического приступа при фокальной эпилепсии: в диапазоне дельта активности (1-4 Гц) — базовая частота пик-волновой активности; в тета диапазоне (4-8 Гц) в затылочной области мозга — активность, отражающая участие таламуса в формировании приступа; в объединенном альфа и бета (8-30 Гц) диапазоне в затылочной и височных областях — активность, связанная с подавлением работы функциональной сети мозга по умолчанию во время приступа; в гамма диапазоне (> 30 Гц) — компоненты, отражающие симптоматику приступа и мышечные конвульсии. Каждая компонента проявляется в виде экс-

13

тремального события на ЭЭГ в своем частотном диапазоне, при этом компоненты появляются и исчезают в разные моменты на протяжении приступа, что приводит к формированию сложного сценария формирования и развития эпилептического приступа, который представляет собой многокомпонентное экстремальное событие.

2. Переход от стандартных метрик оценки качества бинарной классификации к метрикам, основанным на биофизических особенностях эпилептических сигналов ЭЭГ, при определении эффективности выявления приступов позволяет сделать разрабатываемые методы более проблемно-ориентированными и оценить перспективы их использования в реальной клинической практике. Задача бинарной классификации данных ЭЭГ заменяется на задачу поиска сегментов, потенциально содержащих эпилептические приступы. В такой постановке задачи общее число сегментов записи ЭЭГ, требующих внимания эксперта, снижается более чем в 7 раз.

3. Предложен численный метод для определения важных признаков математических моделей на основе глубокого обучения в пространственно-частотном домене многоканальных сигналов ЭЭГ, основанный на выявлении значимых биофизических свойств сигналов ЭЭГ на каждом канале и в каждом частотном диапазоне, который показал, что для повышения эффективности выявления эпилептических приступов в системах поддержки принятия решений врача-эпилептолога необходимо учитывать при построении математических моделей все частотно-пространственные компоненты, составляющие эпилептический приступ как многокомпонентное экстремальное событие.

4. Математическая модель на основе сверточной нейронной сети может быть использована для выявления эпилептических приступов на сигналах ЭЭГ, однако ее метрики (полнота 96.1%, точность 12.7% при 336 ложно положительных и 49 истинно положительных срабатываниях, длительность 35.2% которых не имеет нейрофизиологической значимости) сравнимы с метриками модели, основанной на алгоритмах машинного обучения без учителя, что означает, что большое число ложно положительных предсказаний и низкая точность детектирования приступов обусловлены не особенностями алгоритма классификатора, а биофизическими особенностями сигналов ЭЭГ.

5. Использование каскадной модели, в которой вторая сверточная нейронная сеть обучается на ошибках первой, позволяет сократить число ложно положительных обнаружений эпилептических разрядов на 89% и существенно повысить эффективность выявления эпилептических приступов на сигналах ЭЭГ (полнота 86.3%, точность 53.7% при 38 ложно положительных и 44 истинно положительных срабатываниях, длительность 26.2% которых не имеет нейрофизиологической значимости). Использование двухстадийного подхода, основанного на представлении приступа как многокомпонентного экстремального события и сочетающего алгоритмы поиска выбросов данных и глубокое обучение, обеспечивает лучшее качество диагностики эпилептической активности (полнота 84.3%, точность 57.3% при 32 ложно положительных и 43 истинно положительных срабатываниях, длительность 11.8% которых не имеет нейрофизиологической значимости).

Структура и объем работы

Диссертационная работа состоит из введения, пяти глав, заключения и списка литературы. Она содержит 147 страниц текста, включая 16 иллюстраций, 6 таблиц. Список литературы содержит 162 наименования.

Введение диссертационной работы содержит обоснование актуальности диссертационного исследования, описание современного состояния проблемы, формулировку цели работы, научную новизну, практическую ценность, краткое содержание диссертации, основные результаты и положения, выносимые на защиту.

В первой главе диссертационной работы описаны экспериментальные клинические данные долговременных эпилептических ЭЭГ и построена математическая модель, основанная на сверточной нейронной сети, для выявления эпилептических приступов на многоканальных ЭЭГ записях. Анализ полученных результатов показал, что большое число ложно положительных предсказаний обусловлено не недостатками классификатора, а внутренними особенностями сигналов ЭЭГ. Следовательно, был сделан вывод, что для повышения качества классификации необходимы принципиальные изменения в самом подходе к построению методов и моделей диагностики.

Во второй главе диссертационной работы создана математическая модель, основанная на применении каскадного подхода к задаче выявления эпилептических приступов на ЭЭГ, а также предложены методы постобработки и новые метрики качества предлагаемых моделей с учетом биофизических особенностей эпилептических паттернов.

После построения модели с учетом биофизических особенностей эпилептического разряда и использовании техник постобработки удалось уменьшить число ложно положительных срабатываний более чем в 8 раз по срав-

нению с базовой моделью, что привело к увеличению точности модели до 53.7% и полноты до 86.3%. Полученные результаты показали, что учет особенностей эпилептических паттернов на ЭЭГ путем применения каскадного алгоритма и адаптированных методов для оценки качества работы моделей позволяет улучшить качество выделения эпилептических приступов на сигналах ЭЭГ.

В третьей главе диссертационной работы предложена биофизическая концепция эпилептического приступа как многокомпонентного экстремального события, которая легла в основу созданной математической модели. Новая модель представляет собой двухстадийный подход к выявлению эпилептических приступов, комбинирующий методы теории экстремальных значений, примененных к эпилептической ЭЭГ, и методы машинного обучения с учителем и без учителя.

По результатам экспериментов была показана эффективность двухста-дийной модели относительно других методов: при чуть лучших показателях точности модель более корректно описывает длительность эпилептических приступов, а также является более предпочтительной с точки зрения вычислительных затрат.

В четвертой главе диссертационной работы разработан численный метод интерпретируемости математических моделей на основе ИНС для определения важности признаков в пространственно-частотном домене многоканальных записей ЭЭГ.

В результате применения разработанного метода были обнаружены важные компоненты многоканальной эпилептической ЭЭГ включающие все частотные диапазоны — 6, в, а, ¡3 и 7, проявляющиеся в одних и тех же зонах мозга — затылочной, обеих височных и реже центральной. Основываясь на результатах биофизических исследований ЭЭГ, данные ком-

17

поненты ассоциируются с определенными процессами, сопровождающими формирование и протекание эпилептического приступа: в Ö-диапазоне лежит основная частота приступа, которая становится хорошо заметна на большинстве каналов ЭЭГ при появлении эпилептической активности; 6-диапазон связан с активностью таламуса, который активно участвует в формировании приступа и высокая активность которого проецируется на каналы ЭЭГ в затылочной области; изменения в а и ß диапазонах в затылочной и височных областях определяются подавлением сети работы по умолчанию во время приступа; в 7-диапазоне проявляется симптоматика приступа, связанная в основном с мышечными конвульсиями.

В пятой главе диссертационной работы описана реализация предложенных подходов к выявлению эпилептических приступов на ЭЭГ записях клинического мониторинга в виде комплекса программ для обучения и оценки качества моделей для выявления эпилептических приступов на ЭЭГ записях, а также для осуществления разметки новых ЭЭГ записей и их интерпретации.

В заключении подведены итоги диссертационной работы и сформулированы основные результаты и выводы.

Апробация результатов и публикации

Основные результаты диссертации были представлены докладами на следующих всероссийских и международных научных мероприятиях:

• VIII Scientific School "Dynamics of Complex Networks and their Applications" (DCNA'2024; Калининград, 19-21 сентрября 2024);

• VII Scientific School "Dynamics of Complex Networks and their Applications" (DCNA'2023; Калининград, 18-20 сентября 2023);

• "Нелинейные дни в Саратове для молодых — 2023" (Саратов, 15-19 мая 2023).

Основное содержание и результаты диссертации отражены в 9 публикациях автора, включая 3 статьи в журналах [35-37], входящих в К1 "Белого списка", индексируемых в базах данных Scopus и/или Web of Science и входящих в перечень ВАК, 1 из которых опубликована в журнале первого квартиля Q1, 3 статьи в сборниках трудов конференций [38-40], индексируемых в Scopus и/или WoS, 3 свидетельства о регистрации программы для ЭВМ [41-43].

Глава 1

Экспериментальные данные и построение

и и

базовой математической модели для выявления эпилептических приступов

В данной главе рассмотрены проблемы наиболее распространенных наборов данных для выявления эпилептических приступов, а также описаны экспериментальные клинические данные долговременных эпилептических ЭЭГ, используемые в диссертационной работе. В первой главе выполняется формализация задачи выявления эпилептических приступов на ЭЭГ записях и строится базовая модель для выявления приступов на основе сверточной ИНС. В результате обучения модели и анализа полученных результатов показано, что модель на основе ИНС сталкивается с теми же

20

проблемами, что и модели на основе классических подходов машинного обучения, что выражается в низкой метрике точности за счет большого числа ложно положительных предсказаний, обусловленных внутренними особенностями сигналов ЭЭГ. Таким образом, для повышения качества классификации необходимы принципиальные изменения в самом подходе к построению методов и моделей диагностики.

1.1 Экспериментальные данные

Согласно исследованию [20], в котором были проанализированы более 150 работ с использованием данных ЭЭГ, среди которых 26 работ решали задачу выявления эпилептических приступов, самыми используемыми среди исследователей являются наборы данных Bonn-Barcelona [44] и CHB-MIT [45]. Однако несмотря на то, что эти наборы данных широко используются в исследовательском сообществе, они имеют существенные ограничения, которые делают их мало подходящими для апробации методов диагностики и снижают их применимость к реальным клиническим сценариям.

Список литературы диссертационного исследования кандидат наук Назариков Сергей Игоревич, 2025 год

Литература

[1] Beghi, Ettore. The epidemiology of epilepsy / Ettore Beghi // Neuroepi-demiology. — 2020. — Vol. 54, no. 2. — Pp. 185-191.

[2] Epilepsy in adults / Roland D Thijs, Rainer Surges, Terence J O'Brien, Josemir W Sander // The lancet. — 2019. — Vol. 393, no. 10172. — Pp. 689-701.

[3] Organization, World Health. Epilepsy: a public health imperative / World Health Organization et al. — World Health Organization, 2019.

[4] Perucca, Emilio. The pharmacological treatment of epilepsy in adults / Emilio Perucca, Torbjorn Tomson // The lancet neurology. — 2011. — Vol. 10, no. 5. — Pp. 446-456.

[5] Methods of automated absence seizure detection, interference by stimulation, and possibilities for prediction in genetic absence models / Gilles van Luijtelaar, Annika Lüttjohann, Vladimir V Makarov et al. // Journal of neuroscience methods. — 2016. — Vol. 260. — Pp. 144-158.

[6] Absence seizure control by a brain computer interface / Vladimir A Mak-simenko, Sabrina Van Heukelum, Vladimir V Makarov et al. // Scientific Reports. — 2017. — Vol. 7, no. 1. — P. 2487.

[7] Brain-computer interface for the epileptic seizures prediction and prevention / Vladimir Maksimenko, Annika Liittjohann, Sabrina van Heukelum et al. // 2020 8th International Winter Conference on Brain-Computer Interface (BCI) / IEEE. — 2020. — Pp. 1-5.

[8] Miller, John W. Surgical treatment of epilepsy / John W Miller, Shahin Hakimian // Continuum: Lifelong Learning in Neurology. — 2013. — Vol. 19, no. 3. — Pp. 730-742.

[9] Cooper, Raymond. EEG technology / Raymond Cooper, John Walkin-shaw Osselton, John Crossley Shaw. — Butterworth-Heinemann, 2014.

[10] Automated seizure detection using wearable devices: a clinical practice guideline of the International League Against Epilepsy and the International Federation of Clinical Neurophysiology / Sandor Beniczky, Samuel Wiebe, Jesper Jeppesen et al. // Clinical Neurophysiology. — 2021. — Vol. 132, no. 5. — Pp. 1173-1184.

[11] Analysis of publication activity and research trends in the field of ai medical applications: Network approach / Oleg E Karpov, Elena N Pitsik, Semen A Kurkin et al. // International Journal of Environmental Research and Public Health. — 2023. — Vol. 20, no. 7. — P. 5335.

[12] Карпов О. Э., Храмов А. Е. Информационные технологии, вычислительные системы и искусственный интеллект в медицине / Храмов А. Е. Карпов О. Э. — Москва: ДПК Пресс, 2022.

[13] An overview of clinical decision support systems: benefits, risks, and strategies for success / Reed T Sutton, David Pincock, Daniel C Baumgart et al. // NPJ digital medicine. — 2020. — Vol. 3, no. 1. — P. 17.

124

[14] Aarabi, Ardalan. A fuzzy rule-based system for epileptic seizure detection in intracranial EEG / Ardalan Aarabi, Reza Fazel-Rezai, Yahya Aghakhani // Clinical Neurophysiology. — 2009. — Vol. 120, no. 9. — Pp. 1648-1657.

[15] A unified framework and method for EEG-based early epileptic seizure detection and epilepsy diagnosis / Zixu Chen, Guoliang Lu, ZhaohongXie, Wei Shang // IEEE Access. — 2020. — Vol. 8. — Pp. 20080-20092.

[16] Wang, Deng. Best basis-based wavelet packet entropy feature extraction and hierarchical EEG classification for epileptic detection / Deng Wang, Duoqian Miao, Chen Xie // Expert Systems with Applications. — 2011.

— Vol. 38, no. 11. — Pp. 14314-14320.

[17] Epileptic seizure detection using EEG signals and extreme gradient boosting / Paul Vanabelle, Pierre De Handschutter, Riem El Tahry et al. // Journal of biomedical research. — 2020. — Vol. 34, no. 3. — P. 228.

[18] Machine learning applications on neuroimaging for diagnosis and prognosis of epilepsy: A review / Jie Yuan, Xuming Ran, Keyin Liu et al. // Journal of neuroscience methods. — 2022. — Vol. 368. — P. 109441.

[19] Machine learning algorithms for epilepsy detection based on published eeg databases: A systematic review / Andreas Miltiadous, Katerina D Tz-imourta, Nikolaos Giannakeas et al. // IEEE Access. — 2022. — Vol. 11.

— Pp. 564-594.

[20] Deep learning-based electroencephalography analysis: a systematic review / Yannick Roy, Hubert Banville, Isabela Albuquerque et al. // Journal of neural engineering. — 2019. — Vol. 16, no. 5. — P. 051001.

A novel deep neural network for robust detection of seizures using EEG signals / Wei Zhao, Wenbing Zhao, Wenfeng Wang et al. // Computational and mathematical methods in medicine. — 2020. — Vol. 2020.

[22] SeizureNet: Multi-spectral deep feature learning for seizure type classification / Umar Asif, Subhrajit Roy, Jianbin Tang, Stefan Harrer // Machine Learning in Clinical Neuroimaging and Radiogenomics in Neuro-oncology: Third International Workshop, MLCN 2020, and Second International Workshop, RNO-AI 2020, Held in Conjunction with MICCAI 2020, Lima, Peru, October 4-8, 2020, Proceedings 3 / Springer. — 2020. — Pp. 77-87.

[23] Deep convolutional neural network-based epileptic electroencephalogram (EEG) signal classification / Yunyuan Gao, Bo Gao, Qiang Chen et al. // Frontiers in neurology. — 2020. — Vol. 11. — P. 375.

[24] Identification of epileptic EEG signals using convolutional neural networks / Rahib Abiyev, Murat Arslan, John Bush Idoko et al. // Applied sciences. — 2020. — Vol. 10, no. 12. — P. 4089.

[25] Handa, Palak. EEG Datasets in Machine Learning Applications of Epilepsy Diagnosis and Seizure Detection / Palak Handa, Monika Mathur, Nid-hi Goel //SN Computer Science. — 2023. — Vol. 4, no. 5. — P. 437.

[26] EEG datasets for seizure detection and prediction— A review / Sheng Wong, Anj Simmons, Jessica Rivera-Villicana et al. // Epilepsia Open. — 2023. — 02. — Vol. 8. — Pp. 252-267.

[27] Niedermeyer, Ernst. 13. Abnormal EEG Patterns: Epileptic and Paroxysmal / Ernst Niedermeyer // Electroencephalography: basic principles, clinical applications, and related fields. — 2005. — P. 255.

126

[28] Seizure reporting technologies for epilepsy treatment: A review of clinical information needs and supporting technologies / Jonathan Bidwell, Thanin Khuwatsamrit, Brittain Askew et al. // Seizure. — 2015. — Vol. 32. — Pp. 109-117.

[29] Epileptic Seizure Detection and Experimental Treatment: A Review / Taeho Kim, Phuc Nguyen, Nhat Pham et al. // Frontiers in Neurology. — 2020. — Vol. 11.

[30] Ren, Zhe. The performance evaluation of the state-of-the-art EEG-based seizure prediction models / Zhe Ren, Xiong Han, Bin Wang // Frontiers in Neurology. — 2022. — Nov. — Vol. 13. — P. 1016224.

[31] Crook, Barnaby. Revisiting the Performance-Explainability Trade-Off in Explainable Artificial Intelligence (XAI) / Barnaby Crook, Maximilian Schlüter, Timo Speith // 2023 IEEE 31st International Requirements Engineering Conference Workshops (REW). — IEEE, 2023. — Pp. 316324.

[32] "I don't think people are ready to trust these algorithms at face value": trust and the use of machine learning algorithms in the diagnosis of rare disease / Nina Hallowell, Shirlene Badger, Aurelia Sauerbrei et al. // BMC medical ethics. — 2022. — Vol. 23, no. 1. — P. 112.

[33] Current Challenges and Future Opportunities for XAI in Machine Learning-Based Clinical Decision Support Systems: A Systematic Review / Anna Markella Antoniadi, Yuhan Du, Yasmine Guendouz et al. // Applied Sciences. — 2021. — Vol. 11, no. 11.

[34] Diagnostic biomarker discovery from brain EEG data using LSTM, reservoir-SNN, and NeuCube methods in a pilot study comparing epilepsy and migraine / Samaneh Alsadat Saeedinia, Mohammad Reza Jahed-Motlagh, Abbas Tafakhori, Nikola Kirilov Kasabov // Scientific Reports. — 2024. — Vol. 14, no. 1. — P. 10667.

[35] Two-Stage Approach With Combination of Outlier Detection Method and Deep Learning Enhances Automatic Epileptic Seizure Detection / Vadim V. Grubov, Sergei I. Nazarikov, Semen A. Kurkin et al. // IEEE Access. — 2024. — Vol. 12. — Pp. 122168-122182.

[36] Error-aware CNN improves automatic epileptic seizure detection / Vadim Grubov, Sergei Nazarikov, Nikita Utyashev, Oleg E. Karpov // The European Physical Journal Special Topics. — 2024. — Aug. https://doi.org/10.1140/epjs/s11734-024-01292-2.

[37] Назариков, Сергей Игоревич. Математическая модель для выявления эпилептических приступов на записи ЭЭГ / Сергей Игоревич Назариков // Известия вузов. Прикладная нелинейная динамика. — 2023. — Vol. 31, no. 5. — Pp. 628-642.

[38] Two-stage approach based on combination of one-class SVM and CNN for epileptic seizure identification / Sergei Nazarikov, Vadim Grubov, Nikita Utashev, Oleg Karpov // 2024 8th Scientific School Dynamics of Complex Networks and their Applications (DCNA). — 2024. — Pp. 175-177.

[39] Nazarikov, Sergei. Cascade CNN-based model for epileptic seizure diagnostics / Sergei Nazarikov, Olga Vertinskaya, Vadim Grubov // 2024 8th Scientific School Dynamics of Complex Networks and their Applications (DCNA). — 2024. — Pp. 178-180.

[40] Nazarikov, Sergei. Two-stage model for epileptic seizures detection on EEG recordings / Sergei Nazarikov, Semen Kurkin // 2023 7th Scientific School Dynamics of Complex Networks and their Applications (DCNA). — 2023. — Pp. 201-204.

[41] Назариков, Сергей Игоревич. Программа для обучения моделей диагностики эпилептической активности на данных ЭЭГ «SeizureDetectorTrainer» / Сергей Игоревич Назариков, Александр Евгеньевич Храмов // Свидетельство о регистрации программы для ЭВМ. — 2024. — Сен. — no. 2024680867.

[42] Назариков, Сергей Игоревич. Программа для преобразования предсказаний бинарных классификаторов для выявления эпилепсии в отрезки для анализа врачом эпилептологом «SeizureDetectorPredictionMerger» / Сергей Игоревич Назариков, Семен Андреевич Куркин // Свидетельство о регистрации программы для ЭВМ. — 2024. — Сен. — no. 2024680650.

[43] Назариков, Сергей Игоревич. Программа для оценки качества моделей для выявления эпилепсии «SeizureDetectorEvaluator» / Сергей Игоревич Назариков, Вадим Валерьевич Грубов // Свидетельство о регистрации программы для ЭВМ. — 2024. — Сен. — no. 2024680651.

[44] Seizure onset zone lateralization using a non-linear analysis of micro vs. macro electroencephalographic recordings during seizure-free stages of the sleep-wake cycle from epilepsy patients / Cristina G. Martinez, Johannes Niediek, Florian Mormann, Ralph G. Andrzejak // Frontiers in Neurology. — 2020. — Sep. — Vol. 11.

129

[45] Shoeb, Ali Hossam: Ph.D. thesis. — Massachusetts Institute of Technology, 2009.

[46] Mitigating inter-subject brain signal variability for EEG-based driver Fatigue State Classification / Sunhee Hwang, Sungho Park, Dohyung Kim et al. // ICASSP 2021 - 2021 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP). — 2021. — Jun. — P. 990-994.

[47] Kasteleijn-Nolst Trenite, Dorothee. Photosensitivity and epilepsy / Dorothee Kasteleijn-Nolst Trenite // Clinical Electroencephalography. — 2019. — Pp. 487-495.

[48] Holmes, Mark D. Does hyperventilation elicit epileptic seizures? / Mark D Holmes, Asanka S Dewaraja, Sampsa Vanhatalo // Epilepsia. — 2004. — Vol. 45, no. 6. — Pp. 618-620.

[49] Homan, Richard W. The 10-20 electrode system and cerebral location / Richard W Homan // American Journal of EEG Technology. — 1988. — Vol. 28, no. 4. — Pp. 269-279.

[50] White, Diane M. EEG artifacts in the intensive care unit setting / Diane M White, C Anne Van Cott // American journal of electroneurodi-agnostic technology. — 2010. — Vol. 50, no. 1. — Pp. 8-25.

[51] Independent component analysis as a tool to eliminate artifacts in EEG: a quantitative study / Jorge Iriarte, Elena Urrestarazu, Miguel Valencia et al. // Journal of clinical neurophysiology. — 2003. — Vol. 20, no. 4. — Pp. 249-257.

[52] FieldTrip: open source software for advanced analysis of MEG, EEG, and

invasive electrophysiological data / Robert Oostenveld, Pascal Fries, Er-

130

ic Maris, Jan-Mathijs Schoffelen // Computational intelligence and neuroscience. — 2011. — Vol. 2011. — Pp. 1-9.

[53] Noise amplification precedes extreme epileptic events on human EEG / Oleg E Karpov, Vadim V Grubov, Vladimir A Maksimenko et al. // Physical Review E. — 2021. — Vol. 103, no. 2. — P. 022310.

[54] Extreme value theory inspires explainable machine learning approach for seizure detection / Oleg E Karpov, Vadim V Grubov, Vladimir A Maksimenko et al. // Scientific Reports. — 2022. — Vol. 12, no. 1. — P. 11474.

[55] Detecting epileptic seizures using machine learning and interpretable features of human EEG / Oleg E Karpov, Sergey Afinogenov, Vadim V Grubov et al. // The European Physical Journal Special Topics. — 2023. — Vol. 232, no. 5. — Pp. 673-682.

[56] Trinka, Eugen. Causes of status epilepticus / Eugen Trinka, Julia Hofler, Alexander Zerbs // Epilepsia. — 2012. — Vol. 53. — Pp. 127-138.

[57] Wavelets in neuroscience / Alexander E Hramov, Alexey A Koronovskii, Valeri A Makarov et al. — Springer, 2015.

[58] Aldroubi, Akram. Wavelets in Medicine and Biology / Akram Aldroubi, Michael Unser. — Routledge, 2017.

[59] Wavelets in Neuroscience / Alexander E Hramov, Alexey A Koronovskii, Valeri A Makarov et al. — Springer Nature, 2021.

[60] Newson, Jennifer J. EEG frequency bands in psychiatric disorders: a review of resting state studies / Jennifer J Newson, Tara C Thiagarajan // Frontiers in human neuroscience. — 2019. — Vol. 12. — P. 521.

[61] MEG and EEG data analysis with MNE-Python / Alexandre Gramfort, Martin Luessi, Eric Larson et al. // Frontiers in neuroscience. — 2013. — Vol. 7. — P. 70133.

[62] Mousavi, S. R. Epileptic seizure detection using AR model on EEG signals / S. R. Mousavi, M. Niknazar, B. Vosoughi Vahdat // 2008 Cairo International Biomedical Engineering Conference. — 2008. — Dec. — P. 1-4.

[63] Evaluation of unsupervised anomaly detection techniques in labelling epileptic seizures on human EEG / Oleg E Karpov, Matvey S Khoymov, Vladimir A Maksimenko et al. // Applied Sciences. — 2023. — Vol. 13, no. 9. — P. 5655.

[64] Krizhevsky, Alex. Imagenet classification with deep convolutional neural networks / Alex Krizhevsky, Ilya Sutskever, Geoffrey E Hinton // Advances in neural information processing systems. — 2012. — Vol. 25.

[65] ImageNet: A large-scale hierarchical image database / Jia Deng, Wei Dong, Richard Socher et al. // 2009 IEEE Conference on Computer Vision and Pattern Recognition. — 2009. — Jun.

[66] Deep residual learning for image recognition / Kaiming He, Xi-angyu Zhang, Shaoqing Ren, Jian Sun // Proceedings of the IEEE conference on computer vision and pattern recognition. — 2016. — Pp. 770-778.

[67] Ioffe, Sergey. Batch normalization: accelerating deep network training by reducing internal covariate shift / Sergey Ioffe, Christian Szegedy // Proceedings of the 32nd International Conference on International Conference

on Machine Learning - Volume 37. — ICML'15. — JMLR.org, 2015. — P. 448-456.

[68] The Shattered Gradients Problem: If resnets are the answer, then what is the question? / David Balduzzi, Marcus Frean, Lennox Leary et al. // Proceedings of the 34th International Conference on Machine Learning / Ed. by Doina Precup, Yee Whye Teh. — Vol. 70 of Proceedings of Machine Learning Research. — PMLR, 2017. — 06-11 Aug. — Pp. 342-350.

[69] Visualizing the Loss Landscape of Neural Nets / Hao Li, Zheng Xu, Gavin Taylor et al. // Advances in Neural Information Processing Systems / Ed. by S. Bengio, H. Wallach, H. Larochelle et al. — Vol. 31. — Curran Associates, Inc., 2018.

[70] Hendrycks, Dan. Using Pre-Training Can Improve Model Robustness and Uncertainty / Dan Hendrycks, Kimin Lee, Mantas Mazeika // Proceedings of the 36th International Conference on Machine Learning / Ed. by Kamalika Chaudhuri, Ruslan Salakhutdinov. — Vol. 97 of Proceedings of Machine Learning Research. — PMLR, 2019. — 09-15 Jun. — Pp. 27122721. https://proceedings.mlr.press/v97/hendrycks19a.html.

[71] Normalization techniques in training dnns: Methodology, analysis and application / Lei Huang, Jie Qin, Yi Zhou et al. // IEEE transactions on pattern analysis and machine intelligence. — 2023. — Vol. 45, no. 8. — Pp. 10173-10196.

[72] Johnson, Justin M. Survey on deep learning with class imbalance / Justin M Johnson, Taghi M Khoshgoftaar // Journal of Big Data. — 2019. — Vol. 6, no. 1. — Pp. 1-54.

[73] Mohammed, Roweida. Machine learning with oversampling and under-sampling techniques: overview study and experimental results / Roweida Mohammed, Jumanah Rawashdeh, Malak Abdullah // 2020 11th international conference on information and communication systems (ICICS) / IEEE. — 2020. — Pp. 243-248.

[74] A survey of methods for addressing class imbalance in deep-learning based natural language processing / Sophie Henning, William Beluch, Alexander Fraser, Annemarie Friedrich // arXiv preprint arXiv:2210.04675. — 2022.

[75] Hernandez, Julio. An empirical study of oversampling and undersampling for instance selection methods on imbalance datasets / Julio Hernandez, Jesus Ariel Carrasco-Ochoa, Jose Francisco Martinez-Trinidad // Progress in Pattern Recognition, Image Analysis, Computer Vision, and Applications: 18th Iberoamerican Congress, CIARP 2013, Havana, Cuba, November 20-23, 2013, Proceedings, Part I 18 / Springer. — 2013. — Pp. 262-269.

[76] Specaugment: A simple data augmentation method for automatic speech recognition / Daniel S Park, William Chan, Yu Zhang et al. // arXiv preprint arXiv:1904.08779. — 2019.

[77] Kingma, Diederik P. Adam: A method for stochastic optimization / Diederik P Kingma, Jimmy Ba // arXiv preprint arXiv:1412.6980. — 2014.

[78] Cortes, C. Support Vector Networks / C. Cortes, V. Vapnik // Machine Learning. — 1995. — Vol. 20. — Pp. 273-297.

[79] Childs, Christopher M. Embedding domain knowledge for machine learning of complex material systems / Christopher M. Childs, Newell R. Washburn // MRS Communications. — 2019. — Vol. 9. — Pp. 806-820. https://api.semanticscholar.org/CorpusID:199189235.

[80] EEG-based cross-subject driver drowsiness recognition with an interpretable convolutional neural network / Jian Cui, Zirui Lan, Olga Sourina, Wolfgang Müller-Wittig // IEEE Transactions on Neural Networks and Learning Systems. — 2022. — Vol. 34, no. 10. — Pp. 7921-7933.

[81] Lightgbm: A highly efficient gradient boosting decision tree / Guolin Ke, Qi Meng, Thomas Finley et al. // Advances in neural information processing systems. — 2017. — Vol. 30.

[82] Jing, Longlong. Coarse-to-fine semantic segmentation from image-level labels / Longlong Jing, Yucheng Chen, Yingli Tian // IEEE transactions on image processing. — 2019. — Vol. 29. — Pp. 225-236.

[83] Friedman, Jerome H. Greedy function approximation: a gradient boosting machine / Jerome H Friedman // Annals of statistics. — 2001. — Pp. 1189-1232.

[84] Predictability and Suppression of Extreme Events in a Chaotic System / Hugo L. D. de S. Cavalcante, Marcos Oria, Didier Sornette et al. // Phys. Rev. Lett. — 2013. — Nov. — Vol. 111. — P. 198701.

[85] Albeverio, Sergio. Extreme Events in Nature and Society / Sergio Albeverio, Volker Jentsch, Holger Kantz. — 2006. https://api.semanticscholar.org/CorpusID:129008411.

[86] Extreme events: dynamics, statistics and prediction / M. Ghil, P. Yiou, S. Hallegatte et al. // Nonlinear Processes in Geophysics. — 2011. — Vol. 18, no. 3. — Pp. 295-350.

[87] Defining extreme events: A cross-disciplinary review / Lauren E McPhillips, Heejun Chang, Mikhail V Chester et al. // Earth's Future. — 2018. — Vol. 6, no. 3. — Pp. 441-455.

[88] Jenkinson, A. F. The frequency distribution of the annual maximum (or minimum) values of meteorological elements / A. F. Jenkinson // Quarterly Journal of the Royal Meteorological Society. — 1955. — Vol. 81. — Pp. 158-171.

[89] Smiti, Abir. A critical overview of outlier detection methods / Abir Smi-ti // Computer Science Review. — 2020. — Vol. 38. — P. 100306.

https://www.sciencedirect.com/science/article/pii/S1574013720304068.

[90] Singh, Karanjit. Outlier Detection: Applications And Techniques / Karanjit Singh, Shuchita Upadhyaya // International Journal of Computer Science Issues. — 2012. — 01. — Vol. 9, no. 3. — Pp. 307-323.

[91] Lehnertz, Klaus. Epilepsy: Extreme Events in the Human Brain / Klaus Lehnertz // Extreme Events in Nature and Society / Ed. by Sergio Albeverio, Volker Jentsch, Holger Kantz. — Berlin, Heidelberg: Springer Berlin Heidelberg, 2006. — Pp. 123-143.

[92] Epileptic seizures: Quakes of the brain? / Ivan Osorio, Mark G. Frei, Didier Sornette et al. // Phys. Rev. E. — 2010. — Aug. — Vol. 82. — P. 021919.

[93] Seizure prediction — ready for a new era / Levin Kuhlmann, Klaus Lehn-ertz, Mark P. Richardson et al. // Nature Reviews Neurology. — 2018. — Vol. 14. — Pp. 618-630.

[94] Extreme events in epileptic EEG of rodents after ischemic stroke / AN Pis-archik, VV Grubov, VA Maksimenko et al. // The European Physical Journal Special Topics. — 2018. — Vol. 227. — Pp. 921-932.

[95] Statistical properties and predictability of extreme epileptic events / Niki-ta S Frolov, Vadim V Grubov, Vladimir A Maksimenko et al. // Scientific reports. — 2019. — Vol. 9, no. 1. — P. 7243.

[96] Seneviratne, Udaya. Electroencephalography in the Diagnosis of Genetic Generalized Epilepsy Syndromes / Udaya Seneviratne, Mark J. Cook, Wendyl Jude D'Souza // Frontiers in Neurology. — 2017. — Vol. 8.

[97] Synchronization and desynchronization in epilepsy: controversies and hypotheses / Premysl Jiruska, Marco de Curtis, John Gordon Ralph Jefferys et al. // The Journal of Physiology. — 2012. — Vol. 591. — Pp. 787 -797. https://api.semanticscholar.org/CorpusID:15999041.

[98] Thalamocortical circuits in generalized epilepsy: Pathophysiologic mechanisms and therapeutic targets / Britta E. Lindquist, Clare Timbie, Yuliya Voskobiynyk, Jeanne T. Paz // Neurobiology of Disease. — 2023. — Vol. 181. — P. 106094.

[99] Morrell, M. J. Differential diagnosis of seizures / M. J. Morrell // Neurologic Clinics. — 1993. — Vol. 11. — Pp. 737-754.

[100] Gotman, J. Frequency content of EEG and EMG at seizure onset: Possibility of removal of EMG artefact by digital filtering / J Gotman,

137

J.R Ives, P Gloor // Electroencephalography and Clinical Neurophysiology. — 1981. — Vol. 52, no. 6. — Pp. 626-639.

[101] Intermittency of Intermittencies in Characteristic Oscillatory Patterns on Epileptic Electroencephalograms / V.V. Grubov, E.Yu. Sitnikova, A.A. Koronovskii, A.E. Hramov // Bulletin of the Russian Academy of Sciences. Physics. — 2015. — Vol. 79, no. 12. — P. 1695.

[102] On-off intermittency of thalamo-cortical oscillations in the electroencephalogram of rats with genetic predisposition to absence epilepsy / Evgenia Sitnikova, Alexander E. Hramov, Vadim V. Grubov et al. // Brain Research. — 2012. — Vol. 1436. — Pp. 147-156.

[103] Hughes, John R. Two forms of the 6/sec spike and wave complex / John R Hughes // Electroencephalography and clinical neurophysiology. — 1980. — Vol. 48, no. 5. — Pp. 535-550.

[104] Thalamic theta field potentials and EEG: high thalamocortical coherence in patients with neurogenic pain, epilepsy and movement disorders / J Sarnthein, A Morel, A Von Stein, D Jeanmonod // Thalamus & Related Systems. — 2003. — Vol. 2, no. 3. — Pp. 231-238.

[105] Delgado-Escueta, AV. Juvenile myoclonic epilepsy of Janz / AV Delgado-Escueta, FE Enrile-Bacsal // Neurology. — 1984. — Vol. 34, no. 3. — Pp. 285-285.

[106] Danielson, Nathan B. The default mode network and altered consciousness in epilepsy / Nathan B Danielson, Jennifer N Guo, Hal Blumenfeld // Behavioural neurology. — 2011. — Vol. 24, no. 1. — Pp. 55-65.

[107] Detecting rare events using extreme value statistics applied to epileptic convulsions in children / Stijn Luca, Peter Karsmakers, Kris Cuppens et al. // Artificial intelligence in medicine. — 2014. — Vol. 60 2. — Pp. 89-96.

[108] Gnedenko, B. Sur La Distribution Limite Du Terme Maximum D'Une Serie Aleatoire / B. Gnedenko // Annals of Mathematics. — 1943. — Vol. 44, no. 3. — Pp. pp. 423-453.

[109] Rinne, H. The Weibull Distribution: A Handbook / H. Rinne. — CRC Press, 2020.

[110] Dodge, Y. The Concise Encyclopedia of Statistics / Y. Dodge. The Concise Encyclopedia of Statistics. — Springer New York, 2008.

[111] Pearson, Karl. X. On the criterion that a given system of deviations from the probable in the case of a correlated system of variables is such that it can be reasonably supposed to have arisen from random sampling / Karl Pearson // The London, Edinburgh, and Dublin Philosophical Magazine and Journal of Science. — 1900. — Vol. 50, no. 302. — Pp. 157-175.

[112] Sornette, Didier. Dragon-kings: mechanisms, statistical methods and empirical evidence / Didier Sornette, Guy Ouillon // The European Physical Journal Special Topics. — 2012. — Vol. 205, no. 1. — Pp. 1-26.

[113] Sornette, Didier. Predictability of catastrophic events: Material rupture, earthquakes, turbulence, financial crashes, and human birth / Didier Sornette // Proceedings of the National Academy of Sciences. — 2002. — Vol. 99, no. suppl_1. — Pp. 2522-2529.

[114] Sornette, Didier. Dragon-kings, black swans and the prediction of crises / Didier Sornette // arXiv preprint arXiv:0907.4290. — 2009.

[115] de Arcangelis, Lucilla. Are dragon-king neuronal avalanches dungeons for self-organized brain activity? / Lucilla de Arcangelis // The European Physical Journal Special Topics. — 2012. — Vol. 205, no. 1. — Pp. 243257.

[116] An introduction to kernel-based learning algorithms / KlausRobert Miller, Sebastian Mika, Koji Tsuda, Koji Scholkopf // Handbook of neural network signal processing. — CRC Press, 2018. — Pp. 4-1.

[117] Biau, Gerard. A random forest guided tour / Gerard Biau, Erwan Scor-net // Test. — 2016. — Vol. 25. — Pp. 197-227.

[118] Kecman, Vojislav. Iterative single data algorithm for training kernel machines from huge data sets: Theory and performance / Vojislav Kecman, T-M Huang, Michael Vogt // Support vector machines: Theory and Applications. — 2005. — Pp. 255-274.

[119] Fushiki, Tadayoshi. Estimation of prediction error by using K-fold cross-validation / Tadayoshi Fushiki // Statistics and Computing. — 2011. — Vol. 21. — Pp. 137-146.

[120] Interpreting biologically informed neural networks for enhanced proteomic biomarker discovery and pathway analysis / Erik Hartman, Aaron Scott, Christofer A. Q. Karlsson et al. // Nature Communications. — 2023. — Vol. 14. https:// api.semanticscholar.org/CorpusID:261493686.

[121] Kang, Yuqi. Deep neural network modeling identifies biomarkers of response to immune-checkpoint therapy / Yuqi Kang, Siddharth Vijay, Taranjit S. Gujral // iScience. — 2022. — Vol. 25, no. 5. — P. 104228.

[122] A survey on Neural network Interpretability / Yu Zhang, Peter Tino, Ales Leonardis, Ke Tang // IEEE Transactions on Emerging Topics in Computational Intelligence. — 2021. — 8. — Vol. 5, no. 5. — Pp. 726-742.

[123] Sujatha Ravindran, Akshay. An empirical comparison of deep learning explainability approaches for EEG using simulated ground truth / Akshay Sujatha Ravindran, Jose Contreras-Vidal // Scientific Reports. — 2023. — Oct. — Vol. 13, no. 1.

[124] Evaluation of interpretability for deep learning algorithms in EEG EMOTION RECOGNITION: A case study in autism / Juan Manuel Mayor Torres, Sara Medina-DeVilliers, Tessa Clarkson et al. // Artificial Intelligence in Medicine. — 2023. — Sep. — Vol. 143. — P. 102545.

[125] Vilamala, Albert. Deep convolutional neural networks for interpretable analysis of EEG sleep stage scoring / Albert Vilamala, Kristoffer H Mad-sen, Lars K Hansen // 2017 IEEE 27th international workshop on machine learning for signal processing (MLSP) / IEEE. — 2017. — Pp. 1-6.

[126] Hashem, Sherif. Sensitivity analysis for feedforward artificial neural networks with differentiable activation functions / Sherif Hashem // [Proceedings 1992] IJCNN International Joint Conference on Neural Networks. — 1992. — Vol. 1. — Pp. 419-424.

[127] Simonyan, Karen. Very deep convolutional networks for large-scale image recognition / Karen Simonyan, Andrew Zisserman // arXiv preprint arXiv:1409.1556. — 2014.

[128] Mopuri, Konda Reddy. CNN Fixations: An Unraveling Approach to Visualize the Discriminative Image Regions / Konda Reddy Mopuri, Ut-sav Garg, R. Venkatesh Babu // IEEE Transactions on Image Processing. — 2019. — Vol. 28, no. 5. — Pp. 2116-2125.

[129] Epileptic seizure detection by using interpretable machine learning models / Xuyang Zhao, Noboru Yoshida, Tetsuya Ueda et al. // Journal of Neural Engineering. — 2023. — Vol. 20, no. 1. — P. 015002.

[130] Hunter, J. D. Matplotlib: A 2D graphics environment / J. D. Hunter // Computing in Science & Engineering. — 2007. — Vol. 9, no. 3. — Pp. 9095.

[131] Gradient-based learning applied to document recognition / Y. Lecun, L. Bottou, Y. Bengio, P. Haffner // Proceedings of the IEEE. — 1998. — Vol. 86, no. 11. — Pp. 2278-2324.

[132] Attention is all you need / Ashish Vaswani, Noam Shazeer, Niki Parmar et al. — 2017. — Pp. 5998-6008. http://arxiv.org/abs/1706.03762.

[133] An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale / Alexey Dosovitskiy, Lucas Beyer, Alexander Kolesnikov et al. // ArXiv. — 2020. — Vol. abs/2010.11929. https://api.semanticscholar.org/CorpusID:225039882.

[134] Grad-cam: Visual explanations from deep networks via gradient-based

localization / Ramprasaath R Selvaraju, Michael Cogswell, Abhishek Das

142

et al. // Proceedings of the IEEE international conference on computer vision. — 2017. — Pp. 618-626.

[135] Interpreting deep learning models for epileptic seizure detection on EEG signals / Valentin Gabeff, Tomas Teijeiro, Marina Zapater et al. // Artificial intelligence in medicine. — 2021. — Vol. 117. — P. 102084.

[136] Synthesizing the preferred inputs for neurons in neural networks via deep generator networks / Anh Nguyen, Alexey Dosovitskiy, Jason Yosinski et al. // Proceedings of the 30th International Conference on Neural Information Processing Systems. — NIPS'16. — Red Hook, NY, USA: Curran Associates Inc., 2016. — P. 3395-3403.

[137] Visualizing Higher-Layer Features of a Deep Network / D. Er-han, Yoshua Bengio, Aaron C. Courville, Pascal Vincent. — 2009. https://api.semanticscholar.org/CorpusID:15127402.

[138] Shrikumar, Avanti. Learning important features through propagating activation differences / Avanti Shrikumar, Peyton Greenside, Anshul Kun-daje // Proceedings of the 34th International Conference on Machine Learning - Volume 70. — ICML'17. — JMLR.org, 2017. — P. 3145-3153.

[139] Rumelhart, David E. Learning representations by back-propagating errors / David E. Rumelhart, Geoffrey E. Hinton, Ronald J. Williams // Nature. — 1986. — Vol. 323. — Pp. 533536. https://api.semanticscholar.org/CorpusID:205001834.

[140] Doshi-Velez, Finale. Towards a rigorous science of interpretable machine learning / Finale Doshi-Velez, Been Kim // arXiv preprint arX-iv:1702.08608. — 2017.

[141] Harpale, Varsha K. Time and frequency domain analysis of EEG signals for seizure detection: A review / Varsha K Harpale, Vinayak K Baira-gi // 2016 International Conference on Microelectronics, Computing and Communications (MicroCom) / IEEE. — 2016. — Pp. 1-6.

[142] A flexible multichannel EEG feature extractor and classifier for seizure detection / Adam Page, Chris Sagedy, Emily Smith et al. // IEEE Transactions on Circuits and Systems II: Express Briefs. — 2014. — Vol. 62, no. 2. — Pp. 109-113.

[143] Wang, Fangwei. Identidication of novel biomarkers in non-small cell lung cancer using machine learning / Fangwei Wang, Qisheng Su, Chao-qian Li // Scientific Reports. — 2022. — Vol. 12, no. 1. — P. 16693.

[144] A Survey of Methods for Explaining Black Box Models / Riccardo Guidot-ti, Anna Monreale, Franco Turini et al. // ACM Computing Surveys (CSUR). — 2018. — Vol. 51. — Pp. 1 - 42.

[145] A Survey on Neural Network Interpretability / Yu Zhang, Peter Tiño, Ale Leonardis, Ke Tang // IEEE Transactions on Emerging Topics in Computational Intelligence. — 2020. — Vol. 5. — Pp. 726-742.

[146] Molnar, Christoph. Interpretable Machine Learning - A Brief History, State-of-the-Art and Challenges / Christoph Molnar, Giuseppe Casalic-chio, Bernd Bischl // ECML PKDD 2020 Workshops. — Cham: Springer International Publishing, 2020. — Pp. 417-431.

[147] Sarmast, Shah T. Current Classification of Seizures and Epilepsies: Scope, Limitations and Recommendations for Future Action / Shah T Sarmast,

Abba Musa Abdullahi, Nusrat Jahan // Cureus. — 2020. — Vol. 12. https://api.semanticscholar.org/CorpusID:224854589.

[148] Morphological patterns of seizures recorded intracranially / Susan S Spencer, Pedro Guimaraes, Amiram Katz et al. // Epilepsia. — 1992. — Vol. 33, no. 3. — Pp. 537-545.

[149] Sturmfels, Pascal. Visualizing the Impact of Feature Attribution Baselines / Pascal Sturmfels, Scott Lundberg, Su-In Lee // Distill. — 2020. — https://distill.pub/2020/attribution-baselines.

[150] Sanity Checks for Saliency Maps / Julius Adebayo, Justin Gilmer, Michael Muelly et al. // Neural Information Processing Systems. — 2018.

[151] Zeiler, Matthew D. Visualizing and Understanding Convolutional Networks / Matthew D. Zeiler, Rob Fergus // Computer Vision - ECCV 2014 - 13th European Conference, Zurich, Switzerland, September 6-12, 2014, Proceedings, Part I. — Vol. 8689 of Lecture Notes in Computer Science. — Springer, 2014. — Pp. 818-833.

[152] Sleep spindles and spike-wave discharges in EEG: Their generic features, similarities and distinctions disclosed with Fourier transform and continuous wavelet analysis / Evgenia Sitnikova, Alexander E. Hramov, Alexey A. Koronovsky, Gilles van Luijtelaar // Journal of Neuroscience Methods. — 2009. — Vol. 180, no. 2. — Pp. 304-316. https://www.sciencedirect.com/science/article/pii/S0165027009001976.

[153] Python Core Team. — Python: A dynamic, open source programming language. — Python Software Foundation, 2019. https://www.python.org/.

[154] Joshi, Ankush. An Overview of Python Libraries for Data Science / Ankush Joshi, Haripriya Tiwari // Journal of Engineering Technology and Applied Physics. — 2023. — 09. — Vol. 5. — Pp. 85-90.

[155] An Exploration of Python Libraries in Machine Learning Models for Data Science / Jawahar S, Gowri Kukunuri, Sudheer Devaraju et al. — 2023.

— 06. — Pp. 1-31.

[156] Pytorch: An imperative style, high-performance deep learning library / Adam Paszke, Sam Gross, Francisco Massa et al. // Advances in neural information processing systems. — 2019. — Vol. 32.

[157] Foundations of JSON schema / Felipe Pezoa, Juan L Reutter, Fernando Suarez et al. // Proceedings of the 25th International Conference on World Wide Web / International World Wide Web Conferences Steering Committee. — 2016. — Pp. 263-273.

[158] Ruder, Sebastian. An overview of gradient descent optimization algorithms / Sebastian Ruder // CoRR. — 2016. — Vol. abs/1609.04747. http://arxiv.org/abs/1609.04747.

[159] Flynn, Michael J. Some computer organizations and their effectiveness / Michael J Flynn // IEEE transactions on computers. — 1972. — Vol. 100, no. 9. — Pp. 948-960.

[160] Flynn, MJ. Very high speed computers/Michael J. Flynn / MJ Flynn // Proceedings of the IEEE. — 1966. — Vol. 54, no. 12. — Pp. 1901-1909.

[161] TensorFlow: Large-Scale Machine Learning on Heterogeneous Distributed Systems / Martin Abadi, Ashish Agarwal, Paul Barham et al. // CoRR.

— 2016. — Vol. abs/1603.04467. http://arxiv.org/abs/1603.04467.

[162] SciPy 1.0: Fundamental Algorithms for Scientific Computing in Python / Pauli Virtanen, Ralf Gommers, Travis E. Oliphant et al. // Nature Methods. — 2020. — Vol. 17. — Pp. 261-272.