Модели и алгоритмы выявления дефектов в устройствах связи распределенного программно-аппаратного комплекса с применением интеллектуальных технологий тема диссертации и автореферата по ВАК РФ 00.00.00, кандидат наук Панков Илья Анатольевич

• Панков Илья Анатольевич
• кандидат наук
• 2026

Оглавление диссертации кандидат наук Панков Илья Анатольевич

ВВЕДЕНИЕ

1 СОВРЕМЕННОЕ СОСТОЯНИЕ ПРОБЛЕМЫ ОБЕСПЕЧЕНИЯ УСТОЙЧИВОСТИ РАСПРЕДЕЛЕННЫХ ПРОГРАММНО-АППАРАТНЫХ КОМПЛЕКСОВ К ОТКАЗАМ И СБОЯМ

1.1 Проблема выявления отказов и сбоев распределенного ПАК

1.2 Анализ методов повышения скорости поиска дефектов в распределенных ПАК

1.3 Анализ технологий обнаружения отказов и сбоев устройств подсистем распределенного комплекса

1.4 Современный подход к тестированию и разработке безопасного программного обеспечения для распределенных ПАК

1.5 Выводы по главе

2 ПРОБЛЕМЫ ОБНАРУЖЕНИЯ ДЕФЕКТОВ РАСПРЕДЕЛЕННОГО ПАК С ПОМОЩЬЮ ИМИТАЦИИ НЕИСПРАВНОСТЕЙ ДЛЯ ПОДСИСТЕМ

2.1 Функционирование распределенных программно-аппратных комплексов в условиях информационно-технических воздействий

2.2 Выбор модели системы обнаружения отказов и сбоев распределенного ПАК на основе интеллектуальных технологий

2.3 Алгоритм поиска уязвимостей в подсистемах ПАК с применением больших языковых моделей

2.4 Разработка модуля инъекции неисправностей в подсистемы ПАК

2.5 Методы автоматизации детектирования неисправностей с применением больших языковых моделей

2.6 Выводы по главе

3 РАЗРАБОТКА АЛГОРИТМОВ ЛОКАЛИЗАЦИИ ДЕФЕКТОВ РАСПРЕДЕЛЕННОГО ПРОГРАММНО-АППАРАТНОГО КОМПЛЕКСА

3.1 Алгоритм обнаружения техногенных событий и локализации отказов на основе машинного обучения и нечеткого логического вывода

3.2 Алгоритм выявления уязвимостей в подсистемах ПАК с применением нечеткого логического вывода

3.3 Обработка данных для детализации инцидентов и сокращения времени обнаружения отказов и сбоев в ПАК

3.4 Выводы по главе

4 РЕЗУЛЬТАТЫ ЭКСПЕРИМЕНТАЛЬНЫХ ИССЛЕДОВАНИЙ

РАСПРЕДЕЛЕННОГО ПРОГРАММНО-АППАРАТНОГО КОМПЛЕКСА

4.1 Организация поиска потенциальных дефектов программ

4.2 Описание результатов обнаружения известных уязвимостей

4.3 Описание результатов программных средств испытательного комплекса

4.4 Выводы по главе

ЗАКЛЮЧЕНИЕ

СПИСОК СОКРАЩЕНИЙ

БИБЛИОГРАФИЧЕСКИЙ СПИСОК

ПРИЛОЖЕНИЕ А. СВИДЕТЕЛЬСТВА О РЕГИСТРАЦИИ ПРОГРАММ ДЛЯ ЭВМ

ПРИЛОЖЕНИЕ Б. АКТ ВНЕДРЕНИЯ

Введение диссертации (часть автореферата) на тему «Модели и алгоритмы выявления дефектов в устройствах связи распределенного программно-аппаратного комплекса с применением интеллектуальных технологий»

ВВЕДЕНИЕ

Актуальность темы исследования. Переход на отечественные распределенные программно-аппаратные комплексы (ПАК) для различных направлений отрасли промышленности и экономики, которые во исполнение указа Президента РФ № 166 «О мерах по обеспечению технологической независимости и безопасности критической информационной инфраструктуры Российской Федерации» должны быть доверенными, что обеспечивается в каждом конкретном случае дополнительными инструментами тестирования, особенно актуальными для сложных распределенных ПАК в процессе разработки и сдачи.

Современные распределенные ПАК обладают рядом существенных проблем, обусловленных сложностью архитектуры и повышенными требованиями к устойчивости к отказам и сбоям. К примеру, для доверенных ПАК устанавливается ГОСТ 56939-2024 «Разработка безопасного программного обеспечения» необходимость тестирования с помощью фаззинга. Методика фаззинга не рассмотрена в стандарте, что требует от разработчиков ПАК выбирать методы и средства проведения тестирования и получения количественных оценок для распределенного комплекса.

Архитектуры распределенных ПАК не содержат механизмов для выявления неисправностей, которые происходят в результате изменения конфигурации подсистем ПАК, что тоже является фактором, снижающим общую устойчивость к отказам и сбоям. Сбой одного компонента может вызвать лавинообразный отказ целых подсистем.

Актуальной задачей является конфигурация систем имитации неисправностей не для выполнения дефектов конкретного устройства, а совокупности устройств контролируемых подсистем. Имитация неисправностей для распределенных ПАК не всегда обладает необходимым набором средств при реконфигурации подсистем управления. Отдельного внимания требует проблема интеграции разнородных устройств с различной архитектурой, включая FPGA,

DSP и ARM архитектур. В таких гетерогенных системах необходимо проведение имитации неисправностей для выявления потенциальных отказов и сбоев, возникающих в результате загрузки программного обеспечения в реальную аппаратную среду. Таким образом, разработка и эксплуатация современных ПАК требует комплексного подхода, направленного на повышение их безопасности и устойчивости к возможным отказам и сбоям. Для устройств подсистем ПАК используется имитация неисправностей согласно с международными и отечественными нормативами, такими как комплексные методологии FMECA, FMEDA и ГОСТ Р 58412-2019, но процесс проведения таких испытаний затруднен взаимодействием подсистем между собой и необходимостью обнаружения дефектов в условиях конфигурации, а также возможных внешних воздействий.

Дополнительные сложности возникают при сохранности данных при сбоях и отказах распределенных систем, что требует разработки и внедрения отказоустойчивых механизмов резервирования и коррекции данных. Важную роль играет обеспечение устойчивости программного обеспечения, поскольку ошибки в его работе могут приводить к критическим сбоям всей системы. Также потенциальную проблему возникновения угроз представляют уязвимости в подсистемах, распределенных ПАК, которые могут быть использованы в результате информационно-технических воздействий (ИТВ) для несанкционированного доступа или нарушения работоспособности комплекса.

Решение этих задач во всем многообразии на данный момент ограничено в условиях экономической целесообразности выделения ресурсов на техническое проектирование систем. Поэтому применение системного анализа позволит спроектировать архитектуру системы, которая будет включать набор алгоритмов и методов для минимизации рисков проявления проблем.

Состояние вопроса. Вопросами проектирования отказоустойчивых программно-аппаратных систем занимались ученые Avizienis A., Rannels D., Williams R., Giovanni De Micheli, Marilyn Wolf, Rolf Ernst, Leslie Lamport, Липаев В.В., Полетаев И.В.

Вопросами проектирования средств имитации неисправностей на базе микропроцессорных и специфицированных устройств занимались ученые Avizienis A., Савельев А.Ю., Лучинин В.В., Чекмарев С.А, Похабов Ю.П.

Вопросами повышения качества и устойчивости к отказам и сбоям программного обеспечения посвящены работы ученых: Царев В.М., Ковалев И.В., Boehm B. W., Meyer J., Lyu M. R., Levendel Y., Shooman M. L., Tai A., Xie M., Zhou L.

Исследованиями свойств программного обеспечения и безопасности программ посвящены работы: Berman O., Choi J. G, Epstein D., She D., Pei K. Вопросами моделирования угроз и устойчивости к атакам в IoT занимаются ученые Stolfo S., Jha S., Zamboni D., Kruegel C., Vigna G., Антонов С.Г.

Основная идея работы заключается в том, что повышение объема выявляемых дефектов распределенного ПАК можно обеспечить за счет их предварительной классификации путем совместного применения сверточной нейросети (обнаружение отказов) и нечеткого логического вывода (обнаружение ИТВ), а также за счет разработки алгоритма тестирования с помощью имитации искажения данных, направленной на потенциально уязвимые места в ПО, выявленные нейросетевой большой языковой моделью на основе анализа текстов программной документации.

Целью диссертационной работы является повышения объема выявляемых дефектов в программно-аппаратном комплексе путем их предварительной классификации с применением нейросетевых технологий, а также автоматизации тестирования ПО за счет направленных имитационных воздействий на потенциально уязвимые места программы. Для достижения указанной цели в работе поставлены и решены следующие задачи:

1. Провести анализ проблемы проявления новых свойств при реконфигурации, внешних воздействиях и возникновении отказов и сбоев подсистем ПАК с помощью технологий тестирования FMEA, FMECA, FMEDA, Fault Injection для выявления отказов и сбоев, а также ускорения их обнаружения средствами ПАК.

2. Разработать модель и алгоритм для определения видов дефектов на основе временных и спектральных характеристик акустических сигналов, формируемых средствами ПАК в условиях информационно-технических воздействий (ИТВ), и возможности разграничения аппаратного и техногенного дефектов.

3. Разработать алгоритм имитации неисправностей с применением техники фаззинга для повышения объема выявленных программных дефектов и сокращения времени тестирования распределенных ПАК в процессе их разработки, тестирования и эксплуатации.

4. Разработать модель и алгоритм выявления критических уязвимостей в ПО распределенного ПАК с помощью нейросетевой большой языковой модели (LLM) для совместного использования с техникой направленного фаззинга на потенциальные уязвимости при тестировании ПАК, позволяющего повысить объем выявляемых ошибок в ПО.

5. Создать программный комплекс для тестирования ПО распределенного ПАК и провести экспериментальные исследования, подтверждающие повышение объема выявляемых дефектов при использовании предлагаемых моделей и алгоритмов. Внедрить полученные результаты в виде алгоритмов и программ, применяемых для подсистем распределенного комплекса.

Научная новизна. В процессе исследований получены следующие новые научные результаты.

1. Разработаны модель и алгоритм для определения вида дефекта на основе сверточной нейронной сети, обрабатывающей временные и спектральные характеристики акустических сигналов с датчиков распределенного ПАК. Основным преимуществом алгоритма, в отличие от существующих, является возможность оценить степень уверенности в отсутствии информационно-технических воздействий на ПАК и при высокой степени уверенности в отсутствии ИТВ разграничить аппаратный и техногенный дефекты.

2. Разработаны модель и алгоритм для выявления информационно-технического воздействия на распределенный ПАК, основанные на использовании нечеткого логического вывода. Отличительной особенностью

алгоритма является возможность в условиях действия кибератак на данные разграничить виды дефектов (аппаратный дефект или техногенное воздействие).

3. Разработан модифицированный алгоритм фаззинга для выявления ошибок в ПО устройств связи ПАК, отличительной особенностью которого является совместное применение техники фаззинга (для имитации неисправностей) и нейросетевой большой языковой модели (LLM) (для анализа текстов программной технической документации), позволяющее за счет направленного фаззинга на потенциально уязвимые места программы повысить число выявленных ошибок (по сравнению с традиционным алгоритмом фаззинга).

Практическая значимость работы заключается в разработке:

- архитектуры анализа проблемных ситуаций распределенного программно -аппаратного комплекса с множественным доступом, который реализует тестирование подсистем с помощью имитации неисправностей случайного внесения искажений в данные на различных уровнях модели OSI и выявляет системные дефекты на основе обработки информации, полученной и обработанной в центре управления.

- алгоритма работы распределенного программно-аппаратного комплекса, позволяющего выявить основные дефекты и уязвимости подсистем путем сравнения параметров его состояния с известными или ожидаемыми значениями, результатом которого является выявление точек возникновения отказов и сбоев с применением системы нечеткой логики, статистического анализа.

Внедрение результатов исследований. Разработанные методики, алгоритмы и программно-алгоритмические средства для имитации и выявления неисправностей проверяемых устройств внедрены в ООО «СОФТЭНК».

Объектом исследования является распределенный программно-аппаратный комплекс с набором устройств, имеющих различную программно-аппаратную базу, которые могут содержать набор дефектов и программных уязвимостей.

Предметом исследования являются математические модели, методы и алгоритмы, предназначенные для обеспечения устойчивости распределенных программно-аппаратных комплексов к отказам и сбоям.

Методология исследования базируется на основах системного анализа, методах теории вероятностей и математической статистике; теории принятия решений; методов тестирования и разработки программно-аппаратных систем, методике имитации неисправностей «fault injection» и технике фаззинга, машинном обучении.

Основные положения, выносимые на защиту:

1. Модели и алгоритмы классификации дефектов распределенного ПАК, отличительной особенностью которых является совместное применение сверточной нейросети (для обнаружения и локализации отказов) и нечеткого логического вывода (для выявления информационно-технических воздействий -кибератак). Предлагаемая гибридная модель позволяет выполнять функции по распознаванию и разграничению аппаратных и техногенных дефектов, обеспечивая высокую точность классификации.

2. Модели и алгоритмы тестирования программного обеспечения, распределенного ПАК, отличительной особенностью которых является совместное применение техники фаззинга (для имитации неисправностей случайным искажением входных данных) и нейросетевой большой языковой модели LLM (для выявления критических уязвимостей в ПО). Предлагаемый гибридный алгоритм позволяет увеличить покрытие программного кода при уменьшении временных затрат на проведение тестирования за счёт направленного фаззинга для наиболее уязвимых мест программы.

3. Проблемно-ориентированный программный комплекс, реализующий выявление дефектов в устройствах связи распределенного ПАК. Результаты экспериментальных исследований для разграничения аппаратных и техногенных отказов и сбоев, в том числе при низкой степени уверенности в отсутствии информационно-технических воздействий, а также ошибок ПО.

Соответствие паспорту специальности. Диссертация соответствует областям исследований: п. 4 «Разработка методов и алгоритмов решения задач системного анализа, оптимизации, управления, принятия решений, обработки информации искусственного интеллекта», п. 5 «Разработка специального математического и алгоритмического обеспечения систем анализа, оптимизации, управления, принятия решений, обработки информации и искусственного интеллекта», п. 11 «Методы и алгоритмы прогнозирования и оценки эффективности, качества и надежности сложных систем».

Достоверность полученных результатов работы подтверждена экспери-

ментальными исследованиями и основана на апробированных научных положениях и методах исследования, корректном применении математического аппарата, согласованности новых результатов с известными теоретическими положениями. Обоснованность и достоверность результатов диссертации подтверждается результатами экспериментальной проверки разработанных моделей и алгоритмов.

Апробация результатов исследования. Результаты работы представлялись на следующих конференциях: Региональная молодежная научно-практическая конференция «Нанотехнологии. Информация. Радиотехника» (Омск, 2022); XV Межрегиональной научно-практической конференции «Приборостроение и информационные технологии» (Омск, 2022); VII Международная научно-практическая конференция «Мехатроника, автоматика и робототехника» (Санкт-Петербург,2023); XIV Всероссийская научно-практическая конференция «Информационные технологии и автоматизация управления». (Омск, 2023).

Публикации по теме исследования. По результатам исследований опубликовано 12 научных работ, в том числе 6 научных статей в рецензируемых научных изданиях, рекомендованных ВАК при Минобрнауки России, 2 свидетельства о государственной регистрации программ для ЭВМ.

Личный вклад автора. Решение задач диссертации, разработанные алгоритмы, их программная реализация, экспериментальные и теоретические результаты, представленные в работе и выносимые на защиту, принадлежат лично автору.

Структура и объем диссертации. Диссертация состоит из введения, четырех глав, заключения, изложенных на 146 страницах машинописного текста, содержит 46 рисунков, 27 таблиц, список использованных источников из 134 наименований, 2 приложений на 4 страницах.

Автор выражает признательность Омскому производственному объединению «Радиозавод им. А. С. Попова» за помощь в обсуждении сложных идей. Автор благодарит сотрудников компании ООО «YADRO», ООО «Бюро 1440» и ООО «Ланит-Терком» за консультацию в области машинного обучения и искусственного интеллекта.

Автор выражает признательность директору ООО «СОФТЭНК» Вильховскому Д.Э. за предоставление стендов испытаний. Автор благодарит научного руководителя, д.т.н., профессора Л.А. Денисову за помощь при проведении исследований и подготовке диссертационной работы.

1 СОВРЕМЕННОЕ СОСТОЯНИЕ ПРОБЛЕМЫ ОБЕСПЕЧЕНИЯ УСТОЙЧИВОСТИ РАСПРЕДЕЛЕННЫХ ПРОГРАММНО-АППАРАТНЫХ

КОМПЛЕКСОВ К ОТКАЗАМ И СБОЯМ

В первой главе рассматриваются вопросы в области обеспечения устойчивости распределенных информационных комплексов к отказам и сбоям, включая проблему устойчивости ПО к отказам и сбоям, проблему гармонизации отечественных стандартов проектирования цифровых устройств в этой области, а также проблему проявления системных ошибок при загрузке пользовательских программ в устройства подсистем комплексов.

1.1 Проблема выявления отказов и сбоев распределенного ПАК

Сложность современных технических систем неизбежно повышается. Факторы, влияющие на их качество, не становятся менее значимыми, а их число неуклонно увеличивается. Это приводит к необходимости совершенствовать нормативно-методическую базу по обеспечению качества и отказоустойчивости. Основу многих современных отечественных стандартов в сфере обеспечения качества и устойчивости к отказам и сбоям заимствуют за рубежом, хотя в недавнем прошлом, использование фактически зарубежных стандартов в атомном и оборонно-промышленном комплексе нельзя было даже представить. При этом выпуск новых стандартов практически не влияет на рост рекламаций на экспортную военную технику, снижение уровня качества продукции на внутреннем рынке, затраты по устранению дефектов продукции в процессе изготовления, испытаний и эксплуатации. В числе прочих причин сложившейся ситуации отмечается несоответствие нормативно-правового обеспечения и неэффективность функционирования ранее существовавшей системы управления качеством [1].

Еще более сложная ситуация сложилась при создании уникальных высокоответственных систем, отказ которых способен привести к недопустимым финансово-экономическим, экологическим, безопасностным и иным потерям. В

первую очередь это изделия аэрокосмической и атомной отрасли. Аварии изделий аэрокосмической техники несут риски финансово-экономических потерь, атомной - экологических и безопасностных, а при эксплуатации космических транспортно-энергетических модулей ко всем возможным рискам одновременно.

Долгое время считалось, что чуть ли не единственным способом для обеспечения качества являются FMEA-анализы, но каких-либо доказательств этому не приводилось. При проведении FMEDA обычно используются два стандарта: IEC 61508 и ISO 13849 [2]. Процесс разработки безопасных программируемых систем описан в стандарте IEC 61508, который предполагает создание системы только для целей тестирования. Система имитирует поведение контролируемого оборудования, включая сочетание программного и аппаратного обеспечения со всеми входными данными для проверяемого устройства, которые предполагаются при реальном функционировании. При тестировании аппаратного и программного обеспечения используется методика «инъекции неисправности» (fault injection, сокращенно - FI), с помощью которой можно смоделировать любой вектор последствий неисправности и любое количество этих векторов, а также сделать программное обеспечение для многократного воспроизведения сценария векторов последствий неисправности или имитации неисправности, опираясь на международные стандарты EN 50128 и ISO 26262 [3, 4]. Однако, исследование программного обеспечения не входит в задачи указанных стандартов.

FMEA считается общепризнанной в мире методологией проведения анализа и выявления наиболее критических процессов, с целью управления качеством продукции путем снижения рисков возникновения несоответствий как на стадии разработки изделий, так и на стадии производства продукции и предоставления услуг. FMEA является базовой процедурой, к которой в случае необходимости добавляют опции анализа критичности отказов для оценки безопасности и анализа интенсивности отказов на основе статистических данных для оценки надёжности [5]. Базовый метод по совокупности с дополнительными опциями иногда называют FMEA-анализами. Принципы взаимосвязи FMEA, FMECA и FMEDA показаны на рисунке 1.1.

FMECA Процедуры FMECA на основе результатов проведения FMEA

1- 1 1 ! FMEA 1 1 1 |_- 1 1 1 Процедуры FMEA | 1 1 |

FMEA Процедуры FMEDA на основе результатов проведения FMEA

Рисунок 1.1 - Принципы взаимосвязи FMEA, FMECA и FMEDA

Процедуры проведения FMEA и FMECA в РФ на сегодняшний день в значительной степени стандартизированы [6, 7]. За последние годы изданы новые стандарты [8, 9]. Впервые в отечественных стандартах появились официальные определения терминов «анализ видов и последствий отказов FMEA» и «анализ видов, последствий и критичности отказов FMECA». Формально к применению FMEA-анализов ограничений не существует - это могут быть анализы концептуального предложения, конструкции, системы, производственного процесса, продукта, сервисного обслуживания и программного обеспечения.

Варианты решения проблемы создания высокоответственных систем. Рассмотрим этапы проведения FMEA:

• описание функций;

• определение потенциальных отказов;

• определение последствий отказов;

• определение значимости отказов - <^» (значений потенциальных отказов для заказчика);

• определение рангов частоты возникновения отказов - «О» (вероятности появления потенциальных отказов;

• описание действующих мер и определение ранга по предупреждению и по

обнаружению возможного дефекта - возможность обнаружения - <Ю» (вероятности не выявления потенциальных отказов до реализации продукции);

• расчет и ранжирование рисков, отбор значимых рисков;

• разработка рекомендаций по снижению ПЧР;

• реализация предложений, контроль выполнения и перерасчет ПЧР.

С точки зрения разработки высокоответственных систем, все этапы, начиная с третьего, - это прямой путь к созданию систем с неконтролируемой вероятностью отказов на основе субъективных оценки экспертов, далеких от конструкторского замысла, принятия реальных решений и действий [10].

Решение проблемы создания высокоответственных технических систем заключается в том, что на основе известных проявлений отказов после выполнения второго этапа FMEA - определения потенциальных отказов, всем критичным элементам придать такие свойства, чтобы с заданной избыточностью такие отказы стали бы невозможными. В этом случае безотказность или контролируемость отказов достигается последовательными действиями по выбору, обоснованию, обеспечению и контролю искомых свойств критичных элементов.

Вычисления рисков нахождения значений параметров в заданном диапазоне поддаются инженерным расчетам, что позволяет полностью решить одну из задач, которая стоит перед FMEA-анализами - определить риски потребителей. В качестве параметров в данном случае могут выступать физические величины и показатели выполнения требуемых функций:

- вероятности нахождения параметров в области работоспособности;

- частотные вероятности событий;

- вероятности, обусловленные выполнением требований конструкторской документации.

Для программно-аппаратных комплексов, которые создаются вновь, существует двойственность в их оценке в связи с противоречиями стандартов и в зависимости от применения [11,12]. Один и тот же программно-аппаратный комплекс в зависимости от интеграции может иметь совершенно различные

условия эксплуатации и требования, что требует от разрабатываемых средств проведения испытаний широкого спектра конфигурируемых инструментов [13].

В качестве параметров распределенных ПАК, в которых доля ПО становиться все больше со временем, необходимо применять FMEDA и FMECA анализы в части:

• частоты отказов (Failure Rates, X);

• доли безопасных отказов (Safe Failure Fraction, SFF);

• вероятности опасного отказа по требованию (Probability of Dangerous Failure per Hour, PFH / Probability of Failure per Hour, PFDavg).

Наиболее сложной задачей является оценка интенсивности отказов программного обеспечения. Согласно стандарту ISO 26262, используются следующие подходы:

- использование программного обеспечения с доказанной надежностью в аналогичных приложениях. Этот метод позволяет подтвердить надежность продукта путем анализа опыта эксплуатации аналогичного ПО;

- оценка на основе метрик качества исходного кода - цикломатическая сложность, процент покрытия тестами, количество дефектов, выявленных средствами статического анализа - служат индикаторами возможной надежности ПО;

- оценка на основе процессов разработки, где соответствующий требованиям стандартов типа ASPICE или «ISO 26262. Часть 6», считается достаточным основанием считать интенсивность отказов ПО крайне низкой. Высокая степень диагностической полноты процессов снижает вероятность отказа ПО до уровня незначительного влияния на общую надежность системы;

- эмпирические модели. Этот подход редко применяется из-за сложности построения адекватных моделей предсказания отказов ПО. Обычно принимается упрощенное предположение, что влияние ПО на общее значение незначительно, особенно при высоком уровне диагностической способности системы.

1.2 Анализ методов повышения скорости поиска дефектов

в распределенных ПАК

Программно-аппаратные системы состоят из устройств, которые, как правило, имеют известные показатели надежности [14, 15]. Однако такие системы могут содержать также конструктивные элементы с неизвестными показателями надежности (например, механические компоненты, интегральные микросхемы, электрические соединители и токоведущие элементы), собственное программное обеспечение и могут работать в условиях, отличающихся от режимов наработки статистических показателей надежности.

Причинами отказов в таких системах являются конструктивные (зависящие от конструкции), технологические, конструкторские (зависящие от конструктора) и программные факторы - дефекты и ошибки, которые невозможно выявить при проектировании и изготовлении. Отказы по указанным причинам не имеют наработанных показателей надежности, законов распределения случайных величин и являются спорадическими событиями.

Анализы радиотехнических систем высокоответственного назначения с помощью известных процедур анализов [16], например, FMEA-анализов, не могут привести к требуемому уровню безотказности из-за множественности неочевидных причин физических процессов, происходящих внутри элементов электротехнических устройств, а также программных ошибок и сбоев. Для анализа подобных систем используют натурные модели - прототипы с программным обеспечением, которые предназначены исключительно для тестирования [17].

Современные программные технологии для тестирования программно-аппаратных комплексов включают в себя широкий спектр решений, ориентированных на автоматизацию, повышение эффективности и улучшение качества тестирования [18,19]. Использование инструментов для моделирования, инъекций сбоев, виртуализации и машинного обучения позволяет количественно

Список литературы диссертационного исследования кандидат наук Панков Илья Анатольевич, 2026 год

- —

---------------- __ _46Г/, < д

стандартный фаззинг 1 1 -♦-Стандартный фаззер -Ф-Фаззер + ИМ 1 1 1

1 1 1

1 2 3 4 5 6 7 8 9 10 11 12

Время тестирования, часы

Рисунок 4.7 - Динамика покрытия кода при фаззинг тестировании за 12 ч

Средние значения прироста покрытия (разница между 12-часовым и исходным уровнем): Яд- ~29.4%, Яр- ~27.6%, Яд- ~26.2%, Я/4- -19.1%. Три подсистемы демонстрируют устойчивый рост покрытия с увеличением времени фаззинга, в то время как Я/4 показывает меньший рост. Таблица 4.7 - Описание проведенных экспериментов для подсистем

Подсистема Средний прирост покрытия (%) Медиана прироста (%) Доля критических прогонов (%) Среднее время реакции (ч)

Я/1 29.4 28.7 25 4.8

Я/2 27.6 26.8 25 4.9

Я/3 26.2 25.1 24 4.7

Я/4 19.1 18.3 24 4.3

Время реакции администратора сократилась вместе с общим временем обнаружения дефекта (рис. 4.8).

Для проверки сокращения времени нахождения дефектов были взяты данные об обнаруженных ошибках с их временем в распределенном ПАК. Далее в системе с запущенным алгоритмом фаззинга с ЬЬМ эти же ошибки были найдены, и информация о них автоматически поступила администратору системы, что считается временем обнаружения. Приведем сокращение времени передачи данных администратору.

Рисунок 4.8 - Сравнение времени реакции администратора системы

Среднее время реакции 2 ч подтверждает эффективность системы уведомления. Оптимальный режим фаззинга от 6 до 8 часов за который достигается наибольший прирост эффективности при минимальных издержках. Как видно из таблицы, прикладные подсистемы демонстрируют близкие показатели прироста покрытия - от 26 до 30%. Управляющий модуль имеет меньший прирост, однако, характеризуется минимальным временем реакции (-4.3 ч). Это подтверждает его эффективность в раннем уведомлении о найденных аномалиях.

Рисунок 4.9 - Сравнение результатов тестирования до и после внедрения улучшений для подсистем Цр-Я/4 (а) времени тестирования подсистем, (б) покрытия кода в подсистемах, (в) время реакции оператора, (г) средний прирост покрытия кода

Для оценки были выбраны четыре подсистемы ПАК. Ниже представлены обобщённые результаты, полученные в процессе эмуляции отказов и последующего тестирования. На диаграмме видно, что время тестирования до и после оптимизации для подсистем.

Наглядно представлено, что после внедрения алгоритмов оба показателя значительно улучшились - в ряде случаев более чем в два раза для тестовых подсистем.

4.4 Выводы по главе

В данной главе предложена интеллектуальная система выявления неисправностей для распределённых программно-аппаратных комплексов (ПАК), основанная на интеграции современных методов тестирования. В основу системы положен интеллектуальный фаззинг, управляемый большими языковыми моделями, который объединён с классическими подходами анализа состояния системы. Такой комплексный подход позволил достичь значимого повышения устойчивости распределённых ПАК к различного рода отказам и сбоям, а также обеспечить своевременное обнаружение потенциальных угроз и уязвимостей.

Одним из ключевых преимуществ разработанного решения является использование методов имитации атак, основанных на анализе и актуализации данных из авторитетных баз уязвимостей, таких как MITRE и OWASP. Включение этих данных в процесс тестирования позволило проводить проверку систем не только на известные сценарии отказов, но и моделировать потенциально опасные ситуации, характерные для современных угроз. Благодаря этому удалось значительно повысить эффективность поиска ошибок, сократить время их локализации и снизить общие затраты ресурсов на их устранение.

Отдельного внимания заслуживает разработанный и формализованный процесс фаззинга. Его ключевая особенность - валидация качества тестирования с использованием объективных метрик, таких как объём протестированного кода, время проведения теста и доля выявленных дефектов. Эти показатели были сопоставлены с существующими национальными и международными

стандартами надёжности электронных устройств, что подтверждает соответствие предложенного метода требованиям к качеству и безопасности.

Сравнительный анализ показал явные преимущества интеллектуального фаззинга по сравнению с традиционными методами имитации неисправностей. Использование языковых моделей позволило расширить глубину анализа, обнаружить более сложные и скрытые уязвимости и при этом уменьшить затраты вычислительных ресурсов. Применение LLM в этой области открывает возможность автоматизации и масштабирования процессов тестирования, что особенно актуально для сложных распределённых систем, где ручные подходы не обеспечивают должного уровня покрытия и точности.

Экспериментальные исследования подтвердили практическую ценность предложенного подхода. В ходе тестирования была достигнута двукратная скорость обнаружения ошибок по сравнению с базовыми методами, а также обеспечено увеличение покрытия кода от 17% до 30 %. Эти результаты имеют важное практическое значение, так как они напрямую влияют на снижение числа уязвимостей, включая так называемые уязвимости нулевого дня, которые представляют угрозу для штатной работы.

Таким образом, предложенная система представляет собой универсальное и масштабируемое решение для обеспечения надёжности и устойчивости, распределённых ПАК. Она сочетает в себе преимущества интеллектуального анализа, современных методов тестирования и практической применимости. Полученные результаты создают основу для дальнейших исследований, направленных на расширение функциональных возможностей системы, интеграцию с промышленными стандартами и применение в критически важных областях, где высокая степень защищённости и отказоустойчивости является приоритетом.

ЗАКЛЮЧЕНИЕ

В результате проведённых исследований получены новые научные и практические результаты, направленные на повышение устойчивости к отказам и сбоям распределённых программно-аппаратных комплексов, состоящих из подсистем разнородной структуры.

1. В результате анализа работ, посвященных вопросам проявления новых свойств распределенных программно-аппаратных комплексов при реконфигурации, внешних воздействиях, отказах и сбоях, выявлено, что известные методики обнаружения неисправностей в распределенных ПАК недостаточно эффективны и требуют усовершенствования. Установлено, что для проектируемых ПАК основной проблемой обеспечения работоспособности является выявления отказов и сбоев, связанных с дефектами аппаратных и программных средств. Выявлена необходимость разработки моделей и алгоритмов обнаружения и классификации дефектов аппаратных и программных средств ПАК с применением современных интеллектуальных технологий.

2. Разработаны модель и алгоритм для определения видов дефектов с использованием сверточной нейронной сети, обрабатывающей временные и спектральные характеристики акустических сигналов с датчиков ПАК в условиях информационно-технических воздействий.

Установлено, что классификация при высокой степени уверенности в отсутствии ИТВ имеет высокую точность: ^ = 97% (при обнаружении аппаратных дефектов) и = 98% (при обнаружении техногенных событий).

При низкой степени уверенности в отсутствии ИТВ и дополнительном привлечении нечеткого логического вывода БОБ для выявления ИТВ (кибератак) сверточная нейронная сеть позволила увеличить количество выявленных дефектов. Так количество найденных аппаратных дефектов увеличилось (с 345 до 402 без действия атак на ПАК), также как и количество установленных техногенных событий (общее количество испытаний N =10000).

3. Разработан алгоритм имитации неисправностей с применением техники фаззинга для обнаружения дефектов программных средств распределенного программно-аппаратного комплекса, позволяющий увеличить объем тестирования (по сравнению с традиционными методами). Так, при количественной оценке динамики покрытия кода программ, осуществляющих обработку и обмен данными в ПАК, получено, что среднее значения прироста покрытия кода (разница между 12-часовым и исходным уровнем) составляет 25% (с 19.1% до 29.4%).

Так же сократились временные затраты на тестирование: понадобилось от 4 до 12 часов для проверки четырех подсистем ПАК (вместо 8-24 часов, необходимых для тестирования традиционными методами).

4. Разработаны модель и алгоритм выявления критических уязвимостей в ПО распределенного ПАК с помощью нейросетевой большой языковой модели ЬЬМ для совместного использования с техникой направленного фаззинга на потенциальные уязвимости при тестировании ПАК, позволяющего повысить объем выявляемых ошибок в ПО. За счет обучения на технической документации достигнуто расширение покрытия кода на 25% (по сравнению с традиционным фаззингом). В результате применения разработанного алгоритма обеспечено ускоренное выявление программных дефектов, вызванных ими отказов и сбоев, что позволяет снизить время доведения до оператора системы на 57 % и своевременно передавать информацию о неисправностях.

5. Создан программный комплекс на основе предлагаемых моделей и алгоритмов для проведения экспериментальных исследований, с использованием которого подтверждено повышение объема выявляемых дефектов. Выполненная автоматизация проведения испытаний устройств связи позволила увеличить количество выявленных дефектов ПАК по сравнению с классическим тестированием на 47% (выявлен 61 дефект вместо 41). Внедрение разработанных программно-алгоритмических средств тестирования позволило обнаружить семь ранее не выявленных уязвимостей программного обеспечения (на 25% больше), влияющих на работу подсистем распределенного комплекса.

СПИСОК СОКРАЩЕНИЙ

АСУ - автоматизированная система управления; АРМ - автоматизированное рабочее место; ИТВ - информационно-техническое воздействие; СУ - станция управления;

САПР - система автоматизированного проектирования;

СБИС - сверхбольшие интегральные схемы

МК - микроконтроллер;

ОИ - объект испытаний;

ПАК - программно-аппаратный комплекс;

ПЛИС - программируемая логическая интегральная схема;

ПО - программное обеспечение;

РЭА - радиоэлектронная аппаратура;

EN 50128 - европейский стандарт для обеспечения безопасности

«Железнодорожные приложения - Системы связи, сигнализации и обработки»;

ARM - семейство готовых топологий микропроцессорных/микроконтроллерных

ядер на основе усовершенствованной RISC-машины;

AVR - семейство RISC-микроконтроллеров;

DSP - цифровой сигнальный процессор;

FI - внесение неисправностей;

FMEA - анализ видов и последствий отказов;

FMECA - анализ критичности отказов;

FMEDA -анализ последствий отказов;

FPGA - программируемая логическая интегральная схема;

IEC 61508 - международный стандарт «Функциональная безопасность

электрических / электронных / программируемых электронных систем, связанных

с безопасностью»;

JTAG - стандарт тестовой архитектуры граничного сканирования IEEE 1149.1; MIPS - система команд и микропроцессорных архитектур, разработанных компанией MIPS.

БИБЛИОГРАФИЧЕСКИЙ СПИСОК

1. Medoff, M. Functional Safety - An IEC 61508 SIL 3 Compatible Development Process - exida.com L. L. C. / M. Medoff, R. Faller // Sellersville, PA, USA. - 2010. - 281 p.

2. ГОСТ ISO 13849-1-2014. Безопасность оборудования. Элементы систем управления, связанные с безопасностью. Часть 1. Общие принципы конструирования. [Электронный ресурс] URL: https://docs.cntd.ru/document/1200121331 (дата обращения: 21.01.2024).

3. CENELEC, EN 50128, Railway applications - Communications, signaling and processing systems - Software for railway control and protection systems, May 2011.

4. Fault Injection in the Automotive Standard ISO 26262: An Initial Approach / L. Pintard, J. Fabre, K. Kanoun [et al.] // Dependable Computing: 14th European Workshop, EWDC 2013: proceedings (Coimbra, Portugal, 15-16 May 2013). Vol. 7869: Lecture Notes in Computer Science. - Berlin; Heidelberg: Springer, 2013. - P. 126-133. - URL: https://link.springer.com/book/10.1007%2F978-3-642-3 8789-0 (date accessed: 17.09.2018).

5. Анализ видов и последствий (критичности, диагностируемости) отказов (FMEA / FMECA / FMEDA) [Электронный ресурс] URL: http://www.kconsult-cis.com/fmea-fmeca.html (дата обращения: 21.01.2024).

6. Розенталь Р.М. Методика повышения надежности и качества FMEA: мировой и российский опытразвития [Электронный ресурс] URL: https://ria-stk.ru/upload/image/stq/2010/N4/04_2010-1.pdf (дата обращения:21.01.2024).

7. Розенталь Р.М. Биография FMEA. Российские особенности // Методы менеджмента качества. 2010.№

8. C. 22-27.9. ГОСТ Р 58629-2020. Системы и комплексы космические. Анализ видов, последствий и критичностиотказов изделий и процессов. [Электронный ресурс] URL: https://docs.cntd.ru/document/566422785 (дата обращения: 21.01.2024).

9. ГОСТ Р 27.303-2021. Надежность в технике. Анализ видов и последствий

отказов. [Электронныйресурс] URL: https://docs.cntd.ru/document/1200180916 (дата обращения: 21.01.2024).

10. Розно М.И. Проектирование с FMEA или без? // Стандарты и качество. 2001. № 9. С. 74-78

11. MIL-STD-721C. Military Standard. Definitions of Term for Reliability and Maintainability. [Электронный ресурс] URL: https://www.academia.edu/35982625 (дата обращения: 01.21.2024).

12. ГОСТ Р 27.013-2019. Надежность в технике. Методы оценки показателей безотказности. [Электронный ресурс] URL: https://docs.cntd.ru/document/1200169979 (дата обращения: 21.01.2024).

13. ГОСТ Р 58629-2020. Системы и комплексы космические. Анализ видов, последствий и критичности отказов изделий и процессов. [Электронный ресурс] URL: https://docs.cntd.ru/document/566422785 (дата обращения: 21.01.2024).

14. Надёжность электрорадиоизделий. Мытищи: Изд. 22 ЦНИИМО, 2006. 641 с.

15. Надёжность ЭРИ ИП. Мытищи: Изд. 22 ЦНИИМО, 2006. 52 с.

16. ГОСТ Р МЭК 61513-2020. Системы контроля и управления, важные для безопасности атомной станции. Общие требования. [Электронный ресурс] URL: https://docs.cntd.ru/document/1200171307 (дата обращения: 21.01.2024).

17. Авиженис, А. Отказоустойчивость - свойство, обеспечивающее постоянную работоспособность цифровых систем / А. Авиженис // Труды института инженеров по электронике и радиоэлектронике. - 1978. - Т. 66, № 10. - С. 5-25.

18. Автоматизация синтеза и обучение интеллектуальных систем автоматического управления: [сборник] / Рос. акад. наук, Отд-ние информ. технологий и вычислительных систем; отв. ред.: И. М. Макаров, В. М. Лохин. -Москва: Наука, 2009. - 227, [1] с.: ил., табл.

19. Балашов, Е. П. Проектирование информационно-управляющих систем / Е. П. Балашов, Д. В. Пузанков. - Москва: Радио и связь, 1987. - 256 с.

20. Брюкин, В. Н. Анализ надежности микроэлектронных систем при

автоматизированном проектировании / В. Н. Брюкин, М. Х. Булатов - М.: Радио и связь, 1984. - 216 с.

21. Василенко, Н. Н. Модели оценки надежности программного обеспечения / Н. Н. Василенко, В. А. Макаров // Вестник новгородского государственного университета. - 2004. - № 28. - С. 126-132.

22. Вентцель, Е. С. Теория вероятностей / Е. С. Вентцель. - Москва: Наука, 1969. - 576 с.

23. Гобл, В. М. FMEA: анализ видов и последствий отказов / В. М. Гобл. -Текст: электронный // Электронная библиотека «UA Automation»: [сайт]. - URL: http://ua.automation.com/content/fmea-analiz-vidov-i-posledstvij-otkazov (дата обращения: 1.03.2021).

24. ГОСТ 15467-79. Управление качеством продукции. Основные понятия. Термины и определения: межгос. стандарт: изд. офиц.: утв. и введ. в действие Постановлением Государственного комитета СССР по стандартам от 26 янв. 1979 г. № 244: дата введ. 1979.07.01. - Москва: Стандартинформ, 2009. - 21 с.

25. ГОСТ 27.002-2015. Надежность в технике. Термины и определения: гос. стандарт Рос. Федерации: изд. офиц.: утв. и введ. в действие Постановлением Госстандарта России от 10 июня 2014 г. № 519-ст.: введ. впервые: дата введ. 2017.03.01. - Москва: Стандартинформ, 2016. - 28 с.

26. ГОСТ Р 51904-2002. Программное обеспечение встроенных систем. Общие требования к разработке и документированию: гос. стандарт Рос. Федерации: изд. офиц.: утв. и введ. в действие Постановлением Госстандарта России от 25 июня 2002 г. № 247-ст.: введ. впервые: дата введ. 2003.07.01. -Москва: Стандартинформ, 2005. - 62 с.

27. ГОСТ Р ИСО 26262-9-2014. Национальный стандарт Российской Федерации. Дорожные транспортные средства функциональная безопасность: гос. стандарт Рос. Федерации: изд. офиц.: утв. и введ. в действие Постановлением Госстандарта России от 18 мая 2015 г. № 364-ст: введ. впервые: дата введ. 2015.05.01. - Москва: Стандартинформ, 2015. - 23 с.

28. ГОСТ Р МЭК 61508-7-2012. Функциональная безопасность систем

электрических, электронных, программируемых электронных, связанных с безопасностью: гос. стандарт Рос. Федерации: изд. офиц.: утв. и введ. в действие Постановлением Госстандарта России от 29 октября 2012 г. № 592-ст.: введ. впервые: дата введ. 2013.08.01. - Москва: Стандартинформ, 2014. - 100 с.

29. ГОСТ Р МЭК 62061-2015. Безопасность оборудования. Функциональная безопасность систем управления электрических, электронных и программируемых электронных, связанных с безопасностью: гос. стандарт Рос. Федерации: изд. офиц.: утв. и введ. в действие Постановлением Госстандарта России от 10 июня 2014 г. № 519-ст.: введ. впервые: дата введ. 2015.02.25. -Москва: Стандартинформ, 2016. - 78 с.

30. ГОСТ РВ 27.1.02-2005. Надежность военной техники. Программа обеспечения надежности. Общие требования: Гос. воен. стандарт Рос. Федерации: утв. и введ. Федер. агентством по техн. регулированию и метрологии: введ. впервые: дата введ. 2006.01.01. - Москва: Стандартинформ, 2005. - III, 14 с.

31. Денисова, Л. А. Многокритериальная оптимизация на основе генетических алгоритмов при синтезе систем управления: монография / Л. А. Денисова; Ом. гос. техн. ун-т. - Омск: Изд-во ОмГТУ, 2014. - 170 с.

32. Денисова, Л. А. Модели и методы проектирования систем управления объектами с переменными параметрами: монография / Л. А. Денисова; Ом. гос. техн. ун-т. - Омск: Изд-во ОмГТУ, 2014. - 167 с.

33. Ермаков, А. Д. К синтезу адаптивных проверяющих последовательностей для недетерминированных автоматов / А. Д. Ермаков, Н. В. Евтушенко // Труды Института системного программирования РАН. - 2016. - Т. 28, вып. 3. - C. 123144.

34. Ермаков, М. К. Проведение динамического анализа исполняемого кода формата ARM ELF на основе статического бинарного инструментирования / М. К. Ермаков // Научно-технические ведомости Санкт-Петербургского государственного политехнического университета. Информатика. Телекоммуникации. Управление. - 2016. - № 1 (236). - С. 108-117.

35. Ермилов, В. А. Метод отбора существенных неисправностей для диагностики цифровых схем / В. А. Ермилов // Автоматика и телемеханика. -1971. - № 1. - С. 159- 167.

36. Иванов, В. И. Исследование протоколов маршрутизации в негеостационарных спутниковых системах / В. И. Иванов // Т-Сошш -Телекоммуникации и Транспорт. - 2012. - №6. - С. 19-21.

37. Ильин, С. Фаззинг, фаззить, фаззер: ищем уязвимости в программах, сетевых сервисах, драйверах / С. Ильин // Хакер. - 2010. - № 7. - С. 32-36.

38. Иныксон, В. М. Исследование систем автоматизации обнаружения дефектов в исходном коде программ / В. М. Иныксон, М. Ю. Моисеев, В. А. Цесько // Научно-технические ведомости Санкт-Петербургского государственного политехнического университета. Информатика. Телекоммуникации. Управление. - 2008. - № 5. - С. 119-124.

39. Ицкович, Э. Л. Эволюция средств и систем автоматизации технологических процессов / Э. Л. Ицкович // Автоматизация в промышленности. - 2009. - № 8. - С. 3-10.

40. Ковалев, И. В. Анализ проблем в области исследования надежности программного обеспечения: многоэтапность и архитектурный аспект / И. В. Ковалев // Сибирский журнал науки и технологий. - 2014. - № 3. - С. 78-92.

41. Копылов, С. А. Обзор методов и подходов обнаружения отказов и отказоустойчивости системы управления для роботизированных морских подвижных объектов / С. А. Копылов // Инженерный вестник Дона. - 2014. - № 3. - С. 16-20.

42. Легков, К. Е. Новые принципы построения автоматизированных систем управления современными инфокоммуникационными сетями специального назначения / К. Е. Легков // Наукоемкие технологии в космических исследованиях Земли. - 2015. - № 1. - С. 38-41.

43. Липаев, В. В. Проблемы обеспечения надежности и устойчивости сложных комплексов программ АСУ / В. В. Липаев // Управляющие системы и машины. - 1977. - № 3. - С. 39-45.

44. Львович, И. Я. Модель выбора вариантов резервирования в системе управления стендовыми испытаниями / И. Я. Львович, А. А. Тузиков // Вестник Воронежского государственного технического университета. - 2011. - № 3. - С 47-50.

45. Макаров, А. Н. Метод автоматизированного поиска программных ошибок в алгоритмах обработки сложноструктурированных данных / А. Н. Макаров // Прикладная дискретная математика. - 2009. - №3. - С. 117-127.

46. Макконнелл, С. Совершенный код. Мастер класс / С. Макконнелл. - 2-е изд. - Москва: Русская редакция, 2010. - 896 с.

47. Марков, И. Автоматическое тестовое оборудование с подвижными пробниками в производстве электронных изделий / И. Марков, И. Рыков // Компоненты и технологии. - 2005. - № 1. - С. 168-170.

48. Мартин, Р. Чистая архитектура. Искусство разработки программного обеспечения / Р. Мартин. - Санкт-Петербург: Питер, 2018. - 351 с. -(Библиотека программиста).

49. Новиков, Д. В. К вопросу о выборе среды для имитационного моделирования систем железнодорожной автоматики и телемеханики / Д. В. Новиков // Актуальные вопросы развития систем железнодорожной автоматики и телемеханики. - 2013. - № 1. - С 60-65.

50. Ногин, В. Д. Проблемы сужения множества Парето: подходы к решению /

B. Д. Ногин // Искусственный интеллект и принятие решений. - 2008. - № 1. -

C. 98-112.

51. Основы технической диагностики: в 2 кн. Кн. 1. Модели объектов, методы и алгоритмы диагноза / В. А. Карибский, П. П. Пархоменко, Е. С. Согомонян и др.; под ред. П. П. Пархоменко. - Москва: Энергия, 1976. - 462 с.

52. Патент № 2549523 Российская Федерация, МПК G06F 11/00 (2006.01), G05B 23/00(2006.01). Способ мутационного тестирования радиоэлектронной аппаратуры и ее управляющего программного обеспечения № 2014117399/08: заявл. 29.04.2014: опубл. 27.04.2015 / Д. А. Недорезов. - 7 с.

53. Печенкин, А. И. Архитектура масштабируемой системы фаззинга

сетевых протоколов на многопроцессорном кластере / А. И. Печенкин, А. В. Никольский // Проблемы информационной безопасности. Компьютерные системы. - 2013. - № 2. - С. 73-80.

54. Пинкевич, В. Ю. Тестирование и отладка встраиваемых вычислительных систем на основе уровневых моделей / В. Ю. Пинкевич, А. Е. Платунов // Научно-технический вестник информационных технологий, механики и оптики. - 2018. - Т. 18, № 5. - С. 801-808.

55. Полонников, Р. И. Методы оценки надежности программного обеспечения / Р. И. Полонников, А. В. Никандров. - Санкт-Петербург: Политехника, 1992. - 80 с.

56. Похабов, Ю. В. Надежность в цифровых технологиях / Ю. В. Похабов // Надежность. - 2020. - Т. 20, № 2. - С. 3-11.

57. Протоколы геомаршрутизации самоорганизующихся мобильных сетей / Д. Е. Прозоров, А. П. Метелев, А. В. Чистяков [и др.] // T-Comm -Телекоммуникации и Транспорт. - 2012. - № 5. - С. 16-19.

58. Розенталь, Р. М. Мировой и российский опыт развития FMEA / Р. М. Розенталь // Стандарты и качество. - 2010. - № 4. - С. 54-56.

59. Рутковская, Д. Нейронные сети, генетические алгоритмы и нечеткие системы / Д. Рутковская, М. Пилиньский, Л. Рутковский. - Москва: Горячая линия. - Телеком, 2002. - 452 с.

60. Савкин, Л. В. Мажоритирование логико-арифметических операций на низком аппаратном уровне в реконфигурируемой диагностической модели бортового комплекса управления космического аппарата / Л. В. Савкин // Universum: технические науки. - 2014. - № 6. - С. 143-145.

61. Сандерс, Д. Искусственный интеллект в сенсорных системах / Д. Сандерс (D.Sanders) // Control engineering. Россия. - 2014. - № 1 (49). - С. 35-39.

62. Скляр, В. В. Сертификация информационно-управляющей платформы на базе ПЛИС на соответствие требованиям по функциональной безопасности стандарта МЭК 61508 / В. В. Скляр - Текст: электронный // Электронная библиотека «Nuclear Journal»: [сайт]. - 2020. - URL: https://www.nuclear-

j ournal.com/index.php/i ournal/article/download/459/375/ (дата обращения: 11.04.2019).

63. Слинкин, Д. И. Анализ современных методов тестирования и верификации проектов сверхбольших интегральных схем / Д. И. Слинкин // Программные продукты и системы. - 2017. - Т. 30, № 3. - C. 401 - 406.

64. Строганов, А. Обзор программных комплексов по расчету надежности сложных технических систем / А. Строганов, В. Жданов, С. Полесский. - Текст: электронный // Электронная библиотека «Cyberleninka»: [сайт]. - 2020. - URL: https://cyberleninka.ru/article/n/obzor-programmnyh-kompleksov-po-raschetu-nadezhnosti-slozhnyh-tehnicheskih-sistem (дата обращения: 01.03.2021).

65. Полесский, C. Разработка методики выявления факторов, наиболее сильно влияющих на надежность электронных устройств / C. Полесский, О. Маякова, А. Алейников // Системы управления, связи и безопасности. - 2016. -№ 4. - С. 114-127.

66. Томилов, И. О. Фаззинг. Поиск уязвимостей в программном обеспечении без наличия исходного кода / И. О. Томилов, А. В. Трифанов // Интерэкспо ГеоСибирь. - 2017. - Т. 9, № 2. - C. 75-80.

67. Увалов, Д. В. Бортовая микропроцессорная система управления с повышенной сбоеустойчивостью / Д. В. Увалов // Решетневские чтения: материалы XVIII Междунар. науч. конф., посвящ. 90-летию со дня рождения генер. конструктора ракетно-космич. систем акад. М. Ф. Решетнева (Красноярск, 11-14 нояб. 2014 г.): в 3 ч. / под общ. ред. Ю. Ю. Логинова; Сиб. гос. аэрокосмич. ун-т. - Красноярск: ИП Михайлова И. Г., 2014. - Ч. 1. - С. 248250.

68. Ушаков, И. А. Надёжность: прошлое, настоящее, будущее / И. А. Ушаков - Текст: электронный // Электронная библиотека «Cyberleninka»: [сайт]. - URL: https://cyberleninka.ru/article/n/nadyozhnost-proshloe-nastoyaschee-buduschee (дата обращения: 21.03.2018).

69. Чекмарев, С. А. Проектирование системы инъекции ошибок для отработки сбоеустойчивых процессоров бортовых систем малого космического

аппарата / С. А. Чекмарев, В. Х. Ханов // Решетневские чтения: материалы XVIII Междунар. науч. конф., посвящ. 90-летию со дня рождения генер. конструктора ракетно-космич. систем акад. М. Ф. Решетнева (Красноярск, 1114 нояб. 2014 г.): в 3 ч. / под общ. ред. Ю. Ю. Логинова; Сиб. гос. аэрокосмич. ун-т. - Красноярск: ИП Михайлова И. Г., 2014. - Ч. 1. - С. 254-255.

70. Чекмарев, С. А. Технология инъектирования сбоев для тестирования сбоеустойчивости микропроцессоров, предназначенных к использованию в бортовой аппаратуре космических аппаратов / C. А. Чекмарев, В. Х. Ханов, А. С. Тимохович // Вестник СибГАУ. - 2016. - Том 17, № 3. - С. 768-781.

71. Черкесов, Г. Н. Надежность аппаратно-программных комплексов: учеб. пособие / Г. Н. Черкесов. - Санкт-Петербург: Питер, 2005. - 479 с.

72. Черноруцкий, И. Г. Методы оптимизации в теории управления / И. Г. Черноруцкий. - Санкт-Петербург: Питер, 2004. - 256 с.

73. A Fault Injection Tool for Distributed Heterogeneous Embedded Systems / A. Dasilva, J.-F. Martinez, L. Lopez-Santidrian [et al.] // Telematics and Inforamtion Systems: proceedings of the Euro American Conference (May 2007). - 2007. - P. 17-23.

74. A systematic review of fuzzing based on machine learning techniques / Y. Wang, P. Jia, L. Liu, J. Liu. - DOI: 10.1371/journal.pone.0237749. - URL: https://iournals.plos.org/plosone/article?id=10.1371/iournal.pone.0237749 (date accessed: 11.09.2018).

75. Aerospace Standard ARP5580. Recommended Failure Modes and Effects Analysis (FMEA) for non-Automobile Applications: issued 07.2001: reaffirmed 08.2020 / SAE International in United States. - URL: https://saemobilus.sae.org/content/ARP5580/ (date accessed: 01.12.2019).

76. Antoni, L. Using Run-Time Reconfiguration for Fault Injection Applications / L. Antoni, R. Leveugle, B. Feher. - DOI: 10.1109/TIM.2003.817144 // IEEE Transactions on Instrumentation and Measurement. - 2003. - Vol. 52, № 5. - P. 1468-1473.

77. Avizienis, A. Basic Concepts and Taxonomy of Dependable and Secure

Computing / A. Avizienis, J. C. Laprie // IEEE Transactions on Dependable and Secure Computing. - 2004. - Vol. 1. - P. 11-33.

78. Avizienis, A. Design of fault-tolerant computers / A. Avizienis. -DOI: 10.1145/1465611.1465708 // AFIPS'67 (Fall) fall joint computer conference: proceedings (14-16 November 1967). - Anaheim, 1967. - P. 733-743. - URL: https://www.researchgate.net/publication/24149601 Design of faulttolerant comput ers (date accessed: 10.01.2019).

79. Avizienis, A. Systematic Design of Fault-Tolerant / A. Avizienis // Safe Comp 96: the 15th International Conference on Computer Safety, Reliability and Security (Vienna, Austria 23-25 October 1996). - London: Springer, 1997. - P. 3-18.

80. Barton, J. Fault Injection Experiments Using Fiat / J. H. Barton, E. W. Czeck, Z. Z. Segall, D. P. Siewiorek // EEE Transactions on Computers - 1990. - Vol. 39. -P. 575-582.

81. Carreira, J. V. Fault injection spot-checks computer system dependability / J. V. Carreira, D. Costa, J. G. Silva. - DOI: 10.1109/6.780999 // IEEE Spectrum. -1999. - Vol. 36, № 8. - P. 50-55.

82. Combining dynamic symbolic execution, code static analysis and fuzzing / A. Y. Gerasimov, S. S. Sargsyan, S. F. Kurmangaleev [et al.]. - DOI: 10.15514/ISPRAS-2018-30(6)-2 // Proceedings of the Institute for System Programming of the RAS (Proceedings of ISP RAS). - 2018. - Vol. 30 (6). - P. 2538. - URL: https://cyberleninka.ru/article/n/combining-dynamic-symbolic-execution-code-static-analysis-and-fuzzing (date accessed: 20.03.2017).

83. Diegues, N. Self-Tuning Intel Transactional Synchronization Extensions / N. Diegues, P. Romano // 11th International Conference on Autonomic Computing : proceedings (Philadelphia, PA, 18-20 June 2014). - Philadelphia, 2014. - P. 209219. - URL: https://doi.org/10.1145/1352694.1352712 (date accessed: 11.05.2019).

84. Failure Modes and Effects Analysis for a Software-Intensive Satellite Control System / M. Hecht, E. Shokri, S. Meyers [et al.] // 2008 International Systems Safety Conference: proceedings (Vancouver, August 2008). - Vancouver, 2008. - URL: https://www.researchgate.net/publication/265851785 Failure Modes and Effects A

nalysis for a Software-Intensive Satellite Control System (date accessed: 17.07.2020).

85. Failure Resilience for Device Drivers / J. N. Herder, H. Bos, B. Gras [et al.] // Dependable Systems and Networks (DSN'07): proceedings of the 37th Annual IEEE/IFIP International Conference (Edinburgh, 25-28 June 2007). -Edinburgh, 2007. - P. 41-50.

86. GREYONE: Data Flow Sensitive Fuzzing / S. Gan, C. Zhang, P. Chen [et al.]. - URL: https://www.usenix.org/system/files/sec20spring gan prepub.pdf (date accessed: 17.06.2019).

87. Han, H. IMF: Inferred Model-based Fuzzer / H. Han, S. Cha. -DOI: 10.1145/3133956.3134103 // Computer and Communications Security: proceedings of the 2017 ACM SIGSAC conference (Dallas, Texas USA, 0ctober2017). - New York: Association for Computing Machinery, 2017. - P. 23452358.

88. Herder, J. Failure Resilience for Device Drivers / J. Herder, H. Bos, B. Gras // Proceeding DSN '07 Proceedings of the 37th Annual IEEE/IFIP International Conference on Dependable Systems and Networks. - 2007. - P. 41-50.

89. Hsueh, M. Fault Injection Techniques and Tools / M.-C. Hsueh, T. K. Tsai, R. K. Iyer. - DOI: 10.1109/2.585157 // Computer. - 1997. - Vol. 30 (4). - P. 75-82.

90. IEEE Std 1149.1-2001. IEEE Standard Test Access Port and Bondary-Scan Architecture: approved 14.06.2001: published 23.07.2001. -2001. - URL: https://fiona.dmcs.pl/~cmai/JTAG/JTAG IEEE-Std-1149.1 -2001 .pdf (date accessed: 17.06.2019).

91. Lefebvre, M. Functional test and diagnosis: a proposed JTAG sample mode scan tester / M. Lefebvre. - DOI: 10.1109/TEST.1990.114035 // International Test Conference: proceedings (Washington, DC, USA, 10-14 Sept. 1990). - Washington, 1990. - URL: https://ieeexplore.ieee.org/document/11403 5 (date accessed: 12.12.2019).

92. Legg, J. M. Computerized Approach for Matrix-Form FMEA / J. M. Legg. -DOI: 10.1109/TR.1978.5220355 // IEEE Transactions on Reliability. - 1978. - Vol.

R-27 (4). - P. 254-257.

93. Miller, B. Anywhere, Any Time Binary Instrumentation / B. Miller, A. Bernat // ACM SIGPLAN-SIGSOFT Workshop on Program Analysis for Software Tools and Engineering. - 2011. - P. 9-16.

94. Neuzz: Efficient fuzzing with neural program smoothing / D. She, K. Pei, D. Epstein [et al.] // IEEE Symposium on Security and Privacy (San Francisco, CA, 2022 May 2019). - San Francisco, 2019. - P. 803-817. https://deepai.org/publication/neuzz-efficient-fuzzing-with-neural-program-learning (date accessed: 08.03.2019).

95. Optimizing seed selection for fuzzing / Alexandre Rebert, Sang Kil Cha, Thanassis Avgerinos [et al.] // IEEE Access. - 2018. - Vol. 6. - P. 861- 875. - URL: https://www.usenix.org/conference/usenixsecurity14/technicalsessions/presentation/re bert (date accessed: 11.04.2019).

96. Patent № 7908520B2, US, IPC G06F11/2028. Self-testing and-repairing fault-tolerance infrastructure for computer systems : application 06.20.2001 : publ. 15. 03.2011 / A. Avizienis. - URL: https://palents.google.com/palenl/US7908520B2/en7oqpSelf-testing+and-rspairing+f^

(date of the application: 15.12.2020).

97. PT-CFI: Transparent Backward-Edge Control Flow Violation Detection Using Intel Processor Trace / Yu. Gu, Q. Zhao, Yi. Zhang, Z. Lin // CODASPY '17: Proceedings of the Seventh ACM on Conference on Data and Application Security and Privacy (Scottsdale Arizona USA, March 2017). - Scottsdale, 2017. - P. 173184. - URL: https://dl.acm.org/doi/abs/10.1145/3029806.3029830 (date accessed: 01.05.2017).

98. PTfuzz: Guided Fuzzing With Processor Trace Feedback / Gen Zhang, Xu Zhou, Yingqi Luo [et al]. - DOI: 10.1109/ACCESS.2018.2851237 // IEEE Access. -2018. - Vol. 6. - P. 37302-37313. - URL: https://ieeexplore.ieee.org/document/8399803 (date accessed: 01.03.2019).

99. Sklyar, V. V. Quality of Instrumentation and Control Systems: a Process Approach. Lectures / Kharchenko V. S. (edit.) (date accessed: 08.03.2019). -

Kharkiv: National aerospace university named after N. Zhukovsky «KhAI», 2013. 133 p. (date accessed: 08.03.2019).

100. The Art, Science, and Engineering of Fuzzing: A Survey / V. J. M. Manes, H. Han, Ch. Han [et al.]. - URL: https://arxiv.org/pdf/1812.00140.pdf (date accessed: 20.01.2018).

101. The FMEDA approach to improve the safety assessment according to the IEC61508 / M. Catelani, L. Ciani, V. Luong // Microelectronics Reliability Vol. 50, Issues 9-11 (Monte Cassino, September-November 2010). - 2010. - P. 1230-1235.

102. Панков, И.А. Выявление дефектов при тестировании алгоритмов цифровых устройств на базе ПЛИС / И.А. Панков // Известия Тульского государственного университета. Технические науки - 2023. №11. - С.277-280.

103. Панков, И.А. Обнаружение системных дефектов цифровых устройств при имитации неисправностей с применением фаззинга / Д.А. Панков, И.А. Панков // Надежность. 2023. - Т.23 №4. - С. 51-58.

104. Панков, И.А. Автоматизация разработки и тестирования цифровых систем связи с многоуровневой архитектурой / Д.А. Панков, И.А. Панков, Л.А. Денисова // Автоматизация в промышленности. - 2023. № 1. - С.31-35.

105. Панков, И.А. Количественные и качественные методы оценки надежности автоматизированных систем управления / И.А. Панков, А.П. Панков, Д.А. Панков // Известия Тульского государственного университета. Технические науки - 2024. № 5. - С.198-203.

106. Панков, И.А. Перспективы использования FMEA-анализов для высокоответственных технических систем / А.П. Панков, Д.А Панков, Ю.П. Похабов, Панков И.А. // Известия Тульского государственного университета. Технические науки - 2024. № 3. - С.26-31.

107. Свидетельство о государственной регистрации программы для ЭВМ № 2023612691 Российская Федерация. Модуль сопряжения; заяв. 25.01.2023; зарег. 07.02.2023 / И.А. Панков; заявитель и патентообладатель АО ОНИИП.

108. Свидетельство о государственной регистрации программы для ЭВМ № 2025619291 Российская Федерация. УК в РПДУ; заяв. 03.04.2025; зарег.

15.04.2025 / И.А. Панков; заявитель и патентообладатель АО ОНИИП.

109. Панков, И.А. Автоматизация проектирования алгоритмов ЦОС без ухудшения качества выходного сигнала / И.А. Панков // Нанотехнологии. Информация. Радиотехника (НИР-22) / ОмГТУ - Омск, - 2022. - С. 37-40.

110. Панков, И.А. Ускорение поиска дефектов цифровых устройств» в журнале «Мехатроника, автоматика и робототехника / И.А. Панков // Мехатроника, автоматика и робототехника / Санкт-Петербург - 2023. - С. 180183.

111. Панков, И.А. Выявление дефектов цифровых устройств на базе ПЛИС / И.А. Панков // Информационные технологии и автоматизация управления / ОмГТУ - Омск, - 2023. - С. 171-173.

112. Панков, И.А. Диагностика и имитация неисправностей программного обеспечения / И.А. Панков // Приборостроение и информационные технологии (ПИТ-22) / Омск, - 2022.

113. Optimizing Seed Selection for Fuzzing / Alexandre Rebert, Sang Kil Cha, Thanassis Avgerinos, Jonathan Foote, David Warren, Gustavo Grieco, David Brumley. - DOI: 10.5555/2671225.2671275 // 23rd USENIX Security Symposium (USENIX Security 14). - 2014. - P. 861-875. - URL: https://www.usenix.org/conference/usenixsecurity 14/technical-sessions/presentation/rebert (date accessed: 02.09.2025).

114. Performance analysis and comparison of PoW, PoS and DAG based blockchains / Bin Cao, Zhenghui Zhang, Daquan Feng, Shengli Zhang, Lei Zhang, Mugen Peng, Yun Li. - DOI: 10.1016/j.dcan.2020.10.002 // Digital Communications and Networks. - 2020. - Vol. 6, No. 4. - P. 480-500. - URL: https://www.sciencedirect.com/science/article/pii/S2352864820301043 (date accessed: 02.09.2025).

115. A blockchain consensus mechanism for realtime regulation of renewable energy power systems / Yi Yu, Guo-Ping Liu, Yi Huang, Chi Yung Chung, Yu-Zhong Li. - DOI: 10.1038/s41467-024-54626-y // Nature Communications. - 2025. -Vol. 16. - Article No. 6243. - URL: https://www.nature.com/articles/s41467-024-

54626-y (date accessed: 02.09.2025).

116. Сравнительный анализ тестовых систем ПЛИС и их окружения / О. М. Брехов, М. О. Ратников. - DOI: 10.14357/1729774420080206 // Программные продукты и системы. - 2008. - № 2. - С. 6-11. - URL: https://swsys.ru/index.php?swsys=article&id=324 (date accessed: 02.09.2025).

117. A multi-objective approach for design of reconfigurable transfer lines / Xavier Delorme, Sergey Malyutin, Alexandre Dolgui. - DOI: 10.1016/j.ifacol.2016.07.475 // IFAC-PapersOnLine. - 2016. - Vol. 49, No. 12. - P. 885-890. - URL: https://www.sciencedirect.com/science/article/pii/S2405896316314097 (date accessed: 02.09.2025).

118. Vulnerability Detection Through an Adversarial Fuzzing Algorithm / Michael Wang, Michael Robinson. - (publication venue not reliably identified). -Preprint/online resource. - URL: https://scholar.google.com/scholar?q=%22Vulnerability+Detection+Through+an+Ad versarial+Fuzzing+Algorithm%22 (date accessed: 02.09.2025).

119. Towards Post-Fuzzing Analysis on ARM Embedded Firmware with Efficient Event-based Fault Localization / Boyu Chang, Binbin Zhao, Qiao Zhang, Peiyu Liu, Yuan Tian, Raheem Beyah, Shouling Ji. - DOI: 10.1145/3576915.3623113 // Proceedings of the 31st ACM SIGSOFT International Symposium on Software Testing and Analysis (ISSTA 2022 Companion). - 2022. - P. 434-440. - URL: https://dl.acm.org/doi/10.1145/3576915.3623113 (date accessed: 02.09.2025).

120. CovFUZZ: Coverage-based fuzzer for 4G & 5G protocols / Ilja Siros, Dave Singel, Bart Preneel. - DOI: 10.1109/TrustCom58508.2023.00032 // 2023 IEEE 22nd International Conference on Trust, Security and Privacy in Computing and Communications (TrustCom). - 2023. - P. 130-137. - URL: https://ieeexplore.ieee.org/document/10371887 (date accessed: 02.09.2025).

121. JBFuzz: Jailbreaking LLMs Efficiently and Effectively Using Fuzzing / Zihao Zhou, Xiaorui Gong, Wenhan Wang, Yuxin Guo, Zelei Ma, Yang Liu. -arXiv:2406.05932. - 2024. - URL: https://arxiv.org/abs/2406.05932 (date accessed:

02.09.2025).

122. Интеллектуальная информационно-диагностическая система оценивания технического состояния бортовой аппаратуры космических аппаратов при подготовке их к запуску / А. И. Лоскутов, С. С. Патраков, О. Л. Шестопалова. - DOI: 10.15217/issn1684-8853.2014.2.18 // Информационно-управляющие системы. - 2014. - № 2 (69). - С. 18-24. - URL: https://i-us.ru/index.php/ius/article/view/13419 (date accessed: 02.09.2025).

123. Нейронные сети в задаче жанровой классификации музыкальных композиций / М. А. Беленький, Н. В. Гринева., Ростов-на-Дону, 11-15 апреля 2019 г. - 2019. - URL: https://rostcons.ru/assets/competitions/2019/conf/book1.pdf (date accessed: 02.09.2025).

124. Прототипирование на основе ПЛИС для верификации многоядерных микропроцессоров / С. В. Юрлин, И. Н. Бычков. - В сб.: Проблемы разработки перспективных микро- и наноэлектронных систем (МЭС). - 2014. - С. 45-50. -URL: https://www.researchgate.net/publication/330808862 (date accessed: 02.09.2025).

125. High-security learning-based optical encryption assisted by disordered metasurface / Zhipeng Yu, Huanhao Li, Wannian Zhao, Po-Sheng Huang, Yu-Tsung Lin, Jing Yao, Wenzhao Li, Qi Zhao, Pin-Chieh Wu, Bo Li, Patrice Genevet, Qinghua Song, Puxiang Lai. - DOI: 10.1038/s41377-024-01639-8 // Light: Science & Applications. - 2025. - Vol. 14. - Article No. 164. - URL: https://www.nature.com/articles/s41377-024-01639-8 (date accessed: 02.09.2025).

126. A blockchain consensus mechanism for realtime regulation of renewable energy power systems / Yi Yu, Guo-Ping Liu, Yi Huang, Chi Yung Chung, Yu-Zhong Li. - DOI: 10.1038/s41467-024-54626-y // Nature Communications. - 2025. -Vol. 16. - Article No. 6243. - URL: https://www.nature.com/articles/s41467-024-54626-y (date accessed: 02.09.2025).

127. SVBE: searchable and verifiable blockchain-based electronic medical records system / Norah Alrebdi, Abdulatif Alabdulatif, Celestine Iwendi, Zhuotao Lian. -DOI: 10.1016/j.cose.2025.103714 // Computers & Security. - 2025. - Vol. 143. -

Article No. 103714. - URL:

https://www.sciencedirect.com/science/article/pii/S0167404825001337 (date

accessed: 02.09.2025).

128. IoT empowered smart cybersecurity framework for intrusion detection in Internet of Drones / Syeda Nazia Ashraf, Selvakumar Manickam, Syed Saood Zia, Abdul Ahad Abro, Muath Obaidat, Mueen Uddin, Maha Abdelhaq, Raed Alsaqour. -DOI: 10.1016/j.asoc.2022.109781 // Applied Soft Computing. - 2023. - Vol. 144. -Article No. 109781. - URL: https://www.sciencedirect.com/science/article/pii/S1568494622009676 (date accessed: 02.09.2025).

129. Blockchain Enabled Verification for Cellular-connected Unmanned Aircraft System Networking / Jian Wang, Yongxin Liu, Shuteng Niu, Houbing Song, Weipeng Jing, Jiawei Yuan. - DOI: 10.1109/TII.2023.3285288 // IEEE Transactions on Industrial Informatics. - 2023. - Vol. 19, No. 12. - P. 12178-12187. - URL: https://ieeexplore.ieee.org/document/10149346 (date accessed: 02.09.2025).

130. Актуальность разработки методики обоснования объема резерва и ресурса восстановления программно-аппаратных комплексов связи / А. П. Гусев, М. Н. Плут, А. А. Прошкин, С. С. Семенов, А. В. Смолеха. - (материалы межвузовской научно-практической конференции «Проблемы технического обеспечения войск в современных условиях», Военная академия связи, Санкт-Петербург, 9.02.2016). - 2016. - С. 193-198. - URL: https://publishing.intelgr.com/archive/01-VAS-konf.pdf (date accessed: 02.09.2025).

131. Кибербезопасность цифровой индустрии. Теория и практика функциональной устойчивости к кибератакам / Д. П. Зегжда, Е. Б. Александрова, М. О. Калинин [и др.]; под ред. Д. П. Зегжды. - М.: Горячая линия - Телеком, 2019. - 560 с.: ил. - ISBN 978-5-9912-0733-6.

132. Proof-of-Stake Consensus Mechanisms for Future Blockchain Networks: Fundamentals, Applications and Opportunities / Cong T. Nguyen, Dinh Thai Hoang, Diep N. Nguyen, Dusit Niyato, Huynh Tuong Nguyen, Eryk Dutkiewicz. - DOI: 10.1109/ACCESS.2019.2916024 // IEEE Access. - 2019. - Vol. 7. - P. 85727-

85745. - URL: https://ieeexplore.ieee.org/document/8705398 (date accessed: 02.09.2025).

133. Задачи обеспечения устойчивости функционирования распределенных информационных систем / Д. О. Есиков. - DOI: 10.15827/0236-235X.139.525-536 // Программные продукты и системы. - 2022. - № 4. - С. 525-536. - URL: https://swsys.ru/index.php?swsys=article&id=8720 (date accessed: 02.09.2025).

134. Reliability analysis of subsea control system using FMEA and FFTA / Chao Liu, Guangxin Li, Wensheng Xiao, Jian Liu, Liping Tan, Changjiang Li, Teng Wang, Fengran Yang, Chengzhi Xu. - DOI: 10.1038/s41598-023-42030-3 // Scientific Reports. - 2024. - Vol. 14. - Article No. 17811. - URL: https://www.nature.com/articles/s41598-023-42030-3 (date accessed: 02.09.2025).

ПРИЛОЖЕНИЕ А. СВИДЕТЕЛЬСТВА О РЕГИСТРАЦИИ ПРОГРАММ

ДЛЯ ЭВМ

российская федерация

RU

2023612691

федеральная служба по интеллектуальной собственности

(12) ГОСУДАРСТВЕ ННАЯ РЕГИСТРАЦИЯ ПРОГРАММЫ ДЛЯ ЭВМ

Номер регистрации (свидетельства): Автор:

2023612601 Панков Илья Анатольевич (КХ~)

Дата регистрации: 07.02.2023 Правообладатель :

Номер и дата поступления заявки: 2023611306 25.01.2023 Акционерное общество «Омский научно-п сс л ед ов ат е л ъскн и институт приборостроения» (КС)

Дата публикации: 07.02.2023

Контактные реквизиты:

нет

Название программы для ЭВМ: Модуль сопряжения

Реферат:

Программа обрабатывает команды UAR.T и принимает решение о переключении выхода антенны. Программа осуществляет: обработку команд универсального асинхронного приёмопередатчика (UAR.T), коммутацию антенных выходов АнСУ. Тнп ЭВМ: микроконтроллер ATMEGA16L. ОС: не требуется.

Язык программирования: С

Объем программы для ЭВМ: ISO КБ

российская федерация

RU

2025619291

федеральная служба по интеллект уальной соестеенности

(12) ГОСУДАРСТВЕННАЯ РЕГИСТРАЦИЯ ПРОГРАММЫ ДЛЯ ЭВМ

Номер регистрации (свидетельства): 2025619291

Дата регистрации: 15.04.2025

Номер и дата поступления заявки: 2025617311 03.04.2025

Дата публикации и номер бюллетеня: 15.04.2025 Бюл. № 4

Автор:

Па в ков Илья Анатольевич (RU)

Правообладатель : Акционерное обшество « Омской научно-исследовдтельскип институт приборостроения» CRU)

Название программы для ЭВМ: Управлевпе климатом в ИЩУ

Реферат:

Программа обрабатывает показания датчиков н управляет системой климата в РПДУ. Программа осуществляет: обработку команд CAN (Controller Area Network); контроль датчиков температуры; контроль датчиков потока воздуха; контроль электродвигателя для решетки вентиляции: контроль частотного преобразователя для управления вентиляторами системы вентиляции; контроль. Тип ЭВМ: Микроконтроллер PIC24HJ256GP610A; ОС: не требуется.

Язык программирования: С

Объем программы для ЭВМ: 40 КБ

ПРИЛОЖЕНИЕ Б. АКТ ВНЕДРЕНИЯ

УТВЕРЖДАЮ Генеральный лирсктор

Д.'). Вильхоаский ___| 2025 г.

АКТ ВНЕДРЕНИЯ

результатов диссертационной работы на соискание ученой степени кандидата технических наук по специальности «2.3.1 -Системный анализ, управление и обрабо! к а информации, статистикам

Панкова Ильи Анатольевича

Настоящим актом подтверждается, что научные и практические результаты. полученные в рамках диссертационной работы 11анкова Ильи Анатольевича, были успешно внедрены и использованы в производственной деятельности Общества с офаниченной ответственностью «СОФТЭНК» при разработке. тестировании и отладке сложных распределенных про1раммно-аппаратных комплексов (ПАК). В частности, были внедрены следующие разработанные автором модели, методы и алгоритмы:

1. Внедрен алгоритм имитации неисправностей для распределенных программно-аппаратных систем в процессе разработки, тестирования и эксплуатации как на уровне отдельных устройств, так и подсистем в целом.

2. Апробирован и внедрен адаптивный алгоритм обнаружения и локализации отказов на основе машинного обучения и анализа данных. Применение данного алгоритма позволило в реальном времени идентифицировать аномальные режимы работы аппаратного обеспечения, что обеспечило выявление скрытых дефектов, недоступных для стандартных средств мониторинга.

3. Внедрена предложенная в диссертации модификация алгоритма фаззинт-тестнровання, использующая большие языковые модели (1ХМ) для интеллектуальной генерации и коррекции тестовых векторов. Это позволило перейти от случайного к направленному поиску у язвим остей, повысив эффективность обнаружения системных дефектов в программном обеспечении ПАК.

4. Внедрен алгоритм выявления уязвимостей программ для устройств и подсистем распределенного программно-аппаратного комплекса в процессе его функционирования.

В результате применения указанных технологий и построенных алгоритмов обеспечено ускоренное выявление программных дефектов, вызванных ими отказов и сбоев, а также техногенных событий, что позволяет снизить время доведения до оператора системы на 57% и оперативно передавать информацию об инцидентах. Внедрение вышеперечисленных результатов диссертационной работы H.A. Панкова позволило ООО «СОФТЭНК» существенно повысить устойчивость к отказам и сбоям для разрабатываемых ПАК, а также оптимизировать и ускорить циклы разработки и тестирования. Результаты работы имеют высокую практическую ценность и рекомендованы к дальнейшему использованию в производственной деятельности компании.