Применение методов машинного обучения для построения оператора, уточняющего результаты расчетов в задачах внешней аэродинамики тема диссертации и автореферата по ВАК РФ 00.00.00, кандидат наук Зимина Софья Васильевна

• Зимина Софья Васильевна
• кандидат наук
• 2025

Оглавление диссертации кандидат наук Зимина Софья Васильевна

Введение

Глава 1 Постановка задачи

1.1 Общая схема проведения расчетов

1.2 Основные уравнения

1.3 Аэродинамический решатель

1.4 Упрощенные модели

1.4.1 Метод пристенной декомпозиции

1.4.2 Расчет при неполной сходимости

1.5 Рассмотренные постановки задач

1.5.1 Сверхзвуковое обтекание угла сжатия

1.5.2 Дозвуковое обтекание профиля крыла

Глава 2 Локальный метод построения уточняющего оператора

2.1 Описание алгоритма «случайный лес»

2.1.1 Решающее дерево

2.1.2 Случайный лес

2.2 Обучение модели

2.3 Результаты (обтекание угла сжатия)

2.3.1 Интерполяция и экстраполяция по числу Рейнольдса

2.3.2 Топологические случаи

2.3.3 Сходимость

Глава 3 Нелокальный метод построения уточняющего

оператора в двумерной постановке

3.1 Общие понятия сверточных нейросетей

3.1.1 Нейронные сети

3.1.2 Сверточные нейронные сети

3.2 Используемая архитектура

3.2.1 Особенности архитектуры

3.3 Обучение модели

3.4 Результаты (обтекание угла сжатия)

3.4.1 Влияние архитектуры

Глава 4 Нелокальный метод построения уточняющего

оператора в одномерной постановке

4.1 Заметающие кривые

4.1.1 Заметающая кривая Гильберта

4.1.2 Контекстная заметающая кривая

4.1.3 Заметающая кривая с использованием к-мерного дерева

4.2 Обучение модели

4.3 Результаты (обтекание угла сжатия)

4.3.1 Влияние архитектуры

Глава 5 Методы повышения качества уточненного решения

5.1 Сеточные свертки

5.2 Новая архитектура и обучение модели

5.2.1 Нейронная сеть типа с механизмом внимания и сеточными свертками

5.2.2 Механизм внимания

5.2.3 Обучение модели

5.3 Результаты (обтекание профиля крыла)

5.3.1 Влияние архитектуры

5.4 Результаты (обтекание угла сжатия)

Глава 6 Предсказание поля течения на основе геометрии тела

и параметров набегающего потока

6.1 Входные данные

6.2 Архитектура нейросети

6.2.1 Механизм перекрестного внимания

6.3 Результаты (обтекание угла сжатия)

6.4 Выводы главы

Заключение

Список сокращений и условных обозначений

Список литературы

Список иллюстраций

Список таблиц

Введение диссертации (часть автореферата) на тему «Применение методов машинного обучения для построения оператора, уточняющего результаты расчетов в задачах внешней аэродинамики»

Введение

Во многих инженерных приложениях вычислительная аэродинамика используется для моделирования турбулентных течений вблизи различных поверхностей. Такое моделирование требует значительных вычислительных ресурсов, особенно при проведении серийных расчетов. При этом большую часть вычислительной стоимости (до 90% машинного времени) составляет разрешение пристенной области. Это связано с тем, что для корректного разрешения тонкого пограничного слоя приходится значительно сгущать сетку вблизи поверхности обтекаемого тела.

Классическим подходом, позволяющим повысить скорость вычислений, является применение моделей с упрощенным представлением пристенных процессов, например, с использованием пристеночных функций [1, 2, 3]. Пристеночные функции в моделировании турбулентности основаны на полуэмпирических законах, которые связывают параметры течения вблизи стенки с известными характеристиками турбулентного потока. Использование пристеночных функций позволяет избежать трудоемкого разрешения вязкого подслоя и значительно сократить время вычислений, однако их применимость весьма ограничена. Например, применение пристеночных функций для течений со сложными геометриями и отрывом пограничного слоя представляет большую проблему. Альтернативу использованию пристенных функций представляют методы, основанные на декомпозиции расчетной области. Так, в работах [4, 5, 6] был предложен метод приближенной пристенной декомпозиции (Approximate Near-wall Domain Decomposition, ANDD). В данном подходе используется разделение расчетной области на две части: внутреннюю, пристенную (в которой уравнения Навье-Стокса решаются в приближении тонкого слоя) и внешнюю (в которой уравнения решаются без упрощений). В пристенной области используется приближение тонкого слоя для получения граничного условия третьего рода на границе областей. С использованием этого граничного условия решаются уравнения во внешней области. Затем поле течения в пристенной области пересчитывается с использованием граничных условий Дирихле, полученных из решения во внешней области. Данные шаги повторяются, пока не будет достигнуто условие сходимости. Метод ANDD позволяет с высокой точностью определять положение точки отрыва

турбулентного потока и места образования ударной волны, что подтверждается тестами, и обладает высокой скоростью сходимости. Недавние исследования показывают, что одной из перспективных стратегий ускорения расчетов при сохранении точности является построение суррогатных моделей, способных уточнять результаты упрощенных расчетов на основе знаний о предыдущих более точных вычислениях.

В последнее время набирает популярность применение методов машинного обучения для решения аэродинамических задач. Например, методы машинного обучения могут использоваться для решения уравнений в частных производных [7, 8, 9, 10], создания суррогатных моделей турбулентности [11, 12, 13], уточнения упрощенных расчетов, повышения разрешения данных поля течения. В работе [11] авторы предложили использовать нейронную сеть на основе радиальных базисных функций (RBF) для моделирования турбулентных течений. В рамках предложенного подхода отдельные модели строятся для различных областей течения, при этом напрямую устанавливается зависимость между турбулентной вязкостью и переменными осредненного течения без решения исходных уравнений в частных производных. Более того, предложенная стратегия раздельного моделирования позволяет индивидуально настраивать признаки и параметры модели для каждой зоны, что способствует более точному воспроизведению характерных особенностей течения в различных областях. В работе [12] высокоточные данные моделирования крупных вихрей (LES) использовались для создания суррогатной турбулентной модели, направленной на улучшение оценки теплового потока в решателе уравнений RANS для задач пленочного охлаждения. Нейросеть использовалась для предсказания динамического модифицированного числа Прандтля, которое затем использовалось в RANS-модели к - £ для моделирования турбулентного теплового потока. В работе [13] использовались метод случайного леса (Random Forest, RF) и нейронные сети для улучшения модели турбулентного перехода к - ш - у - Аг путем построения нелинейной зависимости между переменными осредненного течения и корректирующими членами. Анализируя относительную важность признаков в модели случайного леса, авторы выявили, что градиент давления в продольном направлении играет ключевую роль в передаче физической информации и повышении интерпретируемости модели. В работе [14]

была предложена модель, позволяющая уточнять решения, полученные на грубой расчетной сетке. Модель обучалась предсказывать разницу между результатами, полученными на грубой сетке, и результатами, полученными на подробной сетке. В работе [15] рассматривался схожий подход. Модель машинного обучения обучалась уточнять результаты, полученные с помощью модели Спаларта-Аллмараса с применением пристенной декомпозиции на основе результатов модели Спаларта-Аллмараса без упрощений, полученных для задач из того же класса. Авторы работы [16] представили улучшенный алгоритм динамической адаптации расчетных сеток, использующий методы машинного обучения, что позволило получить лучшее разрешение важных областей поля течения. Более подробный обзор применения методов машинного обучения к задачам газовой динамики представлен в работе [17].

В работах [14, 15] применялся локальный подход, то есть поле течения уточнялось в каждой ячейке расчетной сетки независимо. Недостатком локального подхода является то, что он не способен учитывать геометрию и пространственные зависимости. Эти ограничения преодолеваются использованием нелокального подхода, часто основанного на применении сверточных нейронных сетей. Применимо к изображениям, сверточные нейросети продемонстрировали способность учитывать пространственные зависимости во входных данных и выполнять предсказания на уровне отдельных пикселей. Помимо этого они используют намного меньше параметров, что упрощает и удешевляет обучение.

В работах [18, 19, 20] нейронные сети применялись для решения нестационарных аэродинамических задач. В работе [18] использовались глубокие нейронные сети для предсказания нестационарного течения вокруг цилиндра, при этом применялись сверточные нейросети для извлечения характеристик потока. В работе [19] предложена гибридная нейронная модель, сочетающая сверточные слои и архитектуру долгосрочной/краткосрочной памяти (ЬБТМ) [21] для расчета нестационарных течений. Модель предсказывала поле течения на текущем временном шаге на основе поля течения, полученного на предыдущем временном шаге. В работе [20] рекуррентная нейронная сеть (ИКК) обучалась предсказывать коэффициент подъемной силы колеблющегося профиля. Нейросеть обучалась на параметрах движения, таких как частота колебаний и эффективный угол атаки.

В работах [22, 23, 24, 25] сверточные нейронные сети использовались для повышения разрешения данных полей течения. Поля течения восстанавливались из приближенных данных с низким разрешением. При этом в работах [24, 25] использовались модели, основанные на генеративно-состязательных нейросетях (GAN) [26]. Моделирование стационарных решений исследовалось в работе [27]. Авторы проецировали поле течения на равномерную декартову сетку и использовали нейронную сеть архитектуры U-Net [28] для установления отображения «изображение-изображение» между геометрией профиля и условиями обтекания с полями давления и скорости. Чтобы справиться с проблемой больших объемов данных, необходимых для обучения, и недостатка физической значимости в нейросетевых моделях, в работах [29, 30] были предложены физически информированные нейронные сети (PINN), использующие автоматическое дифференцирование для прямого решения уравнений гидродинамики. В работе [31] исследуется применимость физически информированных нейросетей к различным задачам аэродинамики. В частности, демонстрируется способность данного типа нейросетей строить параметрические суррогатные модели и обеспечивать сопряжение мультифизических процессов.

Значительным недостатком сверточных нейросетей является ограничение области их применимости только к данным на структурированных расчетных сетках. При этом применение неструктурированных расчетных сеток в численных расчетах имеет ряд преимуществ, например, при сложной геометрии задачи. Было предложено несколько подходов к решению данной проблемы. В работе [32] была представлена PhyGeoNet — физически информированная нейронная сеть с геометрической адаптацией, предназначенная для решения параметризованных уравнений в частных производных на нерегулярных областях. Используя эллиптическое преобразование координат, авторы адаптировали нерегулярные геометрии к прямоугольным эталонным пространствам, что позволило применять стандартные сверточные архитектуры. Эллиптическое преобразование, вычисляемое численными методами, применимо к сложным геометрическим формам, которые невозможно параметризовать аналитически. Эффективность PhyGeoNet была продемонстрирована на нескольких системах уравнений, включая уравнения теплопроводности и Навье-Стокса, в условиях нерегулярных

областей. Другой подход был предложен в работе [33], где авторы представили вершины расчетной сетки в виде облака точек, подаваемых на вход нейронной сети архитектуры PointNet. Сеть обучалась отображению между положением точки и значениями переменных вычислительной гидродинамики (CFD). Такой подход позволяет проводить расчеты быстрее, чем традиционные CFD-решатели, сохраняя при этом приемлемую точность. В другой работе [34] была представлена графовая сверточная нейронная сеть (UCNN), которая применялась к моделированию сопряженных векторов. UCNN превзошла традиционные полносвязные сети, особенно в применении к задаче оптимизации аэродинамических форм. В работе [35] авторы разработали новый оператор свертки, названный MeshConv («сеточная свертка») для работы с неоднородными структурированными данными. В работах [36, 37] применялись заметающие кривые (Space-filling curves) для преобразования двумерных входных данных в одномерный вектор, который затем подавался на вход одномерной сверточной нейросети.

В данной работе предлагается построение оператора, уточняющего решения задач внешней аэродинамики, полученные менее точной вычислительно эффективной моделью, на основе решений сходных задач, полученных более точной, но вычислительно затратной моделью, с помощью методов машинного обучения.

Актуальность. Для решения многих промышленных задач требуется проводить моделирование турбулентных течений. Такое моделирование вычислительно затратно, особенно при проведении серийных расчетов. Для многих практических задач важно хорошее разрешение пристенной области. В связи с тем, что для корректного разрешения пограничного слоя приходится значительно сгущать сетку в пристенной области, разрешение пристенной области, как правило, занимает большую (до 90%) часть расчетного времени.

Классическое решение этой проблемы — использование моделей с упрощенным представлением пристенных процессов. Примерами таких упрощенных моделей являются модели с использованием пристеночных функций, применение которых приводит к значительному ускорению вычислений, но ухудшает качество полученных решений, особенно при сложной геометрии тела или изменении параметров потока. Это ограничивает их применимость в задачах, где высокая точность моделирования критична,

например, при проектировании некоторых летательных аппаратов или турбинных лопаток. Альтернативным подходом является использование методов пристенной декомпозиции, в которых потери точности проявляются лишь локально и не затрагивают общую физику течения.

Недавние исследования показывают, что перспективной стратегией является построение суррогатных моделей, способных уточнять результаты упрощенных расчетов на основе знаний о предыдущих более точных вычислениях. В частности, подходы, основанные на методах машинного обучения, позволяют строить локальные операторы, которые восстанавливают поля течения с использованием данных, полученных с помощью упрощенных вычислительно эффективных моделей. Например, в ряде работ было показано, что применение алгоритмов машинного обучения и нейронных сетей позволяет повысить точность результатов без значительного увеличения вычислительной нагрузки. Особый интерес представляет то, что алгоритм уточнения решений, построенный с помощью методов машинного обучения совместим с любым численным решателем и не требует глубокой интеграции в его код. Это открывает путь к созданию универсальных «постпроцессорных» модулей, которые могут быть применены к различным CFD-пакетам без изменения внутренних процедур вычисления полей течения.

Таким образом, разработка новых методов ускорения расчетов, использующих методы машинного обучения, представляет собой актуальное направление исследований. Оно позволяет находить компромисс между скоростью и точностью, что особенно важно в условиях ограниченных вычислительных ресурсов и необходимости проведения множества расчетов при оптимизации аэродинамических форм и параметров обтекания.

Соответствие паспорту специальности. Работа соответствует паспорту специальности 1.2.2 «Математическое моделирование, численные методы и комплексы программ», в частности следующим пунктам:

• Пункт 2. Разработка, обоснование и тестирование эффективных вычислительных методов с применением современных компьютерных технологий. Разработан и обоснован новый вычислительный метод — суррогатная модель на основе машинного обучения (Random Forest, CNN, MeshCNN), предназначенный для уточнения решений задач внешней аэродинамики,

полученных с помощью упрощенных моделей (ANDD, неполная сходимость). Применение модели позволяет ускорить серийные расчеты, при сохранении точности близкой к точности решений без упрощений. Метод протестирован на примере задач сверхзвукового турбулентного обтекания угла сжатия и дозвукового турбулентного обтекания профиля крыла NACA 0012.

• Пункт 3. Реализация эффективных численных методов и алгоритмов в виде комплексов проблемно-ориентированных программ для проведения вычислительного эксперимента. Разработанные алгоритмы реализованы в виде программного комплекса на языке Python с использованием библиотек PyTorch и scikit-learn. Программный комплекс работает как постпроцессор, что позволяет внедрять его в существующие CFD-решатели без модификации их ядра.

• Пункт 8. Комплексные исследования научных и технических проблем с применением современной технологии математического моделирования и вычислительного эксперимента. Работа представляет собой комплексное исследование проблемы вычислительной аэродинамики: достижение высокой точности расчетов турбулентных течений при одновременном сокращении вычислительных затрат. Исследование включает: постановку задачи и анализ ограничений существующих подходов; разработку математических моделей (локальных и нелокальных операторов); обобщение методов на неструктурированные сетки (через заметающие кривые и MeshConv); верификацию на прикладных задачах (сверхзвуковое обтекание угла, дозвуковое обтекание профиля NACA 0012); анализ обобщающей способности (интерполяция/экстраполяция по параметрам потока и геометрическому параметру задачи); исследование возможности прямого предсказания поля течения по геометрии тела и параметрам набегающего потока.

Целью работы является построение оператора, позволяющего уточнять решения задач внешней аэродинамики, полученные упрощенной моделью, с применением методов машинного обучения. Оператор обучается на парах данных, входом служит поле течения, полученное в качестве решения задачи

внешнего обтекания c применением упрощенной модели, эталоном — поле течения, полученное с помощью базовой модели.

Для этого были поставлены следующие задачи:

1. Разработка локального метода уточнения поля течения на основе алгоритма «случайный лес» (Random Forest, RF), использующего переменные поля течения в каждой точке расчетной сетки.

2. Разработка нелокального метода уточнения поля течения на основе сверточных нейронных сетей (Convolutional Neural Network, CNN) для учета пространственных зависимостей в полях течения.

3. Обобщение предложенных методов на неструктурированные сетки с использованием заметающих кривых (Space-Filling Curves, SFC) и одномерных CNN.

4. Исследование возможностей предсказания полей течения по геометрии задачи и параметрам набегающего потока (без проведения предварительного расчета) с помощью CNN с механизмом перекрестного внимания (Cross-Attention)

5. Проверка методов на задачах интерполяции и экстраполяции по числу Рейнольдса и геометрическому параметру задачи.

Научная новизна:

1. Предложен новый локальный (на основе алгоритма RF) и нелокальный (на основе CNN) подходы к ускорению аэродинамических расчетов, сочетающие упрощенные модели с машинным обучением для коррекции результатов.

2. Впервые применены заметающие кривые (SFC) для адаптации нейросетевых методов, уточняющих поля течения, к неструктурированным расчетным сеткам.

3. Предложена модифицированная архитектура нейронной сети с механизмом внимания и сеточными свертками (Mesh Convolution, MeshConv) для повышения гладкости и точности решений на неструктурированных расчетных сетках в одномерной постановке. Авторы исходной архитектуры сеточной свертки рассматривали ее применение на примере двумерной задачи. В работе рассмотрено два варианта обобщения архитектуры сеточной свертки на одномерный случай: блочно-структурированная (соседи на двумерной сетке по

сторонам), и вдоль заметающей кривой (соседи вдоль кривой).

4. Показана возможность прямого предсказания полей течения по геометрии и параметрам потока на неструктурированных сетках с использованием перекрестного механизма внимания без использования промежуточных упрощенных расчетов.

Методология. Все расчеты, применяемые для обучения моделей, выполнены с использованием программного кода лаборатории Flowmodellium, предназначенного для численного решения трехмерных уравнений Навье-Стокса на неструктурированных сетках. Для решения уравнений ИЛ^ применялся метод конечных объемов. Для одной из упрощенных моделей расчет производится с помощью метода пристенной декомпозиции. Для обучения моделей в работе используются методы машинного обучения, как классические (случайный лес), так и методы глубокого обучения, в частности сверточные нейронные сети, нейронные сети с пространственным механизмом внимания, сверточные нейронные сети с сеточными свертками. Для сведения задачи к одномерному представлению используются заметающие кривые. Рассмотрены следующие типы заметающих кривых: заметающая кривая Гильберта, заметающая кривая, зависящая от контекста (строится с помощью алгоритма построения минимального остовного дерева в графе), заметающая кривая, построенная с помощью к-мерного дерева.

Теоретическая значимость. Разработаны суррогатные подходы на основе методов машинного обучения (случайный лес, нейронные сети), позволяющие ускорить численное моделирование турбулентных течений применимо к серийным расчетам. Для этого предлагается обучить суррогатную модель уточнять поля течения, полученные с помощью более быстрых упрощенных моделей, до значений, близких к результатам более точной базовой модели, на части расчетов серии, а остальные расчеты серии — проводить только упрощенной моделью и затем уточнять с помощью суррогатной. Рассмотрено обобщение подхода к уточнению расчетов на неструктурированных расчетных сетках. Для этого разработаны архитектуры нейросетей, позволяющие лучше учитывать геометрию и пространственные зависимости, и способы сведения представления данных к одномерному с помощью заметающих кривых.

Практическая значимость. Предложенные методы позволяют

значительно сократить время вычислений, необходимое для получения решений в задачах внешней аэродинамики применимо к серийным расчетам, за счет использования упрощенных моделей и коррекции их результатов с помощью моделей машинного обучения. Предложенные методы могут использоваться для любой пары упрощенной и базовой моделей, и могут быть внедрены в существующие CFD-решатели для повышения эффективности расчетов. Благодаря применению заметающих кривых и сеточных сверток (MeshConv), предложенные методы применимы к сложным геометриям, часто встречающимся в реальных инженерных задачах.

Основные положения, выносимые на защиту:

1. Разработан локальный метод уточнения поля течения на основе алгоритма «случайный лес» (Random Forest, RF), использующего переменные поля течения в каждой точке расчетной сетки.

2. Разработан нелокальный метод уточнения поля течения с использованием сверточных нейронных сетей (CNN) для учета пространственных зависимостей поля течения.

3. Разработано обобщение нелокального метода для уточнения расчетов на неструктурированных сетках. Для этого применен переход к одномерному представлению задачи с помощью заметающих кривых, и модифицирована архитектура нейронной сети.

4. Разработана улучшенная архитектура нейронной сети, с использованием обобщения алгоритма сеточной свертки (Mesh Convolution), учитывающего локальную геометрию расчетной сетки, на одномерный случай.

5. Разработан метод передачи параметров набегающего потока с помощью алгоритма перекрестного внимания cross attention. Исследована возможность обучения модели, способной предсказывать поле течения, полученное с помощью базовой модели, принимая на вход только геометрию задачи и параметры набегающего потока.

Степень достоверности и апробация результатов. Высокая

степень достоверности результатов работы подтверждается апробацией на 5 российских и международных конференциях:

1. 64 Всероссийская научная конференция МФТИ, 29 ноября - 3 декабря 2021, г. Долгопрудный

2. The International Conference on Smart Computational Methods in Continuum Mechanics, MIPT, Moscow, 27 - 29 October, 2021

3. 65 Всероссийская научная конференция МФТИ, 3-8 апреля 2023, г. Долгопрудный

4. 66 Всероссийская научная конференция МФТИ, 1-6 апреля 2024, г. Долгопрудный

5. 67 Всероссийская научная конференция МФТИ, 31 марта-5 апреля 2025, г. Долгопрудный

Также промежуточные результаты были представлены на научных семинарах кафедры вычислительной физики МФТИ и на семинарах лаборатории математического моделирования нелинейных процессов в газовых средах МФТИ (2022,2023 гг.).

Публикации. Результаты диссертации опубликованы в следующих журналах, из которых [1,3,4,5] индексируются в Scopus.

1. Зимина С.В., Петров М.Н. Применение алгоритма Random Forest для построения локального оператора, уточняющего результаты расчетов в задачах внешней аэродинамики // Компьютерные исследования и моделирование. 2021. Т. 13, № 4. с. 761-778

2. Зимина С.В., Петров М.Н. Уточнение поля течения с помощью сверточных нейронных сетей в задачах внешней аэродинамики // Успехи кибернетики. 2022. Т. 3, № 1. с. 44-48.

3. Petrov M.N, Zimina S.V. An application of space-filling curves to improve the results of turbulent aerodynamics modeling with convolutional neural networks // Chinese Journal of aeronautics. 2024. Volume 37, Issue 2

4. Петров М.Н., Зимина С.В. Суррогатная нейросетевая модель для восстановления поля течения в серийных расчетах стационарных турбулентных течений с разрешением пристенной области // Компьютерные исследования и моделирование, 2024, т. 16, № 5, с. 11951216

5. Петров М.Н., Зимина С.В. Суррогатный нейросетевой метод восстановления поля течения из однородного поля итерациями в расчетах стационарных турбулентных течений // Компьютерные исследования и моделирование, 2025, т. 17, № 2, с. 179-197

Личный вклад. В работах [1,2,3] автор самостоятельно реализовал все

варианты архитектуры оператора и самостоятельно проводил все описанные вычислительные эксперименты и связанные с ними аэродинамические расчеты. В работах [4,5] автор принимал активное участие в проведении расчетов.

Объем и структура работы. Диссертация состоит из введения, шести тематических глав, заключения и списка литературы. Объем диссертации составляет 113 страниц, включая 41 рисунок и 14 таблиц. Список литературы содержит 51 наименование и занимает 6 страниц.

В первой главе представлены общий метод построения уточняющего оператора, описание базовой модели, аэродинамического солвера и упрощенных моделей, а также постановки задач, на которых тестируется работа оператора.

Во второй главе рассмотрен локальный метод построения уточняющего оператора с применением алгоритма машинного обучения «случайный лес». В локальном методе решение в каждой ячейке расчетной сетки уточняется независимо, на основе значений переменных поля течения в этой ячейке.

В третьей главе рассматривается нелокальный метод, который строится с помощью сверточной нейронной сети и позволяет учесть пространственную зависимость переменных поля течения.

В четвертой главе рассматривается способ обобщения предложенного оператора к уточнению данных на неструктурированных расчетных сетках. Для этого предлагается переход к одномерному представлению данных с использованием заметающих кривых. Уточнение результатов производится с использованием одномерных сверточных нейронных сетей.

Список литературы диссертационного исследования кандидат наук Зимина Софья Васильевна, 2025 год

Список литературы

[1] Grotjans H., Menter F. Wall functions for industrial applications // Computational fluid dynamics. 1998. Vol. 98, no. 1. P. 2.

[2] Craft T., Gant S., Iacovides H. et al. A new wall function strategy for complex turbulent flows // Numerical Heat Transfer, Part B: Fundamentals. 2004. Vol. 45, no. 4. P. 301-318.

[3] Kalitzin G., Medic G., Iaccarino G. et al. Near-wall behavior of RANS turbulence models and implications for wall functions // Journal of Computational Physics. 2005. Vol. 204, no. 1. P. 265-291.

[4] Chikitkin A., Utyuzhnikov S., Petrov M. et al. Non-overlapping domain decomposition for modeling essentially unsteady near-wall turbulent flows // Computers & Fluids. 2020. Vol. 202. P. 104506.

[5] Petrov M., Utyuzhnikov S., Chikitkin A. et al. On extension of near-wall domain decomposition to turbulent compressible flows // Computers & Fluids. 2020. Vol. 210. P. 104629.

[6] Petrov M., Utyuzhnikov S., Smirnova N. et al. Extension of Near-Wall Domain Decomposition to Modeling Flows with Laminar-Turbulent Transition // Communications in Computational Physics. 2022. Vol. 31, no. 2. P. 645-668.

[7] Dissanayake M. G., Phan-Thien N. Neural-network-based approximations for solving partial differential equations // communications in Numerical Methods in Engineering. 1994. Vol. 10, no. 3. P. 195-201.

[8] Lagaris I. E., Likas A., Fotiadis D. I. Artificial neural networks for solving ordinary and partial differential equations // IEEE transactions on neural networks. 1998. Vol. 9, no. 5. P. 987-1000.

[9] Han J., Jentzen A. et al. Deep learning-based numerical methods for high-dimensional parabolic partial differential equations and backward stochastic differential equations // Communications in mathematics and statistics. 2017. Vol. 5, no. 4. P. 349-380.

[10] Wei S., Jin X., Li H. General solutions for nonlinear differential equations: a rule-based self-learning approach using deep reinforcement learning // Computational Mechanics. 2019. Vol. 64, no. 5. P. 1361-1374.

[11] Zhu L., Zhang W., Kou J. et al. Machine learning methods for turbulence modeling in subsonic flows around airfoils // Physics of Fluids. 2019. Vol. 31, no. 1.

[12] Mazaheri K., Abtahi Mehrjardi S. A. Usage of high-fidelity large eddy simulation to improve the turbulence modeling of Reynolds averaged navier stokes simulation in film cooling applications via a neural network // International Journal of Thermofluids. 2024. Vol. 23. P. 100718.

[13] Yang M., Xiao Z. Improving the k-ш-у-Ar transition model by the field inversion and machine learning framework // Physics of Fluids. 2020. Vol. 32, no. 6.

[14] Hanna B., Dinh N., Youngblood R. et al. Machine-learning based error prediction approach for coarse-grid Computational Fluid Dynamics (CG-CFD) // Progress in Nuclear Energy. 2020. Vol. 118. P. 103140.

[15] Зимина С. В., Петров М. Н. Применение алгоритма Random Forest для построения локального оператора, уточняющего результаты расчетов в задачах внешней аэродинамики // Компьютерные исследования и моделирование. 2021. Т. 13, № 4. С. 761-778.

[16] Wu T., Liu X., An W. et al. A mesh optimization method using machine learning technique and variational mesh adaptation // Chinese Journal of Aeronautics. 2022. Vol. 35, no. 3. P. 27-41.

[17] Li Y., Chang J., Kong C. et al. Recent progress of machine learning in flow modeling and active flow control // Chinese Journal of Aeronautics. 2022. Vol. 35, no. 4. P. 14-44.

[18] Lee S., You D. Data-driven prediction of unsteady flow over a circular cylinder using deep learning // Journal of Fluid Mechanics. 2019. Vol. 879. P. 217-254.

[19] Han R., Wang Y., Zhang Y. et al. A novel spatial-temporal prediction method for unsteady wake flows based on hybrid deep neural network // Physics of Fluids. 2019. Vol. 31, no. 12. P. 127101.

[20] Pereira J. A., Camacho E. A., Marques F. D. et al. Flapping Airfoil Aerodynamics using Recurrent Neural Network // AIAA SCITECH 2024 Forum. Orlando, FL: American Institute of Aeronautics and Astronautics, 2024. URL: https://arc.aiaa.org/doi/10.2514/6.2024-1982.

[21] Hochreiter S., Schmidhuber J. Long Short-Term Memory // Neural Computation. 1997. Vol. 9, no. 8. P. 1735-1780.

[22] Fukami K., Fukagata K., Taira K. Super-resolution reconstruction of turbulent flows with machine learning // Journal of Fluid Mechanics. 2019. Vol. 870. P. 106-120.

[23] Liu B., Tang J., Huang H. et al. Deep learning methods for super-resolution reconstruction of turbulent flows // Physics of fluids. 2020. Vol. 32, no. 2.

[24] Deng Z., He C., Liu Y. et al. Super-resolution reconstruction of turbulent velocity fields using a generative adversarial network-based artificial intelligence framework // Physics of Fluids. 2019. Vol. 31, no. 12. P. 125111.

[25] Xie Y., Franz A., Chu M. et al. tempoGAN: A temporally coherent, volumetric GAN for super-resolution fluid flow // ACM Transactions on Graphics (TOG). 2018. Vol. 37, no. 4. P. 1-15.

[26] Goodfellow I. J., Pouget-Abadie J., Mirza M. et al. Generative adversarial nets // Advances in neural information processing systems. 2014. Vol. 27.

[27] Thuerey N., WeiBenow K., Prantl L. et al. Deep Learning Methods for Reynolds-Averaged Navier-Stokes Simulations of Airfoil Flows // AIAA Journal. 2020. Vol. 58, no. 1. P. 25-36.

[28] Ronneberger O., Fischer P., Brox T. U-net: Convolutional networks for biomedical image segmentation // International Conference on Medical image computing and computer-assisted intervention / Springer. 2015. P. 234-241.

[29] Raissi M., Perdikaris P., Karniadakis G. Physics-informed neural networks: A deep learning framework for solving forward and inverse problems involving nonlinear partial differential equations // Journal of Computational Physics. 2019. Vol. 378. P. 686-707.

[30] Raissi M., Karniadakis G. E. Hidden physics models: Machine learning of nonlinear partial differential equations // Journal of Computational Physics. 2018. Vol. 357. P. 125-141.

[31] Coulaud G., Le M., Duvigneau R. Investigations on Physics-Informed Neural Networks for Aerodynamics. 2024. URL: https://arxiv.org/abs/2403.17470.

[32] Gao H., Sun L., Wang J. X. PhyGeoNet: Physics-informed geometry-adaptive convolutional neural networks for solving parameterized steady-state PDEs on irregular domain // Journal of Computational Physics. 2021. Vol. 428. P. 110079.

[33] Kashefi A., Rempe D., Guibas L. A point-cloud deep learning framework for prediction of fluid flow fields on irregular geometries // Physics of Fluids. 2021. Vol. 33, no. 2. P. 027104.

[34] Xu M., Song S., Sun X. et al. A convolutional strategy on unstructured mesh for the adjoint vector modeling // Physics of Fluids. 2021. Vol. 33, no. 3. P. 036115.

[35] Hu J.-W., Zhang W.-W. Mesh-Conv: Convolution operator with mesh resolution independence for flow field modeling // Journal of Computational Physics. 2022. Vol. 452. P. 110896.

[36] Heaney C. E., Li Y., Matar O. K. et al. Applying Convolutional Neural Networks to data on unstructured meshes with space-filling curves // Neural Networks. 2024. Vol. 175. P. 106198.

[37] Petrov M., Zimina S. An application of space-filling curves to improve results of turbulent aerodynamics modeling with convolutional neural networks // Chinese Journal of Aeronautics. 2024. Vol. 37, no. 2. P. 81-92.

[38] Spalart P., Allmaras S. A one-equation turbulence model for aerodynamic flows // 30th Aerospace Sciences Meeting and Exhibit. Reno,NV,U.S.A.: American Institute of Aeronautics and Astronautics, 1992.

[39] Petrov M. N., Tambova A. A., Titarev V. A. et al. FlowModellium software package for calculating high-speed flows of compressible fluid // Computational Mathematics and Mathematical Physics. 2018. Vol. 58, no. 11. P. 1865-1886.

[40] Petrov M., Titarev V., Utyuzhnikov S. et al. A multithreaded OpenMP implementation of the LU-SGS method using the multilevel decomposition of the unstructured computational mesh // Computational Mathematics and Mathematical Physics. 2017. Vol. 57, no. 11. P. 1856-1865.

[41] Chikitkin A., Petrov M., Titarev V. et al. Parallel versions of implicit LU-SGS method // Lobachevskii Journal of Mathematics. 2018. Vol. 39, no. 4. P. 503512.

[42] Breiman L. Random Forests // Machine Learning. 2001. Vol. 45, no. 1. P. 5-32.

[43] Zhang H., Goodfellow I., Metaxas D. et al. Self-attention generative adversarial networks // International conference on machine learning / PMLR. 2019. P. 7354-7363.

[44] He K., Zhang X., Ren S. et al. Deep residual learning for image recognition // Proceedings of the IEEE conference on computer vision and pattern recognition. 2016. P. 770-778.

[45] Kingma D. P., Ba J. Adam: A Method for Stochastic Optimization. 2017. URL: https://arxiv.org/abs/1412.6980.

[46] Hilbert D. Über die stetige Abbildung einer Linie auf ein Flächenstück // Dritter Band: Analysis- Grundlagen der Mathematik- Physik Verschiedenes. Springer, 1935. P. 1-2.

[47] Dafner R., Cohen-Or D., Matias Y. Context-based Space Filling Curves // Computer Graphics Forum. 2000. Vol. 19, no. 3. P. 209-218.

[48] Sasidharan A., Dennis J. M., Snir M. A General Space-filling Curve Algorithm for Partitioning 2D Meshes // 2015 IEEE 17th International

Conference on High Performance Computing and Communications, 2015 IEEE 7th International Symposium on Cyberspace Safety and Security, and 2015 IEEE 12th International Conference on Embedded Software and Systems. New York, NY: IEEE, 2015. P. 875-879. URL: https://ieeexplore.ieee.org/document/7336274/.

[49] Oktay O., Schlemper J., Folgoc L. L. et al. Attention U-Net: Learning Where to Look for the Pancreas. 2018. URL: https://arxiv.org/abs/1804.03999.

[50] Rombach R., Blattmann A., Lorenz D. et al. High-Resolution Image Synthesis with Latent Diffusion Models // 2022 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR). New Orleans, LA, USA: IEEE, 2022. P. 10674-10685. URL: https://ieeexplore.ieee.org/document/9878449/.

[51] Liu B., Wang C., Cao T. et al. Towards Understanding Cross and Self-Attention in Stable Diffusion for Text-Guided Image Editing. 2024. URL: https://arxiv.org/abs/2403.03431.

Список иллюстраций

1.1 Невязка в Li норме (логарифмическая шкала) для задачи дозвукового турбулентного обтекания профиля крыла NACA 0012. Зеленая вертикальная линия соответствует сошедшемуся расчету (базовая модель), красная — расчету с неполной сходимостью (упрощенная модель). Оба рисунка показывают один график в разном масштабе. Левый рисунок включает график для всех 200000 итераций (и обе точки, выбранные как базовая и упрощенная модель). Правый график показывает значения невязки при номерах итерации, близких к точке, выбранной в качестве упрощенной модели.............. 25

1.2 Пример расчетной сетки (а) и поля течения (б) для задачи сверхзвукового турбулентного обтекания угла сжатия....... 28

1.3 Пример расчетной сетки (а) и поля течения (б) для задачи дозвукового турбулентного обтекания профиля крыла NACA 0012 29

2.1 Пример архитектуры решающего дерева (а) и случайного леса (б)

для задачи регрессии .......................... 33

2.2 Зависимость OOB-ошибки от числа деревьев............ 34

2.3 Сверхзвуковое обтекание угла сжатия. Сценарии интерполяции (а, б) и экстраполяции (в, г — вверх, д, е — вниз) по числу Рейнольдса при фиксированной величине угла сжатия а = 132°. Красная линия — расчет по базовой модели (модель Спаларта-Аллмараса), черная — расчет по упрощенной модели (ANDD), синяя — уточненный с помощью случайного леса результат упрощенной модели .......................... 36

2.4 Сверхзвуковое обтекание угла сжатия. Сценарии интерполяции (а ,б) и экстраполяции (в, г — вверх, д, е — вниз) по величине угла сжатия а при фиксированном числе Рейнольдса Re = 107. Красная линия — расчет по базовой модели (модель Спаларта-Аллмараса), черная — расчет по упрощенной модели (ANDD), синяя — уточненный с помощью случайного леса результат упрощенной модели .......................... 37

3.1 Схематичное изображение нейронной сети архитектуры энкодер-

3.3 Схематичное изображение операции свертки (а) и объединения

3.4 Архитектура нейросети в нелокальном методе. Архитектура, лежащая в основе (а), итоговая архитектура. (б). Convolution — свертка. Transpose Convolution — транспонированная свертка. InstanceNorm — нормализация по объекту. Self-attention — механизм внутреннего внимания. Residual — остаточный блок. Upsamle — слой повышения разрешения. kNN smooth — обучаемое сглаживание по ближайшим соседям. ReLU, tanh — функции активации................................ 47

3.5 Схема остаточного блока. Conv — свертка, BatchNorm — пакетная нормализация, ReLU — функция активации............. 49

3.6 Схема слоя внутреннего внимания (self-attention). Convolution — свертка, softmax — функция активации, символ «X» обозначает матричное умножение.......................... 50

3.7 Сверхзвуковое обтекание угла сжатия. Денарии интерполяции (а, б) и экстраполяции (в, г — вверх, д, е — вниз) по числу Рейнольдса при фиксированной величине угла сжатия а = 132°. Красная линия — расчет по базовой модели (модель Спаларта-Аллмараса), черная — расчет по упрощенной модели (ANDD), синяя — уточненный с помощью сверточной нейронной сети результат упрощенной модели .................... 53

3.8 Сверхзвуковое обтекание угла сжатия. Денарии интерполяции (а, б) и экстраполяции (в, г — вверх, д, е — вниз) по величине угла сжатия а при фиксированном числе Рейнольдса Re = 107. Красная линия — расчет по базовой модели (модель Спаларта-Аллмараса), черная — расчет по упрощенной модели (ANDD), синяя — уточненный с помощью сверточной нейронной сети результат упрощенной модели .................... 54

декодер ...................

3.2 Прямой (a) и обратный (б) проход по сети

42 44

(max pooling) (б)

45

3.9 Влияние архитектуры нейросети на трение на стенке в задаче обтекания угла сжатия, сценарий интерполяции по величине угла сжатия а в двумерной постановке.................. 56

4.1 Алгоритм построения кривой Гильберта (а), первые четыре шага построения (б) ............................. 60

4.2 Начальные контуры и соответствующий граф С'.......... 62

4.3 Иллюстрация к объединению контуров............... 62

4.4 Пример построения контекстной заметающей кривой для двухцветного изображения размером 16 X 16 пикселей....... 63

4.5 Заметающие кривые на примере обтекания угла сжатия...... 64

4.6 Процесс разбиения плоскости (а, б, в, г) и соответствующее к-мерное дерево (д) на примере искусственной задачи из 15 точек

на плоскости .............................. 66

4.7 Возможные варианты уточнения направления обхода дерева ... 67

4.8 Процесс обхода ^-мерного дерева (а, б, в, г) и соответствующая заметающая кривая (д) на примере искусственной задачи из 15 точек на плоскости ........................... 67

4.9 Сверхзвуковое обтекание угла сжатия. Сценарии интерполяции (а, б) и экстраполяции (в, г — вверх, д, е — вниз) по числу Рейнольдса при фиксированной величине угла сжатия а = 132°. Красная линия — расчет по базовой модели (модель Спаларта-Аллмараса), черная — расчет по упрощенной модели (ЛКЭЭ). Результаты упрощенной модели, уточненные с помощью сверточных нейронных сетей показаны синей (двумерная постановка) и зеленой (одномерная постановка) линиями. ................................ 70

4.10 Сверхзвуковое обтекание угла сжатия. Сценарий интерполяции по величине угла сжатия а при фиксированном числе Рейнольдса Яе = 107. Красная линия — расчет по базовой модели (модель Спаларта-Аллмараса), черная — расчет по упрощенной модели (ЛКЭЭ). Результаты упрощенной модели, уточненные с помощью сверточных нейронных сетей показаны синей (двумерная постановка) и зеленой (одномерная постановка) линиями................................. 71

4.11 Влияние архитектуры нейросети на трение на стенке в задаче обтекания угла сжатия, сценарий интерполяции по числу Рейнольдса в одномерной постановке ................ 72

5.1 Геометрические признаки, использующиеся при расчете локальных весов сеточной свертки. Зеленым выделена рассматриваемая ячейка, голубым - ее соседи............ 75

5.2 Архитектура слоя сеточной свертки (Mesh Convolution). Conv — свертка. Символом О обозначено поэлементное умножение..... 75

5.3 Архитектура нейросети, использующая сеточные свертки. Convolution — свертка. MeshConvolution — сеточная свертка. InstanceNorm — нормализация по объекту. kNN smooth — обучаемое сглаживание по ближайшим соседям. ReLU, tanh — функции активации. Attention gate — пространственный механизм внимания между энкодером и декодером......... 76

5.4 Архитектура слоя пространственного внимания между энкодером и декодером (attention gate). MeshConv — сеточная свертка. Norm — нормализация. ReLU, Sigmoid — функции активации. Символы 0 и О обозначают поэлементное сложение и умножение

соответственно.............................. 78

5.5 Симметричный логарифм....................... 79

5.6 Трение на стенке для задачи обтекания профиля крыла NACA 0012, сценарии интерполяции (а, б) и экстраполяции (в, г — вверх, д, е — вниз) по числу Рейнольдса при угле атаки а = 0°.

Красная линия — сошедшийся расчет, черная — упрощенная модель (неполная сходимость). Уточнение с помощью CNN показано синей и зеленой (с досчетом 200 итераций солвером) линиями. Слева и справа показаны разные типы сеточной свертки. 82 5.7 Трение на стенке для задачи обтекания профиля крыла NACA 0012, сценарий интерполяции по величине угла атаки при числе Рейнольдса Re = 107. Красная линия — сошедшийся расчет, черная — упрощенная модель (неполная сходимость). Уточнение с помощью CNN показано синей и зеленой (с досчетом 200 итераций солвером) линиями. Слева и справа показаны разные типы сеточной свертки......................... 83

5.8 Влияние архитектуры нейросети на трение на стенке в задаче обтекания профиля крыла, сценарий экстраполяции по числу Рейнольдса............................... 84

5.9 Влияние архитектуры нейросети и типа заметающей кривой на трение на стенке. Красная линия — расчет по базовой модели (модель Спаларта-Аллмараса), черная — расчет по упрощенной модели (ANDD). Результаты упрощенной модели, уточненные с помощью сверточных нейронных сетей в одномерной постановке, показаны синей (без механизма внимания) и зеленой (с механизмом внимания) линиями. Экстраполяция вниз по величине угла сжатия а, при фиксированном числе Рейнольдса

Re = 107................................. 86

5.10 Влияние архитектуры нейросети и типа заметающей кривой на трение на стенке. Красная линия — расчет по базовой модели (модель Спаларта-Аллмараса), черная — расчет по упрощенной модели (ANDD). Результаты упрощенной модели, уточненные с помощью сверточных нейронных сетей в одномерной постановке, показаны синей (без механизма внимания) и зеленой (с механизмом внимания) линиями. Экстраполяция вверх по величине угла сжатия а, при фиксированном числе Рейнольдса

Re = 107................................. 87

6.1 Представление геометрии тела в форме функции расстояния со знаком (SDF) на примере задачи обтекания угла сжатия..... 91

6.2 Архитектура нейросети, используемая для предсказания поля течения по геометрии задачи и параметрам набегающего потока. Convolution — свертка. MeshConvolution — сеточная свертка. InstanceNorm — нормализация по объекту. Linear — полносвязный слой. kNN smooth — обучаемое сглаживание по ближайшим соседям. Attention gate — пространственный механизм внимания между энкодером и декодером. Cross attention — механизм перекрестного внимания. ReLU, Leaky ReLU, tanh — функции активации ................................ 92

6.3 Архитектура слоя перекрестного внимания. Сопуо1иМоп — свертка, МеэЬСопу — сеточная свертка. Бойшах — функция активации. Символ «X» обозначает матричное умножение..... 93

6.4 Сверхзвуковое обтекание угла сжатия. Сценарии интерполяции по числу Рейнольдса, при фиксированном угле сжатия (а = 132° (а, б) и интерполяции по величине угла сжатия а при фиксированном числе Рейнольдса Яе = 107 (в, г). Расчет на основании геометрии задачи и параметров набегающего потока. Красная линия — расчет по базовой модели (модель Спаларта-Аллмараса), синяя — предсказание нейросети. Черной линией показан результат модели с пристенной декомпозицией (ЛКЭЭ), который приведен для сравнения и в обучении нейросети не использовался.............................. 95

Список таблиц

1.1 Обучающая и тестовая выборки для задачи сверхзвукового турбулентного обтекания угла сжатия................ 28

1.2 Обучающая и тестовая выборки для задачи дозвукового турбулентного обтекания профиля крыла NACA 0012....... 30

2.1 Сверхзвуковое обтекание угла сжатия. Коэффициенты трения Cf для базовой модели без декомпозиции (Single block), упрощенной модели с декомпозицией(ANDD), результата уточнения (RF-NDD) а также относительная ошибка £............... 38

2.2 Влияние размера обучающей выборки случайного леса на коэффициент трения Cf для задачи обтекания угла сжатия ... 39

3.1 Сверхзвуковое обтекание угла сжатия. Коэффициенты трения Cf для базовой модели без декомпозиции (Single block), упрощенной модели с декомпозицией(ANDD), результата уточнения (CNN-NDD) а также относительная ошибка £............... 55

3.2 Зависимость коэффициентов трения Cf и относительной ошибки £ от архитектуры нейросети в двумерной постановке ... 56

4.1 Сверхзвуковое обтекание угла сжатия. Коэффициенты трения Cf для базовой модели без декомпозиции (Single block), упрощенной модели с декомпозицией(ANDD) и результат уточнения в двумерной (CNN-NDD 2D) и одномерной (CNN-NDD 1D) постановках, а также относительная ошибка £........... 69

4.2 Зависимость коэффициентов трения Cf и относительной ошибки £ от архитектуры нейросети в одномерной постановке . . 72

5.1 Дозвуковое обтекание профиля крыла NACA 0012. Коэффициенты трения Cf для базовой модели (200к ), упрощенной модели (3.5к), предсказания нейросети (3.5k + CNN) и предсказания нейросети после досчета (3.5к + CNN + 200), а также относительная ошибка s. Показаны результаты для различных типов сеточных сверток: блочно-структурированной

(Structured) и вдоль заметающей кривой (SFC)........... 81

5.2 Зависимость коэффициентов трения Cf и относительной ошибки £ от архитектуры нейросети................. 84

5.3 Обучающая и тестовая выборки для задачи сверхзвукового турбулентного обтекания угла сжатия, экстраполяция по величине угла .............................. 85

5.4 Зависимость коэффициентов трения C и относительной ошибки от типа сеточной свертки: блочно-структурированная

(Structured) или вдоль заметающей кривой (SFC); типа заметающей кривой: кривая Гильберта или контекстная, а также наличия или отсутствия пространственного механизма

внимания (attention gate). Задача обтекания угла сжатия, экстраполяция по величине угла.................... 85

6.1 Обучающая и тестовая выборки для задачи сверхзвукового

турбулентного обтекания угла сжатия ................ 94

6.2 Сверхзвуковое обтекание угла сжатия. Коэффициенты трения Cf для базовой модели (Single block), упрощенной модели (ANDD) и результата нейросети, полученного на основании геометрии задачи и параметров набегающего потока (CNN), а также относительная ошибка е. Результат модели с пристенной декомпозицией (ANDD) приведен для сравнения, и в обучении модели не использовался ....................... 96