Применение тензорных разложений для численного решения задач динамики разреженных газов и несжимаемых жидкостей тема диссертации и автореферата по ВАК РФ 00.00.00, кандидат наук Корнев Егор Кириллович

• Корнев Егор Кириллович
• кандидат наук
• 2025

Оглавление диссертации кандидат наук Корнев Егор Кириллович

Введение

Глава 1. Физико-математические модели сред

1.1 Кинетическое уравнение Больцмана с S-модельным интегралом столкновений

1.2 Уравнение Навье-Стокса для несжимаемой жидкости

Глава 2. Тензорные разложения

2.1 Скелетное, сингулярное и каноническое разложения

2.2 Разложение Таккера

2.3 Формат Tensor Train

Глава 3. Численные методы

3.1 Метод дискретных скоростей решения уравнения Больцмана с модельным интегралом столкновений

3.1.1 Базовый явный метод

3.1.2 Неявный метод по времени

3.1.3 Тензорная версия метода

3.1.4 Реконструкция 2-го порядка в тензорном формате

3.1.5 Параллельная реализация

3.2 Метод конечных элементов решения уравнения Навье-Стокса

3.2.1 Базовый метод

3.2.2 Метод конечных элементов в формате QTT

3.2.3 Проекционный метод решения уравнения Навье-Стокса

для несжимаемой жидкости

Глава 4. Численные эксперименты

4.1 Течения разреженного газа

4.1.1 Одномерная ударная волна

4.1.2 Обтекание круглого цилиндра

4.1.3 Истечение в вакуум через трубу круглого сечения

Стр.

4.2 Течения несжимаемой жидкости

4.2.1 Модельная задача

4.2.2 Квадратная полость с движущейся стенкой

4.2.3 Ступенька

Заключение

Список литературы

Список рисунков

Список таблиц

Введение диссертации (часть автореферата) на тему «Применение тензорных разложений для численного решения задач динамики разреженных газов и несжимаемых жидкостей»

Введение

Дифференциальные уравнения в частных производных (ДУЧП) позволяют описывать процессы реального мира во многих прикладных областях, таких как инженерия, экономика, социология, биология и другие. Если удаётся решить такое уравнение и получить целевую функцию, определяющую интересующий нас процесс, то становится возможным предсказать его развитие в будущем. Обладатель решения получает возможность моделировать процесс на компьютере, чтобы получить углубленные знания о его поведении и, таким образом, получить значительное преимущество в выбранной области. Поэтому решения ДУЧП представляют большой интерес для науки и промышленности. Существуют различные группы методов для численного решения ДУЧП, включая методы конечных разностей, методы конечных объёмов и методы конечных элементов.

Уравнения, представляющие практический интерес, отличаются большой сложностью. Точные решения таких уравнений либо не существуют, либо ещё не получены, либо имеют чрезвычайно сложную форму, делающие такие решения неприменимыми для практических целей. Чтобы достичь прогресса, применяются численные методы, которые позволяют получить решение в виде конечного набора приближённых значений.

Основное ограничение численных методов - компромисс между качеством решения и вычислительными ресурсами, такими как оперативная память компьютера и время расчёта. Получение удовлетворительного результата обычно требует очень точного описания физической системы, что приводит к огромным затратам оперативной памяти и времени процессора, потребляемых расчётом.

В настоящей работе мы будем ссылаться на на многомерные массивы как на «тензоры», по аналогии с библиотеками линейной алгебры TensorFlow [1] и РуТогЛ [2], хотя объекты, приводимые в работе, не являются тензорами в строгом математическом смысле. Также другой смысл будет иметь понятие «ранга» такого тензора.

С целью преодоления вышеперечисленных трудностей активно исследуются тензорные разложения [3]. При численном моделировании физических процессов зачастую приходится иметь дело с многомерными массивами большого размера. Тензорные форматы могут быть использованы

для сжатого приближенного представления многомерных массивов - они раскладывают большой тензор на комбинацию меньших, что может привести к сокращению числа параметров. Наиболее популярными из них являются полиадическое (каноническое) разложение [4], разложение Таккера [5], иерархическое разложение Таккера (HT) [6], формат тензорного поезда (Tensor Train) [7]. Качество сжатия определяется так называемыми тензорными рангами данного разложения - дополнительной размерностью, однозначно определяющей количество численных элементов, хранимых в памяти. Например, любая гладкая аналитическая функция, вычисленная на равномерной прямоугольной сетке сколь угодно большого размера, имеет ограниченные ранги в формате Quantized Tensor Train [8; 9] и, следовательно, эффективно сжимается, тогда как случайный тензор обладает полными рангами (сравнимыми с размером тензора), и, следовательно, тензорная декомпозиция его нецелесообразна. Впоследствии был разработаны аналоги тензорных форматов для представления непрерывных функций, такие как функциональный Таккер [10] и функциональный тензорный поезд [11; 12].

Приведём работы, где описываются свойства тензорных разложений применительно к таким задачам как аппроксимация непрерывных функций [13], оптимизация [14; 15], поиск собственных значений [16]. Отдельно отметим оптимизацию, где идея заключается в крестовой аппроксимации целевой функции тензорным разложением малого ранга [17]. Также тензорные сети широко применяются в моделировании химических процессов, моделировании молекул, при моделировании молекулярного докинга [18--23]. Основная идея заключается в попытке снизить вычислительную сложность задачи, которая для этих задач неудовлетворительно большая.

Большие многомерные массивы возникают при моделировании финансовых рынков, когда присутствует зависимость решения от многих переменных, например, при моделировании многоактивных опционов. Уже при количестве активов > 3 даже хранение решения на сетке может быть проблематичным, и методы типа Монте-Карло требуют неудовлетворительно много вычислений. В работе [24] рассматривается сжатое представление цен при расчётах многоактивных опционов. Ускорение вычисления интегралов в методе Монте-Карло при моделировании многоактивных бермудских опционов рассматривается в работе [25]. В работе [26] тензорные сети применяются для быстрого вычисления цены многактивных (> 10) опционов на большом наборе параметров.

Тензорные сети применяются для вычисления интегралов многомерных функций. Такие интегралы возникают, например, в модели Изинга намагничивания материала [27], в финансовых моделях [25], в моделях распространения эпидемий [28]. Аппроксимируя целевую функцию малоранговым разложением при помощи кросс-аппроксимации с контролем точности [29], можно добиться существенного сокращения количества вычислений [30].

Можно отметить сходство между обобщающей способностью тензорных и нейронных сетей. Обобщающие свойства тензорных сетей применяются в анализе данных [31; 32]. Детерминированные тензорные алгоритмы позволяют построить оптимальную в смысле ошибки аппроксимацию относительно небольшого объёма данных, в то время как нейросети обычно полагаются на вероятностые алгоритмы оптимизации и позволяют работать с большими данными. Существуют гибридные подходы, совмещающие тензорные разложения и нейронные сети [33; 34]. Тензорные форматы в некоторых случаях позволяют получать сжатые представления уже обученных нейронных сетей за счёт перестановок и сжатия слоёв сети [35].

Интересной областью применения тензорных разложений является эффективное решение уравнений в частных производных. В численных методах решения ДУЧП явно или неявно возникают матрицы специального вида (ленточные, блочные, разреженные, циркулянтные), котороые могут быть представлены в тензорном формате. Если такая матрица имеет малый тензорный ранг, то система с ней может быть решена тензорным методом экспоненциально быстрее, чем известными классическими. Например, известна форма представления многомерного оператора Лапласа в формате QTT [36]. Для решения систем существуют итерационные методы, самым известным из которых является AMEn (Alternating Minimal Energy Method) [37]. В работах [38; 39] показывается, как тензорные разложения могут быть применены для решения уравнений параболического типа. В работах [38; 40—43] формат Tensor Train применятся для сборки матриц и получения решения в конечно-элементных методах. Данный подход также применяется при решении обратных задач [44]. Работа [45] предлагает эффективный численный метод для решения уравнений мелкой воды с использованием разложения Tensor Train, было достигнуто ускорение в сравнении с классическими методами. В работе [46] приведён

алгоритм решения уравнения конвекции-диффузии-реакции на базе операторов в формате Tensor Train.

Тензорные сети уже активно применяются в моделировании течений. При больших числах Рейнольдса (сильной турбулентности) для разрешения мелких вихрей требуется очень подробная дискретизация сетки по пространству В работах [47; 48] применяется формат Tensor Train для того, чтобы сильно сократить вычислительную сложность задач оптимизации с ограничениями в виде уравнения Навье-Стокса. В работах [49; 50] исследуется применение разложения Шмидта для моделирования турбулентных течений при больших числах Рейнольдса, и предполагается, что иерархическое тензорное представление позволит воспользоваться корелляциями между различными пространственными масштабами решения.

Численные методы моделирования разреженных течений особенно страдают от «проклятия размерности». Когда возникает необходимость в более подробном описании состояния газа, модель включает в себя функцию распределения молекул газа по скоростям, что приводит к сильному повышению размерности задачи. В данной работе мы рассматриваем метод дискретных скоростей (МДС) для численного решения уравнения Больцмана. Можно выделить два классических направления для преодоления проклятия размерности данных методов.

Первое направление предполагает использование усовершенствованных неравномерных скоростных сеток. В итоговом решении нас может не интересовать подробное представление состояния газа, а лишь его интегральные характеристики, такие как температура. Тогда имеет смысл сокращать количество данных, при этом сохраняя точность в вычислении интегралов от функции распределения. Первым подходом является использование априорной информации о задаче для подбора подходящей сетки, например, иметь сгущение в выделенном направлении [51] или вблизи характеристических значений скорости [52; 53], однако подобные методы плохо обобщаются и требуют отдельного подхода к каждой задаче. Вторым вариантом является применение адаптивных сеток типа восьмеричного дерева [54—56], но такие методы зачастую ведут себя нестабильно, «взрываются» по памяти и, соответственно, требуют контроля за вычислениями.

Второе направление включает в себя применение упрощённых моделей, таких как модель Бхатнагара-Гросса-Крука (БГК) [57], S-модель [58] или

эллипсоидальная статистическая модель (ES) [59], которые используют упрощённую форму интеграла столкновений. Точный интеграл столкновений представляет собой интеграл функции шести переменных и требует большого количества вычислений. Использование модельных интегралов столкновений позволяет сравнять вычислительные затраты с затратами на вычисление макропараметов, сохраняя удовлетворительную точность решения [53]. Однако даже так размерность задачи равна 6 без учёта времени, что остаётся тяжёлым случаем с точки зрения размерности.

Метод дискретных скоростей хорошо изучен, известны модификации. Например, в [60] рассматривается гибридный метод, где промежуточные макропараметры решения на временном шаге неявного метода получаются при помощи решения уравнения Навье-Стокса. Стоит упомянуть популярный метод решёточных уравнений Больцмана (ЬВМ) [61], который неприменим, например, в задачах внешней аэродинамики при больших скоростях газа.

Метод Монте-Карло, или метод прямого статистического моделирования (ПСМ), в настоящее время является наиболее распространённым подходом к моделированию течений разреженного газа, особенно в задачах, связанных с многоатомными газами и смесями [62]. Это можно объяснить гибкостью статистических методов, позволяющей рассматривать сложные модели. В России ведущим программным комплексом данного класса считается SMILE++, разрабатываемый в Институте теоретической и прикладной механики СО РАН [63—65]. Тем не менее, применение метода Монте-Карло ограничено из-за его медленной сходимости при повышении числа частиц [66], а также сложностями при моделировании нестационарных течений.

В последнее время популярность набирают тензорные методы для решения кинетических уравнений. Например, в работе [67] применяется каноническое разложение для аппроксимации точного интеграла столкновений и приводятся оценки сложности вычислений. В статье [68] рассматривается возможность понижения размерности интеграла столкновений при помощи сингулярного разложения. В работе [69] тензорное разложение функции распределения в модели БГК находится методами оптимизации. В работе [70] рассматривается применение формата тензорный поезд для понижения размерности дискретной функции распределения, но только для одномерных задач. Разложение SVD используется для понижения размерности решения на модельных задачах в работе [71].

Известны алгоритмы с применением тензорных сетей для решения похожих с вычислительной точки зрения уравнений Смолуховского [72—74], описывающего процессы агрегации частиц, и Власова [75; 76], описывающего динамику частиц плазмы. В работе [77] рассматривается разложение функции распределения, возникающей в уравнении Власова-Максвелла в иерархический формат Таккера. В статье [78] разложение Tensor Train успешно применяется для численного моделирования Фарлей-Бунемановской неустойчивости. В статьях [79; 80] также рассматриваются тензорные методы понижения размерности для уравнения переноса нейтронов.

Аналогично с тензорными сетями, нейронные сети применяются для понижения размерности задачи численного решения уравнения Больцмана. В работах [81; 82] нейронные сети применяются для сжатия точного интеграла столкновений Больцмана. В статье [83] применяется physics-informed подход наряду с тензорной аппроксимацией БГК-интеграла столкновений.

Отметим связь тензорных разложений, в частности Tensor Train разложения, с квантовыми вычислениями. TT-разложение является математическим эквивалентом матричного произведения состояний (MPS) - представления квантовой системы многих тел и может быть точно преобразована в квантовую схему, используя 0(log r) кубитов [84—89]. И наоборот, тензорные сети активно применяются в моделировании квантовомеханических систем [90—92]. Например, численный метод DMRG (Density Matrix Renormalization Group) [93], применяемый для нахождения волновой функции с наименьшей энергией для данного гамильтониана, эффективно реализуется на тензорных сетях [91]. Классические методы линейной алгебры, такие как Multigrid [18; 92] и Монте-Карло [94--96], также применяются для нахождения основных состояний систем.

Разработано большое число квантовых решателей уравнений в частных производных [97—99]. Квантовые алгоритмы, как правило, сводят задачу решения ДУЧП к решению системы линейных уравнений, применяя хорошо известный алгоритм Хэрроу-Хассидима-Ллойда (HHL) [100; 101] или более продвинутые методы, например, алгоритм Чайлдса [102]. Несмотря на то, что теоретически эти подходы применимы к решению ДУЧП, на практике они сталкиваются с рядом серьёзных трудностей. Основная из них — высокая сложность и неэффективность кодирования унитарных матриц в квантовом компьютере [103]. В результате на сегодняшний день с помощью

таких алгоритмов удаётся решать лишь крайне простые задачи, причём, как показано в работах [104; 105], масштабируемость этих методов остаётся крайне неэффективной.

Таким образом, общая сложность алгоритмов на тензорах может стать поли-логарифмической относительно исходного размера задачи, что откроет возможность решать многие практические задачи в будущем. Однако это требует наличия идеального квантового оборудования, способного работать с тысячами кубитов и квановых вентилей при контролируемом уровне шума. На данный момент такого оборудования ещё нет, но, возможно, оно появится в течение следующего десятилетия. В настоящей работе мы решаем задачу с помощью алгоритмов на тензорных сетях, реализуемых на классических компьютерах. Такой подход не только может позволить сразу снизить вычислительную сложность по сравнению с традиционными методами при работе на классических компьютерах, но и позволяет глубже понять, какие именно задачи могут выиграть от использования гибридных квантовых вычислений и каким образом [106].

Целью настоящего диссертационного исследования являлась модификация численных методов моделирования течений разреженного газа и несжимаемой жидкости, используя тензорные разложения для повышения эффективности вычислений.

Для достижения поставленной цели были решены следующие задачи:

1. Модификация метода дискретных скоростей для численного решения кинетического уравнения Больцмана с S-модельным интегралом столкновений путём представления функции распределения в формате Таккера. Тестирование на модельных задачах внешней и внутренней аэродинамики.

2. Модификация метода конечных элементов с помощью представления конечно-элементных операторов в формате Quantized Tensor Train. Исследование сходимости и времени расчёта на модельных задачах.

3. Реализация вычислительных алгоритмов в виде программного комплекса для расчёта течения разреженного газа и несжимаемой жидкости.

4. Построение численных решений ряда задач аэродинамики и флюидодинамики.

Научная новизна:

1. Модифицирован метод дискретных скоростей для численного решения S-модельного кинетического уравнения путём представления функции распределения в формате Таккера.

2. Модифицирован метод конечных элементов с помощью представления конечно-элементных операторов в формате Quantized Tensor Train.

3. Реализованы вычислительные алгоритмы для расчёта течения разреженного газа и несжимаемой жидкости.

4. Численно получены решения ряда задач аэродинамики и флюидодинамики.

Практическая значимость результатов диссертации заключается в разработке программного комплекса, реализующего модифицированные численные методы и алгоритмы. Он может быть использован для компьютерного моделирования процессов течения разреженного газа и несжимаемой жидкости.

Методология и методы исследования. Для моделирования разреженного газа было использовано кинетическое уравнение Больцмана с модельным интегралом столкновений Е.М. Шахова [58], так как оно даёт достаточно подробное описание системы для разреженных течений и достаточно подробное приближение интеграла столкновений при умеренных числах Кнудсена. Для получения численного решения использовался метод дискретных скоростей [107] в комбинации с конечно-объёмным методом, неявным по времени. Моделирование течений жидкости производилось при помощи численного решения уравнения Навье-Стокса для несжимаемой жидкости. Для дискретизации расчётной области применяется метод конечных элементов, эволюция течения по времени производится при помощи проекционного метода А. Чорина [108]. Для модификации методов были рассмотрены тензорные форматы - разложение Таккера [5] и формат Quantized Tensor Train (QTT) как частный случай формата Tensor Train [7]. Алгоритмы, представленные в работе, были реализованы в составе программного комплекса и проверены на ряде задач, включая задачи с известным аналитическим решением.

Основные положения, выносимые на защиту:

1. Модифицирован метод дискретных скоростей для численного решения кинетического уравнения Больцмана с модельным интегралом столкновений Е.М. Шахова путём представления функции распределения в формате Таккера. Модифицированный

метод был протестирован на модельных задачах внешней и внутренней аэродинамики.

2. Модифицирован метод конечных элементов с помощью представления конечно-элементных операторов в формате Quantized Tensor Train. Сходимость и время расчёта были исследованы на модельных задачах.

3. Вычислительный алгоритм был реализован в виде программного комплекса для расчёта течения разреженного газа и несжимаемой жидкости.

4. Были построены численные решения ряда задач аэродинамики и флюидодинамики.

Степень достоверности полученных результатов обеспечивается использованием известных верифицированных математических моделей рассматриваемых физических явлений и численных методов. Она подтверждается тестированием реализованных алгоритмов на модельных задачах, в том числе на задачах с известными аналитическими решениями, и сравнением с опубликованными численными решениями, полученными другими методами.

Апробация работы. Основные результаты работы были изложены автором на следующих конференциях и научных семинарах:

1. 62-я Всероссийская научная конференция МФТИ, г. Москва, 2019 г.

2. XVIII Всероссийская Конференция-школа молодых исследователей «Современные проблемы математического моделирования», с. Абрау-Дюрсо, 1.09.2020-6.09.2020

3. 63-я Всероссийская научная конференция МФТИ, г. Долгопрудный, 2020 г.

4. Международная конференция «Математические идеи П.Л. Чебышёва и их приложения к современным проблемам естествознания», г. Обнинск, 13.05.2021-16.06.2021

5. 65-я Всероссийская научная конференция МФТИ, г. Долгопрудный, 2023 г.

Личный вклад. Представленные в диссертации результаты являются оригинальными и получены лично автором или при его непосредственном участии. Личный вклад соискателя в работах с соавторами заключается в следующем:

1. [109] - интеграция динамического планировщика итераций в алгоритм, программная реализация алгоритма на языке C++, проведение вычислительных экспериментов, анализ и визуализация результатов;

2. [110] - разработка обобщенного преобразователя криволинейной области на единичный квадрат для вычисления якобиана в тензорном формате, программная реализация, проведение вычислительных экспериментов, визуализация результатов;

3. [111] - программная реализация алгоритма на языке Python, проведение вычислительных экспериментов, построение графиков;

4. [112] - проведение вычислительных экспериментов, визуализация результатов;

5. [113] - программная реализация алгоритма на языке Python, проведение вычислительных экспериментов, визуализация результатов.

Публикации. Основные результаты исследования опубликованы в 5 научных публикациях, включая 2 статьи в журналах уровня К1 (одна в журнале Computer Physics Communications уровня Q1) и 1 статью в журнале уровня К2 по Собственному перечню журналов МФТИ. Получено свидетельство о регистрации программы для ЭВМ.

Объем и структура работы. Диссертация состоит из введения, 4 глав и заключения. В первой главе описаны используемые физико-математические модели, во второй -- численные методы, а в третьей представлены результаты расчётов. Полный объём диссертации составляет 106 страниц, включая 27 рисунков и 3 таблицы. Список литературы содержит 152 источника.

Глава 1. Физико-математические модели сред

В данной главе мы рассмотрим используемые в работе модели течений газа и жидкости - кинетическое уравнение Больцмана с модельным интегралом столкновений Е.М. Шахова и уравнение Навье-Стокса. Эти нелинейные уравнения основаны на законах сохранения массы, импульса и энергии и описывают изменение макроскопических параметров среды под действием внутренних и внеших сил. Уравнение Больцмана более фундаментальное и даёт более подробное описание физической системы, уравнение Навье-Стокса является приближением, применимым в условиях, когда газ или жидкость можно рассматривать как сплошную среду (континуум). Таким образом, две рассмотренные нами модели покрывают большую часть режимов течений -разреженный и режим сплошной среды.

1.1 Кинетическое уравнение Больцмана с S-модельным интегралом

столкновений

Уравнение Больцмана это одно из фундаментальных уравнений статистической физики и физики транспортных процессов, описывающее эволюцию распределения взаимодействующих частиц в фазовом пространстве (пространстве координат и скоростей) [114; 115]. Столкновения частиц в данной модели учитываются явно в интеграле столкновений в правой части уравнения.

Кинетическое уравнение Больцмана с полным интегралом столкновений в отсутствие внешних сил записывается в виде:

!+£ • £=^ (11)

где £(Ь, х, £) - функция распределения молекул газа, х - пространственные координаты, £ - вектор скоростей частиц, а Q(f, £) - точный интеграл столкновений, учитывающий микроскопическое взаимодействие между молекулами. Жирным шрифтом здесь и в дальнейшем будем обозначать двухмерный или трёхмерный (зависимости от контекста) вектор в физическом пространстве. В точном интеграле столкновений, предложенном Больцманом,

учитываются только парные столкновения между молекулами, которые предполагаются некоррелированными до момента столкновения:

Qd.fi) = У (/'¡1 - ffl)gbdbde Яъ (1.2)

где ¡, f' - значения функции распределения до и после столкновения, д = — Ъ \ - модуль относительной скорости, Ь - прицельное расстояние, £ - угол между векторами относительной скорости и направления рассеяния. Точная формула для интеграла зависит от выбранной модели и потенциала взамодействия частиц. Возможные потенциалы включают в себя модель твёрдых сфер, потенциал Леннарда-Джонса, потенциал Штокмайера (то же, что и потенциал Леннарда-Джонса, но с учётом диполь-дипольного взаимодействия) [116].

Для анализа макроскопических величин используются моменты функции распределения:

п = I fdЪ и = П I Ц,,

Т = зПй(1 í2fdt — пи^ , р = тп,р = рЯдТ (1.3)

V = Ъ — и, д = 1 т^ vv2fd^,

где п - числовая плотность, и - средняя скорость, Т - температура, р - давление, р - плотность, т - масса молекулы, д - вектор теплового потока, Яд - газовая постоянная. Все макропараметры зависят от времени £ и пространственных координат х. Газ, пребывающий в термодинамическом равновесии с параметрами п, и,Т, описывается Максвелловской функцией распределения:

f М (£) = (2П^ Ч—1—г)- (")

Граничные условия навязываются путем определения функции распределения на границе расчётной области. В приведенных в настоящей работе экспериментах используются следующие граничные условия:

1. Набегающий поток. В набегающем потоке функция распределения полагается равной равновесной функции распределения ¡м для заданных макропараметров внешнего потока. Также данное граничное условие применяется в области, где предполагается равновесное течение, например, в отдалении от обтекаемого предмета.

2. Диффузное отражение с полной тепловой аккомодацией. На твердых стенках используется условие диффузного отражения с фиксированной температурой Тш. Функция распределения для отражённых частиц определяется так:

Л(£) = (2пяТ )з/2 ехр(- ■ (15)

Плотность отраженных частиц ию находится из условия непроницаемости стенки:

Список литературы диссертационного исследования кандидат наук Корнев Егор Кириллович, 2025 год

/ / / /

Г

t-.-Л -1-г V---1 -1-1-г 1----1 -1—1—1- 1----1 -1- 1----1 -1-1-1 1----1 -1-1—1—1—

8 16 32 64 128 256 512 1024

П

106 -

<и

I 10»

<и

¡D 104 .о

Е

• - Circle, sparse matrix

■ - Circle, ТТ matrix л С-—'1 i

Л

✓ r '

„л r ^

1 r"'

г

„

4-1

С ф

| ю6

<и

° 105 <и

■О

I 104

103

-•- Annulus, sparse matrix -■- Annulus, TT matrix

16

32

64

n

128 256 512

8 16 32 64 128 256 512 1024 П

Рисунок 4.10 — Количество параметров, необходимых для представления матрицы жёсткости для круговой области (слева) и области в форме кольца (справа), в зависимости от числа узлов в одном направлении. Данные значения пропорциональны количеству памяти компьютера, требуемой для хранения объектов. Отчётливо видно субэкспоненциальное масштабирование для формата

Tensor Train.

п

Рисунок 4.11 — Зависимость относительной нормы ошибки в норме Фробениуса от количества узлов сетки вдоль одного направления. Можно наблюдать второй

порядок сходимости по сетке.

103 102 101 10° Ю-1

-•- Circle, sparse matrix -■- Circle, ТТ matrix У 1

У г

-1 __l f" г'

1 1----4 «к*""* Г г'

И-----< и-—4 г'"

103 102

<и

| 101

10°

; -•- Annulus, sparse matrix : -■- Annulus, TT matrix 1 ✓ ✓ ✓

/

У У ✓ ✓ f I-'' 1

1 t------ 1-----1 h---"«

: ,--- ___i >- — r''

16 32 64 128 256 512 П

8 16 32 64 128 256 512 1024 П

Рисунок 4.12 — Зависимость времени, требуемого на сборку и получение численного решения для круга (слева) и кольца (справа). Видно отсутствие преимущества по времени для «плохой» формы области, и сильное преимущество тензорных методов для «хорошей» области. Критерий остановки для классического и тензорного метода равен е = 10~8.

4.2.2 Квадратная полость с движущейся стенкой

Мы моделируем течение в полости с движущейся стенкой предложенным методом, изложенном в разделе 3.2.3 и сравниваем время вычислений с классическим методом конечных элементов, реализованном с использованием разреженных матриц, для различных размеров пространственных сеток.

Расчётная область имеет форму квадрата Ü = {0 ^ x ^ 1,0 ^ y ^ 1}, скорости потоков на границах приняты равными нулю кроме верхней стенки, на которой задана некоторая ненулевая скорость в касательном к области направлении u(x, 1) = 1 для 0 ^ x ^ 1. Для давления граничные условия определены как условия Неймана по всей границе.

Линии тока установившегося течения, полученные с помощью тензорного алгоритма, визуально совпадают с результатами из работы [151], где решение было посчитано на подробной сетке, как показано на Рисунке 4.13. Для более наглядного сравнения на Рисунке 4.14 представлены одномерные срезы компонентов скорости вместе с результатами работы [151].

На Рисунках 4.15 и 4.16 показано преимущество метода по времени расчёта с детализацией по частям метода в сравнении с классическим методом конечных элементов.

Поскольку ранги решения невелики, наблюдается сжатие по сравнению с вычислениями в полном формате. При увеличении числа узлов сетки тензорные методы показывают лучшую масштабируемость, что видно на Рисунке 4.15.

В расчётах с полным форматом использовались разреженные матрицы и метод сопряжённых градиентов для решения систем линейных уравнений из пакета Scipy [152]. Относительная точность совпадает с точностью округления в тензорном формате Tensor Train.

Численное решение уравнения Навье-Стокса для несжимаемой жидкости в произвольной двумерной области было получено с использованием метода конечных элементов, модифицированного с помощью тензорного формата, и было получено ускорение по сравнению с классическим методом. Сочетание операторов в формате Tensor Train для гладко преобразованных областей и умеренных рангов самого решения позволяет достичь значительного сокращения потребляемой памяти и ускорения вычислений даже на достаточно грубых сетках при решении нелинейной нестационарной задачи.

1.0

0.8

0.6

>

0.4

0.2

0.0

0.0 0.2 0.4 0.6 0.8 1.0

X

Рисунок 4.13 — Линии установившегося течения в квадратной полости с движущейся крышкой для числа Рейнольдса Ие = 400. Относительная точность тензорного округления равна £ = 10"5. В нижних углах области можно видеть

вихри, характерные для подобных течений.

У х

Рисунок 4.14 — Одномерные профили скорости установившегося течения в полости. На левом графике показана горизонтальная компонента скорости на линии х = 0.5, на правом - вертикальная компонента вдоль направления у = 0.5. Пространственная сетка имеет размеры 64 х 64. Красными точками обозначены

данные из работы [151].

п п

Рисунок 4.15 — Средние значения времени шага для различных частей алгоритма в зависимости от дискретизации области. На левом графике показано время, занимаемое решением уравнения Пуассона для давления в проекционном методе, правый график демонстрирует время, занимаемое пересборкой матриц на временном шаге. Формат С)ТТ демонстрирует лучшее масштабирование в обоих случаях, однако обойти полный формат удаётся только на решении системы. Также заметим, что сборка операторов в формате С)ТТ с применением метода АМЕп производится быстрее, чем реализация через точные матричные произведения на подробных дискретизациях, но медленнее, чем на маленьких.

10

1Л 1 Ф

Е

0.1

0.01

Рисунок 4.16 — Среднее время одного шага по времени для различных пространственных сеток. Преимущество тензорного формата проявляется на более плотных сетках за счёт лучшей масштабируемости. Несмотря на то, что пересборка происходит медленнее, что видно из Рисунка 4.15, на подробных дискретизациях начинает доминировать вычисление давления, и тензорный

метод обходит классический.

П

4.2.3 Ступенька

Здесь мы решаем уравнение Навье-Стокса в более сложной области с использованием того же алгоритма, что и в предыдущем разделе.

L-образная область (обратная ступенька) состоит из трёх прямоугольных подобластей, соединённых последовательно. На левом крае задаётся параболическое входное граничное условие, на правом - условие вытекающего потока «do-nothing», на остальных стенках задано условие непротекания и прилипания жидкости.

Визуализация установившегося течения показана на рисунке 4.17. Можно наблюдать корректное физическое поведение потока. Процедуры сборки и пересборки системы в многосоставной области проверяются на примере нелинейной задачи течения жидкости. Масштабирование по скорости для данной задачи аналогично более простому случаю.

Рисунок 4.17

1 2 3 4 5 6

X

— Линии течения несжимаемой жидкости в области Ь-образной формы для числа Рейнольдса Г» с, = 50.

Заключение

Проведённый анализ показал, что тензорные сети обладают высоким потенциалом для преодоления проклятия размерности, характерного для численного решения задач вычислительной физики. Однако, имеет место обратный эффект: для их эффективного применения задача должна иметь крайне высокую размерность и специфическую структуру, что существенно ограничивает возможность их использования в реальных прикладных постановках. Более того, при умеренных размерах задачи тензорные сети также могут демонстрировать признаки проклятия размерности. Ожидается, что развитие усовершенствованных алгоритмов и вычислительных архитектур, включая квантовые вычислительные системы, позволит существенно расширить область практического применения данного подхода.

Неудобством же при численной работе с тензорными разложениями является необходимость постоянно динамически выделять и освобождать память (так как ранги ядер не фиксированы). Поэтому выигрыш по памяти зачастую может быть сопряжён с неэффективностью по времени из-за затрат на выделение памяти. Способом преодоления данного неудобства может быть выделение памяти с запасом, но тогда возможна потеря выигрыша по памяти. Данная специфика тензорных разложений также затрудняет имплементацию на графических ускорителях.

Основные результаты диссертации заключаются в следующем:

1. Модифицирован метод дискретных скоростей для численного решения S-модельного кинетического уравнения путём представления дискретной функции распределения в тензорном формате. Модифицированный метод был реализован и протестирован на модельных задачах. Реализована и протестирована модификация метода LU-SGS для неявной версии метода, понижающая тензорные ранги инкремента решения. Приведёна параллельная модификация метода, адаптированная под специфику тензорных операций.

2. Модифицирован метод конечных элементов путём представления операторов в формате Quantized Tensor Train. Реализована расчётная программа для работы с конечно-элементными матрицами с универсальным нелинейным преобразователем области,

адаптированным под тензорный формат. В частности, преобразователь подходит для криволинейных четырёхугольников и вырожденных углов, что сокращает количество разбиений на подобласти и упрощает их структуру, приводя к снижению тензорных рангов. Также разработан эффективный алгоритм сборки матриц МКЭ в процессе итераций для нелинейной задачи и/или при шаге по времени в нестационарной задаче. В частности, объединение матриц, соответствующих различным подобластям, не требует операций на уровне элементов, которые менее эффективны для ТТ-структуры. Вместо этого итоговая матрица получается простым произведением матриц в формате ТТ, созданных из заранее вычисленных генерирующих матриц и диагональной матрицы, составленной из тензора коэффициентов.

3. Построены новые решения ряда задач динамики разреженных газов и несжимаемых жидкостей. На задачах внутренней и внешней аэродинамики было получено 100-кратное сжатие по памяти в сравнении с классическими методами. Было получено ускорение порядка 8 раз по сравнению с классическими методами при сохранении качества решения для задачи обтекания цилиндра разреженным газом. При расчёте течений несжимаемой жидкости было уменьшено время шага за счёт десятикратного ускорения расчёта давления.

Данные результаты, оформленные в программный комплекс, уже сейчас могут быть применены для нахождения численных решений задач аэродинамики и флюидодинамики. Также применение данного подхода способно сэкономить вычислительные ресурсы, особенно оперативную память, во многих практических приложениях. Отметим, что полученные результаты могут быть обобщены на более сложные модели сплошных сред.

Благодарности

Автор выражает искреннюю благодарность своему научному руководителю, д.ф.-м.н. В. И. Голубеву, за неоценимую помощь, консультации и постоянную поддержку, без которых эта работа не могла бы состояться. Автор благодарит А. В. Чикиткина за плодотворное научное сотрудничество, а также

B. А. Титарева за ценные замечания и советы. Также автор глубоко признателен

C. В. Долгову за продолжительные и глубокие обсуждения по математике.

Наконец, автор благодарит коллег по компании Terra Quantum М. Р. Перельштейна и А. А. Мельникова, а также коллегу по лаборатории прикладной вычислительной геофизики А. В. Шевченко за сотрудничество, поддержку, и интерес к исследованию.

Список литературы

1. Abadi, M. TensorFlow: Large-Scale Machine Learning on Heterogeneous Systems / M. Abadi [et al.]. — 2015. — URL: https://www.tensorflow.org/ ; (дата обращения 7.09.2025).

2. Paszke, A. PyTorch: An Imperative Style, High-Performance Deep Learning Library / A. Paszke [et al.] // ArXiv. — 2019. — URL: https://arxiv.org/abs/ 1912.01703 ; (дата обращения 7.09.2025).

3. Kolda, T. Tensor Decompositions and Applications / T. Kolda, B. Bader // SIAM Review. — 2009. — Vol. 51, no. 3. — P. 455—500.

4. Harshman, R. Foundations of the PARAFAC procedure: Models and conditions for an «explanatory» multimodal factor analysis. / R. Harshman // UCLA Working Papers in Phonetics. — 1970. — Vol. 16. — P. 1—84.

5. Tucker, L. Implications of factor analysis of three-way matrices for measurement of change / L. Tucker // Problems in measuring change. — 1963. — Vol. 15. — P. 122-137.

6. Hackbusch, W. A New Scheme for the Tensor Representation / W. Hackbusch, S. Kühn // Journal of Fourier Analysis and Applications. — 2009. — Vol. 15. — P. 706—722.

7. Oseledets, I. Tensor-Train Decomposition / I. Oseledets // SIAM Journal on Scientific Computing. — 2011. — Vol. 33. — P. 2295—2317.

8. Khoromskij, B. O(d log N)-Quantics Approximation of N — d Tensors in High-Dimensional Numerical Modeling / B. Khoromskij // Constructive Approximation. — 2011. — Vol. 34. — P. 257—280.

9. Oseledets, I. Constructive Representation of Functions in Low-Rank Tensor Formats /1. Oseledets // Constructive Approximation. — 2013. — Vol. 37. — P. 1-18.

10. Dolgov, S. Functional Tucker Approximation Using Chebyshev Interpolation / S. Dolgov, D. Kressner, C. Strössner // SIAM Journal on Scientific Computing. — 2021. - Vol. 43, no. 3. - A2190-A2210.

11. Bigoni, D. Spectral tensor-train decomposition / D. Bigoni, A. Engsig-Karup, Y. Marzouk // SIAM Journal on Scientific Computing. — 2016. — Vol. 38, no. 4. — A2405—A2439.

12. Gorodetsky, A. A continuous analogue of the tensor-train decomposition / A. Gorodetsky, S. Karaman, Y. Marzouk // Computer Methods in Applied Mechanics and Engineering. — 2019. — Vol. 347. — P. 59—84.

13. Griebel, M. Analysis of tensor approximation schemes for continuous functions / M. Griebel, H. Harbrecht // Foundations of Computational Mathematics. — 2023. - Vol. 23. - P. 219-240.

14. Zheltkov, D. Global optimization based on TT-decomposition / D. Zheltkov, E. Tyrtyshnikov // Russian Journal of Numerical Analysis and Mathematical Modelling. — 2020. — Vol. 35, no. 4. — P. 247—261.

15. Chertkov, A. Optimization of Functions Given in the Tensor Train Format / A. Chertkov [etal.] //ArXiv. — 2022. — URL: https://arxiv.org/abs/2209.14808 ; (дата обращения 7.09.2025).

16. Dolgov, S. Computation of extreme eigenvalues in higher dimensions using block tensor train format / S. Dolgov [et al.] // Computer Physics Communications. — 2014. — Vol. 185, no. 4. — P. 1207—1216.

17. Belokonev, ^.Optimization of chemical mixers design via tensor trains and quantum computing / N. Belokonev [et al.] // ArXiv. — 2023. — URL: https: //arxiv.org/abs/2304.12307 ; (дата обращения 7.09.2025).

18. Flad, H.-J. Verification of the cross 3D algorithm on quantum chemistry data / H.-J. Flad [et al.] // Russian Journal of Numerical Analysis and Mathematical Modelling. — 2008. — Vol. 23, no. 4. — P. 329—344.

19. Dolgov, S. Simultaneous state-time approximation of the chemical master equation using tensor product formats / S. Dolgov, B. Khoromskij // Numerical Linear Algebra with Applications. — 2015. — Vol. 22, no. 2. — P. 197—219.

20. Dolgov, S. Preconditioners and Tensor Product Solvers for Optimal Control Problems from Chemotaxis / S. Dolgov, J. W. Pearson // SIAM Journal on Scientific Computing. —2019. — Vol. 41, no. 6. — B1228—B1253.

21. Zheltkova, V. V. Tensor based approach to the numerical treatment of the parameter estimation problems in mathematical immunology / V. V. Zheltkova [et al.] // Journal of Inverse and Ill-posed Problems. — 2018. — Vol. 26, no. 1. — P. 51-66.

22. Sulimov, A. V. Evaluation of the novel algorithm of flexible ligand docking with moveable target-protein atoms / A. V. Sulimov [et al.] // Computational and Structural Biotechnology Journal. — 2017. — Vol. 15. — P. 275—285.

23. Morozov, D. Protein-protein docking using a tensor train black-box optimization method / D. Morozov [и др.] // ArXiv. — 2023. — URL: https://arxiv.org/abs/ 2302.03410 ; (дата обращения 7.09.2025).

24. Glau, K. Low-Rank Tensor Approximation for Chebyshev Interpolation in Parametric Option Pricing / K. Glau, D. Kressner, F. Statti // SIAM Journal on Financial Mathematics. — 2020. — Vol. 11, no. 3. — P. 897—927.

25. Bayer, C. Pricing High-Dimensional Bermudan Options with Hierarchical Tensor Formats / C. Bayer [et al.] // SIAM Journal on Financial Mathematics. —

2023. - Vol. 14, no. 2. - P. 383-406.

26. Sakurai, R. Learning Parameter Dependence for Fourier-Based Option Pricing with Tensor Trains / R. Sakurai, H. Takahashi, K. Miyamoto // Mathematics. — 2025. - Vol. 13, no. 11. - URL: https://www.mdpi.com/2227-7390/13/11/ 1828 ; (дата обращения 7.09.2025).

27. Dolgov, S. Parallel cross interpolation for high-precision calculation of high-dimensional integrals / S. Dolgov, D. Savostyanov // Computer Physics Communications. — 2020. — Vol. 246. — P. 106869.

28. Dolgov, S. Tensor product algorithms for inference of contact network from epidemiological data / S. Dolgov, D. Savostyanov // BMC Bioinformatics. —

2024. — Vol. 25, no. 285. — P. 1—26.

29. Oseledets, I. TT-cross approximation for multidimensional arrays /1. Oseledets, E. Tyrtyshnikov // Linear Algebra and its Applications. — 2010. — Vol. 432, no. 1.—P. 70—88.

30. Dolgov, S. Approximation and sampling of multivariate probability distributions in the tensor train decomposition / S. Dolgov [et al.] // Statistics and Computing. — 2020. — Vol. 30. — P. 603—625.

31. Li, Q. A Tensor-Based Information Framework for Predicting the Stock Market / Q. Li [et al.] // ACM Transactions on Information Systems. — 2016. — Vol. 34, no. 2. — P. 1—30.

32. da Costa, M. N.Tensor-Train networks for learning predictive modeling of multidimensional data / M. N. da Costa [et al.] // Neurocomputing. — 2025. — Vol. 637.—P. 130037.

33. Novikov, A. Tensorizing neural networks / A. Novikov [et al.] // Advances in neural information processing systems. — 2015. — Vol. 28. — P. 442—450.

34. Xu, Y. L. Tensor-Train Recurrent Neural Networks for Interpretable Multi-Way Financial Forecasting / Y. L. Xu, G. G. Calvi, D. P. Mandic // ArXiv. — 2021. — URL: https://arxiv.org/abs/2105.04983 ; (дата обращения 7.09.2025).

35. Abronin, V. TQCompressor: improving tensor decomposition methods in neural networks via permutations / V. Abronin [et al.] // ArXiv. — 2024. — URL: https: //arxiv.org/abs/2401.16367 ; (дата обращения 7.09.2025).

36. Kazeev, V. Low-Rank Explicit QTT Representation of the Laplace Operator and Its Inverse / V. Kazeev, B. Khoromskij // SIAM Journal on Matrix Analysis and Applications. — 2012. — Vol. 33, issue 3. — P. 742—758.

37. Dolgov, S. V. Alternating Minimal Energy Methods for Linear Systems in Higher Dimensions / S. V. Dolgov, D. V. Savostyanov // SIAM Journal on Scientific Computing. — 2014. — Vol. 36, no. 5. — A2248—A2271.

38. Dolgov, S. V. Fast solution of parabolic problems in the tensor train/quantized tensor train format with initial application to the Fokker-Planck equation / S. V. Dolgov, B. N. Khoromskij, I. V. Oseledets // SIAM Journal on Scientific Computing. — 2012. — Vol. 34, no. 6. — A3016—A3038.

39. Richter, L. Solving high-dimensional parabolic PDEs using the tensor train format / L. Richter, L. Sallandt, N. Nüsken // ArXiv. — 2021. — URL: https: //arxiv.org/abs/2102.11830 ; (дата обращения 7.09.2025).

40. Kazeev, V. Quantized Tensor FEM for Multiscale Problems: Diffusion Problems in Two and Three Dimensions / V. Kazeev [et al.] // Multiscale Modeling & Simulation. — 2022. — Vol. 20, no. 3. — P. 893—935.

41. Ion, I. G. Tensor train based isogeometric analysis for PDE approximation on parameter dependent geometries / I. G. Ion, D. Loukrezis, H. De Gersem // Computer Methods in Applied Mechanics and Engineering. — 2022. — Vol. 401.-P. 115593.

42. Mantzaflaris, A. Low Rank Tensor Methods in Galerkin-based Isogeometric Analysis / A. Mantzaflaris [et al.] // Computer Methods in Applied Mechanics and Engineering. — 2017. — Vol. 316. — P. 1062—1085.

43. Hofreither, C. A black-box low-rank approximation algorithm for fast matrix assembly in Isogeometric Analysis / C. Hofreither // Computer Methods in Applied Mechanics and Engineering. — 2018. — Vol. 333. — P. 311—330.

44. Ion, G. I. Low-rank tensor decompositions for surrogate modeling in forward and inverse problems / G. I. Ion // Technische Universität Darmstadt. — 2024. — URL: http://tuprints.ulb.tu-darmstadt.de/26678/; (дата обращения 7.09.2025).

45. Danis, M. E. High-order Tensor-Train Finite Volume Methods for Shallow Water Equations / M. E. Danis [et al.] // Monthly Weather Review. — 2025. — Vol. 153, issue 8.—P. 1561—1579.

46. Adak, D. Tensor Network Space-Time Spectral Collocation Method for Time-Dependent Convection-Diffusion-Reaction Equations / D. Adak [et al.] // Mathematics. — 2024. — Vol. 12, no. 19. — URL: https://www.mdpi.com/2227-7390/12/19/2988 ; (дата обращения 7.09.2025).

47. Dolgov, S. Low-rank solution to an optimization problem constrained by the Navier-Stokes equations / S. Dolgov, M. Stoll // SIAM Journal on Scientific Computing. — 2017. — Vol. 39, no. 1. — A255—A280.

48. Benner, P. Low-rank solution of an optimal control problem constrained by random Navier-Stokes equations / P. Benner [et al.] // International Journal for Numerical Methods in Fluids. — 2020. — Vol. 92, no. 11. — P. 1653—1678.

49. Gourianov, N. A quantum-inspired approach to exploit turbulence structures / N. Gourianov [et al.] //Nature Computational Science. — 2022. — Vol. 2, no. 1. — P. 30—37.

50. Gourianov, N.Tensor networks enable the calculation of turbulence probability distributions / N. Gourianov [et al.] // Science Advances. — 2025. — Vol. 11, no. 5. — eads5990.

51. Titarev, V. Rarefied gas flow in a circular pipe of finite length / V. Titarev // Vacuum. — 2013. — Vol. 94. — P. 92—103.

52. Li, Z.-H. Study on gas kinetic unified algorithm for flows from rarefied transition to continuum / Z.-H. Li, H.-X. Zhang // Journal of Computational Physics. — 2004. - Vol. 193, no. 2. - P. 708-738.

53. Titarev, V. Application of model kinetic equations to hypersonic rarefied gas flows / V. Titarev // Computers & Fluids. — 2018. — Vol. 169. — P. 62—70.

54. Arslanbekov, R. Kinetic solvers with adaptive mesh in phase space / R. Arslanbekov, V. Kolobov, A. Frolova // Physical Review E. — 2013. — Vol. 88.-P. 063301.

55. Unified solver for rarefied and continuum flows with adaptive mesh and algorithm refinement // Journal of Computational Physics. — 2007. — Vol. 223, no. 2.—P. 589—608.

56. Baranger, C. Locally Refined Discrete Velocity Grids for Stationary Rarefied Flow Simulations / C. Baranger [et al.] // Journal of Computational Physics. — 2014. — Vol. 257, PA. — P. 572—593.

57. Bhatnagar, P. L. A Model for Collision Processes in Gases. I. Small Amplitude Processes in Charged and Neutral One-Component Systems / P. L. Bhatnagar, E. P. Gross, M. Krook // Physical Review. — 1954. — Vol. 94, issue 3. — P. 511—525.

58. Шахов, Е. М. Об обобщении релаксационного кинетического уравнения Крука / Е. М. Шахов // Известия Российской академии СССР. Механика жидкости и газа. — 1968. — Т. 1. — С. 156—161.

59. Holway, L. H. New Statistical Models for Kinetic Theory: Methods of Construction / L. H. Holway // The Physics of Fluids. — 1966. — Vol. 9, no. 9. — P. 1658-1673.

60. Yang, L. M. An improved discrete velocity method (DVM) for efficient simulation of flows in all flow regimes / L. M. Yang [et al.] // Physics of Fluids. — 2018. — Vol. 30, no. 6. — P. 062005.

61. Succi, S. The Lattice Boltzmann Equation for Fluid Dynamics and Beyond / S. Succi. — Oxford : Oxford University Press, 2001.

62. Ivanov, M. Smile system for 2d/3d DSMC computations / M. Ivanov [et al.] // Proceedings of 25th International Symposium on Rarefied Gas Dynamics, St. Petersburg, Russia. — 2006. — P. 21—28.

63. Bondar, Y. DSMC Calculations of Electron Density Flow Fields near Reentering Space Vehicles with SMILE++ Software System / Y. Bondar [et al.] // 52nd Aerospace Sciences Meeting. — Reston, USA : American Institute of Aeronautics, Astronautics, 2014.

64. Galeyev, A. Y. Comparison of nonequilibrium dissociation models in the direct simulation Monte Carlo method / A. Y. Galeyev [et al.] // Journal of Physics: Conference Series. — 2019. — Vol. 1404, no. 1. — P. 012107.

65. Litvintsev, A. S. Influence of Surface Chemical Reactions on High-Altitude Aerothermodynamics of a Generic Capsule / A. S. Litvintsev [et al.] // Fluid Dynamics. — 2024. — Vol. 59, no. 5. — P. 1619—1633.

66. Pareschi, L. Time Relaxed Monte Carlo Methods for the Boltzmann Equation / L. Pareschi, G. Russo // SIAM Journal on Scientific Computing. — 2001. — Vol. 23, no. 4. — P. 1253—1273.

67. Khoromskij, B. Structured data-sparse approximation to high order tensors arising from the deterministic Boltzmann equation / B. Khoromskij // Mathematics of Computation. — 2007. — Vol. 76. — P. 1291—1315.

68. Alekseenko, A. Fast evaluation of the Boltzmann collision operator using data driven reduced order models / A. Alekseenko, R. Martin, A. Wood // Journal of Computational Physics. — 2022. — Vol. 470. — P. 111526.

69. Boelens, A. M. Tensor methods for the Boltzmann-BGK equation / A. M. Boelens, D. Venturi, D. M. Tartakovsky // Journal of Computational Physics. - 2020. - Т. 421. - С. 109744.

70. Oblapenko, G. Use of Tensor-Train Decompositions with a Discrete Velocity Boltzmann Solver / G. Oblapenko // ArXiv. — 2023. — URL: https://arxiv.org/ abs/2303.15142 ; (дата обращения 7.09.2025).

71. Hu, J. An Adaptive Dynamical Low Rank Method for the Nonlinear Boltzmann Equation / J. Hu, Y. Wang // Journal of Scientific Computing. — 2022. — Т. 92. — С. 75.

72. Стефонишин, Д. А. Тензорные разложения для решения уравнений математических моделей агрегации, допускающих многочастичные столкновения / Д. А. Стефонишин [и др.] // Вычислительные методы и программирование. — 2018. — Т. 19, № 4. — С. 390—404.

73. Matveev, S. A fast numerical method for the Cauchy problem for the Smoluchowski equation / S. Matveev, A. Smirnov, E. Tyrtyshnikov // Journal of Computational Physics. — 2015. — Vol. 282. — P. 23—32. — URL: https://www.sciencedirect.com/science/article/pii/S0021999114007554.

74. Matveev, S. A. Tensor train versus Monte Carlo for the multicomponent Smoluchowski coagulation equation / S. A. Matveev [et al.] // Journal of Computational Physics. — 2016. — Vol. 316. — P. 164—179.

75. Guo, W. A low rank tensor representation of linear transport and nonlinear Vlasov solutions and their associated flow maps / W. Guo, J.-M. Qiu // Journal of Computational Physics. — 2022. — Vol. 458. — P. 111089.

76. Kormann, K. A semi-Lagrangian Vlasov solver in tensor train format / K. Kormann // SIAM Journal on Scientific Computing. — 2015. — Vol. 37, no. 4. — B613—B632.

77. Allmann-Rahn, F. A parallel low-rank solver for the six-dimensional Vlasov-Maxwell equations / F. Allmann-Rahn, R. Grauer, K. Kormann // Journal of Computational Physics. — 2022. — Vol. 469. — P. 111562.

78. Dolgov, S. Low-rank approximation in the numerical modeling of the Farley-Buneman instability in ionospheric plasma / S. Dolgov, A. Smirnov, E. Tyrtyshnikov // Journal of Computational Physics. — 2014. — Vol. 263. — P. 268-282.

79. Choi, Y. Space-time reduced order model for large-scale linear dynamical systems with application to Boltzmann transport problems / Y. Choi [et al.] // Journal of Computational Physics. — 2021. — Vol. 424. — P. 109845.

80. Truong, D. P. Tensor networks for solving the time-independent Boltzmann neutron transport equation / D. P. Truong [et al.] // Journal of Computational Physics. — 2024. — Vol. 507. — P. 112943.

81. Holloway, I. Acceleration of Boltzmann Collision Integral Calculation Using Machine Learning /1. Holloway, A. Wood, A. Alekseenko // Mathematics. — 2021. — Vol. 9, no. 12. — URL: https://www.mdpi.com/2227-7390/9/12/1384 ; (дата обращения 7.09.2025).

82. Miller, S. T. Neural-network based collision operators for the Boltzmann equation / S. T. Miller [et al.] // Journal of Computational Physics. — 2022. — Vol. 470. — P. 111541. — URL: https://www.sciencedirect.com/science/article/ pii/S0021999122006039.

83. Li, Z. Solving the Boltzmann Equation with a Neural Sparse Representation / Z. Li [et al.] // SIAM Journal on Scientific Computing. — 2024. — Vol. 46, no. 2. — P. C186—C215.

84. Plesch, M. Quantum-state preparation with universal gate decompositions / M. Plesch, C. C. Brukner // Physical Review A. — 2011. — Vol. 83, issue 3. — P. 032302.

85. Melnikov, A. A. Quantum state preparation using tensor networks / A. A. Melnikov [et al.] // Quantum Science and Technology. — 2023. — Vol. 8, no. 3.—P. 035027.

86. Termanova, A. Tensor quantum programming / A. Termanova [et al.] // New Journal of Physics. — 2024. — Vol. 26, no. 12. — P. 123019.

87. Ran, S.-ZEncoding of matrix product states into quantum circuits of one- and two-qubit gates / S.-J. Ran // Physical Review A. — 2020. — Vol. 101, issue 3. — P. 032310.

88. Zhou, P.-F. Automatically differentiable quantum circuit for many-qubit state preparation / P.-F. Zhou, R. Hong, S.-J. Ran // Physical Review A. — 2021. — Vol. 104, issue 4. — P. 042601.

89. Rudolph, M. S. Decomposition of Matrix Product States into Shallow Quantum Circuits / M. S. Rudolph [et al.] // ArXiv. — 2022. — (дата обращения 7.09.2025).

90. Orus, R. Tensor networks for complex quantum systems / R. Orus // Nature Reviews Physics. — 2019. — Vol. 1, no. 9. — P. 538—550.

91. Murg, V. Simulating strongly correlated quantum systems with tree tensor networks / V. Murg [et al.] // Physical Review B. — 2010. — Vol. 82, issue 20. — P. 205105.

92. Dolfi, M. Multigrid Algorithms for Tensor Network States / M. Dolfi [et al.] // Physical Review Letters. — 2012. — Vol. 109, issue 2. — P. 020604.

93. White, S. R. Density matrix formulation for quantum renormalization groups / S. R. White // Physical Review Letters. — 1992. — Vol. 69, issue 19. — P. 2863-2866.

94. Yu, Z. Re-anchoring Quantum Monte Carlo with Tensor-Train Sketching / Z. Yu, S. Zhang, Y. Khoo//ArXiv. -2025. -URL: https://arxiv.org/abs/2411.07194 ; (дата обращения 7.09.2025).

95. Sakaue, K. Adaptive sampling-based optimization of quantics tensor trains for noisy functions: applications to quantum simulations / K. Sakaue, H. Shinaoka, R. Sakurai // ArXiv. — 2025. — URL: https://arxiv.org/abs/2405.12730 ; (дата обращения 7.09.2025).

96. Erpenbeck, A. Tensor train continuous time solver for quantum impurity models / A. Erpenbeck [et al.] // Physical Review B. — 2023. — Vol. 107, issue 24. — P. 245135.

97. Gaitan, F. Finding flows of a Navier-Stokes fluid through quantum computing / F. Gaitan // npj Quantum Information. — 2020. — Vol. 6, no. 1. — P. 1—6.

98. Wang, S. A quantum Poisson solver implementable on NISQ devices / S. Wang [et al.] // ArXiv. — 2020. — URL: https://arxiv.org/abs/2005.00256 ; (дата обращения 7.09.2025).

99. Childs, A. M. High-precision quantum algorithms for partial differential equations / A. M. Childs, J.-P. Liu, A. Ostrander // Quantum. — 2021. — Vol. 5.—P. 574.

100. Harrow, A. W. Quantum algorithm for linear systems of equations / A. W. Harrow, A. Hassidim, S. Lloyd // Physical review letters. — 2009. — Vol. 103, no. 15.—P. 150502.

101. Perelshtein, M. Solving Large-Scale Linear Systems of Equations by a Quantum Hybrid Algorithm / M. Perelshtein [et al.] // Annalen der Physik. — 2022. — Vol. 534, no. 7. — P. 2200082.

102. Childs, A. M. Quantum algorithm for systems of linear equations with exponentially improved dependence on precision / A. M. Childs, R. Kothari, R. D. Somma // SIAM Journal on Computing. — 2017. — Vol. 46, no. 6. — P. 1920-1950.

103. Krol, A. M. Efficient decomposition of unitary matrices in quantum circuit compilers / A. M. Krol [et al.] // Applied Sciences. — 2022. — Vol. 12, no. 2. — P. 759. — URL: https://www.mdpi.com/2076-3417/12/2/759 ; (дата обращения 7.09.2025).

104. Lapworth, L. A Hybrid Quantum-Classical CFD Methodology with Benchmark HHL Solutions / L. Lapworth // ArXiv. — 2022. — URL: https://arxiv.org/abs/ 2206.00419 ; (дата обращения 7.09.2025).

105. Lapworth, L. Implicit Hybrid Quantum-Classical CFD Calculations using the HHL Algorithm / L. Lapworth // ArXiv. — 2022. — URL: https://arxiv.org/abs/ 2209.07964 ; (дата обращения 7.09.2025).

106. Perelshtein, M. Practical application-specific advantage through hybrid quantum computing / M. Perelshtein [et al.] // ArXiv. — 2022. — URL: https://arxiv.org/ abs/2205.04858 ; (дата обращения 7.09.2025).

107. Titarev, V. Implicit numerical method for computing three-dimensional rarefied gas flows on unstructured meshes / V. Titarev // Computational Mathematics and Mathematical Physics. — 2010. — Vol. 50, no. 10. — P. 1719—1733.

108. Chorin, A. /.The numerical solution of the Navier-Stokes equations for an incompressible fluid / A. J. Chorin // Bulletin of the American Mathematical Society. — 1967. — Vol. 73, no. 6. — P. 928—931.

109. Kornev, E. Parallel Algorithm for Numerical Solution of the Boltzmann Kinetic Equation with Model Collision Integral Using Tucker Tensor Decomposition / E. Kornev, V. Golubev // Radioelektronika. Nanosistemy. Informacionnye tehnologii. — 2025. — Vol. 17, no. 4. — P. 449—454.

110. Kornev, E. TetraFEM: Numerical Solution of Partial Differential Equations Using Tensor Train Finite Element Method / E. Kornev [et al.] // Mathematics. — 2024. — Vol. 12, no. 20. — URL: https://www.mdpi.com/2227-7390/12/20/ 3277 ; (дата обращения 7.09.2025).

111. Chikitkin, A. Numerical solution of the Boltzmann equation with S-model collision integral using tensor decompositions / A. Chikitkin, E. Kornev, V. Titarev // Computer Physics Communications. — 2021. — Vol. 264. — P. 107954.

112. Chikitkin, A. Different Approaches to Numerical Solution of the Boltzmann Equation with Model Collision Integral Using Tensor Decompositions / A. Chikitkin, E. Kornev // Smart Modelling for Engineering Systems. Vol. 215. — Singapore : Springer Singapore, 2021. — P. 105—116.

113. Kornev, E. A tensorized version of LU-SGS solver for discrete velocity method for Boltzmann kinetic equation with model collision integral / E. Kornev, A. Chikitkin //. PROCEEDINGS OF THE X ALL—RUSSIAN CONFERENCE "Actual Problems of Applied Mathematics and Mechanics" with International Participation, Dedicated to the Memory of Academician A.F. Sidorov and 100th Anniversary of UrFU: AFSID—2020. — NY, USA : AIP Publishing, 2020.

114. Коган, М. Динамика разреженного газа / М. Коган. — М.: Наука, 1967. — С. 440.

115. Шахов, Е. Метод исследования движений разреженного газа / Е. Шахов. — М.: Наука, 1974.— С. 207.

116. Попов, С. П. Консервативный метод решения уравнения Больцмана для центрально-симметричных потенциалов взаимодействия / С. П. Попов, Ф. Г. Черемисин // Журнал вычислительной математики и математической физики. — 1999. — Т. 39, № 1. — С. 163—176.

117. Фролова, А. А. Численное сравнение решений кинетических модельных уравнений / А. А. Фролова // Математика и математическое моделирование. — 2015. — Т. 6. — С. 61—77.

118. Rovenskaya, O. I. Comparative analysis of the numerical solution of full Boltzmann and BGK model equations for the Poiseuille flow in a planar microchannel / O. I. Rovenskaya // Computers & Fluids. — 2013. — Vol. 81. — P. 45—56.

119. Smits, A. /.Turbulent Shear Layers in Supersonic Flow / A. J. Smits, J.-P. Dussauge. — Springer New York, NY, 2006. — С. 440.

120. Braack, M. Directional Do-Nothing Condition for the Navier-Stokes Equations / M. Braack, P. B. Mucha // Journal of Computational Mathematics. — 2014. — Vol. 32, no. 5.—P. 507—521.

121. Goreinov, S. How to Find a Good Submatrix / S. Goreinov [и др.] // Matrix Methods: Theory, Algorithms and Applications. — 2010. — С. 247—256.

122. Sekmen, A. Matrix resconstruction: Skeleton decomposition versus singular value decomposition / A. Sekmen [et al.] // 2017 International Symposium on Performance Evaluation of Computer and Telecommunication Systems (SPECTS). - 2017. - P. 1-8.

123. Golub, G. Calculating the Singular Values and Pseudo-Inverse of a Matrix / G. Golub, W. Kahan // Journal of the Society for Industrial and Applied Mathematics Series B Numerical Analysis. — 1965. — Vol. 2, no. 2. — P. 205—224.

124. Eckart, C. The approximation of one matrix by another of lower rank / C. Eckart, G. Young // Psychometrika. — 1936. — Vol. 1, no. 3. — P. 211—218.

125. Anderson, E. LAPACK Users' Guide / E. Anderson [et al.]. — Third. — Philadelphia, PA : Society for Industrial, Applied Mathematics, 1999. — P. 404.

126. Bro, R. PARAFAC. Tutorial and applications / R. Bro // Chemometrics and Intelligent Laboratory Systems. — 1997. — Vol. 38, no. 2. — P. 149—171.

127. De Silva, V. Tensor rank and the ill-posedness of the best low-rank approximation problem / V. De Silva, L.-H. Lim // SIAM Journal on Matrix Analysis and Applications. — 2008. — Vol. 30, no. 3. — P. 1084—1127.

128. Harris, C. R. Array programming with NumPy / C. R. Harris [et al.] // Nature. — 2020. — Vol. 585, no. 7825. — P. 357—362.

129. Saad, Y. Iterative Methods for Sparse Linear Systems / Y. Saad. — SIAM, 2003. — (Other Titles in Applied Mathematics).

130. Markeeva, L. QTT-isogeometric solver in two dimensions / L. Markeeva, I. Tsybulin, I. Oseledets // Journal of Computational Physics. — 2021. — Vol. 424.-P. 109835.

131. Oseledets, I. ttpy v.1.2.1 /1. Oseledets // GitHub repository. — 2022. — URL: https://github.com/oseledets/ttpy ; (дата обращения 8.09.2025).

132. Аристов, В. В. Консервативная разностная схема дискретных ординат для решения кинетических уравнений методом расщепления / В. В. Аристов, Ф. Г. Черемисин // Прямое численное моделирование течений газа. — 1978.-С. 164-171.

133. Титарев, В. А. Численное моделирование пространственных течений разреженного газа с использованием суперЭВМ / В. А. Титарев // Федеральный исследовательский центр "Информатика и управление" Российской Академии Наук. — 2017.

134. Titarev, V. OpenMP + MPI parallel implementation of a numerical method for solving a kinetic equation / V. Titarev, S. Utyuzhnikov, A. Chikitkin // Computational Mathematics and Mathematical Physics. — 2016. — Vol. 56, no. 11.-P. 1919-1928.

135. Toro, E. F. Riemann solvers and numerical methods for fluid dynamics: a practical introduction / E. F. Toro. — Springer Science & Business Media, 2013.

136. Русанов, В. В. Расчет взаимодействия нестационарных ударных волн с препятствиями / В. В. Русанов // Журнал вычислительной математики и математической физики. — 1961. — Т. 1, № 2. — С. 267—279.

137. Yoon, S. Lower-upper Symmetric-Gauss-Seidel method for the Euler and Navier-Stokes equations / S. Yoon, A. Jameson // AIAA Journal. — 1988. — Vol. 26, no. 9. - P. 1025-1026.

138. Павлухин, П. Эффективная параллельная реализация метода LU-SGS для задач газовой динамики / П. Павлухин, И. Меньшов // М.: Научный вестник МГТУГА. — 2011.— № 165. —С. 46—55.

139. Свидетельство о гос. регистрации программы для ЭВМ. Boltzmann-T [Текст] / А. Чикиткин, Е. Корнев. — № 2020667125 ; заявл. 21.12.2020 (Рос. Федерация).

140. Колган В. П. Применение принципа минимальных значений производной к построению конечноразностных схем для расчета разрывных решений газовой динамики / Колган В. П. // Ученые записки ЦАГИ. — 1972. — Т. 3, № 6. — С. 68—77.

141. Leer, B. van. Towards the ultimate conservative difference scheme V: a second order sequel to Godunov' method / B. van Leer // Journal of Computational Physics. — 1979. — Vol. 32. — P. 101—136.

142. Dagum, L. OpenMP: an industry standard API for shared-memory programming / L. Dagum, R. Menon // Computational Science & Engineering, IEEE. — 1998. — Vol. 5, no. 1. — P. 46—55.

143. Chikitkin, A. Parallel Versions of Implicit LU-SGS Method / A. Chikitkin [et al.] // Lobachevskii Journal of Mathematics. — 2018. — Vol. 39, no. 4. — P. 503—512.

144. Titarev, V. A. OpenMP + MPI parallel implementation of a numerical method for solving a kinetic equation / V. A. Titarev, S. V. Utyuzhnikov, A. V. Chikitkin // Computational Mathematics and Mathematical Physics. — 2016. — Vol. 56, no. 11.-P. 1919-1928.

145. Systo, M. M. Sequential coloring versus Welsh-Powell bound / M. M. Syslo // Discrete Mathematics. — 1989. — Vol. 74, no. 1. — P. 241—243.

146. Kornev, E. Numerical solution of the incompressible Navier-Stokes equations for chemical mixers via quantum-inspired Tensor Train Finite Element Method / E. Kornev [et al.] // ArXiv. — 2023. — URL: https://arxiv.org/abs/2305.10784 ; (дата обращения 7.09.2025).

147. Gordon, W /.Transfinite mappings and their application to grid generation / W. J. Gordon, L. C. Thiel // Applied Mathematics and Computation. — 1982. — Vol. 10/11.-P. 171-233.

148. Elman, H. Finite Elements and Fast Iterative Solvers: With Applications in Incompressible Fluid Dynamics / H. Elman, D. Silvester, A. Wathen. — 2006.

149. Додулад, О. И. Расчеты структуры ударной волны в одноатомном газе с контролем точности / О. И. Додулад, Ф. Г. Черемисин // Журнал вычислительной математики и математической физики. — 2013. — Т. 53, №6.-С. 1008-1026.

150. Lofthouse, A. /.Nonequilibrium Hypersonic Aerothermodynamics Using the Direct Simulation Monte Carlo and Navier-Stokes Models / A. J. Lofthouse // University of Michigan, Horace H. Rackham School of Graduate Studies. — 2008.

151. Ghia, U. High-Re solutions for incompressible flow using the Navier-Stokes equations and a multigrid method / U. Ghia, K. Ghia, C. Shin // Journal of Computational Physics. — 1982. — Vol. 48, no. 3. — P. 387—411.

152. Virtanen, P. SciPy 1.0: Fundamental Algorithms for Scientific Computing in Python/P. Virtanen [etal.] //NatureMethods. — 2020. — Vol. 17. —P. 261—272.

Список рисунков

2.1 Сжатые представления матрицы изображения при различных рангах аппроксимации, также указана относительная ошибка в норме Фробениуса..................................25

2.2 Значения сингулярных чисел матрицы изображения с Рисунка 2.1. ... 26

3.1 Относительные ошибки округления при ограничении рангов тензора модуля проекции молекулярной скорости. Графики в стандартной (слева) и логарифмической шкале (справа).................45

3.2 Двумерный срез точного тензора 1^1 (слева), и округлённого до

ранга 6 (справа), размер скоростной сетки - 64 х 64 х 64.........46

3.3 Двумерный срез точного тензора (слева), и одноранговой аппроксимации (справа), размер скоростной сетки - 64 х 64 х 64. . . . 47

3.4 Демонстрация разбиения итераций цикла по четырём потокам, где цветом обозначен номер потока. Символом А обозначается разница между максимальным и минимальным временем по всем потокам, то есть время, когда простаивал хотя бы один поток. Видно значительное преимущество динамического планирования при неравномерных временах итераций.....................51

3.5 Раскраска (сверху) и разбиение (снизу) сетки, используемой для расчёта обтекания цилиндра. Число потоков равно 8, веса ячеек

равны, то есть количество ячеек в каждом разбиении примерно равное. 53

3.6 Пример линейных базисных функций для четырехугольных конечных элементов в двумерном случае. Каждая функция принимает значение 1 в своей узловой точке и 0 во всех остальных, что позволяет интерпретировать коэффициенты и в (3.21) как значения аппроксимируемой функции в узлах. Кроме того, каждая функция отлична от нуля только на небольшой области, что приводит

к разреженности матриц в (3.27) и (3.28)..................56

3.7 Проекция единичного квадрата на расчётную подобласть, как

описано в (3.31). Стороны подобласти задаются четырьмя гладкими параметрическими функциями с известными производными....... 58

3.8 Отображение конечного элемента на единичный квадрат. Черные точки с индексами обозначают положения узлов сетки, а красные символы - положения точек квадратуры..................60

4.1 Нормированные профили плотности, скорости потока и температуры. Символами изображены значения плотности и температуры, данные в работе [149].....................67

4.2 Влияния модификации системы, предложенной в 3.1.3. Времена шага были усреднены методом скользящего окна для большей наглядности. Видно влияние накладных расходов из-за дополнительных операций на начальных шагах и преимущество при установлении течения............................68

4.3 Графики различных макропараметров для решения, полученного с минимальной относительной точностью тензорного округления

£ = 10—2. На рисунках видны «артефакты» от тензорного округления функции распределения, тем не менее, значения качественно верные. . 70

4.4 Графики, изображающие безразмерные коэффициенты давления (слева сверху), трения (справа сверху), теплоотдачи (слева снизу) вдоль поверхности цилиндра, а также одномерный профиль температуры газа вдоль направления потока (справа снизу). Красными точками обозначены результаты, полученные методом Монте-Карло, приведённые в работе [150].................71

4.5 Общее ускорение (слева) и ускорение различных частей алгоритма -вычисления инкремента решения в неявном методе и остального шага (справа) в зависимости от числа потоков для различных подходов к распараллеливанию. Видно значительное преимущество

динамического планирования отностительно статического, что показывает влияние локальных рангов решения на скорость вычислений..................................71

4.6 Профиль скорости течения газа в трубе круглого сечения........73

4.7 Сжатие функции распределения в отдельных ячейках. Видно, что функция распределения в каждой ячейке занимает примерно

1% — 4% от размера полного представления................73

4.8 Круговая область (сверху) и область в форме кольца, состоящая из четырёх подобластей (снизу), и решения уравнения Пуассона в этих областях....................................76

4.9 График зависимости максимального ранга ТТ матрицы от дискретизации в одном направления для круговой и кольцевой областей. Видно сильное влияние формы области на тензорные ранги. 77

4.10 Количество параметров, необходимых для представления матрицы жёсткости для круговой области (слева) и области в форме кольца (справа), в зависимости от числа узлов в одном направлении. Данные значения пропорциональны количеству памяти компьютера, требуемой для хранения объектов. Отчётливо видно

субэкспоненциальное масштабирование для формата Tensor Train. ... 77

4.11 Зависимость относительной нормы ошибки в норме Фробениуса от количества узлов сетки вдоль одного направления. Можно наблюдать второй порядок сходимости по сетке....................78

4.12 Зависимость времени, требуемого на сборку и получение численного решения для круга (слева) и кольца (справа). Видно отсутствие преимущества по времени для «плохой» формы области, и сильное преимущество тензорных методов для «хорошей» области. Критерий остановки для классического и тензорного метода равен £ = 10"8. ... 78

4.13 Линии установившегося течения в квадратной полости с движущейся крышкой для числа Рейнольдса Re = 400. Относительная точность тензорного округления равна £ = 10"5. В нижних углах области

можно видеть вихри, характерные для подобных течений........80

4.14 Одномерные профили скорости установившегося течения в полости. На левом графике показана горизонтальная компонента скорости на линии x = 0.5, на правом - вертикальная компонента вдоль направления y = 0.5. Пространственная сетка имеет размеры 64 х 64. Красными точками обозначены данные из работы [151].......... 81

4.15 Средние значения времени шага для различных частей алгоритма в зависимости от дискретизации области. На левом графике показано время, занимаемое решением уравнения Пуассона для давления в проекционном методе, правый график демонстрирует время, занимаемое пересборкой матриц на временном шаге. Формат QTT демонстрирует лучшее масштабирование в обоих случаях, однако обойти полный формат удаётся только на решении системы. Также заметим, что сборка операторов в формате QTT с применением метода АМЕп производится быстрее, чем реализация через точные матричные произведения на подробных дискретизациях, но медленнее, чем на маленьких........................81

4.16 Среднее время одного шага по времени для различных пространственных сеток. Преимущество тензорного формата проявляется на более плотных сетках за счёт лучшей масштабируемости. Несмотря на то, что пересборка происходит медленнее, что видно из Рисунка 4.15, на подробных дискретизациях начинает доминировать вычисление давления, и тензорный метод обходит классический............................82

4.17 Линии течения несжимаемой жидкости в области L-образной формы

для числа Рейнольдса Ие = 50........................ 83

Список таблиц

1 Характерные значения параметров, применяемые при обезразмеривании............................... 18

2 Операции с тензорами, зависимости рангов результатов от рангов операндов и вычислительные сложности. Здесь x,y,z это тензоры в формате Tensor Train, rxэто их ранги соответственно. A, B, C это Tensor Train матрицы рангов га, rB, rC. Сложность большинства операций зависит от рангов операндов. Через f обозначается функция от s переменных, которую требуется вычислить на наборе

из s тензоров одинаковой размерности...................35

3 Зависимость ускорения и сжатия по памяти от относительной

ошибки тензорного округления.......................69