Обращение данных акустической сейсморазведки с использованием диффузионных моделей глубокого обучения тема диссертации и автореферата по ВАК РФ 00.00.00, кандидат наук Станкевич Андрей Сергеевич

• Станкевич Андрей Сергеевич
• кандидат наук
• 2025

Оглавление диссертации кандидат наук Станкевич Андрей Сергеевич

1.1 Формализация постановки задачи

1.2 Обращение полного волнового поля в акустическом приближении

1.3 Программная реализация метода

1.3.1 Моделирование динамики акустической среды

1.3.2 Вычисление градиента методом сопряженных переменных состояния

1.3.3 Мультимасштабная инверсия

1.4 Верификационные расчёты

1.4.1 Модель Мармузи

1.4.2 Модель SEG-EAGE Salt

1.4.3 Модель SEG-EAGE Overthrust

1.4.4 Инверсия данных OpenFWI

Глава 2. Применение диффузионных моделей к обращению сейсмических данных

2.1 Основные понятия

2.1.1 Уравнение потока вероятности

2.1.2 Выбор параметризации диффузионных моделей

2.1.3 Решение обратных задач с использованием диффузионных моделей

2.2 Алгоритм обращения акустического волнового поля на основе DPS-приближения

2.2.1 Модель глубокого обучения

2.2.2 Подсчёт функции оценки условного распределения

2.2.3 Дискретизация уравнения потока вероятности

2.3 Масштабирование градиента за счёт проекции на многообразие

2.4 Исследование доменной адаптации

Глава 3. Обращение акустических данных с помощью диффузионных мостов Шрёдингера

3.1 Предварительные сведения

3.1.1 Постановка задачи о мосте Шрёдингера

3.1.2 Условный вывод с использованием моста Шрёдингера

3.1.3 Image-to-Image мост Шрёдингера

3.2 Модель cI2SB для решения задачи инверсии данных акустической сейсморазведки

3.2.1 Постановка задачи и предлагаемый метод её решения

3.2.2 Численный эксперимент

3.2.3 Исследование свойств полученного алгоритма

3.3 Гибридный численный метод инверсии акустических данных на основе модели I2SB

Заключение

Введение диссертации (часть автореферата) на тему «Обращение данных акустической сейсморазведки с использованием диффузионных моделей глубокого обучения»

Введение

С ростом масштабов сейсмических исследований в углеводородной разведке перспективным направлением прикладных исследований становится разработка методов автоматизации индустриальных процессов, связанных с обработкой сейсмических данных. Современные процессы анализа сейсмограмм, свойственные данной отрасли промышленности, представляют собой последовательности стандартных шагов, калибровка и трактование результатов каждого из которых происходит с учётом экспертной оценки [1], [2]. Глубокая вовлеченность экспертов придает процессам индустриальной обработки сейсмических данных ряд особенностей, присущих системам типа human-in-the-loop [3]:

• Тестирование гипотез в ходе процесса принятия решений зачастую проводится методом проб и ошибок, что делает затрачиваемое на анализ данных время зависимым от интуиции и опыта интерпретатора.

• Различия в экспертизе приводят к различным итогам интерпретации данных, вариации в которых носят несистемный характер.

• Результат анализа данных на основе физических моделей непосредственно зависит от выдвигаемого набора гипотез о характере распространения волн.

Целью внедрения средств автоматизации является максимизация эффективности подобных процедур, обеспечение воспроизводимости, а также минимизация риска в ходе процесса принятия решений.

На данный момент популярным трендом в развитии систем принятия решений является внедрение методов, ориентированных на прецедент (англ. data-driven decision-making). При таком подходе интуиция и предыдущий опыт экспертов подкрепляется результатами анализа и интерпретации разнообразных сведений об индустриальных процессах. Популярным инструментом обработки подобной информации являются алгоритмы машинного обучения, способные самостоятельно обнаруживать сложные нелинейные зависимости в данных при наличии избыточного числа прецедентов для построения обучающей выборки необходимого объема. Решения на основе

глубокого обучения являются особенно привлекательным в тех областях промышленности, где процедура экспертного анализа данных сопряжена с существенными затратами человеческих и вычислительных ресурсов — к таким областям, несомненно, относится и сейсморазведка.

Текущая диссертационная работа посвящена разработке методов глубокого обучения в приложении к задаче построения скоростной модели сплошной среды по наблюдаемому сейсмическому сигналу. Акутальность исследования обусловена сложностью интеграции существующих нейросетевых решений в классические схемы трактования данных распространения волн в недрах земли. Причиной тому является присущая предметной области специфика отношений между сейсмограммами и моделями геологических сред. Так, например, создание обучающей выборки, состоящей из пар вида (ё^, с), где - сейсмический отклик, полученный в результат полевых разведочных работ, а с - соответствующая ему модель сплошной среды, принципиально невозможно для сколь-либо реальных практических приложений. Данный факт обоснован отсутствием эффективного способа измерить значения параметров среды в точках коллокации — известные представления о структуре земных недр сами по себе во многом получены благодаря моделированию. Использование синтетических данных позволяет частично обойти подобное ограничение: в таком случае с предъявляется в явном виде, а регистрируется путем построения математической модели процедуры сканирования. Современные численные методы, впрочем, неспособны в полной мере отразить сложную структуру волновых процессов в геологических средах, что приводит к существенному паданию качества прогнозов нейросетевых алгоритмов, обученных на синтетических данных, при работе с полевыми сейсмограммами. Следовательно, при разработке систем интерпретации сейсмических данных на основе искусственного интеллекта необходимо учитывать проблематику задачи адаптации доменов [4].

Вопросы применения методов глубокого обучения достаточно широко освещен в тематической литературе - основным фокусом научных работ в этой области является приспособление современных нейросетевых архитектур к решению обратных задач сейсморазведки ([3], [5]). Большое внимание также уделяется методам интеграции априорной информации об исследуемой среде в классические методы глубокого обучения, а также построению оптимального признакового описания для сейсмических сигналов. Исследования на тему доменной адаптации являются менее распространенными - способы модификации синтетических данных с целью предотвращения деградации качества прогнозов при работе с реальными сейсмическими трассами затрагиваются, к

примеру, в статье [6].

Отличительной чертой данной работы является акцент на адаптивность к гетерогенным доменам данных [7] — иначе говоря, одним из мотивирующих факторов для проведения исследования являлся поиск алгоритма, способного решать ряд похожих задач с различающимся форматом сейсмограмм. Данное качество достигается путем интеграции в модель физических принципов распространения волн в сплошных средах. В основе разрабатываемого подхода лежит недавно возникшая парадигма решения нелинейных обратных задач с использованием диффузионных моделей глубокого обучения. Теоретическим основанием для метода является байесовский вывод, в ходе которого нейросеть характеризует априорное распределения рртюг(с) сложной структуры, а условная вероятность оценивается методами математического моделирования. Вследствие

этого нейросеть не взаимодействует с наблюдаемыми сейсмограммами напрямую, что позволяет избавиться от необходимости построения обучающей выборки, состоящей из парной информации.

Основной целью исследования является адаптация инновационной методологии решения обратных задач методом байесовского вывода с использованием диффузионных моделей к проблеме инверсии данных акустической сейсморазведки. В список задач, решаемых в рамках исследовательской работы, входили

• Реализация метода обращения полного волнового поля, а также верификация представленной реализации с использованием актуальных эталонов для проверки качества алгоритмов сейсмической визуализации.

• Разработка типового решения исследуемой задачи на основе байесовского вывода с использованием диффузионных моделей, выявление его преимуществ и недостатков в сравнении с классическим методом, а также дальнейшая настройка с целью повышения эффективности процедуры.

• Экспериментальная проверка утверждения о возможности работы с гетерогенными данными с помощью одной и той же модели глубокого обучения в рамках данного метода.

• Генерализация метода на случай более общей априорной модели, задаваемой решением задачи о мосте Шрёдингера.

задачи инверсии акустических данных с помощью технологий глубокого обучения нестрого можно разделить на три основные группы со своими характерными особенностями и проблематикой.

Алгоритмы обучение на размеченных данных базируются на построении параметрической модели, напрямую осуществляющей нелинейное отображение между признаковыми описаниями сейсмического отклика и искомыми характеристики геологической среды [5]. Процесс настройки параметров модели при этом проводится в ходе процесса обучения, для проведения которого требуется наличие выборки, состоящей из пар «сейсмический сигнал» — «значение интересующей величины, характеризующей исследуемую среду». После завершения процедуры поиска оптимального набора параметров модели прогнозы для нового сейсмического отклика получаются путем применения к нему обученной модели.

Наиболее популярным инструментом для решения текущей задачи из всего арсенала моделей глубокого обучения являются сверточные нейросети [8]. Выбор в их пользу обусловлен вычислительной эффективностью в сравнении с полносвязными сетями, а также наличием сильной пространственной корреляции в типичных форматах представления сейсмических данных. Конкретные архитектуры, используемые для численных экспериментов, при этом эволюционируют совместно с развитием технологии - в литературе встречаются алгоритмы на основе полносверточных сетей ([9], [10], [11], [12] )U-Net ([13], [14]), а также модифицированные архитектуры типа transformer ([15], [16]) и модели на основе концепции операторных нейронных сетей ([17], [18])

Отличительной чертой описываемой подобласти исследований по сравнению с более зрелыми сферами применения методов обучения с учителем является отсутствие установившихся практик и эталонов для сравнения тех или иных подходов. К примеру, единственным существенным различием тройки работ [11] [12] [19] являются подходы к процедурной генерации скоростных моделей, из которых состоит обучающая выборка. В статье [11] скоростные модели получаются путем преобразования изображений из набора данных MS-COCO [20] в оттенки серого и дальнейшего их сглаживания. В сравнении, работа [12] предлагает аналитическую процедуру построения скоростных моделей на основе комбинации линейных и тригонометрических уравнений. В рамках публикации [19] исследователи также придерживается аналитического подхода, но генерируют несколько наборов данных, вводя градацию "сложности" между ними с точки зрения человеческого восприятия.

различные признаковые описания. Так, в работе [21] исследователи обучали сверточную нейросеть восстанавливать скоростную модель слоистой акустической среды по трехмерному кубу подобия (seismic semblance) - производной снимка общей глубинной точки, характеризующему когерентность регистрируемого сигнала. В свою очередь, в статье [9] исследуется способность полносверточной нейросети обращать многоканальные сейсмические трассы с общим источником. Степень предобработки данных при этом минимальна - трассы, полученные при различных положениях источника, рассматриваются как каналы изображения. Таким образом, предложенная в исследовании модель определения скорости распространения P-волн в сплошной среде по синтетическим сейсмограммам до этапа суммирования.

На момент написания работы наиболее подробно задокументированным набором данных для сопоставления различных моделей, решающих одну из возможных постановок обсуждаемой задачи, является коллекция OpenFWI [22]. Поскольку сейсмические сигналы, входящие в коллекцию, содержат как кинематические, так динамические аттрибуты, можно считать, что указанный массив данных разработан в соответствии с классической постановкой задачи обращения полного волнового поля (англ. Full Waveform Inversion, FWI, [23]). В состав коллекций, появившейся в публичном доступе в 2021 году, входят более 1Тб данных, полученных моделированием распространения акустических волн в двумерной среде. Численный эксперимент по симуляции динамики акустической среды при этом проводился при неизменной регистрирующей установке и фиксированном наборе начальных и граничных условий.

Помимо представления самой коллекции OpenFWI, авторы статьи [22] также описывают предполагаемый метод сопоставления различных моделей глубокого обучения, решающих задачу обращения акустических данных. Для этой цели предлагается измерять значения трех регрессионных метрик между действительными скоростными моделями и прогнозами нейросетей. Критериями количественного оценивания в публикации выступают среднеквадратичное отклонение (MSE), среднее отклонение по модулю (MAE), а также индекс структурного сходства (SSIM, [24]). Данное исследование является существенным шагом к систематизации научной деятельности в указанной подобласти, однако глобальный вопрос о ранжировании эффективности таких моделей остается изученным лишь на поверхностном уровне.

качество инверсии, измеренное в терминах традиционных регрессионных метрик, оказывается сопоставимым с классическими численными алгоритмами [10]. Соответственно, выраженным недостатком является зависимость методологии от наличия объемной обучающей выборки, предъявление которой в контексте полевых сейсморазведочных работ затруднено. Актуальным для рассматриваемого класса моделей также остается вопрос генерализации и доменной адаптации. Наглядная иллюстрация проблемы генерализации была представлена авторами статьи [22] — в ней проведено исследование обобщающей способности моделей InversionNet [19], VelocityGAN [25] и UPFWI [26]. Для этой цели модели, обученные с использованием одного из наборов данных, входящих в коллекцию OpenFWI, использовались для инверсии данных, входящих в прочие наборы. При проведении описанного теста каждый из рассмотренных алгоритмов показал статистически значимое падение в качестве решения задачи согласно измеренным значениям метрики SSIM. Отметим, что в литературе встречаются попытки унификации данных с целью препятствия деградации качества прогнозов нейросетей, обученных на результатах моделирования, при работе c реальными данным (примером такого исследования является ранее упомянутая публикация [6]). Тем не менее, общая степень разработанности проблемы остается невысокой.

Физически обоснованные нейронные сети (англ. Physics Informed Neural Networks, PINN) заменяют векторы состояния физических систем на нейросетевые приближения. К примеру, для

моделирования системы уравнений акустики

1 d2u

-Au = f

с2 дг2

в статье [27] используется двухкомпонентная модель, в которой поле скоростей с(х) приближается перцептроном с^ (х), а для аппроксимации нестационарного смещения и(х, г) используется более сложная нейросеть и#2 (х,г). Настройка параметров каждой из моделей происходит путем минимизации составной функции потерь, включающей в себя невязку по уравнению и начальным/граничным условиям в точках коллокации. Вычисление производных, входящих в определяющую систему, при этом происходит за счёт механизмов автоматического дифференцирования. После завершения процедуры настройки параметров результат инверсии может быть вычислен с помощью обращений к с^ (х).

Поскольку в качестве входной информации для данных сетей выступают координаты точек внутри исследуемой области в пространстве-времени, такой поход в редких случаях выигрывает от использования моделей с большим числом параметров. Вследствие этого в релевантных публикациях

в основном используются легковесные полносвязные сети ([27], - [32]), что позволяет избежать эффекта переобучения. Подобные ограничения выступают в качестве эффективной регуляризации пространства параметров модели, что позволяет решать прямые и обратные задачи с использованием меньшего числа данных по сравнению с типичными моделями на основе обучения с учителем - к примеру, в исследовании [28] сообщается об успешном решении задачи восстановления распределения скорости в неоднородной среде по 0.3% общего объема данных, зарегистрированных при проведении численного моделирования.

Отметим, что в качестве обучающей выборки для физически обоснованных нейронных сетей в контексте рассматриваемой задачи используется исключительно набор значений поля смещения в конечной совокупности точек исследуемой среды. Вследствие чего проблематика подобного подхода исключает вопрос процедурной генерации синтетических скоростных моделей - для его тестирования пригодны эталоны, традиционно используемые для верификации алгоритмов сейсмической визуализации, такие как модель Мармузи [30], [31], и модель первой фазы проекта SEAM [33]. Более того, отсутствие необходимости дискретизации расчетной области в рамках данного подхода позволяет решать задачи инверсии акустических данных для сред произвольной формы. Это обстоятельства может быть ценно в случае возникновения сложностей, связанных с построением расчетных сеток.

Недостатком рассматриваемых моделей является непригодность заранее обученных моделей для обработки гетерогенных данных - модель, полученная в предположении о фиксированном виде сканирующей установки, не подходит для интерпретации данных, получаемых от сканирующих установок с отличающимися характеристиками. Дополнительно исследователями отмечается ограниченный потенциал PINN при моделировании высокочастотных деталей приближаемых полей, поскольку нейросетям свойственна непрерывность по входу [34].

Гибридные подходы комбинируют в себе алгоритмы на основе физических моделей распространения волн в сплошных средах и нейросетевые технологии. Целью подобной интеграции является оптимизации процесса инверсии данных акустической сейсморазведки численными методами. Обыкновенно в качестве «оптимизируемой» процедуры выступает градиентная оптимизация в рамках FWI, сильные и слабые стороны которой хорошо изучены и задокументированы в тематической литературе. Данное направление исследований отличается значительным разнообразием используемых концепций и эвристик, что делает полную

систематизацию структуры научного знания в отношении этой проблемы невозможной без последовательного рассмотрения всех существующих подходов. Ограничим освещение вопроса интеграции нейросетевых и классических методов описанием содержания некоторых популярных (с точки зрения цитируемости в индексируемых изданиях) публикаций.

Одним из возможных способов неинвазивной модификации процедуры FWI с помощью нейросетей может быть построение добавочного регуляризационного слагаемого на основе прогноза специально обученной модели. К примеру, в работе [35] нейросеть AlexNet использовалась для классификации фрагментов миграционных изображения с целью определения наличия либо отсутствия структур, соответствующих солевым включениям. Обучающая выборка для модели строилась путем разметки фрагментов миграционных изображений, полученных от геологических моделей шельфа Мексиканского залива. В дальнейшем подобная нейросеть использовалась для конструирования матрицы, пропорциональной уверенности нейросети в наличии солевого включения. Использование построенной матрицы в качестве взвешивающего фактора при применении к тестовым данным процедуры FWI, регуляризованной по Тихонову, позволило вывести последнюю из субоптимального локального минимума.

Альтернативно, нейросетевая регуляризация процедуры FWI может быть достигнута путем репараметризации [36]. В данной работе исследователи использовали нейросеть для построения гладкого отображения из пространства малой размерности в исходное пространство параметров ряда эталонных скоростных распределений. Указанный подход позволяет снизить размерность оптимизационной задачи, что может способствовать амортизации проблемы множественных локальных минимумов, характерной для классического FWI. Верификация данной гипотезы проводилась за счёт численного эксперимента, сопоставляющего разработанный метод с классической регуляризацией типа total variance на примере синтетических данных, полученных от модели месторождения железной руды. Его результаты указывают на уменьшение временных затрат на проведение инверсии с помощью алгоритма L-BFGS-B, достигаемое путем сокращения количества подсчётов градиента для определения корректного направления минимизации. Данный факт может свидетельствовать о более гладком рельефе оптимизируемой функции в пространстве малой размерности.

без учителя. Для достижения указанной цели в ходе настройки параметров нейросети проводилось моделирование сейсмического отклика от среды, описываемой предсказываемым полем скоростей. Функционал потерь при этом измерял разницу между результатами численного моделирования и наблюдаемым сейсмических откликом. Настройка парамеров модели осуществлялась путем трансляции градиента функции потерь через фиксированную численную схему средствами автоматического дифференцирования. Подобный подход формально устраняет зависимость алгоритма обучения нейронной сети с учителем от наличия выборки из синтетических скоростных моделей сплошных сред, однако высокая вычислительная стоимость процедуры подсчёта градиента сквозь численную схему привела к тому, что представленная идея не получила дальнейшего развития.

В статьях [37], [38] задача инверсии акустических данных решается путем обучения специальным образом организованной рекуррентной нейронной сети. исследователи выяснили, что при выборе скоростного поля в среде в качестве обучаемого параметра, процесс обратного распространения ошибки при минимизации квадратичной невязки для представленной сети сводится к кросс-корреляции остаточного волнового поля со второй временной производной моделируемого поля. Таким образом, настройка параметров данной модели может быть в некотором смысле приравнена к решению проблемы FWI, однако задача поиска оптимальных параметров нейросетей зачастую решается другим набором инструментов - в том числе, используются отличающиеся техники оптимизации. Проведенные в рамках исследования численные эксперименты показывают, что традиционно используемые в контексте глубокого обучения методы при подобной переформулировке задачи позволяют успешно обращать синтетические сейсмические данные, полученных от модели Мармузи.

С методологической точки зрения проблемой разработки гибридных методов является их корректная реализация, требующая экспертизы как в численных методах, так и в вопросах разработки моделей глубокого обучения. Помимо этого, сложность заключается в проведении сравнения между существующими подходами — для этих целей требуется не только выработка критериев оценки эффективности процедур инверсии, но и подсчёт общих затрат на построение и организацию вычислений с помощью многокомпонентных систем. Наконец, для приспособление алгоритмов машинного обучения к нейтрализации известных недостатков процедуры FWI требуются построение соответствующих обучающих выборок, что приводит к возникновению сопутствующих проблемы генерализации и доменной адаптации.

Суммируя вышесказанное, о характере существующих исследований по теме диссертации можно сделать следующие выводы

1. Задача инверсии сейсмических данных с помощью методов глубокого обучения достаточно широко освещена в научной литературе, однако основной фокус проводимых исследований ставится на приспособление постоянно развивающихся архитектур нейросетей к предметной области.

2. В силу зарождающегося характера предметной области и разнообразия используемых данных и подходов систематическое сравнение эффективности методов решения одной и той же задачи не представляется возможным.

3. Проблема обобщающей способности и адаптации доменов остается актуальной для всех трех существующих типов методов.

Результаты анализа релевантной литературы учтены в работе путем проведения большинства численных экспериментов на позитивно воспринимаемых научным сообществом эталонах для оценки алгоритмов сейсмической визуализации, что обеспечивает однозначность трактования и воспроизводимость описываемых экспериментов.

Текущая работа развивает идеи использования гибридных численных методов для инверсии сейсмических данных, однако использует для этих целей динамику предопределенного случайного процесса, аппроксимация которой производится с помощью нейросети. Такая концепция не является инновационной - в рамках работы [39] задача акустической инверсии также решалась за счёт байесовского вывода. В основе разработанного автором метода лежал модифицированный алгоритм MALA (Metropolis-adjusted Langevin sampling, [40], [41]). Предварительно обученная генеративная состязательная нейросеть при этом использовалась для построения гладкого отображения из латентного пространства в пространство моделей сплошной среды. Тем самым нейросеть выступала в качестве неявной регуляризации процесса, обеспечивая снижение времени, требуемого для сходимости процедуры типа Монте-Карло. Разрабатываемый в данном исследовании метод имеет несколько явных параллелей с исследованием [39], однако в качестве структурированного процесса на фоне которого происходит байесовский вывод здесь используется параметризованное уравнение диффузии.

Наиболее близкими по набору освещаемых вопросов к текущей работе являются три статьи, описание которых приведено ниже

• Ван и др. [42] предложили способ интеграции процедуры обращения полного волнового поля в акустическом приближении с процессом генеративного моделирования на основе метода сопоставления оценок. В их работе каждый этап процедуры шумоподавления с использованием предварительно обученной диффузионной модели сопровождался несколькими итерациями нелинейной градиентной оптимизации, направленными на минимизацию функционала невязки между моделируемыми и наблюдаемыми данными — предсказание нейросети на текущей итерации таким образом корректировалось с целью соответствия наблюдаемым данным. По заявлению авторов, проведенные численные эксперименты показывают, что разработанная процедура превосходит в точности стандартную схему FWI, а восстановленные подобным образом поля скоростей в среде согласуются с сейсмограммами.

• Авторы статьи [43] экспериментально продемонстрировали, что управление выводом диффузионной модели, обученной на синтетических полях скорости из коллекции данных OpenFWI, может быть осуществлено путем обуславливания такой модели на различные типы информации, которые могут быть доступны во время сейсмических исследований. Примерами таких данных могут служить данные каротажа, а также гладкие модели поля скоростей в среде. Инструментом численного эксперимента в данной работе послужили нейросети, настройка параметров которых проводилась в парадигме безградиентного управления выводом. Результаты исследования показали, что подобный механизм управления генеративным процессом диффузионной модели позволяет добиваться высокой степени соответствия между настоящими полями скоростей в среде и результатами инверсии. Параллельно, ученые сообщают о меньшей достоверности предсказаний на данных извне распределения, сэмплы из которого послужили в качестве обучающей выборки.

Список литературы диссертационного исследования кандидат наук Станкевич Андрей Сергеевич, 2025 год

Список литературы

1. Yilmaz O. Seismic data analysis: Processing, inversion, and interpretation of seismic data. — Society of

exploration geophysicists, 2001. - 416 p.

2. Mayall M., Kneller B. Seismic interpretation workflows for deep-water systems: A practical guide for

the subsurface // AAPG Bulletin. — 2021. — Vol. 105, no. 11. — P. 2127-2157.

3. Khosro Anjom F., Vaccarino F., Socco L. Machine learning for seismic exploration: Where are we and

how far are we from the holy grail? // Geophysics. — 2024. — Vol. 89, no. 1. — P. 1JF-WB87.

4. J. Li, Yu Z., Du Z., Zhu L., Shen H. A comprehensive survey on source-free domain adaptation // IEEE

Transactions on Pattern Analysis and Machine Intelligence. — 2024 - Vol. 46, no. 8. - P. 5743-5762

5. Adler A., Araya-Polo M., Poggio T. Deep learning for seismic inverse problems: Toward the acceleration

of geophysical analysis workflows // IEEE signal processing magazine. — 2021. — Vol. 38, no. 2. — P. 89-119

6. Alkhalifah T., Wang H., Ovcharenko O. MLReal: Bridging the gap between training on synthetic data

and real data applications in machine learning // Artificial Intelligence in Geosciences. — 2022. — Vol. 3. —P. 101-114.

7. Day O., Khoshgoftaar T. A survey on heterogeneous transfer learning // Journal of Big Data. — 2017.

— Vol. 4. — P. 1-42.

8. Yu S., Ma J. Deep learning for geophysics: Current and future trends // Reviews of Geophysics. — 2021.

— Vol. 59, no. 3. — e2021RG000742.

9. Wang W., Yang F., Ma J. Velocity model building with a modified fully convolutional network // SEG

Technical Program Expanded Abstracts: SEG International Exposition and Annual Meeting. — 2018.

— P. 2086-2090.

10. Yang F., Ma J. Deep-learning inversion: A next-generation seismic velocity model building method // Geophysics. — 2019. — Vol. 84, no. 4. — R583-R599.

11. Wang W., Ma J. Velocity model building in a crosswell acquisition geometry with image-trained artificial neural networks // Geophysics. — 2020. — Vol. 85, no. 2. — U31-U46.

12. Liu B., Yang S., Ren Y., Xu X., Jiang P., Chen Y. Deep-learning seismic full-waveform inversion for realistic structural models // Geophysics. — 2021. — Vol. 86, no. 1. — R31-R44.

13. Li F., Guo Z., Pan X., Liu J., Wang Y., Gao D. Deep learning with adaptive attention for seismic velocity inversion // Remote Sensing. — 2022. — Vol. 14, no. 15. — P. 3810.

14. Gelboim M., Adler A., Sun Y., Araya-Polo M. Encoder-decoder architecture for 3D seismic inversion // Sensors. — 2022. — Vol. 23, no. 1. — P. 61.

15. Wang H., Lin J., Dong X., Lu S., Li Y., Yang B. Seismic velocity inversion transformer // Geophysics.

— 2023.—Vol. 88, no. 4. — R513-R533.

16. Li Y., Alkhalifah T., Huang J., Li Z. Self-supervised pretraining vision transformer with masked autoencoders for building subsurface model // IEEE Transactions on Geoscience and Remote Sensing.

— 2023. — Vol. 61. — P. 1-10.

17. Zhu M., Feng S., Lin Y., Lu L. Fourier-DeepONet: Fourier-enhanced deep operator networks for full waveform inversion with improved accuracy, generalizability, and robustness // Computer Methods in Applied Mechanics and Engineering. — 2023. — Vol. 416. — P. 116300.

18. Jiang Z., Zhu M., Lu L. Fourier-MIONet: Fourier-enhanced multiple-input neural operators for multiphase modeling of geological carbon sequestration // Reliability Engineering & System Safety.

— 2024. — Vol. 251. — P. 110392.

19. Wu Y., Lin Y. InversionNet: An efficient and accurate data-driven full waveform inversion // IEEE Transactions on Computational Imaging. — 2019. — Vol. 6. — P. 419-433.

20. Lin T.-Y., Maire M., Belongie S., Bourdev L., Girshick R., Hays J., Perona P., Ramanan D., Zitnick C., Dollar P. Microsoft COCO: Common Objects in Context // arXiv:1405.0312 [cs.CV]. — 2015. — URL: https://arxiv.org/abs/1405.0312 (date of request: 25.09.2025)

21. Araya-Polo M., Jennings J., Adler A., Dahlke T. Deep-learning tomography // The Leading Edge. — 2018. — Vol. 37, no. 1. — P. 58-66.

22. Feng S., Wang H., Zhang X., Jin P., Feng Y., Zeng Q., Chen Y., Lin Y., Deng C. OpenFWI: Large-scale multi-structural benchmark datasets for full waveform inversion // Advances in Neural Information Processing Systems. — 2022. — Vol. 35. — P. 6007-6020.

23. Virieux J., Operto S. An overview of full-waveform inversion in exploration geophysics // Geophysics.

— 2009. — Vol. 74, no. 6. — P. WCC1-WCC26

24. Wang Z., Bovik A., Sheikh H., Simoncelli E. Image quality assessment: from error visibility to structural similarity // IEEE Transactions on Image Processing. — 2004. — Vol. 13, no. 4. — P. 600-612.

25. Zhang Z., Lin Y. Data-driven seismic waveform inversion: A study on the robustness and generalization //IEEE Transactions on Geoscience and Remote sensing. — 2020. — Vol. 58, no. 10. —P. 6900-6913.

26. Jin P., Zhang X., Chen Y., Huang X., Liu Z., Lin Y. Unsupervised Learning of Full-Waveform Inversion: Connecting CNN and Partial Differential Equation in a Loop // International Conference on Learning Representations. — 2022. — URL: https://openreview.net/forum?id=izvwgBic9q (date of request: 25.09.2025)

27. Rasht-Behesht M., Huber C., Shukla K., Karniadakis G. Physics-Informed Neural Networks (PINNs) for Wave Propagation and Full Waveform Inversions // Journal of Geophysical Research: Solid Earth.

— 2022.—Vol. 127, no. 5. —P. e2021JB023120.

28. Xu Y., Li J., Chen X. Physics informed neural networks for velocity inversion // SEG Technical Program Expanded Abstracts: SEG International Exposition and Annual Meeting. — 2019. — P. 2584-2588.

29. Ren P., Rao C., Sun H., Liu Y. Physics-informed neural network for seismic wave inversion in layered semi-infinite domain // CoRR. — 2023. - URL: https://doi.org/10.48550/arXiv.2305.05150 (date of request: 25.09.2025).

30. Brougois A., Bourget M., Lailly P., Poulet M., Ricarte P., Versteeg R. Marmousi, model and data // EAEG workshop-practical aspects of seismic data inversion. — European Association of Geoscientists & Engineers. 1990. — P. 108.

31. Song C., Alkhalifah T. A. Wavefield reconstruction inversion via physics-informed neural networks // IEEE Transactions on Geoscience and Remote Sensing. — 2021. — Vol. 60. — P. 1-12.

32. Ren P., Rao C., Chen S., Wang J., Sun H., Liu Y. SeismicNet: Physics-informed neural networks for seismic wave modeling in semi-infinite domain // Computer Physics Communications. — 2024. — Vol. 295. — P. 109010.

33. Li P., Liu M., Alfarraj M., Tahmasebi P., Grana D. Probabilistic physics-informed neural network for seismic petrophysical inversion // Geophysics. — 2024. — Vol. 89, no. 2. — P. M17-M32.

34. Wu X., Ma J., Si X., Bi Z., Yang J., Gao H., Xie D., Guo Z., Zhang J. Sensing prior constraints in deep neural networks for solving exploration geophysical problems // Proceedings of the National Academy of Sciences. — 2023. — Vol. 120, no. 23. — e2219573120

35. Lewis W., Vigh D. Deep learning prior models from seismic images for full-waveform inversion // SEG Technical Program Expanded Abstracts: SEG International Exposition and Annual Meeting. — 2017. -P. 17627643

36. He Q., Wang Y. Reparameterized full-waveform inversion using deep neural networks // Geophysics. — 2021.—Vol. 86, no. 1. —P. V1-V13.

37. Sun J., Niu Z., Innanen K., Li J., Trad D. A theory-guided deep-learning formulation and optimization of seismic waveform inversion // Geophysics. — 2020. — Vol. 85, no. 2. — P. R87-R99.

38. Sun J., Innanen K., Huang C. Physics-guided deep learning for seismic inversion with hybrid training and uncertainty analysis // Geophysics. — 2021. — Vol. 86, no. 3. — P. R303-R317.

39. Mosser L., Dubrule O., Blunt M. Stochastic seismic waveform inversion using generative adversarial networks as a geological prior // Mathematical Geosciences. — 2020. — Vol. 52, no. 1. — P. 53-79.

40. Roberts G., Tweedie R. Exponential convergence of Langevin distributions and their discrete approximations //Bernoulli. — 1996. —Vol. 2, no. 4. —P. 341-363.

41. Roberts G., Rosenthal J. Optimal scaling of discrete approximations to Langevin diffusions // Journal of the Royal Statistical Society: Series B (Statistical Methodology). — 1998. — Vol. 60, no. 1. — P. 255-268.

42. Wang F., Huang X., Alkhalifah T. Prior probability regularized FWI using generative diffusion models // 84th EAGE Annual Conference & Exhibition. — 2023. — Vol. 2023, no. 1. — P. 1-5.

43. Wang F., Huang X., Alkhalifah T. Controllable seismic velocity synthesis using generative diffusion models // Journal of Geophysical Research: Machine Learning and Computation. — 2024. — Vol. 1, no. 3. — e2024JH000153

44. Zhang H., Li Y., Huang J. DiffusionVel: Multi-Information Integrated Velocity Inversion Using Generative Diffusion Model // 86th EAGE Annual Conference & Exhibition. Vol. 2025. — European Association of Geoscientists & Engineers. 2025. — P. 1-5.

45. Chung H., Kim J., Mccann M., Klasky M., Ye J. Diffusion Posterior Sampling for General Noisy Inverse Problems // The Eleventh International Conference on Learning Representations, ICLR 2023. — 2023.

— URL: https://openreview.net/forum?id=0nD9zGAGT0k (visited on 09/25/2025).

46. LiuG., Vahdat A., Huang D., TheodorouE., Nie W., Anandkumar A. I2SB: image-to-image Schrodinger bridge // Proceedings of the 40th International Conference on Machine Learning. — 2023. — P. 22042-22062.

47. НовацкийВ. Теория упругости. Москва: Мир, 1975. 872 с.

48. Tarantola A. Inversion of seismic reflection data in the acoustic approximation // Geophysics. — 1984.

— Vol. 49, no. 8. — P. 1259-1266.

49. Plessix R. A review of the adjoint-state method for computing the gradient of a functional with geophysical applications // Geophysical Journal International. — 2006. — Vol. 167, no. 2. — P. 495-503.

50. Chavent G., Lemonnier P. Identification de la non-linéarité d'une équation parabolique quasilinéaire // Applied mathematics and Optimization. — 1974. — Vol. 1, no. 2. — P. 121-162.

51. Richardson A. Deepwave. — Version v0.0.20. —2023. — URL: https://doi.org/10.5281/zenodo.8381177 (visited on 09/25/2025).

52. Paszke A., Gross S., Massa F., Lerer A., Bradbury J., Chanan G., Killeen T., Lin Z., Gimelshein N., Antiga L., Desmaison A., Kopf A., Yang E., DeVito Z., Raison M., Tejani A., Chilamkurthy S., Steiner B.,FangL., Bai J., ChintalaS. PyTorch: An Imperative Style, High-Performance Deep Learning Library // Advances in Neural Information Processing Systems. - 2019 - Vol. 32 — P. 8024-8035.

53. NVIDIA, Vingelmann P., Fitzek F. H. CUDA, release: 10.2.89. — 2020. — URL: https://developer.nvidia.com/cuda-toolkit (visited on 09/25/2025).

54. Berenger J. A perfectly matched layer for the absorption of electromagnetic waves // Journal of computational physics. — 1994. — Vol. 114, no. 2. — P. 185-200.

55. Pasalic D., McGarry R. Convolutional perfectly matched layer for isotropic and anisotropic acoustic wave equations // SEGInternational Exposition and Annual Meeting. — 2010. — Vol. 2010. - P. 2925.

56. KingmaD. P., Ba J. Adam: A Method for Stochastic Optimization // arXiv: 1412.6980 [cs.LG]. — 2017. — URL: https://arxiv.org/abs/1412.6980 (visited on 09/25/2025).

57. T. Tieleman, G. Hinton. Lecture 6.5-rmsprop: Divide the gradient by a running average of its recent magnitude // COURSERA: Neural networks for machine learning. — 2012. — Vol. 4, no. 2. — P. 26-31.

58. Duchi J., Hazan E., Singer Y. Adaptive subgradient methods for online learning and stochastic optimization // Journal of machine learning research. — 2011. — Vol. 12, no. 7. - URL: https://www.jmlr.org/papers/volume12/duchi11a/duchi11a.pdf (visited on 09/25/2025).

59. Hu W., Chen J., Liu J., Abubakar A. Retrieving low wavenumber information in FWI: An overview of the cycle-skipping phenomenon and solutions // IEEE Signal Processing Magazine. — 2018. — Vol. 35, no. 2. — P. 132-141.

60. Mari J., Mendes M., Chauris H., Yven B., Hayet M. Seismic Imaging: A Practical Approach — EDP Sciences, 2019. - 208 p.

61. Bunks C., Saleck F., Zaleski S., Chavent G. Multiscale seismic waveform inversion // Geophysics. —

1995. — Vol. 60, no. 5. — P. 1457-1473.

62. Versteeg R. The Marmousi experience: Velocity model determination on a synthetic complex data set // The Leading Edge. — 1994. — Vol. 13, no. 9. — P. 927-936.

63. Ханин А. Породы-коллекторы нефти и газа и их изучение. — Москва, Рипол Классик, 2013. — 368 с.

64. Weimer, P., Davis T. and others. Applications of 3-D seismic data to exploration and production. — Published jointly by the American Association of Petroleum Geologists and the Society of Exploration Geophysics, 1996. — 270 p.

65. Loshchilov I., Hutter F. SGDR: Stochastic Gradient Descent with Restarts // CoRR. — 2016. — URL: http://arxiv.org/abs/1608.03983 (visited on 09/25/2025).

66. Lysmer J., Kuhlemeyer R. Finite dynamic model for infinite media // Journal of the engineering mechanics division. — 1969. — Vol. 95, no. 4. — P. 859-877.

67. Fang Z., Wang R., Herrmann F. Source estimation for wavefield-reconstruction inversion // Geophysics.

— 2018. — Vol. 83, no. 4. — P. R345-R359.

68. Ho J., Jain A., Abbeel P. Denoising diffusion probabilistic models // Advances in neural information processing systems. — 2020. — Vol. 33. — P. 6840-6851.

69. Song Y., Sohl-Dickstein J.,KingmaD., Kumar A., Ermon S., Poole B. Score-Based Generative Modeling through Stochastic Differential Equations // International Conference on Learning Representations. — 2021. — URL:https://openreview.net/forum?id=PxTIG12RRHS (visited on 09/25/2025).

70. Anderson B. D. Reverse-time diffusion equation models // Stochastic Processes and their Applications.

— 1982.—Vol. 12, no. 3.—P. 313-326.

71. Hyvarinen A., Dayan P. Estimation of non-normalized statistical models by score matching // Journal of Machine Learning Research. — 2005. — Vol. 6, no. 4. — URL: https://www.jmlr.org/papers/volume6/hyvarinen05a/hyvarinen05a.pdf (visited on 09/25/2025).

72. Vincent P. A connection between score matching and denoising autoencoders // Neural computation. — 2011. — Vol. 23, no. 7. — P. 1661-1674.

73. Oksendal B. Stochastic differential equations: an introduction with applications. — Springer Science & Business Media, 2013. - 352 P.

74. Sarkka S., Solin A. Applied stochastic differential equations. Vol. 10. — Cambridge University Press, 2019. -324 P.

75. Karras T., AittalaM., AilaT., Laine S. Elucidating the design space of diffusion-based generative models // Advances in neural information processing systems. — 2022. — Vol. 35. — P. 26565-26577.

76. Efron B. Tweedie's formula and selection bias // Journal of the American Statistical Association. — 2011. — Vol. 106, no. 496. — P. 1602-1614.

77. Kim K., Ye J. Noise2score: tweedie's approach to self-supervised image denoising without clean images // Advances in Neural Information Processing Systems. — 2021. — Vol. 34. — P. 864-874.

78. Dhariwal P., Nichol A. Diffusion Models Beat GANs on Image Synthesis // CoRR. — 2021. — URL: https://arxiv.org/abs/2105.05233 (visited on 09/25/2025).

79. Alfonzo M., Oliver D. S. Seismic data assimilation with an imperfect model // Computational Geosciences. — 2020. — Vol. 24, no. 2. — P. 889-905.

80. Stuart G., Minkoff S., Pereira F. A two-stage Markov chain Monte Carlo method for seismic inversion and uncertainty quantification // Geophysics. — 2019. — Vol. 84, no. 6. — P. R1003-R1020.

81. Martin J., Wilcox L., Burstedde C., Ghattas O. A stochastic Newton MCMC method for large-scale statistical inverse problems with application to seismic inversion // SIAM Journal on Scientific Computing. — 2012. — Vol. 34, no. 3. — P. A1460-A1487.

82. Liu L., Ren Y., Lin Z., Zhao Z. Pseudo Numerical Methods for Diffusion Models on Manifolds // International Conference on Learning Representations. — 2022. — URL: https://openreview.net/forum?id=PlKWVd2yBkY (visited on 09/25/2025).

83. Nichol A., Dhariwal P. Improved Denoising Diffusion Probabilistic Models // CoRR. — 2021. — URL: https://arxiv.org/abs/2102.09672 (visited on 09/25/2025).

84. Chung H., Sim B., Ryu D., Ye J. Improving diffusion models for inverse problems using manifold constraints // Advances in Neural Information Processing Systems. — 2022. — Vol. 35. — P. 25683-25696.

85. Haldorsen J., Miller D., Walsh J. Walk-away VSP using drill noise as a source // Geophysics. — 1995. — Vol. 60, no. 4. — P. 978-997.

86. Nalonnil A., Marion B. High-resolution reservoir monitoring using crosswell seismic // SPE Reservoir Evaluation & Engineering. — 2012. — Vol. 15, no. 01. — P. 25-30.

87. Doob J. L., Doob J. Classical potential theory and its probabilistic counterpart. Vol. 262. — Springer,

1984. - 846 p.

88. Rogers L., Williams D. Diffusions, Markov processes, and martingales: Itô calculus. Vol. 2. — Cambridge university press, 2000. - 480 p.

89. Léonard C. A survey of the schrodinger problem and some of its connections with optimal transport // Discrete and Continuous Dynamical Systems. — 2014. — Vol. 34, no. 4. — P. 1533-1574.

90. Shi Y., De Bortoli V., Deligiannidis G., Doucet A. Conditional simulation using diffusion Schrodinger bridges // Uncertainty in Artificial Intelligence. — PMLR. 2022. — P. 1792-1802.

91. De Bortoli V., Thornton J., Heng J., Doucet A. Diffusion schrodinger bridge with applications to score-based generative modeling // Advances in Neural Information Processing Systems. — 2021. — Vol. 34. — P. 17695-17709.

92. Dai Pra P. A stochastic control approach to reciprocal diffusion processes // Applied mathematics and Optimization. — 1991. — Vol. 23, no. 1. — P. 313-329.

93. Nelson E. Dynamical theories of Brownian motion. Vol. 101. — Princeton university press, 2020. - 148 p.

94. Song J., Meng C., Ermon S. Denoising Diffusion Implicit Models // International Conference on Learning Representations. — 2021. — URL: https://openreview.net/forum?id=St1giarCHLP (visited on 09/25/2025).

95. BarrattS., SharmaR. A Note on the Inception Score//arXiv: 1801.01973 [stat.ML]. — 2018. — URL: https://arxiv.org/abs/1801.01973 (visited on 09/25/2025).

96. Blau Y., Michaeli T. The perception-distortion tradeoff // Proceedings of the IEEE conference on computer vision and pattern recognition. — 2018. — P. 6228-6237.

97. Brock A., Donahue J., Simonyan K. Large Scale GAN Training for High Fidelity Natural Image Synthesis // International Conference on Learning Representations. — 2019. — URL:https://openreview.net/forum?id=B1xsqj09Fm (visited on 09/25/2025).

98. Byrd R., Lu P., Nocedal J., Zhu C. A limited memory algorithm for bound constrained optimization // SIAM Journal on scientific computing. — 1995. — Vol. 16, no. 5. — P. 1190-1208.

99. Chen T., Liu G., Theodorou E. Likelihood Training of Schrodinger Bridge using Forward-Backward SDEs Theory // International Conference on Learning Representations. — 2022. — URL: https://openreview.net/forum?id=nioAdKCEdXB (visited on 09/25/2025).

100. Chew W., Weedon W. A 3D perfectly matched medium from modified Maxwell's equations with stretched coordinates // Microwave and optical technology letters. — 1994. — Vol. 7, no. 13. — P. 599-604.

101. Delbracio M., Milanfar P. Inversion by Direct Iteration: An Alternative to Denoising Diffusion for Image Restoration // Trans. Mach. Learn. Res. — 2023. — Vol. 2023. — URL: https://openreview.net/forum?id=VmyFF5lL3F (visited on 09/25/2025).

102. Gao X., Sitharam M., Roitberg A. Bounds on the Jensen Gap, and Implications for Mean-Concentrated Distributions // arXiv: 1712.05267 [math.PR]. — 2020. — URL: https://arxiv.org/abs/1712.05267 (visited on 09/25/2025).

103. Heusel M., RamsauerH., Unterthiner T., Nessler B., Hochreiter S. GANs Trained by a Two Time-Scale Update Rule Converge to a Local Nash Equilibrium // Advances in neural information processing systems. — 2017. — Vol. 30. — URL: https://arxiv.org/abs/1706.08500 (visited on 09/25/2025).

104. Higham N. J. Computing a nearest symmetric positive semidefinite matrix // Linear algebra and its applications. — 1988. — Vol. 103. — P. 103-118.

105. Ho J., Salimans T. Classifier-Free Diffusion Guidance //NeurIPS 2021 Workshop on Deep Generative Models and Downstream Applications. — 2021. —URL: https://openreview.net/forum?id=qw8AKxfYbI (visited on 09/25/2025).

106. Hormander L. Hypoelliptic second order differential equations // Acta Mathematica. — 1967. — Vol. 119, no. 1. — P. 147-171.

107. Jamison B. Reciprocal processes // Zeitschrift fur Wahrscheinlichkeitstheorie und Verwandte Gebiete. — 1974. — Vol. 30, no. 1. — P. 65-86.

108. Zhang Q., Chen Y. Path Integral Sampler: A Stochastic Control Approach For Sampling // International Conference on Learning Representations. — 2022. — URL: https://openreview.net/forum?id=_uCb2ynRu7Y (visited on 09/25/2025).

109. Jin P., Feng Y. , Feng S. , WangH., Chen Y., ConsolvoB., LiuZ . ,Lin Y. An empirical study of large-scale data-driven full waveform inversion // Scientific Reports . — 2024. — Vol . 14, no . 1. — P. 20034.

110. Szegedy C., Vanhoucke V., Ioffe S., Shlens J., Wojna Z. Rethinking the inception architecture for computer vision // Proceedings of the IEEE conference on computer vision and pattern recognition. — 2016. — P. 2818-2826.

111. Lv J., Zhu J., Yang G. Which GAN? A comparative study of generative adversarial network-based fast MRI reconstruction // Philosophical Transactions of the Royal Society A. — 2021. — Vol. 379, no. 2200. — P. 20200203.

112. Buzuti L., Thomaz C. Frechet AutoEncoder distance: a new approach for evaluation of generative adversarial networks // Computer Vision and Image Understanding. — 2023. — Vol. 235. — P. 103768.