Исследование способов повышения устойчивости алгоритмов обработки многомерных сигналов в системах беспроводной связи с ограниченной точностью вычислений тема диссертации и автореферата по ВАК РФ 00.00.00, кандидат наук Чжан Чжибинь

• Чжан Чжибинь
• кандидат наук
• 2026

Оглавление диссертации кандидат наук Чжан Чжибинь

Введение

Глава 1. Математические основы и постановка задачи

1.1 Математическая модель системы связи MIMO-OFDM

1.2 Теоретические основы линейных эквалайзеров

1.2.1 Эквалайзер Zero Forcing

1.2.2 Эквалайзер MMSE

1.2.3 Эквалайзер IRC

1.3 Реализация линейных эквалайзеров

1.4 Постановка задач исследования и обзор методов

Глава 2. Регуляризованное разложение Холецкого при ограниченной

точности

2.1 Постановка задачи устойчивого вычисления разложения Холецкого

2.2 Влияние ограниченной разрядности на разложение Холецкого

2.2.1 Модель машинной арифметики и накопление погрешностей

2.2.2 Анализ ошибок разложения Холецкого

2.3 Теоретические условия выполнимости и выбор параметра регуляризации

2.3.1 Анализ условий выполнимости и подходов к стабилизации разложения Холецкого

2.3.2 Выбор параметра регуляризации

2.4 Численные эксперименты

2.4.1 Модель матриц и постановка экспериментов

2.4.2 Оценка относительной обратной погрешности

2.4.3 Верификация оценки, зависящей от диагональных элементов

2.4.4 Влияние диагональной регуляризации

2.4.5 Изменение числа обусловленности при регуляризации

2.4.6 Решение линейных систем

2.5 Заключение

Стр.

Глава 3. Оптимизация оценки ковариационной матрицы помех и шума

3.1 Постановка задачи и обзор литературы

3.1.1 Получение выборок помех на пилотных поднесущих и модель наблюдений

3.1.2 Режим ограниченного числа отсчётов

3.1.3 Классификация методов регуляризации и критерий оптимальности по матрице точности

3.2 Оптимизация матрицы точности для эквалайзера IRC

3.2.1 Матрица точности в эквалайзере IRC

3.2.2 Спектральная интерпретация ошибок

3.2.3 Следствия для выбора у

3.3 Фактор регуляризации на основе теории случайных матриц

3.3.1 Спектр SCM и закон Марченко-Пастура

3.3.2 Низкоранговая интерференция и модель с пиковыми собственными значениями

3.3.3 Вывод Yopt из критерия по матрице точности

3.4 Сравнение с традиционными методами линейной регуляризации

Глава 4. Моделирование системы связи и численные эксперименты

4.1 Сценарий моделирования и параметры экспериментов

4.1.1 Нумерология OFDM и ресурсная сетка

4.1.2 Конфигурация DMRS и формирование выборки помех

4.1.3 Модель канала и интерференции

4.2 Результаты численных экспериментов

4.2.1 Эффективность регуляризации в режиме дефицита

выборки (с ^ 1)

4.2.2 Эффективность регуляризации в режиме полной выборки

(с < 1)

4.2.3 Устойчивость разложения Холецкого в FP32

4.2.4 Устойчивость разложения Холецкого в FP16

4.2.5 Итоговая производительность: совместное применение методов

4.3 Выводы по главе

Стр.

Заключение

Список сокращений и условных обозначений

Список литературы

Список рисунков

Список таблиц

Приложение А. Вычисление линейных эквалайзеров

А.1 Эквалайзер ZF

А.2 Эквалайзер MMSE

А.3 Эквалайзер IRC

А.4 Разложение Холецкого

Приложение Б. Акт о практическом использовании

Введение диссертации (часть автореферата) на тему «Исследование способов повышения устойчивости алгоритмов обработки многомерных сигналов в системах беспроводной связи с ограниченной точностью вычислений»

Введение

Современные и перспективные системы беспроводной связи, эволюция которых определяется комплексным повышением спектральной эффективности, надежности и энергопотребления в условиях жестких ограничений по задержкам и вычислительным ресурсам, составляют фундаментальную основу современной телекоммуникационной инфраструктуры. Ключевым подходом к удовлетворению растущих требований в сетях 5G/6G является использование многопользовательских конфигураций с большим количеством антенных элементов на базовой станции и ортогонального частотного мультиплексирования, позволяющих максимально задействовать пространственно-временные характеристики радиоканала и эффективно подавлять межпользовательскую интерференцию.

Тем не менее у такого подхода есть и обратная сторона: увеличение размерности принимаемых сигналов неизбежно приводит к усложнению матричных вычислений. На практике линейные эквалайзеры, сохраняющие популярность благодаря оптимальному соотношению производительности и вычислительных затрат (David Rse, Gerard J. Foschini), требуют выполнения таких операций, как разложение матриц, решение систем линейных уравнений и обращение ковариационных матриц. В сценариях с повышенным уровнем интерференции нагрузка на восходящую линию связи существенно возрастает. В этих условиях ключевым элементом приёма становится эквалайзер IRC, поскольку подавление помех в нём опирается на оценку ковариационной матрицы помех и шума Ruu и использование её обратной R"U . Практика показывает, что погрешности при восстановлении Ruu , а также численная неустойчивость при вычислении R"U , напрямую отражаются на итоговых характеристиках приёма.

С увеличением размерности систем всё более заметным становится переход к реализациям, ориентированным на аппаратные ограничения. В частности, широко применяются вычисления в форматах пониженной точности, что связано не столько с алгоритмическими соображениями, сколько с ограничениями по энергопотреблению и пропускной способности аппаратных платформ. Для таких вычислительных форматов характерно более сильное накопление ошибок округления, что повышает риск численной неустойчивости

даже для корректных в точной арифметике алгоритмов. В частности, разложение Холецкого, являющееся базовым инструментом для разложения положительно определённых матриц (Nicholas J. Higham), в условиях высокой обусловленности и конечной точности может завершаться сбоем из-за появления неположительных главных миноров, что нарушает вычисление весов эквалайзера и, как следствие, приводит к деградации качества приёма.

Ещё одним фундаментальным ограничением является дефицит пилотных измерений. В системах 5G число измерений на пилотных ресурсных элементах ограничено ресурсной сеткой и требованиями к эффективности, поэтому оценивание Ruu осуществляется по конечной и нередко малой выборке. Введём безразмерный параметр

Nrx

с = -,

n

где Nrx — размерность пространства приёма (число приёмных антенн), а n — объём выборки, доступной для оценивания ковариации по пилотным ресурсным элементам. В режимах с > 1 выборочная ковариационная матрица становится вырожденной, а при с ^ 1 остаётся формально невырожденной, но может быть плохо обусловленной, вследствие чего обращение Ruu приобретает высокую чувствительность к нижней части спектра. Тем самым в практических сценариях деградация характеристик системы определяется совокупным влиянием двух факторов, а именно статистической неустойчивости, связанной с ограниченным числом наблюдений, и вычислительной неустойчивости, обусловленной конечной точностью матричных операций.

Указанные обстоятельства определяют актуальность разработки методов, обеспечивающих устойчивое и аппаратно-эффективное вычисление матричных преобразований, необходимых для линейных эквалайзеров в системах MIMO-OFDM, и, в особенности, методов, согласованных со структурой эквалайзера IRC.

Проблема устойчивого вычисления матричных операций и надёжного оценивания ковариационных матриц рассматривалась в отечественной и зарубежной литературе в нескольких направлениях.

Во-первых, известны подходы к повышению устойчивости разложения Холецкого, основанные на модификации процесса разложения (модифицированное разложение Холецкого), введении минимальных диагональных поправок и контроле положительной определённости

промежуточных матриц. Подобные методы обладают теоретическими гарантиями, однако часто предполагают ветвления и адаптивные процедуры, что усложняет аппаратную реализацию и может приводить к излишне консервативным параметрам стабилизации.

Во-вторых, для оценивания ковариационных матриц по ограниченной выборке широко применяются shrinkage-методы (Olivier Ledoit, Michael Wolf), в которых выборочная матрица комбинируется с простой структурной аппроксимацией (например, со скалярной матрицей). Существуют классические формулы выбора параметра shrinkage (в том числе LW, RBLW, OAS и их обобщения), хорошо работающие в широком спектре задач статистического оценивания. Однако в задачах эквалайзера IRC ковариационная матрица используется преимущественно через обращение, поэтому оптимальность по ошибке ковариации не гарантирует оптимальности по ошибке матрицы точности, которая непосредственно определяет формирование весов эквалайзера и качество подавления интерференции.

В-третьих, в условиях высокой размерности развитие получили методы теории случайных матриц (Леонид Пастур, Владимир Марченко), позволяющие анализировать спектральные свойства выборочных ковариационных матриц, а также учитывать низкоранговую структуру интерференции (модели с пиковыми собственными значениями). Тем не менее, переход от асимптотических результатов к практическим и вычислительно простым правилам выбора параметров регуляризации, ориентированных на матрицу точности, по-прежнему остаётся нетривиальной задачей.

Кроме того, в большинстве работ вопросы статистической устойчивости оценивания Ruu и вычислительной устойчивости разложения и обращения анализируются раздельно, тогда как в практическом эквалайзере они проявляются совместно и способны взаимно усиливать негативные эффекты. Так, на устранение данного методического разрыва направлено проведённое в настоящей диссертации исследование.

Целью данной работы является разработка и обоснование методов повышения численной устойчивости матричных вычислений в приёмных алгоритмах MIMO-OFDM систем в условиях ограниченной разрядности арифметики и дефицита пилотных измерений, ориентированных на практическую реализацию эквалайзера IRC, в котором качество приёма определяется надёжностью оценивания ковариационной матрицы помех и шума

Ruu и устойчивостью вычисления связанных матричных преобразований, включая разложение Холецкого.

Для достижения поставленной цели необходимо было решить следующие задачи:

1. Построить вычислительную схему линейного приёма для MIMO-OFDM и выделить матричные операции, наиболее чувствительные к ошибкам конечной точности.

2. Проанализировать механизмы сбоев и деградации разложения Холецко-го в арифметиках ограниченной точности при высокой обусловленности матриц.

3. Разработать метод выбора стабилизирующего диагонального возмущения для разложения Холецкого, обеспечивающий высокую вероятность успешного разложения при минимальном вмешательстве в спектральные свойства матрицы, а также предложить аппаратно-эффективную форму параметра стабилизации.

4. Сформулировать постановку задачи регуляризации, ориентированную на качество матрицы точности R~U", и вывести практическое правило выбора параметра регуляризации в режимах с ^ 1 и с ^ 1.

5. Учесть возможность низкоранговой структуры интерференции и исследовать влияние спектральных эффектов на ошибку матрицы точности.

6. Выполнить численные эксперименты в рамках имитационного моделирования на канальном уровне для восходящей линии связи 5G с реалистической генерацией радиоканала и помех.

7. Провести сравнение предложенных методов с классическими методами регуляризации и количественно оценить влияние точности вычислений (FP32/FP16) на вероятность блочной ошибки.

8. Исследовать совместное применение регуляризации Ruu и стабилизации Холецкого и оценить возможность практической реализации в пониженной точности без существенной потери качества приёма.

Объектом исследования являются алгоритмы линейного приёма в многопользовательских системах MIMO-OFDM восходящей линии связи, включая эквалайзер IRC и связанные с ним процедуры оценивания статистики помех.

Предмет исследования являются методы регуляризации ковариационной матрицы помех и шума Ruu по ограниченной выборке, а также методы

обеспечения вычислительной устойчивости разложения Холецкого и связанных матричных операций в арифметиках ограниченной точности.

Методология и методы исследования. В диссертации применены методы численной линейной алгебры, направленные на оценку влияния округления и накопления ошибок, а также на анализ вычислительной устойчивости матричных разложений. Для обработки выборочных данных и построения оценок на основе ограниченного числа наблюдений использованы методы математической статистики, прежде всего методы оценивания ковариационных матриц по конечной выборке. Теоретическая интерпретация эффектов высокой размерности опирается на элементы теории случайных матриц и анализ спектральных свойств выборочных ковариационных матриц. Практическая верификация полученных выводов выполнена с использованием имитационного моделирования канального уровня системы связи 5G, включающего формирование сигналов восходящей линии, оценивание канала и ковариационной матрицы помех и шума, вычисление коэффициентов линейной эквализации и последующее декодирование с расчётом вероятности блочной ошибки. Для генерации достоверных реализаций радиоканала и интерференционной обстановки использована библиотека QuaDRiGa, в которой заданы параметры сценария городской макросоты и соответствующие статистические характеристики распространения.

Научная новизна работы состоит в следующем:

1. Предложен вероятностно обоснованный метод выбора стабилизирующего диагонального возмущения для разложения Холецкого в арифметике ограниченной точности, позволяющий обеспечить устойчивое выполнение разложения при меньшем параметре стабилизации по сравнению с детерминированными (консервативными) оценками.

2. Сформулирован и реализован критерий выбора параметра регуляризации ковариационной матрицы помех и шума, ориентированный на качество матрицы точности И"1.

3. Получены практические правила выбора параметра регуляризации в режимах с ^ 1 и с ^ 1, учитывающие спектральные эффекты ограниченной выборки и возможность низкоранговой структуры интерференции.

4. Показана практическая совместимость предложенных методов регуляризации Ruu и стабилизации разложения Холецкого в едином тракте приёма, в том числе в условиях пониженной точности FP32.

Практическая значимость результатов заключается в том, что предложенные методы:

- обеспечивают надёжное вычисление матрицы проекции подавления помех и весов эквалайзера IRC при реализации в пониженной точности (FP32), снижая риск сбоев разложения;

- повышают помехоустойчивость приёма за счёт корректной регуляризации Ruu в режимах дефицита пилотных измерений;

- допускают аппаратно-эффективную реализацию и могут быть использованы при проектировании приёмных трактов для системы MIMO высокой размерности.

Основные положения, выносимые на защиту:

1. Предложен метод вероятностного выбора стабилизирующего диагонального возмущения для разложения Холецкого в арифметике ограниченной точности, обеспечивающий заданную надёжность разложения при минимальном искажении исходной матрицы.

2. Обоснована аппаратно-эффективная форма представления стабилизирующего диагонального возмущения в виде степени двойки, что позволяет заменить операции умножения битовыми сдвигами и снизить вычислительную сложность.

3. Метод выбора параметра регуляризации ковариационной матрицы помех и шума Ruu, ориентированный на качество матрицы точности и применимый в режимах c ^ 1 и c ^ 1.

4. Получены результаты спектрального анализа, объясняющие повышенную чувствительность ошибки матрицы точности к нижней части спектра выборочной ковариационной матрицы при ограниченном числе наблюдений, в том числе при наличии низкоранговой интерференции.

5. Выведено аналитическое выражение для коэффициента регуляризации, основанное на высокоразмерном анализе и не требующее априорной параметризации распределений помех, а также допускающее вычисление с минимальными накладными расходами.

6. Проведено имитационное моделирование канального уровня системы связи 5G, подтверждающее улучшение показателей вероятности блочной ошибки, а также возможность реализации в FP32 с характеристиками, близкими к FP64, при совместном применении регуляризации Иии и регуляризованного разложения Холецкого.

Достоверность результатов обеспечивается корректностью исходных математических моделей и применяемого аппарата, согласованностью полученных выводов с известными свойствами матричных разложений и ковариационных оценок высокой размерности, а также подтверждением теоретических положений численными экспериментами, выполненными в рамках имитационного моделирования канального уровня системы связи 5G с реалистичной генерацией радиоканала и интерференции и сопоставлением с общепринятыми базовыми методами.

Апробация работы. Основные результаты диссертационной работы были представлены на следующих научных мероприятиях: на конференции «Ломоносовские чтения» (секция «Вычислительная математика и кибернетика»), на XIV Всероссийском совещании по проблемам управления, а также на XV Международной молодёжной научной школе-конференции «Теория и численные методы решения обратных и некорректных задач», посвящённой 85-летию академика РАН В. Г. Романова.

Личный вклад. Все основные результаты, изложенные в диссертации, получены автором лично.

Публикации. Основные результаты по теме диссертации опубликованы в шести печатных изданиях, три из которых журналы, рекомендованные ВАК и входящие в «белый список» (категория К1); одна работа опубликована в издании, индексируемом в Российском индексе научного цитирования, и две — в тезисах докладов.

Объем и структура работы. Диссертация состоит из введения, четырёх глав заключения и одного приложения. Полный объём диссертации составляет 123 страницы, включая 21 рисунок и 4 таблицы. Список литературы содержит 109 наименований.

В первой главе рассмотрены модель MIMO-OFDM и основные линейные эквалайзеры, а также сформулированы проблемы практической реализации в условиях конечной точности и дефицита выборки. Во второй главе исследуются вопросы вычислительной устойчивости разложения Холецкого и предлагается

метод выбора стабилизирующего диагонального возмущения. В третьей главе рассматривается задача оценивания ковариационной матрицы помех и шума Иии по ограниченной выборке и предлагается метод выбора параметра регуляризации, ориентированный на матрицу точности. В четвёртой главе приводятся результаты в рамках имитационного моделирования на канальном уровне для восходящей линии связи 5G, подтверждающие эффективность предложенных методов как по отдельности, так и при совместном применении.

Глава 1. Математические основы и постановка задачи

Глобальные системы мобильной связи находятся на этапе ключевого перехода от пятого поколения (5G) к шестому поколению (6G) [1—3]. Данная эволюция не сводится к формальной смене технологических стандартов, а отражает более глубокую трансформацию парадигмы проектирования физического уровня беспроводных систем [4—7].

С позиций теории информации, в соответствии с теоремой Шеннона-Хартли (Shannon-Hartley Theorem) [8; 9], при идеальных условиях пропускная способность канала C определяется полосой пропускания системы B и отношением сигнала к шуму S/N и описывается выражением

C = Blog2(1 + S/N) (1.1)

При ограниченной мощности передатчика расширение используемой полосы частот является наиболее прямым способом увеличения пропускной способности. Однако по мере истощения ресурсов низкочастотного спектра (Sub-6 GHz) данный подход перестаёт быть достаточным для поддержания устойчивого роста объёмов мобильного трафика и постепенно приближается к своим физическим и регуляторным ограничениям [10].

В этих условиях ключевым направлением преодоления ёмкостных ограничений становится более глубокое использование пространственного измерения. Именно в этом контексте получила развитие технология систем множественного ввода и вывода (Multiple-Input Multiple-Output, MIMO) [9; 11—13]. В системах пятого поколения технология системы MIMO высокой размерности достигла стадии практической зрелости и получила широкое коммерческое распространение. Использование десятков и сотен антенных элементов на стороне базовой станции позволило существенно повысить спектральную эффективность [14; 15]. Одновременно с формированием концепции 6G к сетям предъявляются новые требования, при этом наряду с поддержкой сервисов расширенного мобильного широкополосного доступа (Enhanced Mobile Broadband, eMBB) необходимо обеспечить функционирование приложений иммерсивной голографической связи, цифровых двойников и интеллектуального зондирования, характеризующихся сверхвысокими

скоростями передачи данных, сверхмалыми задержками и крайне высокой плотностью подключений [16; 17].

В настоящее время MIMO системы с крупными антенными конфигурациями широко применяются в коммерческих сетях 5G. Типичная базовая станция оснащается 64 антенными элементами, тогда как пользовательские терминалы постепенно эволюционируют от одноантенных решений к многоантенным архитектурам и, как правило, используют 4-8 антенн для реализации приёма по схеме 4*4 MIMO в нисходящей линии связи [18]. При существующих условиях эксплуатации такие конфигурации обеспечивают пользовательские скорости на уровне сотен мегабит в секунду. Вместе с тем требования, формируемые в рамках развития систем 6G, предполагают значительный рост средней пропускной способности соты, вследствие чего текущие масштабы антенных решеток начинают ограничивать дальнейшее повышение производительности.

Переход к сверхбольшим антенным решеткам обладает огромным потенциалом повышения характеристик системы, однако сопровождается рядом серьёзных инженерных и алгоритмических трудностей [19]:

- в линейных приёмных структурах процедуры оценки канала и вычисления приёмных весов основаны на операциях с высокоразмерными матрицами, вычислительная сложность которых возрастает кубически с увеличением числа антенн - в условиях сверхбольших MIMO-систем это приводит к чрезмерной вычислительной нагрузке при работе в реальном времени; [20; 21]

- кроме того, при увеличении размерности антенных решеток частотно-временные ресурсы, доступные для оценки канала, не могут масштабироваться пропорционально, что приводит к существенным погрешностям выборочных ковариационных матриц при ограниченном числе наблюдений, вплоть до их численной вырожденности, и, как следствие, к деградации характеристик приёмника. [22]

В практических системах беспроводной связи использование вычислений с пониженной разрядностью при выполнении высокоразмерных матричных операций рассматривается как один из эффективных путей снижения энергопотребления и аппаратной сложности реализации [23; 24]. Для типичных линейных приёмников наибольшая вычислительная нагрузка связана с операциями разложения и обращения ковариационной матрицы шума и

межпользовательских помех [25]. Вместе с тем такие матрицы, как правило, обладают высоким числом обусловленности, вследствие чего в классических реализациях для обеспечения численной устойчивости требуется применение арифметики повышенной точности [26]. В условиях сверхбольших антенных систем данный подход приводит к существенному росту вычислительных затрат и энергопотребления.

Дополнительным осложняющим фактором является то, что ковариационная матрица шума и помех в реальных системах оценивается по конечному числу наблюдений. Когда объём выборки оказывается сопоставимым с размерностью матрицы, погрешности оценки существенно усиливаются [27]. В среде вычислений с ограниченной разрядностью данный эффект проявляется особенно выраженно, оказывая негативное влияние как на характеристики линейных приёмников, так и на устойчивость используемых алгоритмов обработки сигналов.

Исходя из вышесказанного, в центре внимания данной диссертационной работы — исследование методов высокоточного разложения ковариационной матрицы помех и шума в условиях вычислительных ограничений. К числу приоритетных направлений относится использование регуляризационных методов [28; 29], позволяющих повысить численную устойчивость процедур оценивания и разложения ковариационных матриц. Их применение также обеспечивает сохранение работоспособности линейных приёмников в условиях ограниченной разрядности вычислений.

Первая глава организована следующим образом. В разделе 1.1 последовательно излагается модель MIMO-OFDM и связанный с ней математический аппарат. Раздел 1.2 посвящён анализу базовых структур линейных приёмников и их эксплуатационных характеристик; при этом отдельно рассматривается роль ковариационных матриц шума и помех в процедурах приёма сигналов. В разделе 1.3 исследуются вычислительные и численные аспекты практической реализации линейных эквалайзеров, включая устойчивость матричных операций и чувствительность к ошибкам, обусловленным ограниченной разрядностью вычислений. В завершение, в разделе 1.4 представлен обзор существующих подходов к решению указанных задач и обсуждаются их ограничения с точки зрения практического применения в современных и перспективных системах беспроводной связи.

1.1 Математическая модель системы связи MIMO-OFDM

В рамках настоящей работы рассматривается модель восходящей линии связи MIMO-OFDM, соответствующая архитектуре современных многопользовательских беспроводных систем [30]. Предполагается, что система включает одну базовую станцию, оснащённую Nrx приёмными антеннами, и Ntx абонентских терминалов, каждый из которых использует одну передающую антенну. Рабочая полоса частот разбивается на Nsc ортогональных поднесущих, что соответствует классической реализации мультиплексирования с ортогональным частотным разделением каналов (Orthogonal Frequency-Division Multiplexing, OFDM) [31—34].

В рамках одной поднесущей процесс приёма сигнала может быть описан линейной векторно-матричной моделью [35]:

где y Е CNrx обозначает вектор комплексных отсчётов принятого сигнала на стороне базовой станции, H Е CNrxXNtx — матрица коэффициентов MIMO канала для рассматриваемой поднесущей, x Е CNtx — вектор передаваемых пользователями информационных символов, а u Е CNrx — вектор, включающий АБГШ (Аддитивный Белый Гауссов Шум) с нулевым средним значением и дисперсией аП и интерференционные сигналы от нецелевых пользователей. Далее, для удобства изложения предполагается нормировка E{xxH} = I.

В зависимости от условий распространения и спектральной обстановки вектор u может моделировать как чисто шумовой фон, так и совокупное воздействие шума и коррелированных помех. Эти режимы принципиально различаются с точки зрения задач приёма и требуют применения различных алгоритмических подходов.

В простейшем, идеализированном случае предполагается отсутствие внешних интерференционных сигналов, и вектор u сводится к аддитивному белому гауссову шуму. Такая модель широко используется на ранних этапах анализа и позволяет получить базовые оценки предельных характеристик приёмных алгоритмов. В этом случае выражение (1.2) принимает вид

y = Hx + u,

(1.2)

y = Hx + z,

(1.3)

где z е CNrx — вектор АБГШ с нулевым математическим ожиданием и дисперсией о^.

При отсутствии интерференции основная задача приёмника заключается в компенсации искажений, вносимых каналом, и в подавлении шума с целью минимизации ошибки восстановления передаваемых символов. При априорном знании матрицы канала H и статистических характеристик шума оптимизация обработки сигнала сводится к максимизации выходного отношения сигнал/шум, что напрямую связано со снижением вероятности ошибочного декодирования.

Несмотря на упрощённый характер, данная модель является фундаментальной для построения и анализа классических линейных эквалайзеров [36; 37], включая эквалайзер с нулевым принуждением (Zero Forcing, ZF) и эквалайзер минимальной среднеквадратической ошибки (Minimum Mean Squared Error, MMSE), которые служат базисом для более сложных приёмных схем, применяемых в практических системах.

В более общем и реалистичном сценарии в принимаемом сигнале присутствуют интерференционные составляющие, обусловленные многопользовательской передачей, межсотовыми помехами или отражёнными сигналами. В этом случае вектор u описывает сумму АБГШ и цветных, пространственно коррелированных помех, что существенно усложняет задачу приёма.

В отличие от чисто шумового режима, при наличии интерференции приёмник должен не только подавлять шум, но и эффективно фильтровать направленные помехи, которые могут обладать высокой мощностью и выраженной пространственной структурой [38]. Подобные условия характерны для систем с плотным повторным использованием спектра, типичных для современных и перспективных беспроводных сетей.

Список литературы диссертационного исследования кандидат наук Чжан Чжибинь, 2026 год

Список литературы

1. The ITU Vision and Framework for 6G: Scenarios, Capabilities, and Enablers [Текст] / R. Liu [и др.] // IEEE Vehicular Technology Magazine. — 2025. — Т. 20, № 2. — С. 114-122.

2. ITU-R. Framework and overall objectives of the future development of IMT for 2030 and beyond [Текст] : тех. отч. / ITU-R ; International Telecommunication Union. — 2023. — URL: https://www.itu.int/rec/R-REC-M.2160/en.

3. 3GPP. Study on scenarios and requirements for next generation access technologies (3GPP TR 38.913 version 14.2.0 Release 14) [Текст] : Technical Report / 3GPP ; 3rd Generation Partnership Project (3GPP). — 2017. — TR 38.913. — URL: https://www.etsi.org/deliver/etsi_tr/138900_138999/138913/ 14.02.00_60/tr_138913v140200p.pdf.

4. Samsung Research. AI-Native and Sustainable Communication: Samsung 6G Vision 2025 [Text] : tech. rep. / Samsung Research. — Seoul, 2025. — URL: https: / / cdn. codeground. org / nsr / downloads / researchareas / Samsung _ 6G _ Vision_2025.pdf (visited on 03/01/2025); White paper.

5. Saad, W. A Vision of 6G Wireless Systems: Applications, Trends, Technologies, and Open Research Problems [Текст] / W. Saad, M. Bennis, M. Chen // IEEE Network. — 2020. — Т. 34, № 3. — С. 134—142.

6. Saad, W. A vision of 6G wireless systems: Applications, trends, technologies, and open research problems [Текст] / W. Saad, M. Bennis, M. Chen // IEEE network. - 2019. - Т. 34, № 3. - С. 134-142.

7. Kaur, J. Sixth generation (6G) wireless technology: An overview, vision, challenges and use cases [Текст] / J. Kaur, M. A. Khan // 2022 IEEE region 10 symposium (TENSYMP). — IEEE. 2022. — С. 1—6.

8. Shannon, C. E. A mathematical theory of communication [Текст] / C. E. Shannon // The Bell System Technical Journal. — 1948. — Т. 27, № 3. — С. 379-423.

9. Capacity limits of MIMO channels [Текст] / A. Goldsmith [и др.] // IEEE Journal on Selected Areas in Communications. — 2003. — Т. 21, № 5. — С. 684—702.

10. Millimeter Wave Mobile Communications for 5G Cellular: It Will Work! [Текст] / T. S. Rappaport [и др.] // IEEE Access. — 2013. — Т. 1. — С. 335-349.

11. Telatar, E. Capacity of multi-antenna Gaussian channels [Текст] / E. Telatar // European transactions on telecommunications. — 1999. — Т. 10, № 6. — С. 585—595.

12. Pastore, A. Mutual information bounds for MIMO channels under imperfect receiver CSI [Текст] / A. Pastore, M. Joham // 2009 Conference Record of the Forty-Third Asilomar Conference on Signals, Systems and Computers. — IEEE. 2009. - С. 1456-1460.

13. Veeravalli, V. V. Correlated MIMO wireless channels: capacity, optimal signaling, and asymptotics [Текст] / V. V. Veeravalli, Y. Liang, A. M. Sayeed // IEEE Transactions on information theory. — 2005. — Т. 51, № 6. - С. 2058-2072.

14. Marzetta, T. L. Noncooperative cellular wireless with unlimited numbers of base station antennas [Текст] / T. L. Marzetta // IEEE transactions on wireless communications. — 2010. — Т. 9, № 11. — С. 3590—3600.

15. De Figueiredo, F. A. P. An overview of massive MIMO for 5G and 6G [Текст] / F. A. P. De Figueiredo // IEEE Latin America Transactions. — 2022. — Т. 20, № 6. — С. 931-940.

16. A speculative study on 6G [Текст] / F. Tariq [и др.] // IEEE Wireless communications. — 2020. — Т. 27, № 4. — С. 118—125.

17. Towards 6G wireless communication networks: Vision, enabling technologies, and new paradigm shifts [Текст] / X. You [и др.] // Science China information sciences. — 2021. — Т. 64, № 1. — С. 110301.

18. 5G evolution: 3GPP releases 16 & 17 overview [Текст] / J. Peisa [и др.] // Ericsson Technology Review. — 2020. — Т. 2020, № 2. — С. 2—13.

19. Massive MIMO is a reality—What is next?: Five promising research directions for antenna arrays [Текст] / E. Bjornson [и др.] // Digital Signal Processing. — 2019. — Т. 94. — С. 3-20.

20. Shafivulla, S. Low complexity signal detection for massive-MIMO systems [Текст] / S. Shafivulla, A. Patel, M. Z. A. Khan // IEEE Wireless Communications Letters. — 2020. — Т. 9, № 9. — С. 1467—1470.

21. Scaling up MIMO: Opportunities and challenges with very large arrays [Текст] / F. Rusek [и др.] // IEEE signal processing magazine. — 2012. — Т. 30, № 1. —

C. 40-60.

22. Couillet, R. Random matrix methods for wireless communications [Текст] / R. Couillet, M. Debbah. — Cambridge University Press, 2011.

23. Studer, C. ASIC implementation of soft-input soft-output MIMO detection using MMSE parallel interference cancellation [Текст] / C. Studer, S. Fateh,

D. Seethaler // IEEE Journal of Solid-State Circuits. — 2011. — Т. 46, № 7. — С. 1754-1765.

24. Massive MIMO systems with non-ideal hardware: Energy efficiency, estimation, and capacity limits [Текст] / E. Bjornson [и др.] // IEEE Transactions on information theory. — 2014. — Т. 60, № 11. — С. 7112—7139.

25. Low complexity linear detectors for massive MIMO: A comparative study [Текст] / M. A. Albreem [и др.] // IEEE Access. — 2021. — Т. 9. — С. 45740—45753.

26. Golub, G. H. Matrix computations [Текст] / G. H. Golub, C. F. Van Loan. — JHU press, 2013.

27. Ledoit, O. A well-conditioned estimator for large-dimensional covariance matrices [Текст] / O. Ledoit, M. Wolf // Journal of multivariate analysis. — 2004. — Т. 88, № 2. — С. 365-411.

28. Арсенин, В. Я. О некорректно поставленных задачах [Текст] /

B. Я. Арсенин // Успехи математических наук. — 1976. — Т. 31, 6 (192). —

C. 89-101.

29. Carlson, B. D. Covariance matrix estimation errors and diagonal loading in adaptive arrays [Текст] / B. D. Carlson // IEEE Transactions on Aerospace and Electronic systems. — 1988. — Т. 24, № 4. — С. 397—401.

30. Tse, D. Fundamentals of wireless communication [Текст] / D. Tse, P. Viswanath. — Cambridge university press, 2005.

31. Bolcskei, H. MIMO-OFDM wireless systems: basics, perspectives, and challenges [Текст] / H. Bolcskei // IEEE wireless communications. — 2006. — Т. 13, № 4. — С. 31—37.

32. Weinstein, S. Data Transmission by Frequency-Division Multiplexing Using the Discrete Fourier Transform [Текст] / S. Weinstein, P. Ebert// IEEE Transactions on Communication Technology. — 1971. — Т. 19, № 5. — С. 628—634.

33. An introduction to orthogonal frequency-division multiplexing [Текст] / O. Edfors [и др.]. — 1996.

34. Cmini, L. Analysis and Simulation of a Digital Mobile Channel Using Orthogonal Frequency Division Multiplexing [Текст] / L. Cimini // IEEE Transactions on Communications. — 1985. — Т. 33, № 7. — С. 665—675.

35. Paulraj, A. Introduction to space-time wireless communications [Текст] / A. Paulraj, R. Nabar, D. Gore. — Cambridge university press, 2003.

36. Verdu, S. Multiuser detection [Текст] / S. Verdu. — Cambridge university press, 1998.

37. Бакулин, М. Г. Технология MIMO: принципы и алгоритмы [Текст] / М. Г. Бакулин, Л. А. Варукина, В. Б. Крейнделин. — 2014.

38. Monzingo, R. A. Introduction to adaptive arrays [Текст] / R. A. Monzingo, T. W. Miller. — Scitech publishing, 2004.

39. Kay, S. M. Fundamentals of statistical signal processing: estimation theory [Текст] / S. M. Kay. — Prentice-Hall, Inc., 1993.

40. Couillet, R. Random matrix methods for machine learning [Текст] / R. Couillet, Z. Liao. — Cambridge University Press, 2022.

41. Interference modeling and performance evaluation for BS MMSE-IRC receiver in LTE-A release 13 [Текст] / S. Yang [и др.] // 2016 19th International Symposium on Wireless Personal Multimedia Communications (WPMC). — 2016. —С. 239-243.

42. New WI on performance requirements of MMSE-IRC receiver for LTE BS [Текст] : тех. отч. / C. Telecom [и др.]. — 2014. — RP—142223. — 3GPP Contribution.

43. Telecom, C. On Performance Requirements of MMSE-IRC Receiver for LTE BS [Текст] : тех. отч. / C. Telecom. —2014. —RP—141836. — 3GPP Contribution.

44. UE MMSE-IRC Receiver for Suppressing Inter-cell and Inter-user Interference in 5G NR Standardization [Текст] / J. Wu [и др.] // 2022 IEEE 8th International Conference on Computer and Communications (ICCC). — 2022. — С. 258—262.

45. Higham, N. J. Accuracy and stability of numerical algorithms [Текст] / N. J. Higham. — SIAM, 2002.

46. Scott, J. On incomplete Cholesky factorizations in half precision arithmetic [Текст] / J. Scott, M. Tuma // Numerical Algorithms. — 2024.

47. Higham, N.J.Analysis of the Cholesky decomposition of a semi-definite matrix [Текст] / N. J. Higham. — 1990.

48. Lutay, V. N.Improving the stability of triangular decomposition of ill-conditioned matrices [Текст] / V. N. Lutay // Numerical Analysis and Applications. — 2019. — Т. 12, № 4. — С. 388—394.

49. Massive MIMO for next generation wireless systems [Текст] / E. G. Larsson [и др.] // IEEE Communications Magazine. — 2014. — Т. 52, № 2. — С. 186-195.

50. Demmel, J. W. Applied numerical linear algebra [Текст] / J. W. Demmel. — SIAM, 1997.

51. Cheng, S. H. A modified Cholesky algorithm based on a symmetric indefinite factorization [Текст] / S. H. Cheng, N. J. Higham // SIAM Journal on Matrix Analysis and Applications. — 1998. — Т. 19, № 4. — С. 1097—1110.

52. McSweeney, T. Modified Cholesky decomposition and applications [Текст] : дис. ... канд. / McSweeney Thomas. — University of Manchester, 2017.

53. Fang, H.-r. Modified Cholesky algorithms: a catalog with new approaches [Текст] / H.-r. Fang, D. P. O'leary // Mathematical programming. — 2008. — Т. 115, № 2. — С. 319-349.

54. Schnabel, R. B. A revised modified Cholesky factorization algorithm [Текст] / R. B. Schnabel, E. Eskow // SIAM Journal on optimization. — 1999. — Т. 9, № 4. — С. 1135-1148.

55. LAPACK users' guide [Текст] / E. Anderson [и др.]. — SIAM, 1999.

56. Ashcraft, C. Accurate symmetric indefinite linear equation solvers [Текст] / C. Ashcraft, R. G. Grimes, J. G. Lewis // SIAM Journal on Matrix Analysis and Applications. — 1998. — Т. 20, № 2. — С. 513—561.

57. Ledoit, O. The power of (non-) linear shrinking: A review and guide to covariance matrix estimation [Текст] / O. Ledoit, M. Wolf // Journal of Financial Econometrics. — 2022. — Т. 20, № 1. — С. 187—218.

58. Kubokawa, T. Shrinkage and modification techniques in estimation of variance and the related problems: A review [Текст] / T. Kubokawa // Communications in Statistics-Theory and Methods. — 1999. — Т. 28, № 3/4. — С. 613—650.

59. Gavish, M. The Optimal Hard Threshold for Singular Values is 4/л/3 [Текст] / M. Gavish, D. L. Donoho // IEEE Transactions on Information Theory. — 2014. - Т. 60, № 8. - С. 5040-5053.

60. Liu, Y. A covariance matrix shrinkage method with Toeplitz rectified target for DOA estimation under the uniform linear array [Текст] / Y. Liu, X. Sun, S. Zhao // AEU-International Journal of Electronics and Communications. — 2017. — Т. 81. —С. 50—55.

61. On using a priori knowledge in space-time adaptive processing [Текст] / P. Stoica [и др.] // IEEE transactions on signal processing. — 2008. — Т. 56, № 6. — С. 2598-2602.

62. Higham, N. J. Cholesky factorization [Текст] / N. J. Higham // Wiley interdisciplinary reviews: computational statistics. — 2009. — Т. 1, № 2. — С. 251-254.

63. Brezinski, C. The life and work of André Cholesky [Текст] / C. Brezinski // Numerical Algorithms. — 2006. — Т. 43, № 3. — С. 279—288.

64. Wilkinson, J. H. Rounding errors in algebraic processes [Текст] / J. H. Wilkinson. — SIAM, 2023.

65. Trefethen, L. N.Numerical linear algebra [Текст] / L. N. Trefethen, D. Bau. — SIAM, 2022.

66. Parlett, B. N.The symmetric eigenvalue problem [Текст] / B. N. Parlett. — SIAM, 1998.

67. Numerical Error Analysis of MIMO Detector Based on Cholesky Factorization [Текст] / A. Osinsky [и др.] // IEEE Communications Letters. — 2025. — Т. 29, № 12. - С. 2800-2804.

68. Stochastic Estimation of MIMO Detection Error Caused by Low-Bitwidth QR Decomposition [Текст] / A. Osinsky [и др.] // IEEE Open Journal of the Communications Society. — 2025. — Т. 6. — С. 39—50.

69. Round-Off Error Analysis in mMIMO Detector Based on Cholesky Decomposition [Текст] / A. Osinsky [и др.] // IEEE Wireless Communications Letters. — 2024. — Т. 13, № 1. — С. 248—252.

70. Zhang, Z. Regularized Cholesky decomposition method for finite bit width computing [Текст] / Z. Zhang, V. Lyashev // Сибирские электронные математические известия. — 2024. — Т. 21, № 2. — С. 70—81. — URL: http://mi.mathnet.ru/semr1767.

71. Zhang, Z. Regularized Cholesky Decomposition Method for Low Bit-Width Computing [Текст] / Z. Zhang // XV международная молодежная научная школа-конференция «Теория и численные методы решения обратных и некорректных задач» посвященная 85-летию академика РАН В.Г. Романова. — Новосибирск, Академгородок, 2023. — С. 11—12.

72. Чжан, Ч. Вычислительная устойчивость разложения Холецкого в арифметиках различной точности [Текст] / Ч. Чжан, В. А. Ляшев // Ломоносовские чтения - 2024: Тезисы докладов научной конференции. — Москва : ООО "МАКС Пресс", 2024. — С. 164—165.

73. Performance evaluation of the shifted Cholesky QR algorithm for ill-conditioned matrices [Текст] / T. Fukaya [и др.] // sc18. supercomputing. org. IEEE Computer Society. — 2018.

74. Shifted Cholesky QR for computing the QR factorization of ill-conditioned matrices [Текст] / T. Fukaya [и др.] // SIAM Journal on Scientific Computing. — 2020. — Т. 42, № 1. — A477—A503.

75. Kahan, W. IEEE standard 754 for binary floating-point arithmetic [Текст] / W. Kahan // Lecture Notes on the Status of IEEE. — 1996. — Т. 754, № 94720-1776. - С. 11.

76. Higham, N. J. A new approach to probabilistic rounding error analysis [Текст] / N. J. Higham, T. Mary // SIAMjournal on scientific computing. — 2019. — Т. 41, № 5. — A2815—A2835.

77. Hoeffding, W. Probability inequalities for sums of bounded random variables [Текст] / W. Hoeffding // Journal of the American statistical association. — 1963. - Т. 58, № 301. - С. 13-30.

78. Demmel, J. On floating point errors in Cholesky [Текст] / J. Demmel. — University of Tennessee. Computer Science Department, 1989.

79. Wilkinson, J. H. A priori error analysis of algebraic processes [Текст] / J. H. Wilkinson// Intern. Congress Math. Т. 19. — 1968. — С. 629—639.

80. Stathopoulos, A. A block orthogonalization procedure with constant synchronization requirements [Текст] / A. Stathopoulos, K. Wu // SIAM Journal on Scientific Computing. — 2002. — Т. 23, № 6. — С. 2165—2182.

81. Roundoff error analysis of the CholeskyQR2 algorithm [Текст] / Y. Yamamoto [и др.] // Electron. Trans. Numer. Anal. — 2015. — Т. 44, № 01. — С. 306—326.

82. CholeskyQR2: a simple and communication-avoiding algorithm for computing a tall-skinny QR factorization on a large-scale parallel system [Текст] / T. Fukaya [и др.] //2014 5th workshop on latest advances in scalable algorithms for large-scale systems. — IEEE. 2014. — С. 31—38.

83. Spectral analysis of large dimensional random matrices [Текст]. Т. 20 / Z. Bai, J. W. Silverstein [и др.]. — Springer, 2010.

84. Pastur, L. A. Eigenvalue distribution of large random matrices [Текст] / L. A. Pastur, M. Shcherbina. — American Mathematical Soc., 2011.

85. Kolesnikov, I. Fast algorithm for estimating singular values of Hermitian matrix [Текст] / I. Kolesnikov, V. Lyashev, M. Kirichenko // 2023 31st Telecommunications Forum (TELFOR). — IEEE. 2023. — С. 1—4.

86. Шахнович, И. Системы беспроводной связи 5G: телекоммуникационная парадигма, которая изменит мир [Текст] / И. Шахнович // Электроника: НТБ. — 2015. — № 7. — С. 48—55.

87. Finite-sample linear filter optimization in wireless communications and financial systems [Текст] / M. Zhang [и др.] // IEEE transactions on signal processing. — 2013. - Т. 61, № 20. - С. 5014-5025.

88. Mestre, X. Finite sample size effect on minimum variance beamformers: Optimum diagonal loading factor for large arrays [Текст] / X. Mestre, M. A. Lagunas // IEEE Transactions on Signal Processing. — 2005. — Т. 54, № 1. — С. 69-82.

89. Shrinkage algorithms for MMSE covariance estimation [Текст] / Y. Chen [и др.] // IEEE transactions on signal processing. — 2010. — Т. 58, № 10. — С. 5016-5029.

90. Fan, J. An overview of the estimation of large covariance and precision matrices [Текст] / J. Fan, Y. Liao, H. Liu // The Econometrics Journal. — 2016. — Т. 19, № 1.-С. C1—C32.

91. Zhang, M. Improved calibration of high-dimensional precision matrices [Текст] / M. Zhang, F. Rubio, D. P. Palomar // IEEE Transactions on Signal Processing. — 2012. - Т. 61, № 6. - С. 1509-1519.

92. Shrinkage estimation of large dimensional precision matrix using random matrix theory [Текст] / C. Wang [и др.] // Statistica Sinica. — 2015. — С. 993—1008.

93. An introduction to multivariate statistical analysis [Текст]. Т. 2 / T. W. Anderson [и др.]. — Wiley New York, 1958.

94. Baik, J.Eigenvalues of large sample covariance matrices of spiked population models [Текст] / J. Baik, J. W. Silverstein // Journal of multivariate analysis. — 2006. - Т. 97, № 6. - С. 1382-1408.

95. High performance interference suppression in multi-user massive MIMO detector [Текст] / A. Ivanov [и др.] // 2020 IEEE 91st Vehicular Technology Conference (VTC2020-Spring). — IEEE. 2020. — С. 1—5.

96. Bai, Z. D. A note on the largest eigenvalue of a large dimensional sample covariance matrix [Текст] / Z. D. Bai, J. W. Silverstein, Y. Q. Yin // J. Multivar. Anal. — USA, 1988. — Авг. — Т. 26, № 2. — С. 166—168. — URL: https://doi.org/10.1016/0047-259X(88)90078-4.

97. Benaych-Georges, F. The singular values and vectors of low rank perturbations of large rectangular random matrices [Текст] / F. Benaych-Georges, R. R. Nadakuditi // Journal of Multivariate Analysis. — 2012. — Т. 111. — С. 120-135.

98. Johnstone, I. M. On the distribution of the largest eigenvalue in principal components analysis [Текст] / I. M. Johnstone // The Annals of statistics. — 2001. - Т. 29, № 2. - С. 295-327.

99. Izenman, A. J.Random Matrix Theory and its applications [Текст] / A. J. Izenman // Statistical Science. — 2021. — Т. 36, № 3. — С. 421—442.

100. Asymptotic independence of spiked eigenvalues and linear spectral statistics for large sample covariance matrices [Текст] / Z. Zhang [и др.] // The Annals of Statistics. — 2022. — Т. 50, № 4. — С. 2205—2230.

101. Чжан, Ч. Метод регуляризации в задачах оптимизации линейного эквалайзера [Текст] / Ч. Чжан, В. А. Ляшев // XIV Всероссийское совещание по проблемам управления (ВСПУ-2024). Т. 17. — Москва, ИПУ РАН, 2024. — С. 20.

102. Zhang, Z. Regularized Linear MU-MIMO Equalizer and Its Robustness [Текст] / Z. Zhang, R. Potekhin, V. Lyashev // Problems of Information Transmission. — 2025. — Т. 61, № 2. — С. 95—109. — URL: https://link.springer.com/article/10. 1134/S0032946025020024.

103. Чжан, Ч. Метод регуляризации линейного эквалайзера и его устойчивость [Текст] / Ч. Чжан, Р. Н. Потехин, В. А. Ляшев // Проблемы передачи информации. — 2025. — Т. 61, № 2. — С. 17—29. — URL: https://genescells.ru/0555-2923/article/view/691885.

104. Чжан, Ч. Метод регуляризации в задачах оптимизации линейного эквалайзера [Текст] / Ч. Чжан, В. Ляшев // XIV Всероссийское совещание по проблемам управления (ВСПУ-2024). Т. 17. — Москва, ИПУ РАН, 2024. - С. 20.

105. Eldar, Y. C. A pre-test like estimator dominating the least-squares method [Текст] / Y. C. Eldar, J. S. Chernoi // Journal of Statistical Planning and Inference. — 2008. — Т. 138, № 10. — С. 3069—3085.

106. 3GPP. 5G; NR; Physical channels and modulation (3GPP TS 38.211 version 16.2.0 Release 16) [Текст] : Technical Report / 3GPP ; 3rd Generation Partnership Project. — 2020. — TR 38.211.

107. 3GPP. 5G; NR; Multiplexing and channel coding (3GPP TS 38.212 version 16.5.0 Release 16) [Текст] : тех. отч. / 3GPP ; 3rd Generation Partnership Project. — 2021.

108. 3GPP. 5G;NR; Physical layer procedures for data (3GPP TS 38.214 version 16.2.0 Release 16) [Текст] : тех. отч. / 3GPP ; 3rd Generation Partnership Project. — 2020.

109. QuaDRiGa: A 3-D multi-cell channel model with time evolution for enabling virtual field trials [Текст] / S. Jaeckel [и др.] // IEEE transactions on antennas and propagation. — 2014. — Т. 62, № 6. — С. 3242—3256.

Список рисунков

2.1 Зависимость максимальной относительной обратной погрешности разложения Холецкого от размерности матрицы n в арифметике одинарной точности. Показаны детерминированная и вероятностная теоретические оценки, а также максимальная обратная погрешность, наблюдаемая в численных экспериментах (здесь Ntest = 100 и Л = 2). . 48

2.2 Численная верификация теоремы 2: зависимость величины £d = max( \ AA\/ (ddT)) от размерности n и сравнение с детерминированной и вероятностной теоретическими оценками

(здесь Ntest = 100 и Л = 2)..........................49

2.3 Зависимость эмпирической вероятности успешного выполнения разложения Холецкого от числа обусловленности матрицы: случай без диагонального возмущения и случай с диагональной регуляризацией (Здесь Ntest = 1000, n = 128 и Л = 2)...........50

2.4 Влияние диагонального возмущения на число обусловленности матрицы: зависимость cond(A + 6I) от исходного числа обусловленности cond(A) при различных значениях параметра 6. ... 52

2.5 Сравнение значений невязки (Здесь Ntest = 100, Л = 2, размерность A равна 64).................................... 54

3.1 Ресурсная решётка OFDM: расположение пилотных RE (выделены серым) и схема формирования выборок помех ui с последующим построением SCM Ruu............................60

3.2 Структурная схема алгоритма приёма сигналов и расчёта весовых коэффициентов эквалайзера IRC с выделенным блоком предложенного метода регуляризации....................61

3.3 Сравнение влияния малого возмущения А = 0.005 на ошибку оценки ковариационной матрицы (а) и матрицы точности (б). Показан случай, когда одно из собственных значений £ стремится к нулю, ошибка матрицы точности растет взрывообразно как 1/£2........65

3.4 Абсолютные ошибки оценивания собственных значений: (а) — для ковариационной матрицы, Л^ — Л^; (б) — для матрицы точности после обращения, 1/Л — 1/Л^. Видно, что после обращения наибольшие ошибки связаны с нижней частью спектра, то есть с шумовым подпространством...............................68

3.5 Распределение собственных значений ковариационной матрицы для различных значений параметра с = Ы/Т: сплошные линии соответствуют теоретическому распределению Марченко — Пастура, гистограммы — результатам численного моделирования........72

3.6 Гистограмма распределения собственных значений матрицы Иии. Четвёртое собственное значение располагается вблизи правой границы распределения Марченко-Пастура (а2 = 1, Ыг = 1024,

с = N /Ы8С = 4)................................75

3.7 Гистограмма распределения собственных значений матрицы Иии. Четвёртое собственное значение сходится к правой границе распределения Марченко-Пастура (а2 = 1, Ыг = 1024, с = Ыг/Ы8С = 4). 76

3.8 Сопоставление эмпирической и теоретической зависимостей для выравнивания доминирующего собственного вектора в модели ковариационной матрицы с выделенной компонентой. Показано

I ^ Н 12

поведение величины Н^2 в зависимости от мощности доминирующей компоненты. При мощности ниже порогового значения л/са2 выборочное собственное значение сливается с шумовой частью спектра, а оценённый собственный вектор асимптотически теряет согласованность с истинным направлением. Параметры моделирования: а2 = 1, N = 256, с =1/3..........77

3.9 Зависимость функции потерь ||(11ии + у/)—1 — а—211|2 от фактора регуляризации у для различных сценариев зашумленности 11ии (АБГШ, помехи, сумма АБГШ и помех). Параметры:

= 256, с = = 4..........................80

3.10 Среднеквадратичная ошибка при оценивании матрицы точности Ц для выборочной ковариационной матрицы и методов линейной регуляризации................................. 82

4.1 Сетка ресурсов OFDM для канала PUSCH при различных конфигурациях опорных сигналов DM-RS: (а) один фронтально загружаемый символ DM-RS; (b) два фронтально загружаемых символа DM-RS. Показан случай отображения типа B, конфигурация DM-RS типа 1, число CDM-групп без передачи данных равно 2, дополнительные позиции DM-RS отсутствуют...............86

4.2 BLER в зависимости от SNR в режиме дефицита выборки (с ^ 1). Сравнение методов регуляризации (FP64, MCS5, IoT=20 дБ).......89

4.3 Зависимость BLER от SNR при полной выборке (с ^ 1) для различных методов регуляризации (FP64, MCS5, IoT = 20 дБ)......91

4.4 Влияние методов стабилизации разложения Холецкого на BLER при вычислениях в формате одинарной точности (FP32) (MCS20, IoT = 40

дБ).......................................92

4.5 Зависимость BLER от SNR при реализации разложения Холецкого в FP16: сравнение вероятностной и детерминированной стабилизации с базовой SCM(FP16); кривая вероятностного метода в FP32 приведена как ориентир...........................94

4.6 Итоговое сравнение BLER при совместном применении предложенной регуляризации и защиты Холецкого в FP32 против эталона FP64. (MCS20, IoT=40 дБ).....................95

Список таблиц

1 Значения Q(Л,n) в (2.6) для арифметики половинной и одинарной точности при п = 32.............................39

2 Значения показателя степени для диагонального возмущения

^ = 2п°казатель; сравнение вероятностного и детерминированного анализа при одинарной точности арифметики...............46

3 Дополнительная вычислительная сложность вычисления параметра регуляризации ................................ 83

4 Параметры моделирования физического уровня.............88

Приложение А Вычисление линейных эквалайзеров

А.1 Эквалайзер ZF

Алгоритм 1: ZF эквалайзер

Входные данные: Канальная матрица Н

Выходные данные: Матрица весовых коэффициентов WZF

1 Инн ^ нНн ;

2 Ьнн ^ еЬоЦИнн) ;

3 Ь^н ^ 1ПУ(Ьнн) ;

4 WZF ^ ьнньнннн;

5 Вернуть W

// Расчет корреляционной матрицы // Разложение Холецкого // Обращение треугольной матрицы

ZF

А.2 Эквалайзер MMSE

Алгоритм 2: MMSE эквалайзер Входные данные: Канальная матрица Н, дисперсия шума аП Выходные данные: Матрица весовых коэффициентов WммsE

1 Инн ^ НнН + ; // Регуляризация

2 Ьнн ^ еЬо1(Инн) ; // Разложение Холецкого

3 ^ ту(Ьнн) ; // Обращение треугольной матрицы

4 WммsE ^ ьнньнннн;

5 Вернуть WммsE

А.3 Эквалайзер IRC

Алгоритм 3: IRC эквалайзер Входные данные: Канальная матрица H, ковариационная матрица помех

Ruu, дисперсия шума оП

Выходные данные: Матрица весовых коэффициентов Wirc

1 Luu ^ chol(Ruu) ; // Разложение Холецкого

2 L-J ^ inv(Luu);

3 Hwhite ^ L^jH ; // Отбеливание канала

4 RHH ^ H^hiteHwhite + O^I;

5 Lhh ^ chol(RHH);

6 L-H ^ inv(LHH);

7 WIRC ^ LhHLhH Hwhite Luil;

8 Вернуть Wirc

А.4 Разложение Холецкого

Алгоритм 4: Разложение Холецкого (Векторная форма) Входные данные: Эрмитова положительно определенная матрица

A е Cnxn

Выходные данные: Нижнетреугольная матрица L, такая что A = LLH

1 n ^ length(A);

2 L ^ 0nxn; // Инициализация нулями

3 for j = 1 to n do

4 s ^ A[j,j] - L[j, 1 : j - 1] x L[j, 1 : j - 1]H;

5 if s ^ 0 then

6 Вернуть Ошибка: Матрица не положительно определена;

7 L[j,j]

8 if j < n then

9 L[j + 1 : n, j] ^ A[j + 1 : n,j] -L[j + 1 : n, 1 : j -1] x L[j, 1 : j - 1]H;

10 L[j + 1 : n,j] ^ L[j + 1 : n,j]/L[j, j];

11 Вернуть L

Приложение Б Акт о практическом использовании

Общество с Ограниченной Ответственностью "ТЕХКОМГТАНИЯ ХУАВЭЙ" Huawei Technologies Co. Ltd.

HUAWGI

Место нахождения: 121614, Российская Федерация, г. Москва, ул. Крылатская д.17, корп.2 Registered Office: 17/2 Krylatskaya Str., Moscow 121614, Russian Federation Тел (Tel): [phone] Факс (Fax): [phone]

ОГРН 1027739023212, ИНН/КПП 7714186804/773101001

г. Москва 30 октября 2025 г.

О практическом использовании результатов диссертационной работы Чжана Чжибиня

Настоящим ООО «Техкомпания Хуавэй» (далее - Общество) сообщает, что результаты диссертационной работы Чжана Чжибиня «Исследование способов повышения устойчивости алгоритмов обработки многомерных сигналов в системах беспроводной связи с ограниченной точностью вычислений», представленной на соискание ученой степени кандидата технических наук по специальности 2.2.13 «Радиотехника, в том числе системы и устройства телевидения», используются для исследовательских проектов внутри структурного подразделения Общества: Московская лаборатория алгоритмов радиосвязи.

Заинтересованным лицам

Уважаемые господа!

Уполномоченный представитель ООО «Техкомпания Хуавей» (Российский исследовательский институт)