Нелинейные и информационно-оптимальные методы в задачах обнаружения, реконструкции и определения параметров сигналов и изображений

СОДЕРЖАНИЕ
Стр.
ВВЕДЕНИЕ 5
1. СОВРЕМЕННЫЕ МЕТОДЫ ОБНАРУЖЕНИЯ, РЕКОНСТРУКЦИИ И ОЦЕНКИ ПАРАМЕТРОВ СИГНАЛОВ 20
1.1 Классификация типов задач обнаружения и оценивания параметров сигналов
1.2 Модели принятия решений в задачах обнаружения и оценивания параметров 22
1.3 Фильтрация и предварительная обработка данных 23
1.3.1 Линейная фильтрация, аппроксимация и предсказание данных 24
1.3.2 Линейная оптимальная фильтрация 32
1.3.3 Нелинейная и адаптивная фильтрация 33
1.3.4 Алгоритмы гомоморфной обработки данных 39
1.4 Методы обнаружения сигналов на фоне помех 41
1.4.1 Критерии оптимального обнаружения сигналов 42
1.4.2 Коррелятор и согласованный фильтр в структуре оптимального обнаружителя 44
1.4.3 Обнаружение сигналов на фоне помех с неизвестным спектром 47
1.5 Оценивание параметров сигналов 50
1.5.1 Байесовский подход к задаче оптимального оценивания 51
1.5.2 Определение временной задержки, обобщенный кросс-коррелятор и функция неопределенности 55
1.5.3 Теоретические оценки точности определения параметров на основе неравенства Крамсра-Рао 59
1.6 Спектральное оценивание 61
1.6.1 Линейные методы спектрального анализа 62
1.6.1 Методы нелинейного спектрального оценивания 63
1.7 Методы реконструкции сигналов 67
1.7.1 Некоррекгиые обратные задачи 67
1.7.2 Методы регуляризации решения некорректных задач 69
1.8 Выводы 74
2. МЕТОДЫ НЕЛИНЕЙНОГО СПЕКТРАЛЬНОГО АНАЛИЗА В ЗАДАЧАХ ОБНАРУЖЕНИЯ И ОЦЕНИВАНИЯ ПАРАМЕТРОВ СИГНАЛОВ 76
2.1 Спектральная оценка методом максимальной энтропии на основе прямого вычисления множителей Лагранжа (метод инверсии) 77
2.2 Аналитическое выражение для оценки спектров сигналов па основе байесовского подхода 84
2.2.1 Оценка СПМ в одномерном случае 85
2.2.2 Оценка СПМ в двумерном случае 91
2.3 Применение методов нелинейного спектрального оценивания к обработке сигналов 96
2.3.1 Обработка волновых полей малоэлементных антенных решеток 96
2.3.2 Построение и анализ спскгрограмм сигналов 109
2.3.3 Спектральные методы в задачах определения взаимной временной задержки сигналов 112
2.3.4 Применение интегральных преобразований в методе построения «тела неопределенности» 117
2.4 Построение функции неопределенности на основе нелинейного спектрального преобразования методом инверсии 120
2.5 Выводы 125
3. МЕТОДЫ ОБРАБОТКИ ДАННЫХ НА ОСНОВЕ АЛГОРИ ТМОВ ЛИНЕЙНОЙ И НЕЛИНЕЙНОЙ ФИЛЬТРАЦИИ 127
3.1 Линейное предсказание на основе решения задачи на собственные числа автокорреляционной матрицы 127
3.2 Применение метода модифицированною линейного предсказания в задачах обработки данных 132
3.2.1 Фильтрация эхо-сигналов 132
3.2.2 Алгоритмы устойчивого акустического кодирования речевых сигналов 135
3.2.3 Линейное предсказание в задачах демодуляции радиосигналов 145
3.3 Определение временной задержки на основе метода адаптивной нелинейном фильтрации сигналов 151
3.3.1 Метод построения «функции текущей частоты» 152
3.3.2 Оценка погрешности алгоритмов определения временной задержки 157
3.4 Информационно-оптимальный подход к синтезу фильтров 158
3.4.1 Общая схема использования информационных функционалов в задачах синтеза субоптимальных фильтров 159
3.4.2 Теоретико-информационный подход к решению задачи минимизации дисперсии выходного сигнала линейного фильтра 161
3.5 Применение субоптимальных цифровых фильтров при обработке ФМн и ЧМн сигналов 170
3.5.1 Метод построения «функции текущей дисперсии» 170
3.5.2 Демодуляция ЧМн сигналов 171
3.5.3 Алгоритм нелинейной цифровой фильтрации гармонического заполнения фазоманипулированных сигналов 178
3.5.4 Комбинированная цифровая фильтрация гармонического заполнения сигналов 183
3.6 Нейросстсвые алгоритмы в обработке сигналов 189
3.7 Выводы 195
4. РЕКОНСТРУКЦИЯ СИГНАЛОВ И ЭКСПЕРИМЕНТАЛЬНЫХ ДАННЫХ НА ОСНОВЕ ИНФОРМАЦИОННО-ОПТИМАЛЬНЫХ АЛГОРИТМОВ 197
4.1 Реконструкция сигналов на основе принципа МЭ 197
4.1.1 Формализм информационно-оптимального подхода к обработке сигналов и экспериментальных данных 197
4.1.2 Реконструкция сигналов по ограниченному числу зашумленных отсчетов на основе принципа МЭ 199
4.2 Применение методов МЭ к обработке данных электронной спекл-интерферометрин 203
4.2.1 Формирование и регистрация экспериментальных данных 204
4.2.2 Оценивание параметров спекл-структуры 207
4.3 Обработка интенсивностей рассеяния электронов на аморфном кремнии методами непрерывного вейвлет-анализа 215
4.3.1 Анализ функции радиального распределения 215
4.3.2 Обработка экспериментальных данных методами вейвлет-анализа 218
4.4 Применение принципа максимальной энтропии в итерационных алгоритмах реконструкции изображений 221
4.4.1 Восстановление изображений, искаженных ядром типа сверт ки 222
4.4.2 Восстановление фазовой информации 224
4.5 Вычислительно эффективный алгоритм реализации метода максимальной энтропии в задачах обращения свертки 229
3
4.6 Выводы 237
5. МЕТОДЫ ОЦЕНИВАНИЯ ПАРАМЕТРОВ ДЕФОРМИРОВАННОГО СОСТОЯНИЯ МАТЕРИАЛОВ 239
5.1 Методы обработки данных, основанные на анализе эволюции топологии поверхности тел в ходе процесса деформирования 241
5.1.1 Распознавание образов в исследованиях пластической деформации материалов 242
5.1.2 Оценка параметров деформированного состояния как задача оптимальною обнаружения 244
5.2 Экспериментальная методика оценки распределения деформаций на поверхности структурированных твердых тел 246
5.3 Определение нолей компонент тензора деформаций и полей смещений на основе анализа изменения рельефа поверхности 249
5.3.1 Формализм подхода к определению полей смещений и деформаций поверхности на основе оптимизации функционала рассогласования (ОФР) 251
5.3.2 Особенности реализации алгоритма определения компонент смещений и деформаций в двумерном случае 255
5.4 Процедура восстановления распределения деформаций на поверхности в одномерном случае 257
5.4.1. Модель деформирования одномерного профиля поверхности 258
5.4.2 Процедура оценки вектора значений относительных деформаций на участках разбиения профиля поверхности 260
5.4.3 Экспериментальное оценивание распределения деформаций по одномерным профилям поверхности 264
5.5 Восстановление полей смещений и деформаций 268
5.5.1 Компьютерное моделирование процедуры восстановления нолей смещений и деформаций 269
5.5.2 Исследование распределений смещений и деформаций на поверхности упруго-деформируемого эластичного материала 274
5.5.3 Обработка данных, полученных с помощью оптико-телевизионных измерительных систем 277
5.6 Определения неоднородных полей смещений с заданным разрешением 279
5.6.1 Построение полной картины векторов смещений на основе разбиения изображения поверхности на фрагменты 280
5.6.2 Модификация метода ОФР для восстановления смещений по изображениям большого размера 284
5.7 Выводы 289
ЗАКЛЮЧЕНИЕ 291
ЛИТЕРАТУРА 296
ПРИЛОЖЕНИЕ 311
П.1 Применение критерия Неймана-Пирсона для определения порога принятия решения 311 | 316
П.2 Преобразование Карунена-Лоэва и сингулярное разложение матриц
П.З Электронно-оптическая система для измерения поля смещений на поверхности деформируемых образцов 320
П.4 Применение информационной энтропии для синтеза метода обучения искусственной нейронной сети 323
ВВЕДЕНИЕ
За последние несколько десятилетий методы обработки экспериментальных данных, прежде всего цифровые методы обработки, переживают бурное развитие и нашли широкое применение во множестве областей. В настоящее время теория и практика обработки данных представляет собой обширную область, включающую многочисленные разделы, относящиеся к различным типам данных, методам и средствам их обработки, интерпретации и представления.
Для решения многих теоретических и практических задач обработки сигналов в присутствии помех фундаментальное значение имеют работы Д.В. Агеева, П.С. Акимова, Л.Е. Варакина, Л.С. Гуткина, В.А. Котельникова, Б.Р. Левина, Ю.С. Лёзина, В.Г. Репина, Ю.Г. Сосулина,
В.И. Тихонова, Н. Винера, Ф. Вудворда, Б. Гоулда, СЛ.-мл. Марпла А. Оппенгейма, Л. Рабинера, К. Шеннона и многих других ученых. Вместе с тем, современный уровень развития техники передачи и обработки сигналов не только ставит новые задачи анализа сложных широкополосных сигналов, но и предоставляет высокопроизводительные схемотехнические решения, позволяющие реализовывать вычислительно сложные алгоритмы на встраиваемых вычислительных системах.
Благодаря быстрому развитию компьютерных технологий и появлению новых методов обработки сигналов произошла настоящая революция в телевидении, системах связи, радиолокации, навигации, в измерительных системах. Принципиально новые возможности появились в оптике различных диапазонов волн, рентгеноструктурном анализе, обработке речевых сигналов, в том числе кодировании, сжатии, распознавании речи. Достигнуты впечатляющие успехи в цифровой обработке изображений различной природы, появились новые направления, такие как компьютерная оптика и цифровая голография.
Методы обработки сигналов и в настоящее время остаются интенсивно развивающимся направлением, о чем свидетельствуют десятки издающихся в мире журналов по этой тематике, а также большое количество появившихся в последние годы статей и монографий, в том числе в 1Щете1. Важной областью приложения методов обработки данных являются задачи обработки сигналов и изображений, получаемых в ходе экспериментов, где критическими показателями являются ограниченность экспериментальной выборки, высокий уровень шумов, неопределенность их статистических характеристик, косвенный характер данных. Подобные задачи часто возникают в радио- и гидролокации, оптоволоконной и радиосвязи, обработке оптических, слекл-интерферометрических и радиоизображений, обработке данных рентгенодифракционных измерений и некоторых других областях. Перспективным общим подходом к решению таких задач является применение принципа максимума
5
энтропии, позволяющего строить оптимальные в информационном смысле решения в условиях ограниченных данных.
Обнаружение сигнала с неизвестными параметрами является основной задачей в таких применениях, как связь с космическими аппаратами, где влияние атмосферы, эффекта Доплера, широкополосного кодирования и низкое отношение сигнал/шум при приеме приводят к сильным искажениям сигнала. Характерным примером является задача определения параметров сигналов (в частности, взаимной временной задержки) при многоканальном распространении. Знание временной задержки позволяет определять положение объектов излучения и получать важную информацию о структуре среды распространения. Специфика обработки сигналов космических систем радиосвязи и навигации, во многих случаях представляющих собой кодовые пакеты короткой длительности с фазовой или частотной манипуляцией с относительно узкой полосой частот (либо, наоборот, сверхширокополосных систем) в присутствии шумов высокого уровня различной природы, ограничивает возможность применения традиционных подходов и объясняет причину сохраняющегося интереса к разработке методов решения подобных задач. Необходимость решения таких задач в условиях априорной неопределенности параметров сигналов вызвала появление целого класса нелинейных методов обработки, основанных на различных подходах и обладающих различной эффективностью в условиях информационной неопределенности и ограниченности данных. Алгоритмы определения временной задержки сигналов, основанные на нелинейной цифровой обработке исходных сигналов и не требующие компенсации неизвестного частотного сдвига, допускают их эффективную реализацию в масштабе времени, близком к реальному, на базе программируемой логики и сигнальных процессоров.
Исследование и создание моделей открытых систем представляет собой в настоящее время одно из наиболее важных направлений исследований в физике, биологии, химии, экономике, социологии и других областях. Открытые системы представляют собой сложные ансамбли взаимодействующих объектов (элементов), каждый из которых также может представлять собой систему из взаимодействующих объектов. Эволюция параметров деформированного состояния поверхности структурно-неоднородных материалов представляет собой пример поведения сложной открытой самоорганизующейся и эволюционирующей системы. Одними из важнейших структурно-чувствительных характеристик являются распределения смещений и деформаций на поверхности деформируемых тел. Исследователей интересуют непосредственные значения компонент тензора деформаций (неоднородного в пространстве), их статистики и другие интегральные характеристики с различных масштабных уровней. Особый характер
поведения и описания самоорганизующихся систем требует разработки специфических экспериментальных методов. Перспективным представляется разработка методов использования как изображений, так и непосредственно рельефов поверхности твердых тел для получения структурно-чувствительных характеристик на различных этапах деформирования.
Основными целями работы являются:
- разработка и реализация эффективных вычислительно реализуемых методов обработки, спектральною оценивания, реконструкции сигналов, волновых полей и изображений на основе теоретико-информационною подхода к обработке экспериментальных данных;
- разработка эффективных методов обнаружения сигналов и оценки их параметров на основе анализа ограниченных реализаций в условиях высокого уровня аддитивных и неаддитивных шумов и доплеровского смещения частоты;
- разработка экспериментальной методики и вычислительной процедуры для определения структурно-чувствительных характеристик (компонент тензора деформаций и полей смещений) на поверхности деформируемых образцов на основе анализа изменения рельефа поверхности.
Задачи: исследованиям определены, основными целями работы и состоят в следующем
- разработке и реализации методов и алгоритмов получения информационно-оптимальных решений в задачах с неполными данными и различными типами ограничений на основе принципа максимума энтропии (МЭ), разработке вычислительно эффективного алгоритма реализации принципа МЭ на основе прямого вычисления множителей Лагранжа;
реализации высокоразрешающих методов спектрального оценивания по ограниченным выборкам данных на основе информационно-оптимальных моделей, их применению к различным задачам обнаружения, реконструкции и оценки параметров сигналов и изображений;
- разработке информационно-оптимального подхода к синтезу цифровых фильтров и алгоритмов обработки сигналов на его основе;
- разработке нелинейных вычислительно эффективных методов определения параметра взаимной временной задержки фазо- (ФМ) и частотно-модулированных (ЧМ) радиосигналов;
- разработке принципов построения и реализации процедуры восстановления полей компонент тензора деформаций и полей смещений на поверхности твердых тел по рельефам поверхности на различных этапах деформирования на основе методов оптимального обнаружения;
Достоверность результатов исследований основана на использовании математически обоснованных современных методов решения, теории
7
цифровой обработки сигналов, применении подходов оптимальной и информационно оптимальной обработки данных, корректности принятия упрощающих допущений. Работоспособность и эффективность предложенных методов и алгоритмов обнаружения и оценивания параметров подтверждается имитационным моделированием, в том числе с использованием реальных данных, сопоставлением результатов обработки оригинальными методами с результатами других методов, успешным внедрением в алгоритмическое программное обеспечение для аппаратно-программных комплексов обработки сигналов.
Научная новизна работы
1. Разработаны и реализованы методы нелинейного высокоразрептающсго спектрального оценивания одно- и многомерных случайных полей и методы реконструкции сигналов и изображений на основе их использования.
2. Предложен информационно-оптимальный подход к синтезу цифровых субоптимальных фильтров.
3. Предложен и реализован ряд новых методов нелинейной адаптивной цифровой обработки ФМ и ЧМ радиосигналов для обнаружения и оценивания параметров (в частности, взаимной временной задержки) сигналов, эффективных в условиях априорно неизвестных параметров и сложной шумовой обстановке.
4. Разработаны итерационные алгоритмы реконструкции сигналов и изображений при решении ряда некорректных обратных задач (деконволюция, фазовая задача), реализующие общий принцип максимума информационной энтропии и позволяющие учитывать в решении ограничения различных типов.
5. Предложен и реализован оригинальный подход к оцениванию параметров деформированного состояния поверхности материалов, основанный на применении методов оптимального обнаружения.
Научная и практическая ценность
- Рассмотрены возможности модификации линейных методов цифровой фильтрации с целью создания на их основе нелинейных и адаптивных алгоритмов обработки при решении различных задач обнаружения и оценивания параметров сигналов, большое внимание уделено разработке и исследованию методов эффективной реализации вычислительных процедур обработки сигналов, направленных на снижение их вычислительной сложности.
Использование разработанных методов обработки экспериментальных данных позволило значительно повысить такие качественные показатели результатов обработки, как пространственное и частотное разрешение, устойчивость к шумам в случаях ограниченных реализаций и при обработке многомерных данных. Эффективность предложенных методов продемонстрирована в многочисленных
8
приложениях при цифровой обработке сигналов радиолокации и радиосигналов в системах связи, когерентных оптических изображений.
- На основе предложенных алгоритмов обработки ФМ и ЧМ радиосигналов разработано и внедрено соответствующее алгоритмическое и программное обеспечение для аппаратно-программных автоматизированных комплексов обработки сигналов.
- Разработана процедура оценивания параметров пространственных деформаций на основе анализа последовательностей изображений (рельефов поверхности) с использованием метода оптимизации функционала рассогласования (ОФР) исходного и модельного рельефов. Экспериментально подтверждена возможность оценки распределения деформаций непосредственно по рельефам поверхности материала в задачах диагностики деформированного состояния.
- Теоретико-информационный подход к моделированию систем и обработке сигналов внедрен в учебный процесс при проведении лекционных и практических занятий по направлению подготовки «Информационные системы и технологии» на кафедре ИТФИ физического факультета НЕГУ;
Основные положения, выносимые на защиту
1. Методы высокоразрешающего нелинейного спектрального анализа коротких выборок экспериментальных данных на основе принципа максимальной энтропии.
2. Эффективный алгоритм реализации метода максимальной энтропии на основе прямого вычисления множителей Лагранжа в задаче реконструкции сигналов из свертки.
3. Обобщенная схема реализации итерационных методов реконструкции сигналов и изображений на основе информационнооптимального подхода.
4. Метод построения функции неопределенности для обнаружения и оценивания параметра взаимной временной задержки радиосигналов в сложной шумовой обстановке при наличии доплеровского смешения частоты.
5. Нелинейный адаптивный алгоритм выделения нестационарных участков радиосигналов, основанный на модели модифицированного линейного предсказания и метода гармонического разложения Писаренко.
6. Информационно-оптимальный подход к синтезу цифровых субопгимальных фильтров на основе модифицированного метода Кейпона и алгоритмы обработки сигналов на его основе в задачах демодуляции и определения временной задержки.
7. Метод построения регуляризованных алгоритмов оптимальной обработки экспериментальных данных в системах регистрации когерентных и нскогерентных оптических изображений поверхности при определении параметров деформированного состояния материалов.
9
8. Результаты вычислительных экспериментов по апробации разработанных методов в задачах обнаружения, оценивания параметров сигналов и пространственно-временных полей сложной структуры по шраниченным экспериментальным выборкам.
Работа выполнялась по программам:
- Российская научно-техническая программа «Информатизация образования», целевая подпрограмма «Автоматизация научных исследований» (1991-1993 г.).
Программа «Университеты России». Научно-техническая программа «Фундаментальные проблемы математики и механики», раздел «Механика деформируемых тел и сред» (1991-1996 г.).
- Межвузовская программа «Перспективные информационные технологии», подпрограмма «Автоматизация научных исследований» (1992-1994 г.).
- Федеральная целевая программа «Государственная поддержка интеграции высшего образования и фундаментальной науки» (ФЦП «Интеграция», 1998-2003г.).
Работа выполнялась также по тематике единого заказ-наряда НИФТИ ННГУ по плану фундаментальных НИР Госкомитета РФ по высшему образованию (1989-2010 г.) и ОКР по государственному заказу (1996-2010 г.).
Апробация результатов работы проводилась на
- Всероссийской научно-технической конференции «Перспективные информационные технологии в научных исследованиях, проектировании и обучении» (Самара, СГАУ, 1995 г.);
III Всероссийской научно-технической конференции «Распознавание образов и анализ изображений: новые информационные технологии» (Н.Новгород, НИИ ПМК при ННГУ, 1997 г.);
- Международной конференции “МезотесЬап1с5-‘98”(Тель-Авив, Израиль, 1998 г.);
Всероссийском совещании «Зондовая микроскопия-99» (Н.Новгород, ИФМ РАН, 1999 г.);
- Всероссийских (с 2001 г.) и международных (с 2007 г.) научно-технических конференциях «Информационные системы и технологии» (ФИСТ-98 - 2000, ИСТ-2001 - 2009, Н.Новгород, НГТУ, 1998-2009 г.);
- Всероссийской конференции «Дефекты структуры и прочность кристаллов» (Черноголовка, 2002 г.);
- IX и X Международных научно-технических конференциях «Радиолокация. Навигация. Связь». Воронеж, 2003, 2004;
- V — XI Международных конференциях «Цифровая обработка сигналов и ее применение (ЭЗРА)» (Москва, 2003 - 2009 г.);
- I, V, VI, VIII, X, XI, XIII научных конференциях по радиофизике (Н.Новгород, ННГУ, 1997, 2001, 2002, 2004, 2006, 2007, 2009 г.);
- 3 International symposium on communication, control, and signal processing (ISCCSP 2008), IEEE. (Malta, 2008);
- Digital Signal Processing Workshop and 5th IEEE Signal Processing Education Workshop, DSP/SPE-2009, IEEE. 2009;
- International IEEE conference EUROCON 2009 (St. Petersburg, 2009);
- научных семинарах Института прикладной физики РАН, механикоматематического факультета МГУ, Института проблем механики РАН, НИФТИ НИГУ, кафедры информационных технологий в физических исследованиях (ИТФИ) физического факультета ИНГУ.
Основные результаты изложены в 40 статьях: раздел (статья) в коллективной монографии, 24 статьи в центральных изданиях, рекомендованных перечнем ВАК, 15 статей - в Вестнике Нижегородского университета им. НИ. Лобачевского (входит в перечень ВАК).
Личный вклад автора. Результаты, выносимые на защиту, получены автором лично, либо при его непосредственном участии.
В основных совместных публикациях по теме диссертации [175-179] автору принадлежит концепция решения, разработка соответствующего алгоритмического и программного инструментария; [184, 193, 194, 220] -разработка эффективных алгоритмов реализации подхода максимальной энтропии в методах нелинейного спектрального оценивания, способов его применения в различных приложениях и проведение вычислительных экспериментов; [186, 187, 190, 192, 196, 229] - постановка задачи, идея и реализация метода ОФР, разработка схем экспериментальных исследований и интерпретация полученных результатов; [185, 202, 203, 209] - разработка метода модифицированного линейного предсказания, концепции его применения и анализ результатов обработки к акустическим сигналам; [204, 205, 210, 211, 218, 227, 230, 231, 234] -разработка подхода к синтезу субоптимальных линейных и нелинейных цифровых фильтров, конструирование численных алгоритмов и эффективных схем реализации в задачах обнаружения и определения параметров ФМ и 4M сигналов, анализ результатов; [206, 221, 223, 225] — постановка задачи и направления исследований по разработке и применению нейросетевых алгоритмов к обработке радиосигналов. В работах, связанных с реализацией разработанных методов в алгоритмическом программном обеспечении [191, 200, 204, 217, 222, 224] автору принадлежит основная роль в постановке решаемых задач, проведении теоретического анализа, формулировке требований и рекомендации по внедрению эффективных схем реализации разработанных алгоритмов.
Значительная часть совместных публикаций выполнено по результатам работ с дипломниками и аспирантами. Вклад автора заключался в выборе направления, постановке целей и задач исследований, формулировке требований, разработке методов обработки данных в
11
условиях априорной неопределенности параметров, коротких выборок сигналов и сильных шумов, непосредственном проведении и координации вычислительных экспериментов, анализе полученных результатов и выработке рекомендаций по их внедрению.
Под руководством Морозова O.A. защищено 2 диссертации на соискание ученой степени кандидата физ.-мат. наук.
Реализация результатов состоит в применении
- общей методологии теоретико-информационного подхода к моделированию систем и обработке сигналов различной природы в учебном процессе при проведении лекционных и практических занятий по курсам «Информационные технологии», «Интеллектуальные информационные системы», «Архитектура ЭВМ и систем» по направлению подготовки «Информационные системы и технологии» на кафедре И'ГФИ физического факультета НПГУ;
- разработанных методов многомерного спектрального оценивания для обработки данных радиолокационного зондирования водной поверхности в Институте прикладной физики РАН (г. Н. Новгород), а также для моделирования систем обработки сигналов в фазированных антенных решетках в Нижегородском НИИ радиотехники;
- нелинейных алгоритмов прецизионного определения взаимной временной задержки сигналов в каналах с различными дисперсионными и шумовыми характеристиками в рамках ряда ОКР, выполнявшихся по госзаказу, по контрактам с Московским НИИ радиосвязи и ГНПО «ОРИОН», Российским НИИ космического приборостроения (г. Москва), ФГУТ1 «ННИПИ «Кварц» (г. Н. Новгород);
- разработанных методов восстановления неоднородного двумерного ноля смещений на деформируемой шероховатой поверхности образцов в электронно-оптической системе неконтактного измерения деформаций (цифровая спекл-интерферометрия) в НИФТИ ИНГУ.
- разработанного подхода к оценке параметров деформированного состояния (полей смещений и деформаций на поверхности тела), основанного на применении методов теории оптимального обнаружения на основе анализа последовательностей изображений (рельефов) поверхности с использованием метода оптимизации функционала рассогласования (ОФР) в НИФТИ ННГУ.
Структура и объем работы. Диссертация общим объемом 327 страниц, включая 111 рисунков, состоит из введения, пяти глав, заключения, списка литературы из 235 наименований и 4 приложений.
Краткое содержание диссертации
Первая глава содержит общее описание методов обнаружения, оценки параметров и реконструкции сигналов и изображений,
12
применяемых в разнообразных научных и технических приложениях, в таких областях, как статистическая радиотехника, радиофизика, прикладная теория информации и др. Сформулированы основные подходы в решению некорректных обратных задач, в том числе реконструкции сигналов и изображений, приведен формализм теоретикоинформационного подхода к обработке экспериментальных данных на основе принципа максимальной энтропии.
В разделе 1.1 приводится общая классификация типов задач обнаружения и оценивания параметров сигналов. Оценивание параметров предлагается рассматривать как один из видов задачи обнаружения, приводятся типичные примеры задач оценивания параметров сигналов.
В разделе 1.2 рассмотрена общая модель принятия решений в задачах обнаружения и оценивания параметров как совокупность пространств событий, сигналов, наблюдаемых величии и решений, связанных между собой набором операторов соответствия и решающими правилами.
Раздел 1.3 посвящен описанию классических методов предварительной обработки данных: линейной временной и частотной фильтрации, авторегрессионного анализа, медианной фильтрации, адаптивной (калмановской) и оптимальной нелинейной фильтрации (ряд Вольтера), рассматриваются методы построения адаптивных алгоритмов, вводится принцип обобщенной суперпозиции. Рассматриваются методы линейного предсказания, обсуждаются методы определения оптимального порядка модели.
Рассмотренные в разделе 1.3 методы предварительной обработки в том или ином виде используются в методах и алгоритмах обработки данных, представленных в последующих главах.
В разделе 1.4 приводится общий подход теории оптимального обнаружения, вводятся критерии обнаружения и обобщенная схема обнаружителя сигналов. Рассматривается роль коррелятора и согласованного фильтра в структуре оптимального обнаружителя, приводятся примеры синтеза оптимальных алгоритмов обнаружения сигналов на фоне помех, а также рассматриваются непараметрические алгоритмы обнаружения сигналов.
В разделе 1.5 задача оценивания параметров сигналов рассматривается как совокупность разнообразных методов обработки экспериментальных данных. Излагается сущность байесовского подхода к задаче оптимального оценивания. Вводится понятие обобщенного кросскоррелятора, для решения задач одновременной оценки параметров запаздывания и частотного сдвига сигналов вводятся понятия функции неопределенности и мгновенного спектра сигнала. Рассматривается потенциальная точность оценки параметров, связанная с границей Крамера-Рао.
В разделе 1.6 представлен краткий обзор классических линейных и нелинейных методов спектрального анализа высокого разрешения (авторегрессии, гармонического разложения Писаренко (ГРП), Кейпона, максимальной энтропии) и свойств получаемых оценок.
В разделе 1.7 рассматриваются некоторые традиционные и современные методы реконструкции сигналов и изображений, в частности задачи деконволюции свертки. Вводится понятие некорректно поставленных задач, рассматриваются методы регуляризации при решении данного класса задач. Рассматриваются вопросы применения принципа МЭ к обработке данных и его стандартный формализм, учитывающий априорные ограничения с помощью множителей Лагранжа.
Вторая глава посвящена методам спектрального оценивания случайных нолей и процессов на основе принципа МЭ и их приложениям к некоторым задачам обработки данных. Спектральный анализ понимается в работе как процедура получения оценки спектральной плотности мощности (СПМ) на основе конечных реализаций сигналов (или их корреляционных функций) и рассматривается как один из методов обнаружения и оценивания параметров сигналов и изображений. Современные нелинейные методы оценивания СПМ используют модели случайных процессов или другую априорную информацию о процессе, поэтому им в ряде случаев удается преодолеть ограничения, присущие линейным методам.
В разделе 2.1 представлен подход к получению оценок СПМ на основе принципа МЭ, использующий процедуру получения явного выражения для множителей Лагранжа (метод инверсии). Приведены выражения для множителей Лагранжа для энтропийных функционалов в форме Берга и Шеннона. Отмечается, что получаемая оценка СПМ при количестве отсчетов спектра большем, чем количество отсчетов АКФ, обеспечивает - оптимальную в информационном смысле аппроксимацию теоретического спектра Фурье £(&>) (в бесконечных пределах) по критерию наименьших квадратов и имеет высокую вычислительную эффективность. Приводятся результаты компьютерного моделирования и сравнения спектральных оценок, выполненных представленным методом, классическим методом МЭ и коррелограммным методом.
В разделе 2.2 представлен способ получения оценки спектра, основанный на получении выражения для плотности вероятности гауссовского процесса с помощью принципа МЭ с использованием выражения для условных вероятностей Байеса. Приведены аналитические выражения для оценок спектра на основе байесовского подхода для одномерного и двумерного случаев. Основой для вычисления спектра является операция обращения теплицевой корреляционной матрицы, которая может быть эффективно выполнена с помощью процедуры
14
сингулярного разложения. Приведены результаты компьютерного моделирования.
В разделе 2.3 приведены примеры применения методов нелинейного спектрального оценивания в задачах обнаружения - обработка данных малоэлементных антенных решеток, оценка информативных признаков сигналов на основе спектрограмм, спектральные методы в задачах определения взаимной временной задержки сигналов. Рассматривается задача точного определении углового положения источника излучения путем формирования максимально острой диаграммы направленности с минимальным уровнем боковых лепестков и в обеспечении разрешения источников, отстоящих на малое угловое расстояние, применение спектрального анализа по методу МЭ на основе прямого вычисления множителей Лагранжа для построения и анализа спектрограмм реального сигнала цифровой системы связи, задача определения временной задержки на основе обобщенного метода максимального правдоподобия.
В разделе 2.4 показана эффективность применения нелинейного спектрального оценивания методом инверсии при реализации модифицированного метода построения сечений функции неопределенности для обнаружения сигналов коротких информационных пакетов. Приведены результаты компьютерного моделирования.
В третьей главе излагаются подходы к решению задач обнаружения и оценки параметров сигналов на основе методов линейной и нелинейной фильтрации.
В разделе 3.1 рассматривается алгоритм обработки данных с применением метода модифицированного линейного предсказания на основе решения задачи на собственные числа автокорреляционной матрицы. В качестве коэффициентов предсказания предложено использовать элементы собственного вектора автокорреляционной матрицы сигнала, соответствующего минимальному собственному числу. Отмечается, что коэффициенты предсказания, полученные данным способом, имеют важное свойство, которое отсутствует у коэффициентов предсказания, вычисленных другими способами: корни
характеристического полинома, сформированного на основе коэффициентов, лежат на единичной окружности. Это обстоятельство дает возможность более эффективного прогнозирования на большее количество шагов вперед по сравнению с другими методами..
В разделах 3.2 и 3.3 рассмотрено применение метода модифицированного линейного предсказания в задачах обработки данных: в задаче фильтрации эхо-сигналов, цифровой демодуляции ФМ и ЧМ сигналов, адаптивных алгоритмах предварительной обработки данных, а также алгоритмы устойчивого акустического кодирования речевых сигналов. Для применения в задаче определения взаимных временных задержек сигналов в условиях априорно неизвестных параметров
представлен алгоритм нелинейной адаптивной цифровой фильтрации, основанный на модели модифицированного линейного предсказания и методе гармонического разложения Писаренко. Процедура обработки сводится к прохождению исходного сигнала через нелинейный цифровой фильтр, в результате чего отсчеты сигнала заменяются отсчетами другой функции, зависящей от текущего значения мгновенной частоты процесса (метод построения «функции текущей частоты»). Рассмотрен пример обработки реальных сигналов системы связи.
Раздел 3.4 посвящен информационно-оптимальному подходу к синтезу цифровых фильтров. Рассмотрена общая схема использования информационных функционалов в задачах синтеза субоптимальных фильтров и применение теоретико-информационного подхода к решению задачи минимизации дисперсии выходного сигнала линейного фильтра. Приводятся частотные характеристики синтезированных фильтров.
В разделе 3.5 рассмотрено применение субоптимальных цифровых фильтров при обработке фазо- и частотно-манипулированных сигналов. При разработке алгоритмов предварительной обработки использован модифицированный подход минимальной дисперсии Кейпона. Рассмотрены методы линейной и нелинейной фильтрации гармонического заполнения сигналов на основе метода построения «функции текущей дисперсии», представлен двухступенчатый метод цифровой фильтрации ФМ сигналов в задаче определения временной задержки при многоканальном распространении, где первую ступень составляет информационно оптимальный линейный фильтр с комплексными коэффициентами, вторую — нелинейный (квадратичный) фильтр па основе подхода минимальной дисперсии.
В разделе 3.6 рассмотрен метод нейросетевого декодирования фазоманипулированного сигнала на основе анализа комплексной огибающей. При синтезе метода обучения нейросети использовался информационно-оптимальный подход на основе применения взаимной энтропии в качестве функции ошибки. Приведены результаты компьютерного моделирования нейросетевых методов декодирования ФМ4 сигналов.
В четвертой главе рассматриваются алгоритмы реконструкции сигналов и изображений на основе принципа максимальной энтропии. Предложен и реализован ряд информационно-оптимальных алгоритмов обработки и реконструкции данных, в частности для решения фазовых задач и деконволюции свертки.
В разделе 4.1 приведен формализм информационно-оптимального подхода к обработке сигналов и экспериментальных данных. Рассмотрен метод реконструкции сигналов по ограниченному числу зашумленных отсчетов на основе принципа МЭ с использованием нелинейного
16
спектрального анализа. Приведено сравнение результатов обработки сильно зашумленной функции с методами фурье-фильтрации.
В разделе 4.2 описаны способы формирования и регистрации экспериментальных данных в методах спекл-интерферометрии, предложен метод обработки спекл-изображеиий поверхности деформируемых образцов для прецизионного определения полей смещений в задачах электронной спекл-интерферометрии. Для получения векторов смещений с необходимым пространственным разрешением, выполняются обработка соответствующих фрагментов спекл-изображений ограниченного размера с использованием вычисления спектра по методу МЭ. Приведены результаты тестового эксперимента по оцениванию неоднородных полей смещений упругодеформированных эластичных образцов и результаты обработки реальных спекл-изображений шероховатой поверхности металлических образцов методами электронной спекл-интерферометрии.
В разделе 4.3 предложен метод оценивания параметров координационных радиусов аморфных тел на основе обработки интенсивностей рассеяния электронов методами локализованного спектрального анализа (непрерывного вейвлет-анализа).
В разделе 4.4 приводятся итерационные методы реконструкции сигналов и изображений с использованием принципа максимальной энтропии. Рассмотрены алгоритмы восстановления сигнала из свертки и фазовая задача. Отмечается, что подобные задачи относятся к классу некорректных обратных задач, и все известные процедуры их решения обязательно включают этап регуляризации, который представляет собой ту или иную форму доопределения исходной задачи. Причиной некорректности во всех случаях является информационная недоопределенность задачи. В силу этого применение принципа МЭ как общего подхода к построению вывода в условиях недостаточных данных является обоснованным и весьма перспективным. Алгоритмы решения уравнения свертки и фазовой задачи используют принцип МЭ для уточнения решения на каждой итерации. Фактически такой подход представляет собой итерационный алгоритм максимизации энтропии изображения при одновременном согласовании с имеющимися априорными ограничениями.
В разделе 4.5 предложен вычислительно эффективный алгоритм реализации схемы решения задачи реконструкции и способ регуляризации задачи восстановления функции из свертки, основанный на использовании принципа максимальной энтропии и методе прямого определения множителей Лагранжа. Если точность восстановления недостаточна, найденные этим методом множители Лагранжа могут служить наилучшим (в смысле наименьших квадратов) начальным приближением для итерационного уточнения значений множителей Лагранжа. Приведены
17
результаты компьютерного моделирования задачи восстановления сигнала из свертки на основе предложенного алгоритма.
Пятая глава посвящена разработке методики экспериментального оценивания распределения смещений деформаций на поверхности деформируемых материалов на основе анализа изменений непосредственно рельефов поверхности. Предложен и реализован подход к оценке параметров деформированного состояния, основанный на применении методов теории оптимального обнаружения. Разработана процедура оценивания параметров пространственных деформаций на основе анализа последовательностей изображений (рельефов поверхности) с использованием метода оптимизации функционала рассогласования (ОФР) исходного и модельного рельефов. Процедура опирается на математическую модель пространственных деформаций многомерных сеток, на которых заданы изображения. •
В разделе 5.1 сформулированы подходы к оценке параметров деформированного состояния материалов на основе методов распознавания образов и как задача оптимального обнаружения. Предлагается рассматривать исходное /| и деформированное /2 изображения (рельефы) поверхности как реализации системы отсчетов некоторого случайного процесса на /7-мерной координатной сетке (к = 1,2), изображение /2 получено из изображения / путем применения некоторого функционального преобразования. В общем случае требуется оценить форму сетки С12 и найти преобразование О, в С12.
В разделе 5.2 приведена экспериментальная методика оценки распределения деформаций на поверхности структурированных твердых тел, состоящая из нескольких взаимосвязанных шагов.
Раздел 5.3 описывает процедуру определения полей компонент тензора деформаций и полей смещений на основе анализа изменения рельефа поверхности. Приведен формализм подхода к определению полей смещений и деформаций поверхности на основе оптимизации функционала рассогласования (ОФР), рассмотрены особенности реализации алгоритма определения компонент смещений и деформаций в двумерном случае. Для преодоления проблемы многоэкстремальности функционала рассогласования рельефов поверхности при большой размерности задачи предложен алгоритм на основе схемы последовательных приближений. В рамках этой схемы поиск оптимума функционала рассогласования производится в несколько этапов для последовательного уточнения распределений деформаций, на каждом этапе количество разбиваемых участков увеличивается, и соответственно возрастает размерность оптимизируемого функционала.
В разделе 5.4 приводится модель деформирования одномерного профиля поверхности и процедура оценки вектора значений
18
относительных деформаций на участках разбиения профиля поверхности на основе метода ОФР. Предложенный метод позволяет проводить исследования статистических характеристик результирующих оценок распределения деформаций, рассчитывать доверительные интервалы для оценок распределения деформаций. Приводятся результаты экспериментального оценивания • распределения деформаций по одномерным профилям поверхности.
В разделе 5.5 приведены результаты компьютерного моделирования и результаты оценивания полей смещений и деформаций на поверхности реальных образцов (двумерный случай) но рельефам поверхности с использованием различных материалов (резина, олово, алюминий, свинец).
В разделе 5.6 представлены методы построения полной картины векторов смещений с заданным разрешением больших участков поверхности деформируемых образцов с использованием метода ОФР. Рассмотрен метод на основе разбиения изображения поверхности на фрагменты и модификация метода ОФР для оценивания полей смещений по изображениям большого размера на базе алгоритма последовательного восстановления. Адекватность и состоятельность предложенной методики проверена на модельных и экспериментально полученных изображениях деформированных поверхностей. Представленный метод определения смещений и деформаций на основе анализа изменений рельефа поверхности, может' служить инструментом для исследований поведения материалов на мезоскопическом масштабном уровне.
В Заключении подведены итоги проделанной работы, изложены основные результаты и выводы.
В Приложении рассмотрено применение критерия Неймана-Пирсона для определения порога принятия решения в задаче определения временной задержки сигналов (П.1), преобразования Карунена-Лоэва и сингулярного разложения (П.2), описание экспериментальной измерительной установки для получения спекл-изображений поверхности деформируемых образцов (П.З), применение информационной энтропии для синтеза метода обучения искусственной нейронной сети (П.4).
Автор выражает благодарность преподавателям и сотрудникам кафедры ИТФИ физического факультета ННГУ - зав. кафедрой профессору В.Р. Фидельману и доценту Е.А. Солдатову за плодотворные дискуссии и обсуждение результатов по теме диссертации, ценные советы и замечания, доценту С.А. Минееву и зав. лаб. О.В. Семеновой за помощь при реализации метода ОФР, подготовке и проведении тестирования, проведении экспериментов с реальными данными, ст. преподавателю A.A. Логинову и зав. лаб. М.М. Сорохниту за активное участие в разработке и тестированию методов и алгоритмов нелинейной адаптивной фильтрации сигналов, науч. сотр. П.Е. Овчинникову за реализацию нейросетсвого алгоритма демодуляции ФМ сигналов.
1. СОВРЕМЕННЫЕ МЕТОДЫ ОБНАРУЖЕНИЯ, РЕКОНСТРУКЦИИ И ОЦЕНКИ ПАРАМЕТРОВ СИГНАЛОВ
Круг задач, объединяемый общим названием «обнаружение
сигналов», очень разнообразен. По-видимому, не существует единого универсального подхода к решению большинства технических и физических задач, что связано со значительным разнообразием классов исследуемых сигналов, видов шумов, наличием, степенью ограниченности и возможностью использования априорной информации, отклонениями реальных распределений от идеальных моделей и многими другими факторами. Быстрое развитие современных систем радиосвязи, радио- и гидролокации, способов кодирования и представления полезной
информации в сигналах, развитие новых цифровых технологий, способов и методов регистрации сигналов, изображений и экспериментальных данных различной физической природы привело к значительному росту
теоретических и прикладных исследований в данной области науки за последнее десятилетие [1-6, 14-19, 22-24,. 37-39, 64-71]. Появляются не только новые методы анализа и обработки данных (например, вейвлеты и нейросети) [105-113], но и активно развиваются традиционные подходы, получено много новых теоретических и практических результатов для ряда специальных случаев и подзадач [114-120].
1.1 Классификации типов задач обнаружения и оценивании
параметров сигналов
Физическая природа сигналов и помех может иметь различный характер, однако их общей особенностью является то обстоятельство, что в реальных системах и помехи, и сигналы в месте регистрации представляют собой случайные величины, а их изменение во времени — случайный процесс [1-6,12, 15, 16].
Следует отметить, что сигналы, генерируемые радиотехническими системами, являются детерминированными (неслучайными). В то же время при прохождении по радиотрассе вследствие ряда причин сигналы подвергаются случайным воздействиям. В месте приема такие сигналы будут иметь случайные параметры (амплитуду и фазу и др.), т.е. представляют собой квазидетерминированные величины. Вообще говоря, любая радиотехническая или физическая система, связанная с обработкой и регистрацией сигналов (экспериментальных данных) всегда подвержена воздействию флуктуирующих напряжений или токов, возникающих в элементах схемы или в электронных приборах, и усиливаемых вместе с полезным сигналом [7, 8]. Таким образом, наиболее общим видом сигнала является случайный сигнал, поэтому для математического описания сигналов и помех наиболее часто используется теория случайных
величин и случайных процессов. Детерминированные сигналы рассматриваются как частный тип случайных процессов.
В задаче обнаружения может быть выделено несколько типов (классов) входных данных, накладывающих специфические ограничения на используемые методы и подходы [2], такие как:
• Класс 1. Известные сигналы в аддитивных шумах.
r(0 = ^,(0 + w(0; 0<,t<T; / = 0,1, где s0(t) = cos(co0t), *,(/) = cos(ûy);
На основе принятого сигнала г(/), испорченного аддитивным шумом n{t), необходимо определить, какой из сигналов s0 или s, был передай.
• Класс 2. Сигналы с неизвестными параметрами в аддитивных шумах. Неизвестными параметрами могут быть частота, амплитуда или фаза.
r(t) = cos (су,/ + в') + n(t) ; 0 < / < Т ; / = 0,1.
На основе принятого сигнала r(t) необходимо определить фазу 00 или вх переданного сигнала.
• Класс 3. Случайные сигналы в аддитивных шумах. Сигнал описывается статистически (через функцию плотности вероятности, корреляционную функцию, моменты высших порядков и т. д.)
г(,)=Ы')+й('). о <t<T-
I «(О
где sm(t) представляет собой реализацию случайного процесса с известным распределением плотности вероятности. Необходимо определить присутствует или нет в реализации r(t) сигнал s „(О •
Одной из серьезных проблем в реальных системах, связанных с регистрацией и обработкой сигналов и экспериментальных данных, является наличие не только аддитивных, но и мультипликативных (фазовых) шумов. Серьезные математические трудности не позволяют построить стройную и полную теорию учета данного вида шумов в задачах обнаружения, в связи с чем не принято выделять в отдельный класс задачи обнаружения известных или случайных сигналов в аддитивных и мультипликативных шумах. Часто учет мультипликативных шумов сводится в некотором приближении к специфическим аддитивным шумам, или используются соответствующие алгоритмы предобработки данных, например, гомоморфная фильтрация [33].
Оценивание параметров сигнала может рассматриваться как один из видов решения (или как расширение) задачи обнаружения. Типичными примерами задачи оценивания параметров сигнала являются [2]:
оценивание текущей частоты сигнала (например, доплеровского сдвига);
определение временной задержки между сигналами;
21
оценивание амплитуды сигнала (например, для определения размеров, формы или дальности до объекта;
оценивание фазовых соотношений в заданной полосе частот (например, в задачах идентификации объекта); спектральное оценивание; восстановление формы исходного сигнала.
Каждый из перечисленных выше пунктов может рассматриваться как отдельное направление в области обработки экспериментальных данных, использующее как общие, так и специфические для данного класса задач подходы, методы и алгоритмы обработки данных, представления результатов и принятия решений. Так, спектральный анализ является мощным средством анализа внутренней структуры систем и процессов самой различной природы и включает в себя как традиционные, линейные методы, так и современные нелинейные методы спектрального оценивания, позволяющие получить высокое разрешение при обработке коротких рядов данных (методы авторегрессии, гармонического разложения Писаренко (ГРП), минимальной дисперсии, максимальной энтропии) [13, 14, 90-92]. Восстановление формы сигнала является одной из основных задач в таких областях, как оптимальная фильтрация [22, 63, 120], распознавание образов [6, 132-135], реконструкция и восстановление сигналов и изображений [97-102], фазовая задача [102-104].
1.2 Модели принятия решений в задачах обнаружения и оценивания
параметров
Модель преобразования данных в ходе решения задачи обнаружения (оценивания параметров) в самом общем виде может быть представлена совокупностью пространств Е (пространство событий), 5 (пространство сигналов), К (пространство наблюдаемых величин), /> (пространство решений), связанных между собой некоторым набором операторов соответствия (преобразования) и решающими правилами [2], что может быть представлено в виде следующей схемы (рис. 1):
Модель принятия решений в задачах обнаружения Е - пространство событий, 5 - пространство сигналов, /? - пространство наблюдаемых величин, О - пространство решений.
22
Каждому событию е(г) из пространства Е ставится в соответствие один или несколько видов сигналов 5(у) в пространстве 5 (в общем случае J>I). В пространстве Е могут быть известны (или неизвестны) априорные вероятности событий <?(/).
Под сигналом принято понимать (в широком смысле) материальный носитель информации о событии [9]. Материальную основу сигнала составляет какой-либо физический объект или процесс, называемый носителем информации, носитель становится сигналом в процессе модуляции некоторых параметров. В качестве носителей информации обычно используют колебания различной природы, включая частный случай - постоянное состояние (со = 0), а в случае широкополосных систем связи со сложными сигналами [17, 18] - колебания, модулированные периодическими детерминированными или псевдослучайными функциями. При этом в радиотехнических системах на сигнал накладывается ряд требований [19], в частности, возможность обеспечения независимого воспроизведения и синхронизации на передающей и приемной стороне, технической реализуемости относительно простыми средствами и др.
После прохождения канала распространения (среды) сигналы регистрируются приемником и каждому сигналу $(/) ставится в соответствие процесс г(у) из пространства /?. Сигналы на выходе регистрирующего устройства могут отличаться от переданных вследствие затухания, искажения и воздействия помех (шумов). Помехами называют любые мешающие возмущения, как внешние (атмосферные, промышленные помехи), так и внутренние (шумы аппаратуры), вызывающие случайные отклонения принятых сигналов от переданных. Эффект воздействия помех на различные блоки системы можно учесть эквивалентным изменением характеристик среды распространения Р(г | $), поэтому источник помех условно относят к среде (каналу распространения). Таким образом, регистрируемые данные в общем виде представляются как сумма переданного сигнала и аддитивного шума
/'(/)= 5(0+«(О-
В результате анализа (обработки) зарегистрированных данных г(() на основе введенных решающих правил каждому событию из пространства Е ставится в соответствие событие с1(п) из пространства решений О. За редкими исключениями (например, оценка наличия/отсутствия (да/нег) объекта на основе анализа некоторого набора параметров), размерности пространств Е и /) совпадают.
Основой решения задач обнаружения и оценивания параметров является разработка соответствующих решающих правил, методов и алгоритмов обработки данных, позволяющих связать пространство
23
наблюдаемых величин с пространством решений. Высокая эффективность решения задач обнаружения достигается выбором из всех возможных методов и алгоритмов обработки данных таких, которые минимизируют при определенных условиях влияние шумов на выходе системы. Данные методы принято относить к классу оптимальных. Задача синтеза оптимального алгоритма всегда связана с нахождением экстремума определенного функционала (критерия) качества, причем оптимальность алгоритма обработки по одному критерию качества в общем случае не означает его оптимальность по другим критериям. Критериев оптимальности существует достаточно много, однако наибольшее распространение при практической реализации алгоритмов получили критерии [4, 15, 16]
- максимизации отношения сигнал/шум по мощности на выходе системы в фиксированный момент времени, обычно используется для обнаружения (определения момента прихода) сигналов известной формы;
- минимизации среднего квадрата разности между выходным сигналом системы и истинным значением принимаемого полезного сигнала, часто используется при анализе случайных сигналов с неизвестными параметрами и в системах управления;
- вероятностные критерии, основанные на оценке апостериорной вероятности гипотезы- по наблюдаемой выборке с использованием формулы Байеса и априорной информации о функции потерь, или оценке вероятности правильного обнаружения в условиях априорной неопределенности функции потерь;
- минимизации среднего риска сигналов, критерий использует максимизацию вероятности обнаружения сигнала, предполагает наличие априорной информации о плотностях вероятности оцениваемых параметров, и тесно связан с критерием максимизации отношения сигнал/шум.
Выбор критерия качества и соответствующего правила выбора решения обычно связан с наличием или отсутствием необходимых априорных данных. В соответствии с выбранным критерием качества оптимальные алгоритмы решения задач обнаружения и оценивания параметров принято разделять на несколько типов [15]
- байесовские алгоритмы, если при использовании алгоритма оценивания некоторого параметра б достигается минимальное значение среднего риска бв = arg шах Rs, т.о. байесовские алгоритмы оптимальны по
критерию среднего риска;
- минимаксные алгоритмы, используемые, если неизвестно априорное распределение плотностей распределения параметров, и основанные на минимизации максимального из условных рисков min max rk, где
<?<=Л к<К
24
используют верхние границы оценок, получаемые из наименее благоприятного априорного распределения оцениваемого параметра;
— алгоритмы максимального правдоподобия, основанные на сравнении с порогом значения функции (отношения) правдоподобия выборки, представляющей собой плотность совместного распределения выборочных значений регистрируемого случайного процесса; обычно используется параметрическая форма функции правдоподобия представляющая
некоторую известную функцию (определяемую на основе априорной информации) аргумента х при каждом фиксированном значении вектора параметров 6.
- алгоритмы, основанные на минимизации ошибки второго рода (вероятности ложной тревоги) р - Р(уц\Н\), при заданном значении вероятности ошибки первого рода (пропуска цели) а = Р(у]\Н0) -
критерий Неймана-Пирсона. Хотя в данных алгоритмах не фиксируется правило выбора решения, можно показать [15], что при одинаковых вероятностях гипотез оптимальный по критерию Неймана-Пирсона алгоритм может быть реализован в рамках байесовских алгоритмов путем надлежащего выбора порога.
1.3 Фильтрациями предварительная обработка данных
Различные методы предварительной обработки данных, в частности фильтрация и оценивание, тесно связаны с задачей извлечения наилучшим образом полезной информации о процессе из зашумленных результатов измерений или зарегистрированных с погрешностями некоторых характеристик сигналов. Задача оценивания сводится к задаче оценки совокупности параметров (при оценке в целом) или одного параметра (при фильтрации). Фильтрацией сигнала х(£) обычно называется задача определения оценки л-(г) как функционала от х(т) по результатам наблюдения у(т) на некотором интервале 0<г</, где предполагается, что реализация у(т) представляет собой аддитивную смесь сигнала х(/) (либо некоторую, обычно линейную, операцию над сигналом) и помехи л(/), с известными корреляционными функциями. Предполагается, что сигнал и помеха в общем случае являются центрированными случайными процессами с произвольной функцией распределения.
Традиционные методы фильтрации основаны на возможности условного разделения спектральных характеристик сигнала и шума. Если спектры полезного сигнала и шума накладываются друг на друга, то для выделения сигнала используются статистические методы оценивания [6, 10-12]. Одним из основных методов в теории прогнозирования, фильтрации и оценивания по результатам косвенных наблюдений на
25
г
4
конечном интервале времени является разработанный К. Гауссом метод наименьших квадратов. Интенсивное развитие систем связи и радиолокации в XX веке привели к необходимости разработки оптимальных методов выделения полезного сигнала на фоне шумов. Одним из первых фильтров, минимизирующих воздействия помех для непрерывных случайных процессов, был фильтр Н. Винера, основанный на методе наименьших квадратов. Для дискретных стационарных случайных процессов данная задача была рассмотрена А.Н. Колмогоровым.
1.3.1 Линейная фильтрация, аппроксимация и предсказание данных
В настоящее время широкое распространение получили алгоритмы цифровой фильтрации данных [25, 26, 28]. Цифровая фильтрация включает в себя процессы сглаживания, предсказания, дифференцирования, интегрирования, разделения сигналов и вычитания помехи из сигнала. IЦифровой фильтр, по определению, есть дискретная система (физическое устройство или программа для ЭВМ), которая преобразует последовательность *[/?] числовых отсчетов входного сигнала в последовательность у[п) отсчетов выходного сигнала:
П1
(Хо,Х| —^{Уо^У \ »»чУ/)»”*} ?
где оператор Г['] представляет собой правило или набор правил, по которым происходит о тображение входного сигнала в выходной.
Для линейных цифровых фильтров, как и для линейных аналоговых фильтров справедлив принцип суперпозиции. Из свойств линейности и стационарности вытекает наиболее общий алгоритм линейной цифровой фильтрации: выходная последовательность есть дискретная свертка входного сигнала и импульсной характеристики фильтра
+оо
Уп = ® *М = £ К-н*к • (1 •1)
к=о
При обработке сигналов в «реальном масштабе времени» практический интерес представляют физически реализуемые цифровые фильтры, импульсная характеристика которых не может быть отличной от нуля в отсчетных точках, предшествующих моменту подачи входного импульса. При обработке записанных массивов данных программно может быть реализована импульсная характеристика любого вида. Цифровые фильтры могут быть построены так, что для формирования выходного сигнала в текущий дискретный момент времени они используют как некоторое число «прошлых» отсчетов входной последовательности Х/_1> */-2 так и некоторое число предшествующих отсчетов
ВЫХОДНОЙ последовательности у,_\, У(-2>—> У1-П> т-е- линейный цифровой фильтр представляет собой линейную комбинацию входных данных хп и,
г
Iг
5
26
возможно, выходных данных уп:
Уп=И.скх*-к+1Е.а1У«-к- (*-2)
к=о А=1
Структурная схема, реализующая фильтрацию сигнала на основе выражения (1.2), представлена на рис. 2а. Такие фильтры называются рекурсивными, к ним относятся [14, 25]: фильтр с бесконечной
импульсной характеристикой, лестничный фильтр, решетчатый фильтр, волновой фильтр, авторегрессионый фильтр скользящего среднего.
Существует два эквивалентных подхода к фильтрации сигналов: временная фильтрация и частотная фильтрация. Выбор подхода определяется конкретными целями, для которых применяется фильтрация данных, а также рядом ограничивающих факторов, таких как конечная длительность сигнала, необходимость физической реализуемости фильтра, возможностями средств вычислительной техники (микропроцессоров) и т.д. В литературе [12-14, 25] можно найти большое количество разработанных для различного рода задач временных и частотных фильтров, свойства которых хорошо изучены. Наиболее известными фильтрами (весовыми окнами) являются весовые функции Бартлетта, Ханна, Хеммиига, Блэкмана, Лапласа-Гаусса, Чебышева, Кайзера-Бесселя.
При обработке экспериментальных данных, оценке параметров, восполнении недостающих данных, построении зависимостей аппроксимация является одной из самых распространенных задач. На основе методов аппроксимации разрабатываются средства описания различных стабилизирующих зависимостей, огибающих разнообразных переходных процессов, выявлении периодических функций по выборкам, в которых представлен ограниченный фрагмент полного периода зависимости, и т.д.
Основную задачу теории аппроксимации можно сформулировать следующим образом: на некотором конечном множестве в пространстве произвольного числа измерений заданы две функции /(5с) (непрерывная или дискретная) и /7(х,я,,д2,...яи), которая зависит ещё от некоторого числа параметров ах,а2,...ап. Эти параметры требуется определить так, чтобы отклонение (расстояние), в том или ином смысле, функции /г(х,я1,а2,...я,|) от функции /(5с) было наименьшим. В качестве расстояния между двумя функциями можно взять, например, среднеквадратичное отклонение, верхнюю грань модуля их разности и др.
Среди большого разнообразия алгоритмов аппроксимации, наиболее простыми и широко применяемыми являются линейные математические модели [56-58]. Линейная модель в задаче аппроксимации формулируется в следующем виде: для М точек * = где / - независимая переменная, а у связанна с /
27
некоторой неизвестной функциональной зависимостью У/=у(^), необходимо аппроксимировать у комбинацией N заданных базисных функций q)j (в общем случае нелинейных) и коэффициентов cl9...,cn:
АО ~ С\<Р\(/) + c2cpz(t) +... + cncp„{t).
Наиболее распространенными линейными моделями являются полиномиальное приближение, фигонометрическое приближение (важный частный случай - ряд Фурье), экспоненциальное приближение с фиксированными экспонентами.
Основой для определения {ск} является набор экспериментальных данных {**,>>*}, к = 1 ...М. Для определения коэффициентов {<ск} наиболее часто используется метод наименьших квадратов. Задача минимизации функционала может быть сведена к решению системы нормальных уравнений Гаусса относительно неизвестных с={ск), что и дает набор коэффициентов для аппроксимации экспериментальных данных.
Идеи подхода, разработанного для аппроксимации данных П.Л. Чебышевым, заключаются в следующем. Пусть даны замкнутый (конечный или бесконечный) интервал [а,Ь] числовой оси и две вещественные непрерывные в [а,Ь] функции f(x) и 5(х). Вводится функция
Q(x) = S(x)-^- = S(x)- q°fa+q'^l + "'+g" .
А(х) р0х +р,х +...+ р,„
где т и п заданы. Необходимо найти вещественные параметры ро.р/...р,„; qo,q/...#„ так, чтобы отклонение D = max|/(x)- 0(д:)| 0(х) от
а*х£Ь1 1
/(х) было наименьшим. В частном случае, когда S(x) = 1, т-0 и интервал [<а,Ь\ конечен, поставленная задача переходит в задачу о наилучшем приближении заданной функции с помощью многочлена степени п.
В практике обработки сигналов весьма распространена сплайн-аппроксимация их дискретных значений, что определяется отсутствием разрывов аппроксимирующей функции по производным на границах интервалов дискретизации. Известны выражения для определения коэффициентов параболической и кубической сплайн - аппроксимаций [56-58] дискретных значений сигнала на их фиксированном наборе.
Одним из важных частных случаев решения задачи аппроксимации является выявление и устранение нежелательных зависимостей (трендов) в экспериментальных данных. Если тренды не исключить из исходных данных, то при их последующем анализе могут возникнуть значительные искажения оценок плотности вероятности, ковариационных, спектральных характеристик или других параметров сигналов. Основным источником трендов в измерительной аппаратуре являются операции интегрирования сигнала и дрейф нуля регистрирующих приборов [12]. Наиболее
28
употребительными для построения трендовых моделей являются полиномиальные функции невысоких порядков. Однако они обладают рядом недостатков как аппарат приближения для функций с особенностями и для функций с не слишком большой гладкостью. Основной недостаток полиномов состоит в том, что поведение в окрестности какой-либо точки определяет их поведение в целом, что не позволяет учитывать все особенности изучаемого процесса. В таких случаях предпочтительнее использовать методы сплайн - аппроксимации.
Модель временного ряда, которая пригодна для аппроксимации многих встречающихся на практике детерминированных и стохастических процессов с дискретным временем, описывается выходом фильтра, выражаемым следующим линейным разностным уравнением с комплексными коэффициентами:
р я
х„ = -2>4х„_* + • 0-3)
*=1 к=О
Здесь х — последовательность на выходе каузального фильтра, который формирует наблюдаемые данные, ам - входная (ненаблюдаемая) возбуждающая последовательность. Модель общего типа, когда одновременно отличны от нуля коэффициенты ак и Ьк называется авторегрессионной моделью со скользящим средним (АРСС) или линейным предсказанием [14, 59].
Линейное предсказание является одной из распространенных задач в различных областях прикладной науки, связанных с необходимостью прогнозирования поведения сигналов или процессов на основе ограниченного набора имеющихся данных. Структурная схема линейного предсказания аналогична линейному фильтру, представленному на рис. 2а.
В литературе часто используется обозначение АРСС (р,д), что удобно для краткого обозначения АРСС-модели с параметрами авторегрессии порядка р и параметрами скользящего среднего порядка q. Любой аддитивный шум наблюдения, присутствующий в последовательности измеряемых данных, должен моделироваться как шум источника, отличного от источника возбуждающего шума, являющегося составной частью АРСС-модели.
Если все АР-параметры положить, за исключением я[0] = 1, равными <7
нулю, тогда хп = 2^Ькип_к +ик будет строго СС-ироцессом порядка с/.
*=1
Если все СС-параметры положить, за исключением 6[0] = 1, равными нулю, то
р
х11=-'Еак*»-к +><п О-4)
к=\
будет строго АР-процессом порядка р.
29
Параметры модели можно определить, если известна автокорреляционная последовательность и полагается, что ик - белый шум
с дисперсией рм,. Если обе части уравнения (1.3) помножить на х*п_ш и определить математическое ожидание, то получим
м{с„х'п_т}= -1>*л4х„_л_т }+ 'ЕЬкм[1„^х'1_к},
к=1 ^ > к=0
Р <7
или гст[/я] = -^акгхх[т-к]+^1 Ькгт [т - к].
*=1 к=О
Авторегрессионные параметры АРСС-модели и автокорреляционная последовательность связаны- системой' линейных уравнений. Однако значения СС-параметров АРСС-модели не являются, к сожалению, решением системы линейных уравнений. СС-параметры входят в выражение в виде сверток с коэффициентами импульсной характеристики И[к]у а это приводит к нелинейной связи с автокорреляционной последовательностью. Вычислительные затраты для оценивания параметров АР-модели часто значительно меньше вычислительных затрат, требуемых для оценивания параметров СС- и АРСС-моделей, поэтому АР-модель временного ряда иногда выгодно применять даже тогда, когда она не является моделью с наименьшим числом параметров.
Если задана автокорреляционная последовательность для 0 < т < р, то АР-параметры можно найти в результате решения уравнений (1.5), которые также называются нормальными уравнениями Юла - Уолкера для АР-процесса.
ао]
'»Ш
[-1]
'XV [01
V'«
.XX
[-р]
':«[-р+Ч
XX
[0]
\ ' 1 ' А/
«[1] . 0
/ Ар\, ,0,
(1.5)
Автокорреляционная матрица (АКМ) в (1.5) является и тёплицевой, и эрмитовой [14, 60|. Для решения подобных систем линейных уравнений разработаны эффективные алгоритмы, например алгоритм Левинсона [14], однако следует учитывать, что часто теплицевы автокорреляционные матрицы являются плохо обусловленными. Следствием этого может быть плохая статистическая состоятельность АР-оценок. Для уменьшения влияния плохой обусловленности автокорреляционной матрицы желательно использовать при решении систем уравнений вида (1.5) устойчивые алгоритмы, находящие решение в среднеквадратичном смысле, например проекционный алгоритм Качмажа [61].
30