Оглавление
Введение 4
Обозначения....................................................... 27
1 Асимптотические разложения для квадратичных форм 28
1.1 Формулировка результатов.......................................28
1.2 Доказательство теоремы 1.1..................................29
1.3 Доказательство теоремы 1.2..................................50
2 Приложения 61 *
2.1 Тёплицевы матрицы..............................................61
2.2 Процесс авторегрессии А11(1)...................................63
2.3 Линейно порожденные процессы...................................64
2.4 Спейсинг-статистики............................................66
2.5 Вейвлет-оценки спектральной плотности .........................68
3 Асимптотические свойства вейвлет-оценок 72
3.1 Формулировка результатов.......................................72
3.2 Доказательство теоремы 3.1..................................77
3.3 Доказательство теоремы 3.2..................................77
3.4 Доказательство теоремы 3.3..................................81
3.5 Оценка дисперсии линейной вейвлет-оценки ......................82
3.6 Доказательство теоремы 3.4..................................87
3.7 Доказательство теоремы 3.5..................................88
3.8 Доказательство теоремы 3.6..................................90
3.9 Доказательство теоремы 3.7..................................92
2
А Дополнение 104
А.1 Вспомогательные результаты................................104
А.2 Кратномасштабный анализ...................................107
А.З Пространство Соболева.....................................109
А.4 Пространство Бесова.......................................111
В Численный эксперимент 113
3
Введение
Рассмотрим Х,Х1,Х2,... - последовательность независимых случайных величин с конечной дисперсией. Пусть {Л„} - последовательность симметричных матриц размерности N х Л7, с элементами а^9 причем Л7, возможно зависит от п или равно оо. Рассмотрим последовательность квадратичных форм
N
Яп= 22 а?к(хзхк - ЕХ,Хк).
jtk=^
Интерес к задаче изучения асимптотического распределения квадратичных форм обусловлен тем, что квадратичные формы находят непосредственное применение в задачах теории вероятностей и математической статистики: при построении критериев согласия [43], при оценивании спектральной плотности [2], [6], при оценивании параметров стационарных процессов [21], [56]. Отметим, что квадратичные формы образуют важный подкласс обобщенных 17-статистик. Многие результаты, связанные с изучением асимптотики 17-статистик, получены сведением 17-статистики к квадратичной форме [8, (1989)). Задача исследования предельного поведения вейвлет-оценки спектральной плотности также сводится к изучению асимптотики квадратичной формы.
Всйвлет-оценки получили широкое распространение в задаче непараметрического оценивания плотности распределения [48, (1992)], [62, (1994)] [62, (1994)], [44, (1996)], спектральной плотности стационарных процессов [53, (1996)], при исследовании поведения нестационарных процессов [26, (1999)]. Вместе с тем, представляется интересным исследование асимптотического поведения вейвлет-оценок плотности случайной величины.
Интерес к исследованию асимптотического поведения квадратичных форм, возникший в 50-е годы (см. [57, (1948)], [37, (1955)], [42, (1955)], [39, (1958)]), был обусловлен появлением приложений и носил частный характер. Как 6о-
4
лее общая проблема, Колмогоровым была сформулирована задача определения класса всех возможных предельных распределений квадратичной формы. Севастьянов в работе [13, (1961)] показал, что класс предельных распределений для квадратичных форм от гауссовских независимых случайных величин совпадает с классом распределений образованным всевозможными свертками стандартного нормального закона, взвешенного центрального и нецентрального распределения хи-квадрат.
В нашей работе мы ограничимся задачей нормальной аппроксимации квадратичных форм от независимых случайных величин, а именно, изучением скорости сходимости в центральной предельной теореме.
Одной из первых работ в данном направлении, по-видимому, является работа Уиттла [64, (1964)]. Используя метод Бернштейна для изучения асимптотики сумм слабо зависимых случайных величин, Уиттл доказал слабую сходимость последовательности распределений квадратичных форм к нормальному закону, предполагая, что абсолютный момент случайной величины X порядка 4 + 6 конечен, и матрица А имеет тёплицеву структуру.
В работе Ротаря [11, (1973)] был получен ответ на следующий вопрос: являются ли квадратичные формы пинвариантными” относительно некоторого класса распределений? Введем следующие обозначения: £2 = тахХ2,
4 = £)Ы<$)2- пусть
71
- Е^*)>
},к= 1
где ^1,^2,... - последовательность независимых гауссовских стандартных случайных величин. Обозначим $п = 1^=1 |а^| + Е"=1-^)*> е2 = \а^\ + £2/Ь'2. Для случая тах;- с2/Ь2 —> 0, Ротарь доказал, что величина
5п(х) = |р {д„ < ъ1х) - р {ап < ь2пх} |
сходится к нулю почти для всех значений х, то есть предельное распределение квадратичной формы не зависит от выбора случайных величин Х\,Х2, — Пусть = 0 и |Ип||2= 1, где Ип||2= Е^Ц^)2. ПУСТЬ |Мп)1 ^ ^
|л!п)| - собственные числа матрицы {Ап}. В работе Гамкрелидзе, Ротаря [4, (1977)] при условии, что Е|Х|3 < оо, зирп Е?=1< 00 и ^< была получена оценка
зирЙ„(х) < (1 — 54(ТгЛ3)2)“*1Д.
X
5
В [12, (1985)| Ротарь, Шеваршидзе уточнили результат работы [4]. При условии, что TV А„<\ была получена оценка
sup<5п(я) < (1 - 1п(1 - 2Тг A„))*l*.
х
Будем обозначать через С с индексом (или без) абсолютные положительные константы, необязательно одинаковые. Отметим, что Gn можно привести к виду Gn = 2jLi — 1) с помощью ортогонального преобразования
матрицы Ап. Тогда неравенство Верри-Эссеена влечет выполнение следующего неравенства
( ______ . * |Д(П)|3 |\(п).
sup IIP {g./чЛШа. < 4 - ФЫ1 < с,
где Ф(#) - функция распределения (ф.р.) стандартного нормального закона, A<n) - максимальное по абсолютному значению собственное значение матрицы Ап- Из результатов [4] и [12] следует, что достаточным условием выполнимости центральной предельной теоремы является
ВЭ _ 0. (1)
IM.II 11
Отметим, что диагональ матрицы Ап имеет значительное влияние на поведение предельного распределения. Обозначим через V2 = SyLi(a^)2- Если V2 ф 0, то аппроксимирующее распределение Q зависит от ЕХ3 и ЕХ4. Например, если EX2 = 1, рассмотрим статистику
Q = J\H£(X?- 1) + ЛГг £ ВД-
j=l l<&k<N
Нетрудно видеть, что Q можно переписать в виде
Q = N-'QT'Xs)2 - N-'Cjtx]) + N-i £(*? ~ !)■
i=l j=1 j= 1
Введем двумерный вектор = (Xj — 1 yXj). Используя центральную предельную теорему для векторов £j, получим, что Q имеет предельное распределение G следующего вида
G = \JIX4 — 1 — n\Z 4- (Z\ 4 fx$/2)2 — 1 — \i3/4,
6
где /І* = Ерг - ЕХ)*.
В 1991 году МікобЬ в работе [52] независимо от результатов Ротаря показал, что для квадратичной формы с нулевой диагональю от независимых равномерно интегрируемых с квадратом случайных величин
та? ЕХр [\Хі\ > М} > О,
1<^<П * М—>оо
условие (1) является достаточным условием сходимости (2п к нормальному закону.
До недавнего времени наилучшей оценкой скорости сходимости в центральной предельной теореме была оценка порядка которая следует из результатов [4, (1977)| и [12, (1985)].
Для случая с нулевой диагональю в работе Гётце, Тихомирова [34, (1999)] с помощью метода локального секционирования и неравенства симметризации был получен следующий результат
вир|р (<Эп/\Л'аг<Зп < я} - Ф(ж)| < (2)
X
I к
где рк = Е|Х|*.
Пусть V* > 0. Предположим, что линейная часть квадратичной формы не "доминирует" предельное распределение (2П, ТО есть существует > 0, такое, что равномерно по п
(3)
В предположении конечности шестого момента случайной величины X и выполнения условия (3), в работе Гётце, Тихомирова [35, (2002)] была получена оценка
|А(">
гп <ч \
где = [01 + Уп\\Ап\\~1/Зъ)1^г.
Можно построить пример, показывающий, что оценки (2), (4) оптимальны (см. [34]). Рассмотрим последовательность случайных величин Ху, принимающих значения 4-1 и —1 с вероятностью Рассмотрим квадратичную форму вида
п
= 2 ^ Х2*-1Х2*.
к= 1
7
Бир|Р {«Зп/х/Уаг дп < ж} - Ф(ж)| < СЬ[ (4)
Легко видеть, что матрица Л составлена из блоков размерности 2x2 вида ^ ^ , расположенных на диагонали. Норма |ИП||2 равна п. Из определения
матрицы Лп следует, что |A[n^| = 1. Действительно, по определению
|А(п)| = sup ||Anx||2,
М-1
где X - вектор В Е2п. Тогда, ЛПХ = (ЗД, Xi, ЗД, ЗД, . • . ,^2n^2n-l), откуда следует, что |А^| = 1. Применяя оценку (2), получим
Д„(А) = sup|p |(Qn - EQn)/y/VaxQn < ж} - Ф(я)| <
С6
у/й'
Заметим, что случайные величины Ук = Хък-хХи, к = 1 независимы и одинаково распределены. Нетрудно показать, что Р {^*=1 Ук = 0}
(см. (10, с.158]), откуда следует оценка для нижней границы ДП(Л)
дп(Л)>^==^1
Vn PII '
В дальнейшем нас будет интересовать построение асимптотических разложений для квадратичных форм и уточнение оценок в центральной предельной теореме.
Наряду с исследованиями асимптотического поведения квадратичных форм, нас будет интересовать предельное поведение вейвлет-статистик.
Вейвлет-анализ является одним из удобных инструментов исследования функций в различных пространствах. Основополагающими работами в этой области стали работы Маллат (Mallat)[50, (1989)], Добеши (Daubechies)[27, (1992)], Чуй (Chui)[22, (1992)]. В них авторы развивают теорию построения ортонормальных базисов с заданными свойствами регулярности, которые строятся с помощью сдвигов и растяжений генерирующей функции. Достаточно подробный обзор по вейвлет-анализу содержится в работах Hardie et. al[45, (1997)], Новикова, Стечкина (9, (1998)].
Пусть X,Xi,X2,.~ - последовательность одинаково распределенных случайных величин с конечной дисперсией. Пусть X имеет плотность распределения f{x). Линейная вейвлет-оценка была введена в работе Керкячеряна, Пикарда (Kerkyacharian, Picard) [48, (1992)] и Уолтера (Walter) [62, (1994)].
8
Рассмотрим оценку плотности распределения f(x)
оо j\ —1 00
fji(x) — ^ у Cjok<Pj0k(x) -н ^ ^ ] djkipjk(x). (5)
к=- оо j=jok=-oc
ГДе Cjo* = l/nX)ILl ^о*№)> djk = l/nSr=l^№) “ ЭМПИрИЧеСКИе ВвЙВЛвТ
- коэффициенты, ji = ji(n) - уровень аппроксимации. Керкячерян, Пикард применили оценку (5) в задаче непараметрического оценивания плотности распределения. Для функций из класса Бесова В*,р, s > 0,р > 1 была получена оптимальная оценка среднеквадратичной ошибки в пространстве Ьр порядка n_sp/(25+1).
В работах Донохоу, Джонстоуна (Donoho, Johnstone) [28, (1992)], [29, (1994)] было предложено использовать сглаженные нелинейным образом вейвлет-оценки. Нелинейные вейвлет-оценки рассматривались также в работах Холла, Керкячеряна, Пикарда [44, (1996)], Härdle, et. al [45, (1997)]. В книге [45] для шара в пространстве Бесова Вр'я получена оценка Lp-минимаксного риска порядка
/ W Г) \ (^-1/р+1/7П)/(1+2(«-1/р)) 1
(^) , S>i,m>(l + 2S)p,
\ п ; р
а также полностью описаны условия оптимальности минимаксного риска для линейной и нелинейной вейвлет-оценок плотности в шаре пространства Бесова.
В работе Ньюманна [53, (1996)] исследовались нелинейные вейвлет-оценки спектральной плотности на классах Бесова. Были получены асимптотические свойства эмпирических вейвлет-коэффициентов и оптимальное значение скорости сходимости оценки Z/2-риска спектральной плотности / G B8p'q, р > 2 порядка n-2*/(2*+i) ПрИ ограничениях на кумулянты
00
sup У2 |cum(Xtl,...,XtJ| < С(к\)1+1,
где к = 2,3,..., 7 > 0. В работе Далхауза (Dahlhaus). Ньюмана и фон Сакса (von Sachs) [26, (1999)] было изучено поведение параметров {ö*(£)}f=i ^стационарного процесса авторегрессии AR(p). Было показано, что среднеквадратичное уклонение нелинейной вейвлет-оценки параметра ö2(t), г = 1,... ,р имеет порядок п“2мт дЛя широкого класса функций.
Представленный обзор исследований позволяет сделать вывод о значительном развитии задачи нормальной аппроксимации последовательности квадратичных форм от независимых случайных величин. Вместе с тем, представляется закономерной попытка построения асимптотических разложений для квадратичных форм и получения более точных оценок скорости сходимости в центральной предельной теореме. Обзор приложений вейвлет-анализа в теории вероятностей показывает актуальность изучения предельных теорем для вейвлет-оценок. Настоящая работа представляет собой первый опыт по изучению асимптотических разложений в центральной предельной теореме для класса статистик, сводимых к последовательности квадратичных форм (оценки спектральной плотности, статистики т-спейсингов), а также первый опыт по изучению предельного поведения линейных и нелинейных вейвлет-оценок.
В методологическом отношении мы опираемся, с одной стороны, на обширный опыт изучения предельного поведения квадратичных форм ([64], [52], [20], [34], [35]), с другой стороны - на методы, разработанные в теории вейвлет-анализа [27], [50], [45].
Содержание диссертации. Диссертация состоит из введения, трех глав и дополнения. В первой главе доказывается основная теорема. Во второй главе рассматриваются приложения основной теоремы к некоторым статистикам. В третьей главе доказывается состоятельность вейвлетюценок, поточечная центральная предельная теорема для вейвлет-оценок и центральная предельная теорема для Ь\ - расстояния.
Основные результаты глав 1 и 2 изложены в работах [5], |33], результаты главы 3 в работах [14], [15], [16].
Глава 1 посвящена доказательству основной теоремы. Пусть Х,Х\,Х<2,... независимые одинаково распределенные случайные величины с нулевым средним. Пусть А = 1 симметричная матрица размерности N х N. Рас-
смотрим статистику
д = Х>^(Х? - №) + £ азкХ3Хк. (6)
3=1 1
Обозначим через (1 е вектор с компонентами ^ = а#, ^ = 1, и матрицу Ао с элементами равными а^к, если 3 ^ к и нулю в противном
10
- Киев+380960830922