Оглавление
Введение 3
Глава I. Максимально вырожденные серии представлений "ранга 2” группы 8Ь(п,К)
§1 Группа 8Ь(п,М), ее подгруппы и разложения 9
§2 Пространство флагов 13
§3 Многообразие Штифеля 22
§4 Многообразия Грассмана 27
§5 Инвариантные дифференциальные операторы на многообразиях Грассмана 38
§6 Многочлены Коорнвиндера 48
§7 Гармонический анализ на многообразиях Грассмана 53
§8 Представления Т*£ 63
§9 Структура представлений Т*£ 68
§10 Сплетающие операторы 80
§11 Инвариантные эрмитовы формы и унитаризуемость 92
Глава И. Случай п = 4
§12 Связь с псевдоортогональной группой 96
§13 Грассманово многообразие 100
§14 Представления Т*е для п = 4 103
§15 ^-инварианты, ядро Пуассона 104
Литература 106
2
Введение
1. Под гармоническим анализом на однородных пространствах <2/Н обычно понимается разложение квазирегулярного представления группы <2 сдвигами в пространстве Ь'2(0/Н) по инвариантной мере. Это представление унитарно. Широкий и очень важный класс однородных пространств С/Н образуют полупростые симметрические пространства. Для них решение задачи о разложении квазирегулярного представления продвинуто далеко вперед: Хариш-Чандра, И. М. Гельфанд, С. Г. Гиндикин, Ф. И. Карпелевич - для римановых симметрических пространств (60-е годы), Хариш-Чандра для полуп-ростых групп Ли (70-е годы), В. Ф. Молчанов для пространств ранга 1 (80-е годы), Н. Бопп, П. Харанк, С. Сано - для фактор-пространств комплексных групп по их вещественным формам, П. Делорм,
Э. ван ден Бан, Г. Шлихткрулль - некоторые версии формулы Планшереля для общего случая (90-е годы). Однако, кроме этой (классической) задачи, в гармоническом анализе имеется еще много других, связанных с изучением представлений в пространствах функций на С/Н с нелокальным скалярным произведением или даже унитарных в индефинитном смысле. В частности, такие задачи естественно появляются при построении квантования в духе Ф. А. Березина на полупростых симметрических пространствах, которые являются симплектическими многообразиями (В. Ф. Молчанов, Г. ван Дейк и их сотрудники).
2. Одним из примеров таких пространств (имеющим большое значение) является пространство
в/Н = ЗЦпуЩ/Я(СМрЛ) х СЬ(д,Е))> Р + = п. (0.1)
Оно есть обобщение однополостного гиперболоида в К'3, который получается при п = 2ур = з = 1. В самом деле, этот гиперболоид есть
8Ь(2,Е)/СЬ(1,Е).
Как известно, группа 8Ц2,Е) является ключевым примером в теории представлений. В частности, гармонический анализ на однополостном гиперболоиде важен как сам по себе, так и как источник различных общих идей.
3
Пространство (0.1) - полупростое, псевдориманово, симплектичес-кое, оно относится к классу пара-эрмитовых симметрических пространств первой категории, см. [22], [26]. Оно имеет размерность 2рц и ранг тш{р,д}.
Построение квантования на пространстве (0.1) и изучение тесно связанных с квантованием так называемых канонических представлений приводит к задаче о разложении тензорных произведений представлений группы БЦп, К), относящихся к максимально вырожденным сериям, связанным с пространством (0.1). Это - представления группы 8Ь(п,Е£), индуцированные характерами (одномерными представлениями, не обязательно унитарными) максимальных параболических подгрупп Р*, для которых Н является подгруппой Леви. Это - подгруппы верхних и нижних блочно треугольных матриц.
3. В связи с этим возникает задача об исследовании самих этих максимально вырожденных представлений (л € С, £ = 0,1.
Случай 0 = 1 (или р = 1) был исследован в работе Г. ван Дейка и В.Ф.Молчанова [18].
Случай р > 1,д > 1 оказывается значительно более трудным. Это связано с тем, что в этом случае ранг пространства С/Я, а также ранг многообразия Грассмана, в функциях на котором реализуются представления, больше 1. Здесь имеется только один частный результат: в работе Д.Барбаша, С.Сахи, Б.Спех [16] для р = (\ предложена некоторая характеризация инвариантных подпространств в случае, если имеется конечномерное неприводимое подпространство.
4. В предлагаемой работе мы исследуем представления Т*€ группы 8Ь(п,К) для случая 0 = 2 (мы считаем, что п > 4). В этом случае ранг пространства (0.1) и соответствующего многообразия Грассмана равен 2, поэтому мы называем наши представления ” максимально вырожденными представлениями ранга 2.”
Мы находим: различные реализации представлений, их структуру (приводимость, неприводимость, композиционные ряды в приводимом случае), сплетающие операторы (как в матричном, так и интегральном виде), находим инвариантные полуторалинейные формы и, наконец, выясняем, когда наши представления или их подфакторы уни-таризуемы.
Поскольку в качестве основного метода изучения представлений мы используем ограничение на максимальную компактную подгруппу К = БО(п), нам пришлось исследовать гармонический анализ намно-
4
гообразии Грассмана двумерных ориентированных подпространств (плоскостей) в Е". Здесь мы опирались на работу Т.Коорнвиндера [23], в которой расматривалось многообразие Грассмана неориентированных плоскостей.
5. Структура и содержание диссертации.
Диссертация состоит из Введения и пятнадцати параграфов, разбитых на две главы. Первая глава содержит одиннадцать параграфов (§§1 - 11), вторая - четыре (§§12 - 15).
Нумерация параграфов, теорем, лемм, формул - единая. Первая цифра означает номер параграфа, вторая - номер теоремы, леммы, формулы в этом параграфе.
В первых двух параграфах (§§1,2) мы приводим основные сведения о группе Є — ЭЦп, Е), ее подгруппах, разложениях и т.д. Здесь тг > 4.
В §3 мы сообщаем некоторые сведения о многообразии Штифеля 5 = 80(гс)/80(гг — 2) и гармоническом анализе на нем. Начиная с §3 и до §11 включительно мы рассматриваем общий случай п > 4.
В §§4, 5, б, 7 мы исследуем гармонический анализ на многообразии Грассмана Г = 30(п)/Б0(п-2) х 80(2) двумерных ориентированных подпространств в Еп (плоскостей). Мы даем описание неприводимых компонент в разложении квазирегулярного представления группы К = 80(гг) на Г, предъявляем сферические функции, вычисляем собственные числа инвариантных дифференциальных операторов и находим явно их радиальные части. Оказывается, что сферические функции на Г выражаются через многочлены от двух переменных, введенные Т.Коорнвиндером. Поэтому в §6 мы приводим описание этих многочленов.
В §8 мы даем определение и реализации (в компактной и некомпактной картинах) представлений индуцированных характерами параболических подгрупп Рт.
В §9 мы исследуем структуру представлений Т^€ - с помощью ограничения на максимально компактную подгруппу К. Здесь мы выясняем, когда эти представления приводимы или неприводимы, и в приводимом случае находим структуру инвариантных подпространств (композиционные ряды). Ключевым моментом здесь является трудная теорема 9.6, которая дает нам коэффициенты зацепления К-типов.
В §10 мы описываем все сплетающие операторы между представлениями из наших серий. Мы находим собственные числа этих опера-
торов на К-типах (матричное описание), а также даем интегральное описание всех сплетающих операторов.
Наконец, в §11 мы находим инвариантные полуторалинейные формы, инвариантные эрмитовы формы и выясняем, какие из наших представлений унитаризуемы. Оказывается, что при п > 4 имеется только непрерывная серия неприводимых унитарных представлений: это - представления Т^£ с 11ед = —п/2, действующие в 2^ (Г) (пространстве четных (е = 0), или нечетных (е = 1) функций из Ь2{Г)).
В главе II мы рассматриваем случай п = 4. Этот случай имеет ряд особенностей, отличающих его от п > 4: подгруппы Р+ и Р~ сопряжены, подпространства (изотропные подпространства в алгебре Ли 0 группы (2) обладают Я-инвариантной мерой, йордановы тройные системы с пространствами являются йордановыми алгебрами, представления обладают /^-инвариантами, набор унитаризуе-мых представлений намного богаче, чем для п > 4 : кроме непрерывной серии имеются две дискретные, дополнительная серия и одно исключительное представление.
Исследованию случая п = 4 помогает то обстоятельство, что группа БЬ(4, К) локально изоморфна группе БОо(3,3) : накрывает ее с кратностью два. Поскольку ядро этого гомоморфизма совпадает с ядрами всех представлений мы получаем представления группы БОо(3,3). Эти последние оказываются представлениями группы ЭОо(3,3), связанными с конусом. Представления группы 80о(р, </), связанные с конусом, были описаны В. Ф. Молчановым [7]. Поэтому мы можем использовать эти результаты в частном случае 80о(3,3).
6. Сформулируем основные результаты диссертации
а) исследована структура представлений Т*г группы ЭЦп,К) (приводимость, неприводимость, структура инвариантных подпространств);
б) найдены все сплетающие операторы для этих серий представлений - как в матричном, так и в интегральном виде;
в) найдены все инвариантные полуторалинейные формы, все инвариантные эрмитовы формы;
г) найдены все унитаризуемыс представления; '
д) исследован гармонический анализ на многообразиях Грассмана двумерных ориентированных подпространств в Мп;
е) найдены радиальные части дифференциальных операторов, яв-
6
ляющихся образующими в алгебре инвариантных дифференциальных операторов на указанном многообразии Грассмана, вычислены собственные числа этих операторов на неприводимых подпространствах;
ж) явно выписан гомоморфизм группы SL(4,R) на группу SOo(3,3) и соответствующий локальный изоморфизм алгебр Ли.
Основные результаты работы диссертации опубликованы в работах [11], [12], [13], [14], [15], [29].
Приведем некоторые обозначения и формулы, используемые в диссертации. N = {0,1,2,...}; Z,R,C - соответственно целые, вещественные, комплексные числа.
Если М - многообразие, то V{M) обозначает пространство Шварца комплекснозначных бесконечно дифференцируемых функций на М с компактным носителем, снабженное обычной топологией, а Т>'(М) обозначает пространство обобщенных функций на А/, т. е. пространство непрерывных антилинейных функционалов на Р(М). Значение функционала F € V'(M) на / £ V(M) мы обозначаем через (F, /).
Для группы Ли G ее алгебра Ли обозначается соответствующей малой готической буквой д.
Для группы Ли G через Ge обозначается ее компонента связности, содержащая единицу.
Мы сохраняем символ, обозначающий данное представление группы Ли, для представления алгебры Ли данной группы Ли и представления ее универсальной обертывающей алгебры, порожденных данным представлением этой группы Ли.
Мы используем стандартные обозначения для классических групп Ли: SOo(p,q) (это - связная компонента единицы группы преобразований пространства Rp+q, сохраняющих квадратичную форму сигнатуры (р, g), SO(n), SL(n.R), GL(rc,R).
Mat(p, </,; R) обозначает пространство матриц над Rep строками и q столбцами. Mat(p; R) обозначает пространство квадратных матриц над R порядка р.
Знак сравнения = обозначает сравнение по модулю два.
Мы используем следующее обозначение для характера группы R*:
tx>€ = |t|Asgn* t (А 6 С, е = 0,1). (0.2)
Г(х) - гамма-функция Эйлера, В(аг, у) - бета-функция Эйлера.
Мы используем следующие обозначения для ’’обобщенных степе-
7
+ 1) = г(Г-т V1)’ (°'3)
оМ,0(0+1)...(<1 + т-1),31±£!)1 (0.4)
отметим связь между этими степенями
а<т> = (-1)т(-а)И. (0.5)
В литературе выражение аМ часто обозначается через (а)т - символ Похгаммера, см. [21], 1.21.
Автор выражает глубокую благодарность своему научному руководителю проф. В. Ф. Молчанову за постановку задачи, большую помощь и постоянное внимание к работе.
8
- Київ+380960830922