Грубые диффеоморфизмы с базисными множествами коразмерности один

Аннотация

Обзор посвящен изложению результатов (в том числе и авторов обзора), полученных начиная с 2000-х годов по настоящее время, по топологической классификации структурно устойчивых каскадов, заданных на гладком замкнутом многообразии Mn (n>3) в предположении, что их неблуждающие множества либо содержат ориентируемый растягивающийся (сжимающийся) аттрактор (репеллер) коразмерности один, либо целиком состоят из базисных множеств коразмерности один. Представленные результаты являются естественным продолжением топологической классификации диффеоморфизмов Аносова коразмерности один. В обзоре также отражен прогресс, связанный с построением глобальной функции Ляпунова и энергетической функции для динамических систем на многообразиях (в частности, описана конструкция энергетической функции для структурно устойчивых 3-каскадов, неблуждающее множество которых содержит двумерный растягивающийся аттрактор).

Полный текст

ВВЕДЕНИЕ Настоящий обзор относится к традиционным направлениям исследований нижегородской школы нелинейных колебаний, основанной академиком А. А. Андроновым. Благодаря исторической работе А. А. Андронова и Л. С. Понтрягина [1] в Нижнем Новгороде стало развиваться важнейшее направление качественной теории динамических систем - топологическая классификация грубых систем и систем с гиперболической структурой неблуждающего множества. Первые основополагающие результаты в этом направлении принадлежали представителям именно этой школы: А. А. Андронову, Е. А. Леонтович, А. Г. Майеру и др. Под полной топологической классификацией некоторого класса G динамических систем понимается решение следующих задач: · нахождение топологических инвариантов динамических систем из класса G; · доказательство полноты множества найденных инвариантов, т. е. доказательство того, что совпадение множеств топологических инвариантов является необходимым и достаточным условием топологической эквивалентности (сопряженности) двух динамических систем из G; · реализация, т. е. построение по заданному множеству топологических инвариантов стандартного представителя, принадлежащего G. Решения проблемы топологической классификации именно в такой канонической постановке известны лишь для некоторых классов структурно устойчивых систем. Ограничимся рассмотрением динамических систем с дискретным временем (каскадами и порождающими их диффеоморфизмами) на замкнутых многообразиях. Класс эквивалентности грубых потоков на окружности однозначно определяется числом его неподвижных точек. Для структурно устойчивых каскадов на окружности полный топологический инвариант был получен А. Г. Майером [20] в 1939 году и состоит из набора трех чисел: числа периодических орбит, их периода и так называемого порядкового числа. Начало 60-х годов прошлого века ознаменовалось революционным открытием, связанным с именами С. Смейла [25] и Д. В. Аносова [2]. Было обнаружено, что структурно устойчивые отображения поверхности могут обладать счетным множеством седловых гиперболических периодических орбит. Динамика таких систем является хаотической и, в противовес регулярной динамике, означает существование всюду плотного подмножества нетривиального базисного множества, в котором траектории сколь угодно близких точек имеют различное асимптотическое поведение. Стало понятно, что исследование таких систем требует новых подходов и методов, их топологические инварианты не исчерпываются комбинаторными объектами, а характеризуются алгебраическими инвариантами, включающими автоморфизмы фундаментальных групп носителей базисных множеств. Для каскадов на многообразиях размерности больше единицы становится возможным существование гомоклинических пересечений инвариантных многообразий седловых периодических движений, что приводит к существованию счетного множества периодических траекторий. Первым, кто обнаружил сложную структуру множества траекторий, принадлежащих окрестности гомоклинической траектории, был А. Пуанкаре [56]. Затем Д. Биркгоф [28] исследовал двумерные сохраняющие площадь отображения и показал, что наличие гомоклинических пересечений влечет существование бесконечного множества периодических орбит. Принципиальным продвижением в этом направлении явилась работа Л. П. Шильникова, в которой дано полное описание множества всех траекторий, остающихся в некоторой окрестности трансверсальной гомоклинической траектории потока на многообразии размерности больше двух. Из этого описания следует, в частности, наличие в выбранной окрестности счетного множества периодических траекторий [26, 27]. Существенную роль в понимании принципиального отличия структурно устойчивых каскадов на многообразиях размерности больше единицы от структурно устойчивых потоков на поверхностях сыграл пример структурно устойчивого диффеоморфизма двумерной сферы, обладающий бесконечным множеством периодических орбит, который был построен С. Смейлом в 1961 году [61] и получил название «подкова Смейла». Второе важнейшее открытие сделал Д. В. Аносов в 1962 году, установив структурную устойчивость геодезического потока на римановом многообразии отрицательной кривизны [2]. В этой же работе он ввел важный класс структурно устойчивых потоков, а затем и диффеоморфизмов, названных им У-системами и получивших позднее название потоков и диффеоморфизмов Аносова. С. Смейл обобщил это понятие и ввел в рассмотрение класс систем с гиперболической структурой неблуждающего множества, являющегося замыканием множества периодических точек [61] (диффеоморфизмы, обладающие этими свойствами, получили название A-диффеоморфизмов). Неблуждающее множество систем из этого класса допускает разложение на конечное число замкнутых инвариантных базисных множеств, на каждом из которых система действует транзитивно. Динамика на нетривиальном базисном множестве (не являющемся периодической орбитой) обладает свойствами, во многом сходными с поведением диффеоморфизма на неблуждающем множестве в примере «подкова Смейла». Топологическая классификация одномерных базисных множеств A-диффеоморфизмов поверхностей получена в работах Р. В. Плыкина, В. З. Гринеса, А. Ю. Жирова, Х. Х. Калая, и кроме того, в работах В. З. Гринеса, Х. Бонатти, Р. Ланжевена найдены необходимые и достаточные условия топологической сопряженности структурно устойчивых диффеоморфизмов на поверхностях. Из работ [32, 48, 62] следует, что условие существования нульмерного или одномерного базисного множества A-диффеоморфизма f : M 3 → M 3 не накладывает ограничений на топологию объемлющего многообразия. Однако в том случае, если базисное множество имеет размерность 2 или 3, это не так. Действительно, если неблуждающее множество диффеоморфизма f содержит базисное множество, размерность которого равна трем, то f в этом случае является диффеоморфизмом Аносова, многообразие M 3 является трехмерным тором T3, и топологическая классификация таких диффеоморфизмов была получена Дж. Фрэнксом [36] и Ш. Е. Ньюхаусом [53]. В силу [23] базисное множество является аттрактором (репеллером) тогда и только тогда, когда оно содержит неустойчивые (устойчивые) многообразия своих точек. Однако размерность базисного множества, вообще говоря, может не совпадать с размерностью неустойчивых (устойчивых) многообразий его точек. В случае, если размерность аттрактора (репеллера) совпадает с размерностью неустойчивых (устойчивых) многообразий его точек, то аттрактор (репеллер) называется растягивающимся (сжимающимся). Изучению динамики диффеоморфизмов 3-многообразий, неблуждающее множество которых содержит одномерные растягивающиеся аттракторы (сжимающиеся репеллеры), посвящены работы Х. Боте [31, 32], Р. Вильямса [63], Е. В. Жужомы, Н. В. Исаенковой [18] и др. Заметим, что ГРУБЫЕ ДИФФЕОМОРФИЗМЫ С БАЗИСНЫМИ МНОЖЕСТВАМИ КОРАЗМЕРНОСТИ ОДИН 7 рассматриваемые в перечисленных работах базисные множества не лежали на инвариантных поверхностях (т. е. не являлись поверхностными). Кроме того, все примеры диффеоморфизмов трехмерного многообразия с одномерными растягивающимися аттракторами (сжимающимися репеллерами) из перечисленных выше работ не являлись структурно устойчивыми. Вопрос существования структурно устойчивого диффеоморфизма с базисным множеством такого типа является открытым. В работе Х. Бонатти и Н. Гельман [30] было построено семейство структурно устойчивых частично гиперболических диффеоморфизмов с неблуждающими множествами, состоящими в точности из одного одномерного аттрактора и одного одномерного репеллера. При этом аттрактор и репеллер принадлежали поверхностям, которые не являлись замкнутыми. В настоящем обзоре рассматриваются А-диффеоморфизмы, имеющие базисные множества Λ коразмерности один. Коразмерность один означает, что топологическая размерность базисного множества на единицу меньше размерности несущего многообразия, dim Λ = dim Mn - 1. Поскольку далее мы будем считать, что n 3, то рассматриваемые базисные множества не менее, чем двумерные и являются, следовательно, нетривиальными (отличными от периодической орбиты). Известно, что базисные множества коразмерности один необходимо являются либо аттракторами, либо репеллерами, изучение которых важно для приложений. Важной характеристикой базисного множества является его индекс Морса u(Λ), который по определению равен размерности неустойчивого многообразия любой периодической орбиты из Λ. Теоретически для нетривиальных базисных множеств индекс Морса может принимать любые значения от 1 до n - 1. Именно для этих крайних значений в последнее время получен прогресс в понимании структуры их объемлющего многообразия, их топологической классификации и существовании для них энергетической функции. Построение энергетических функций связано с «Фундаментальной теоремой динамических систем». Она доказана К. Конли [35] в 1978 году и гласит, что любая непрерывная динамическая система (поток или каскад) обладает непрерывной функцией Ляпунова, т. е. функцией, убывающей вдоль траекторий системы вне цепно рекуррентного множества и постоянной на цепных компонентах. Со многих точек зрения более содержательной является информация о существовании у гладкой динамической системы энергетической функции, т. е. гладкой функции Ляпунова, множество критических точек которой совпадает с цепно рекуррентным множеством системы. Существование энергетической функции у любого потока следует из работы В. Вильсона и Дж. Йорке [64]. Каскады даже с регулярной динамикой не обладают в общем случае энергетической функцией. Такие примеры построены в работе Д. Пикстона [54], а также в работах Х. Бонатти, В. З. Гринеса, Ф. Лауденбаха, О. В. Починки [29, 37, 38], в последней также найдены достаточные условия существования энергетической функции Морса для трехмерных каскадов Морса-Смейла. Тем более удивительным является факт наличия энергетической функции у некоторых дискретных динамических систем с хаотическим поведением. Структура статьи следующая. В разделе 1 приводятся основные определения и строятся модельные примеры базисных множеств коразмерности один (для простоты изложения мы ограничиваемся маломерными примерами, но идея построения сохраняется для многомерных примеров). В разделе 2 приводятся некоторые классические и сравнительно недавние результаты, относящиеся к рассматриваемой тематике. В разделе 3 рассматриваются вопросы топологической классификации. Наконец, в разделе 4 для грубых 3-диффеоморфизмов с двумерным растягивающимся аттрактором строится энергетическая функция. 1. ПРЕДВАРИТЕЛЬНЫЕ СВЕДЕНИЯ И МОДЕЛЬНЫЕ ПРИМЕРЫ Пусть f ∈ Diff 1(Mn) - C1-гладкий диффеоморфизм замкнутого n-мерного (n 2) многообразия Mn, снабженного некоторой римановой метрикой d. Множество Λ ⊂ Mn, инвариантное относительно f, называется гиперболическим, если ограничение TΛMn касательного расслоения TMn многообразия Mn на Λ можно представить в виде суммы Уитни Es ⊕ Eu df -инвариантных Λ Λ подрасслоений Es , Eu (dim Es + dim Eu = n, x ∈ Λ), и существуют константы Cs > 0, Cu > 0, Λ Λ x x 0 < λ < 1 такие, что ldf m(v)l Csλmlvl для v ∈ Es , ldf -m(v)l Cuλmlvl для v ∈ Eu, m > 0. Λ Λ 8 В. З. ГРИНЕС, Е. В. ЖУЖОМА, О. В. ПОЧИНКА Гиперболическая структура порождает существование так называемых устойчивых и неустойчивых многообразий, которые объединяют точки с одинаковым асимптотическим поведением при положительных и отрицательных соответственно итерациях [44, 60]. Для любой точки x ∈ Λ x существует инъективная иммерсия Js x : Rs → M, образ которой Ws(x) = Js(Rs) называется устойчивым многообразием точки x, такая, что выполняются следующие свойства: Λ 1. TxWs(x) = Es . 2. Точки x, y ∈ M принадлежат одному многообразию Ws(x) тогда и только тогда, когда d(fn(x), fn(y)) → 0 при n → ∞. 3. f (Ws(x)) = Ws(f (x)). 1. Если x, y ∈ Λ, то либо Ws(x) = Ws(y), либо Ws(x) ∩ Ws(y) = ∅. 2. Если точки x, y ∈ Λ близки на M, то Ws(x), Ws(y) C1-близки на компактных множествах. Это свойство обычно называют теоремой о непрерывной зависимости устойчивых многообразий от начальных условий. Неустойчивое многообразие Wu(x) точки x ∈ Λ определяется как устойчивое многообразие относительно диффеоморфизма f-1. Неустойчивые многообразия обладают аналогичными свойствами. Учитывая свойство 3), устойчивые и неустойчивые многообразия называются инвариантными многообразиями. Точка x ∈ Mn называется неблуждающей, если для любой ее окрестности U (x) и любого натурального числа N найдется n0 ∈ Z, |n0| N, такое, что fn0 (x) ∈ U (x). Множество неблуждающих точек диффеоморфизма f будем обозначать через NW (f ). Диффеоморфизм f удовлетворяет аксиоме А (или, что то же самое, является A-диффеоморфизмом), если множество NW (f ) гиперболическое и периодические точки всюду плотны в NW (f ). Смейл [61] доказал следующее утверждение, известное как теорема о спектральном разложении. Пусть диффеоморфизм f ∈ Diff 1(Mn) удовлетворяет аксиоме A. Тогда множество NW (f ) представляется в виде конечного объединения попарно непересекающихся замкнутых инвариантных множеств Λ1, . . . , Λk, называемых базисными множествами, каждое из которых содержит всюду плотную орбиту. При этом [43] многообразие Mn можно представить в виде k k Mn = I Ws(Λi) = I Wu(Λi), где Ws(Λi) = J x∈Λi i=1 Ws(x) и Wu(Λi) = J x∈Λi i=1 Wu(x). Базисное множество называется нетривиальным, если оно не является периодической орбитой (в частности, не является неподвижной точкой). В силу транзитивности f на каждом базисном множестве Λi ограничения расслоений Es , Eu Λi Λi на Λi имеют постоянную размерность во всех точках x ∈ Λi. Типом базисного множества Λi называется пара чисел (ai, bi), где ai = dim Eu, bi = dim Es, где x - любая точка из Λi. Число x x ai при этом называется индексом Морса базисного множества Λi и обозначается u(Λi). Тогда bi = n - u(Λi). Из [4, 33] вытекает следующее уточнение структуры базисного множества. Каждое базисное множество Λi представляется в виде конечного объединения непересекающихся компактов Λi1, . . . , Λih, которые под действием f циклически переходят друг в друга. Более того, устойчивое и неустойчивое многообразие любой точки x ∈ Λij содержит множество, плотное в Λij. Каждое Λij называется C-плотной (или периодической) компонентой базисного множества Λi. Базисное множество называется C-плотным, если оно имеет ровно одну периодическую компоненту, с которой оно совпадает. Компактное f -инвариантное множество A ⊂ M называется аттрактором диффеоморфизма f, если оно имеет компактную окрестность UA такую, что f (UA) ⊂ int UA и A = n fk (UA). k 0 Репеллер определяется как аттрактор для f-1. В силу [23] базисное множество Λ диффеоморфизма f является аттрактором (репеллером) тогда и только тогда, когда Λ = J x∈Λ Wu(x) (Λ = J x∈Λ Wu(x)). x Аттрактор Λ A-диффеоморфизма f называется растягивающимся аттрактором, если топологическая размерность dim Λ равна размерности неустойчивого многообразия Wu, x ∈ Λ. Репеллер ГРУБЫЕ ДИФФЕОМОРФИЗМЫ С БАЗИСНЫМИ МНОЖЕСТВАМИ КОРАЗМЕРНОСТИ ОДИН 9 диффеоморфизма f называется сжимающимся, если он является растягивающимся аттрактором для f-1. Согласно [13], базисное множество Λ A-диффеоморфизма f : M 3 → M 3 называется поверх- Λ ностным, если оно принадлежит f -инвариантной замкнутой поверхности M 2 (не обязательно связной), топологически вложенной в многообразие M 3 и называемой носителем множества Λ. Два диффеоморфизма f, g ∈ Diff 1(Mn) называются топологически сопряженными, если существует гомеоморфизм ϕ : Mn → Mn такой, что ϕ ◦ f = g ◦ ϕ. Диффеоморфизм f ∈ Diff 1(Mn) называется структурно устойчивым, если существует его окрестность U (f ) ⊂ Diff 1(Mn) такая, что любой диффеоморфизм g ∈ U (f ) сопряжен f. Если потребовать, чтобы сопрягающий гомеоморфизм был близок к тождественному в C0 топологии, то получим определение грубого диффеоморфизма. Теперь известно, что понятия «грубости» и «структурной устойчивости» эквивалентны, хотя доказательство этого факта весьма нетривиально (см. обзор [5], где обсуждаются различные определения и соответствующие результаты). При формулировке условий структурной устойчивости большую роль играет условие, которое называют сильным условием трансверсальности. Пусть W1, W2 ⊂ Mn - два иммерсированных многообразия, имеющих непустое пересечение. По определению, W1, W2 пересекаются трансверсально, если для любой точки x ∈ W1 ∩ W2 касательное пространство TxM порождается касательными подпространствами TxW1 и TxW2. В частности, если W1, W2 пересекаются трансверсально, то dim TxW1 + dim TxW2 dim TxMn. Говорят, что A-диффеоморфизм удовлетворяет сильному условию трансверсальности, если для любых точек x, y ∈ NW (f ) многообразия Ws(x), Wu(y) имеют только трансверсальные пересечения. Известно [49, 57], что диффеоморфизм структурно устойчив тогда и только тогда, когда он является A-диффеоморфизмом и удовлетворяет сильному условию трансверсальности. Необходимость доказал Мане [49], достаточность - Робинсон [57]. Важным и достаточно хорошо изученным классом структурно устойчивых динамических систем являются диффеоморфизмы Аносова коразмерности один [3]. Напомним, что диффеоморфизмом Аносова называется диффеоморфизм, у которого все несущее многообразие является гиперболическим. Диффеоморфизм Аносова f : Mn → Mn называется диффеоморфизмом коразмерности M n один, если dim Es M n = 1 или dim Eu = 1. Известно, что любой такой диффеоморфизм Аносова коразмерности один топологически сопряжен гиперболическому автоморфизму тора, и два таких диффеоморфизма топологически сопряжены тогда и только тогда, когда они π1-сопряжены [36, 53] (последнее означает, что они индуцируют сопряженные изоморфизмы фундаментальной группы тора). При этом n-мерный тор Tn, n 2 является единственным базисным множеством такого диффеоморфизма. Напомним, что алгебраическим автоморфизмом тора Tn = Rn/Zn называется диффеоморфизм a11 . . . a1n C , задаваемый матрицей C = . . . . . . . . . из множества GL(n, Z) целочисленных матриц с an1 . . . ann определителем ±1, то есть C (x1, . . . , xn) = (a11x1 +· · ·+a1nxn, . . . , an1x1 +· · ·+annxn) (mod 1). Алгебраический автоморфизм C называется гиперболическим, если собственные значения λ1, . . . , λn матрицы C по модулю не равны единице. При этом матрица C также называется гиперболической. Гиперболический автоморфизм называется гиперболическим автоморфизмом коразмерности один, если он имеет единственное собственное число, либо меньшее, либо большее единицы по абсолютной величине, а остальные собственные числа лежат соответственно либо вне единичной окружности комплексной плоскости, либо внутри. Имеется несколько определений ориентируемости базисного множества, два из которых наиболее употребимы. Одно определение выражается через ориентируемость соответствующих подрасслоений касательного расслоения (см. например, [47, 55]). Другое, введенное Гринесом [6-8], использует индекс пересечений инвариантных многообразий. Будем говорить, что базисное множество Λ ориентируемо, если для любой точки x ∈ Λ и любых фиксированных чисел α > 0, β > 0 индекс пересечения Ws(x) ∩Wu(x) во всех точках пересечения один и тот же (+1 или -1). В про- α β тивном случае базисное множество Λ называется неориентируемым. Ниже под ориентируемостью базисного множества мы будем понимать ориентируемость в смысле последнего определения. 10 В. З. ГРИНЕС, Е. В. ЖУЖОМА, О. В. ПОЧИНКА РИС. 1. Хирургическая операция Смейла. Перейдем к построению модельных примеров. Диффеоморфизмы Аносова являются основой для построения растягивающихся аттракторов коразмерности один. Следуя [61], можно построить структурно устойчивый диффеоморфизм тора Tn, неблуждающее множество которого состоит из неподвижного стока и растягивающегося аттрактора коразмерности один, с помощью так называемой хирургической операции Смейла из диффеоморфизма Аносова коразмерности один n-тора Tn. Такой диффеоморфизм называется DA-диффеоморфизмом. Приведем конструкцию для случая n = 2. 2 Пусть fLA : T 2 → T - алгебраический автоморфизм тора, индуцированный линейным отобра- 2 1 жением LA : R2 → R2, заданным матрицей 1 1 , и p0 - неподвижная седловая точка, соот- √ ветствующая началу координат в R2 c собственными значениями λu = 3 + 5 √ и λs = 3 - 5 . 2 2 В некоторой окрестности U точки p0 введем локальные координаты x1, x2, в которых матрица линейного отображения L диагональная, т. е. fL(x1, x2) = (λux1, λsx2) на U. Выберем значение r0 ∈ (0, 1/2) так, чтобы 2-шар Br0 (p0) радиуса r0 c центром в точке p0 содержался в U. Пусть δ(r) - функция одной переменной такая, что 0 δ(r) 1 для всех r, δt(r) < 0 для r0/2 < r < r0 (0, r r0, и δ(r) = 1, r r0/2. Рассмотрим систему дифференциальных уравнений x˙ 1 = 0, x˙ 2 = x2δ(l x l). Пусть ϕt - поток 1 0 этой системы, ϕt(x1, x2) = (x1, ϕt (x1, x2)). Тогда ϕt = id вне шара Br (p0) и Dϕt = . По- 2 0 p 0 et λu 0 A ложим f = ϕτ fL 0 для некоторого τ > 0 такого, что eτ λs > 1. Заметим, что Dfp = 0 eτ λs , так что p0 - гиперболический источник. По построению диффеоморфизм f сохраняет устойчивое слоение диффеоморфизма Аносова, и координатные оси f -инвариантны. Поскольку диффеоморфизмы ϕτ и fL имеют противоположные направления движения на оси Ox2, то диффеоморфизм f имеет две симметричные относительно p0 неподвижные точки q1, q2 на оси Ox2, которые являются гиперболическими седловыми точками (см. рис. 1). Имеет место следующее утверждение (см. например, [58]). p0 Теорема 1.1. Для диффеоморфизма f множество Λ = T2 \\ Wu является одномерным аттрактором и спектральное разложение имеет вид {p0, Λ}. Построенный таким образом одномерный аттрактор является растягивающимся, имеет тип (1, 1) и является ориентируемым. Приведем пример поверхностного двумерного базисного множества в трехмерном пространстве. Нетрудно построить A-диффеоморфизм f : M 3 → M 3, имеющий базисное множество, которое гомеоморфно двумерному тору и является замкнутым двумерным подмногообразием многообразия M 3 (рис. 2). Для этого достаточно рассмотреть диффеоморфизм f : T2 × S1 → T2 × S1, заданный формулой f (t, s) = (fA(t), fNS (s)), где fA : T2 → T2 - диффеоморфизм Аносова и fNS : S1 → ГРУБЫЕ ДИФФЕОМОРФИЗМЫ С БАЗИСНЫМИ МНОЖЕСТВАМИ КОРАЗМЕРНОСТИ ОДИН 11 РИС. 2. Построение диффеоморфизма с поверхностным двумерным базисным множеством РИС. 3. Ветвленное многообразие S1 - диффеоморфизм вида «северный полюс - южный полюс» (диффеоморфизм, неблуждающее множество которого состоит из гиперболических стока и источника). Тогда диффеоморфизм f имеет двумерное базисное множество Λ типа (1, 2), которое является аттрактором. Кроме того, Λ диффеоморфно T2, и диффеоморфизм f|Λ топологически сопряжен с диффеоморфизмом Аносова. 2. ТЕОРЕМЫ ВИЛЬЯМСА И БРАУНА Используя понятие обратного предела, Вильямс [63] описал внутреннюю динамику ограничения диффеоморфизма на растягивающемся аттракторе. Мы кратко изложим подход Р. Вильямса и приведем развитие этого подхода, полученное сравнительно недавно Брауном [34]. Пусть N - компактная окрестность растягивающегося аттрактора Λ. Следуя Вильямсу, положим x ∼ y, если (и только если) точки x, y ∈ N принадлежат одной компоненте связности пересечения N ∩ Ws(z) для некоторой точки z ∈ Λ. Вильямс доказал, что окрестность N можно подобрать так, что будут выполняться следующие условия: def · фактор-пространство N/∼ = K является ветвленным многообразием; · имеет место коммутативная диаграмма f (N ) ↓ ⊂ N ↓ q K f ←- N ↓ q g ←- K где q : N → N/∼ - проекция на фактор-пространство. Напомним, что ветвленное многообразие есть гладкое многообразие, за исключением конечного числа особенностей, которые для одномерного многообразия (этот случай, по существу, нам и понадобится) имеют вид, изображенный на рис. 2. Напомним, что обратный предел относительно отображения g : K → K Σg = lim(K, g) = lim fK ←- K ←- · · · ←- K ←- · · · L g g g g ←- ←- 12 В. З. ГРИНЕС, Е. В. ЖУЖОМА, О. В. ПОЧИНКА РИС. 4. Соленоид Смейла определяется как множество односторонних последовательностей (x0, . . . , xi, . . .), где xi = g(xi+1). На Σg определяется сдвиг h : Σg → Σg, h(x0, x1, . . .) = (g(x0), x0, x1, . . .). Отметим, что любую одностороннюю последовательность (x0, . . . , xi, . . .) мы можем рассматривать ∞ как точку бесконечного произведения i=0 Ki, Ki = K, которое наделяется тихоновской топологией (разумеется, K предполагается наделенным топологической структурой). Таким образом, обратный предел есть подмножество топологического пространства. Ниже, когда мы говорим о том, что некоторое базисное множество является обратным пределом, мы подразумеваем, что базисное множество гомеоморфно определенному обратному пределу. Пусть K - ветвленное многообразие. Из определения ветвленного многообразия вытекает, что такое многообразие имеет касательное расслоение, которое обозначается через T (K). Следуя Вильямсу [63], дадим понятие растяжения (expansion) ветвленного многообразия. Cr -отображение g : K → K, r 1, называется растяжением, если существуют константы C > 0, 0 < λ < 1 такие, что |Dgm(v)| Cλm|v| для всех m ∈ N, v ∈ T (K). Если K есть ветвленное m-многообразие, и выполняются следующие условия: 1. NW (g) = K; 2. g - растяжение; 3. для любой точки z ∈ K, существует окрестность U точки z и число j ∈ N такие, что gj (U ) есть m-шар, то Σg называется обобщенным m-соленоидом. Вильямс [63] доказал следующую теорему. Теорема 2.1. Пусть Λ - m-мерный растягивающийся аттрактор диффеоморфизма f. Тогда ограничение f|Λ диффеоморфизма f на Λ сопряжено сдвигу h некоторого обобщенного m-соленоида. Обратно, для сдвига h : Σ → Σ обобщенного m-соленоида Σ существуют многообразие M и диффеоморфизм f : M → M такие, что f имеет m-мерный растягивающийся аттрактор Λ и ограничение f|Λ сопряжено h. В частном случае, когда K является окружностью S1, а g = E2 : x → 2x mod 1 - растягивающим эндоморфизмом степени 2, мы получаем известный соленоид Смейла [61], который построил диффеоморфизм полнотория в себя с одномерным растягивающимся аттрактором, являющимся топологическим соленоидом. Схематично пример Смейла можно представить сначала как растяжение полнотория вдоль его оси, лежащей внутри полнотория, и сжатие в направлении, перпендикулярном оси. Затем полученный (промежуточный) полноторий вкладывается в исходный так, чтобы ось промежуточного полнотория прокручивалась не менее двух раз вдоль оси исходного полнотория и при этом сохранялась дисковая структура (см. рис. 4). В случае, когда базисное множество Λ является C-плотным аттрактором с единичным индексом Морса, Браун [34] доказал, что Λ всегда есть обратный предел, причем в случае, когда Λ не является растягивающим (т. е. его топологическая размерность k = dim Λ не меньше двух), то Λ есть специальный обратный предел относительно линейного эндоморфизма или диффеоморфизма k-мерного тора Tk. Приведем более точную формулировку теоремы Брауна. ГРУБЫЕ ДИФФЕОМОРФИЗМЫ С БАЗИСНЫМИ МНОЖЕСТВАМИ КОРАЗМЕРНОСТИ ОДИН 13 Теорема 2.2. Пусть f : Mn → Mn - A-диффеоморфизм замкнутого многообразия Mn и Λ - C-плотное базисное множество диффеоморфизма f. Предположим, что индекс Морса множеx ства Λ равен единице, т. е. dim Eu = 1 для любой точки x ∈ Λ. Тогда либо Λ является одномерным растягивающимся аттрактором, и в этом случае Λ лом является обратным преде- Σg = lim(K, g) = lim fK ←- K ←- · · · ←- K ←- · · · L g g g g ←- ←- относительно растяжения g : K → K ветвленного одномерного многообразия K, либо Λ есть обратный предел ←- ΣA = lim(Tk, A) = lim fTk A T k A A ←- · · · ←- T k A L ←- · · · ←- ←- относительно линейного эндоморфизма A : Tk → Tk, k 2. Более того, если Λ локально связное, то Λ гомеоморфно k-мерному тору Tk, и ограничение f|Λ сопряжено аносовскому автоморфизму. До недавнего времени открытым являлся следующий вопрос Смейла [61, c. 785]: существует ли двумерное базисное множество диффеоморфизма f : M 3 → M 3, которое не является компактным подмногообразием и не имеет локальную структуру прямого произведения R2 на канторово множество. В 2010 Браун дал отрицательный ответ на этот вопрос. Из работы [34] следует, что любое двумерное базисное множество диффеоморфизма f : M 3 → M 3 является либо растягивающимся аттрактором (сжимающимся репеллером), либо поверхностным аттрактором (поверхностным репеллером). Более того, оказалось возможным дать описание базисных множеств диффеоморфизмов 3-мерных многообразий. Теорема 2.3. Пусть f : M 3 → M 3 - A-диффеоморфизм замкнутого трехмерного многообразия M 3 и Λ - C-плотное базисное множество, являющееся аттрактором диффеоморфизма f. Тогда: 1. Если dim Λ = 0, то Λ является изолированной притягивающей неподвижной точкой. 2. Если dim Λ = 1, то Λ является обобщенным одномерным соленоидом, локально гомеоморфным произведению отрезка на канторово множество в двумерной плоскости. 3. Если dim Λ = 2, то o либо dim Eu|Λ = 1, и в этом случае Λ гомеоморфно двумерному тору T2, а ограничение f|Λ сопряжено автоморфизму Аносова двумерного тора, o либо dim Eu|Λ = 2, и в этом случае Λ является растягивающимся аттрактором, локально гомеоморфным произведению двумерной плоскости на канторово множество, принадлежащее прямой. 4. Если dim Λ = 3, то Λ = M 3 = T3 есть трехмерный тор, и диффеоморфизм f сопряжен автоморфизму Аносова трехмерного тора. Отметим работу [41], в которой доказано, что любой обратный предел ←- ΣA = lim(Tk, A) = lim fTk A T k A A ←- · · · ←- T k A L ←- · · · ←- ←- относительно линейного эндоморфизма или диффеоморфизма A : Tk → Tk (другими словами, определитель матрицы A должен быть отличен от нуля) гомеоморфен аттрактору диффеоморфизма некоторого аналитического многообразия. 3. КЛАССИФИКАЦИЯ БАЗИСНЫХ МНОЖЕСТВ КОРАЗМЕРНОСТИ ОДИН Пусть Λ - базисное множество коразмерности один А-диффеоморфизма f замкнутого n-мерного многообразия Mn, т. е. топологическая размерность базисного множества Λ равна n - 1. Согласно [22, 63], Λ является аттрактором или репеллером. Обычно, если не оговорено противное, мы будем для определенности считать Λ аттрактором. Для размерности несущего многообразия n = 2 топологическая классификация таких базисных множеств получена в работах [7-9, 23], см. книгу [17], где имеется обширная библиография. Поэтому ниже рассматривается случай n 3. Мы ограничимся рассмотрением аттракторов коразмерности один, индекс Морса которых равен 1 или n - 1. Поскольку числа являются представителями в группе Zn для ±1(mod n), то будем индекс 14 В. З. ГРИНЕС, Е. В. ЖУЖОМА, О. В. ПОЧИНКА n - 1 отождествлять с индексом -1. Индекс Морса называется единичным по модулю индексом Морса, если он равен 1 или n - 1. Отметим, что для n = 3 базисное множество коразмерности один имеет всегда единичный по модулю индекс Морса. В работе [45] рассматривался обратный предел Σ = lim(Tk ) = lim T ( k A1 ←- T k A2 ←- T Am k · · · ←- Am+1 ←- · · · ←- ←- (на самом деле, в этой работе рассматривалась более общая конструкция, но для наших целей достаточно приведенной), и было показано, что если имеется бесконечное множество индексов m, для которых матрица Am имеет определитель | det Am| 2, то обратный предел Σ не вкладывается ни в какое замкнутое (k + 1)-мерное многообразие. Отсюда и из теоремы 2.2 получаем следующий результат. Теорема 3.1. Пусть f : Mn → Mn - А-диффеоморфизм замкнутого n-мерного многообразия Mn, n 3, и пусть Λ - аттрактор коразмерности один диффеоморфизма f с единичным по модулю индексом Морса. Тогда имеет место ровно одна из следующих возможностей: · либо Λ является растягивающимся аттрактором, локально гомеоморфным произведению Rn-1 на канторово множество, принадлежащее прямой; · либо Λ гомеоморфно (n - 1)-мерному тору Tn-1 и ограничение диффеоморфизма f|Λ сопряжено диффеоморфизму Аносова коразмерности один. Далее мы рассматриваем классификационные результаты в классе структурно устойчивых диффеоморфизмов, у которых имеется аттрактор коразмерности один с единичным по модулю индексом Морса. В силу приведенной выше альтернативы сперва рассматриваются растягивающиеся аттракторы, а затем аттракторы, гомеоморфные торам (здесь мы ограничиваемся случаем n = 3, при котором получена полная классификация). 1. Растягивающиеся аттракторы. Топологическая классификация структурно устойчивых диффеоморфизмов с ориентируемыми растягивающимися аттракторами коразмерности один на замкнутых n-мерных многообразиях при n 3 получена в работах [10-12, 40]. Пусть f : Mn → Mn - структурно устойчивый диффеоморфизм, неблуждающее множество которого содержит растягивающийся ориентируемый аттрактор Λ топологической размерности (n - 1). Тогда dim Ws(x) = 1 для любой точки x ∈ Λ, что позволяет ввести обозначение (y, z)s ([y, z]s) для открытой (замкнутой) дуги устойчивого многообразия Ws(x), ограниченной точками y, z ∈ Ws(x). Множество Ws(x) \\ x состоит из двух компонент связности. Хотя бы одна из этих компонент имеет непустое пересечение с множеством Λ. Точка x ∈ Λ называется граничной, если одна из компонент связности множества Ws(x) \\ x не пересекается с Λ, будем обозначать такую компоненту через Ws∅(x). Множество ΓΛ граничных точек множества Λ не пусто и состоит из конечного числа периодических точек, которые разбиваются на ассоциированные пары (p, q) точек одинакового периода так, что 2-связка Bpq = Wu(p) ∪ Wu(q) является достижимой изнутри границей1 компоненты связности множества M \\ Λ. Для каждой пары (p, q) ассоциированных граничных точек множества Λ построим так называемую характеристическую сферу. Пусть Bpq - 2-связка аттрактора Λ, состоящая из двух неустойчивых многообразий Wu(p) и Wu(q) ассоциированных граничных точек p и q соответственно, и mpq - период точек p, q. Тогда для любой точки x ∈ Wu(p) \\ p существует единственная точка y ∈ (Wu(q) ∩ Ws(x)) такая, что дуга (x, y)s не пересекается с множеством Λ. Определим отображение ξpq : Bpq \\ {p, q} → Bpq \\ {p, q}, положив ξpq (x) = y и ξpq (y) = x. Тогда ξpq (Wu(p) \\ p) = Wu(q) \\ q и ξpq (Wu(q) \\ q) = Wu(p) \\ p, т. е. отображение ξpq переводит проколотые неустойчивые многообразия 2-связки друг в друга 1Пусть G ⊂ M - открытое множество с границей ∂G (∂G = cl(G) \\ int(G)). Подмножество δG ⊂ ∂G называется достижимой изнутри границей области G, если для любой точки x ∈ δG найдется открытая дуга, полностью лежащая в G и такая, что x является одной из ее концевых точек. ГРУБЫЕ ДИФФЕОМОРФИЗМЫ С БАЗИСНЫМИ МНОЖЕСТВАМИ КОРАЗМЕРНОСТИ ОДИН 15 pq и является инволюцией (ξ2 = id). В силу теоремы о непрерывной зависимости инвариантных многообразий на компактных множествах отображение ξpq является гомеоморфизмом. Ограничение fmpq |W u(p) имеет ровно одну гиперболическую отталкивающую неподвижную точку p, поэтому существует гладкий замкнутый (n - 1)-диск Dp ⊂ Wu(p) такой, что p ∈ Dp ⊂ int(fmpq (Dp)). Тогда множество Cpq = J x∈∂Dp (x, ξpq (x))s гомеоморфно замкнутому цилиндру Sn-2 × [0, 1]. Множество Cpq называют связывающим цилиндром. Окружность ξpq (∂Dp) ограничивает в Wu(q) двумерный (n - 1)-диск Dq такой, что q ∈ Dq ⊂ int(fmpq (Dq )). Множество Spq = Dp ∪ Cpq ∪ Dq гомеоморфно (n - 1)-мерной сфере, которую называют характеристической сферой, соответствующей связке Bpq (см. рис. 5). pq (p) (q) РИС. 5. Характеристическая сфера Положим T (f ) = NW (f ) \\ Λ и основные динамические свойства диффеоморфизма f ∈ G сформулируем в виде теоремы. Теорема 3.2. Пусть f : Mn → Mn - структурно устойчивый диффеоморфизм, неблуждающее множество которого содержит растягивающийся ориентируемый аттрактор Λ топологической размерности (n - 1). Тогда имеют место следующие факты: 1. объемлющее многообразие Mn гомеоморфно n-мерному тору Tn; 2. каждая характеристическая сфера Spq ограничивает n-шар Qpq такой, что T (f ) ⊂ J (p,q)⊂ΓΛ Qpq ; 3. для каждой ассоциированной пары (p, q) граничных точек существует натуральное число kpq такое, что T (f ) ∩ Qpq состоит из kpq периодических источников α1, . . . , αkpq и kpq - 1 седловых периодических точек P1, . . . , Pkpq -1, чередующихся на простой дуге lpq = Ws∅(p) ∪ kpq -1 J i=1 k Ws(Pi) ∪ J Ws(αi) ∪ Ws∅(q) (см. рис. 6). i=1 После теоремы 3.2 естественным шагом по пути классификации структурно устойчивых диффеоморфизмов с базисными множествами коразмерности один является классификация структурно устойчивых диффеоморфизмов с растягивающимися аттракторами или сжимающимися репеллерами коразмерности один на торе Tn, n 3. Пусть f : Tn → Tn - такой диффеоморфизм. Для определенности будем считать, что f имеет растягивающийся аттрактор Λ коразмерности один. Обозначим через f∗ : H1(T n, Rn ) → H1(T n, Rn) автоморфизм одномерной группы гомологий H1(Tn, Rn) "' Rn тора Tn, индуцированный диффеоморфизмом f. 16 В. З. ГРИНЕС, Е. В. ЖУЖОМА, О. В. ПОЧИНКА (p) (q) РИС. 6. Дуга lpq Теорема 3.3. Пусть f : Tn → Tn - A-диффеоморфизм n-мерного тора Tn, n 3, имеющий ориентируемый растягивающийся аттрактор Λ коразмерности один. Тогда f∗ - гиперболический автоморфизм коразмерности один. Следуя Френксу [36], будем называть диффеоморфизм f : M → M π1-диффеоморфизмом, если для любого гомеоморфизма g : K → K компактного CW -комплекса K на себя и непрерывного отображения h : K → M, для которых выполняется соотношение f∗ ◦ h∗ = h∗ ◦ g∗, существует единственное отображение ht : K → M, переводящее базисную точку на K в базисную точку на M, гомотопное h и такое, что f ◦ ht = ht ◦ g. ∗ Согласно теореме 3.3, существует алгебраический автоморфизм A(f ) : Tn → Tn с f = A(f )∗, который является гиперболическим. В силу [36, предложение 2.1], гиперболический автоморфизм тора является π1-диффеоморфизмом. Поэтому существует непрерывное отображение h : Tn → Tn, гомотопное тождественному, такое, что h ◦ f = A(f ) ◦ h. Положим P (f, h) = {x ∈ Tn|h-1(x) содержит более одной точки} Лемма 3.1. Пусть f : Tn → Tn - A-диффеоморфизм n-мерного тора Tn, n 3, имеющий ориентируемый растягивающийся аттрактор Λ коразмерности один, и пусть h : Tn → Tn - непрерывное отображение, гомотопное тождественному, такое, что h ◦ f = A(f ) ◦ h. Тогда h удовлетворяет следующим условиям: k § h(Λ) = Tn. § Пусть {pi, qi}i=1 - семейство пар ассоциированных граничных периодических точек диффеоморфизма f ; тогда h(pi) = h(qi) является периодической точкой автоморфизма A(f ) для каждого i = 1, . . . , k. • h(Wu(pi)) = h(Wu(qi)), i = 1, . . . , k. k • P (f, h) = J h(Wu(pi)). i=1 § Пусть Ki - компонента множества Tn \\ Λ; тогда h(Ki) есть неустойчивое многообразие Wu(h(pi)) = Wu(h(qi)) автоморфизма A(f ), где pi, qi - ассоциированные граничные периодические точки такие, что δ(Ki) = Wu(pi)∪Wu(pi). Более того, h(Ki∪δ(Ki)) = Wu(h(pi)). § Пусть Λ˘ ⊂ Λ - объединение неустойчивых многообразий, не содержащих граничных периодических точек; тогда ограничение h|Λ˘ является гомеоморфизмом на свой образ. Пусть Λ - ориентируемый растягивающийся аттрактор коразмерности один структурно устойчивого диффеоморфизма f, и пусть Spq - характеристическая сфера, соответствующая 2-связке B = Wu(p) ∪ Wu(q) аттрактора Λ, где p, q ∈ Λ - ассоциированные граничные периодические точки. Можно показать, что внутри сферы Spq лежит d 1 периодических точек индекса n и d-1 0 ГРУБЫЕ ДИФФЕОМОРФИЗМЫ С БАЗИСНЫМИ МНОЖЕСТВАМИ КОРАЗМЕРНОСТИ ОДИН 17 периодических точек индекса n - 1. Положим d(p, q) = d. Если Λ - репеллер, то через d(p, q) обозначим число периодических точек индекса 0, лежащих внутри Spq. В обоих случаях число d(p, q) корректно определено, так как не зависит от выбора характеристической сферы Spq. Нетрудно видеть, что точки fj (p), fj (q) являются ассоциированными граничными и периодическими, а число периодических точек одного индекса внутри сфер Spq и fj (Spq ) = Sf j (p),f j (q) одинаково для любого j ∈ Z. Поэтому мы можем приписать число d(O(p, q)) d=ef d(p, q) объединению O(p, q) = O(p) ∪O(q) орбит точек p, q. i=1 Граничные периодические точки разбиваются на пары {O(pi, qi)}k орбит ассоциированных граничных точек. Пусть {d i=1 (O(pi, qi))}k § соответствующие им определенные выше числа, ука- }i=1 зывающие на количество периодических точек индекса n (если Λ - аттрактор) или индекса 0 (если Λ - репеллер) в соответствующих характеристических сферах. Согласно лемме 3.1, h(O(pi)) = h(O(qi)) является периодической орбитой автоморфизма A(f ). Припишем каждой орбите h(O(pi)) = h(O(qi)) число d(O(pi, qi)). Семейство {h(O(pi)), d(O(pi, qi)) k называется dсигнатурой диффеоморфизма f и обозначается через D(f, h). j=1 Пусть A - гиперболический автоморфизм коразмерности один тора Tn, и пусть {Oj}r § ко- }j=1 нечный набор периодических орбит Oj автоморфизма A. Каждой орбите Oj припишем произвольным образом натуральное число dj ∈ N. Семейство {Oj, dj r называется допустимой dсигнатурой автоморфизма A. Согласно теореме 3.2, d-сигнатура структурно устойчивого диффеоморфизма f является допустимой. Пусть {O1, d1}r1 , {O2, d2}r2 - допустимые d-сигнатуры гиперболических автоморфизмов A1 j j j=1 j j j=1 и A2 соответственно. Эти сигнатуры называются эквивалентными, если существует линейный r1 j диффеоморфизм (т. е., композиция автоморфизма и сдвига) ψ : Tn → Tn такая, что ψ( J (O1)) = j=1 r2 j J (O2), d(ψ(Oj )) = d(Oj ) для всех 1 j r1, и выполняется соотношение ψ ◦ A1 = A2 ◦ ψ. j=1 Непосредственно из определения следует, что r1 = r2. Следующая теорема решает задачу топологической сопряженности в классе структурно устойчивых диффеоморфизмов на торе Tn (n 3), имеющих ориентируемые растягивающиеся аттракторы или сжимающиеся репеллеры коразмерности один. Она показывает, что d-сигнатура является полным инвариантом сопряженности в данном классе диффеоморфизмов. Теорема 3.4. Пусть f1, f2 : Tn → Tn - структурно устойчивые диффеоморфизмы, имеющие ориентируемые растягивающиеся аттракторы коразмерности один Λ1 и Λ2 соответственно. Тогда диффеоморфизмы f1, f2 сопряжены тогда и только тогда, когда их d-сигнатуры D(f1, h1), D(f2, h2) эквивалентны, где hi : Tn → Tn (i = 1, 2) - гомотопные тождественному непрерывные отображения такие, что hi ◦ fi = A(fi) ◦ hi. Следующая теорема решает задачу реализации в классе структурно устойчивых диффеоморфизмов на торе Tn (n 3), имеющих ориентируемые базисные множества коразмерности один (растягивающиеся аттракторы или сжимающиеся репеллеры). Именно, для каждого допустимого топологического инварианта (d-сигнатуры) строится структурно устойчивый диффеоморфизм с данным инвариантом. }j=1 Теорема 3.5. Пусть A : Tn → Tn - гиперболический автоморфизм с неустойчивым расслоением коразмерности один в каждом слое касательного расслоения тора Tn, n 3 (это означает, что устойчивые многообразия всех точек одномерны). Для любой допустимой dсигнатуры {Oj, dj r автоморфизма A существует структурно устойчивый диффеоморфизм f : Tn → Tn, имеющий ориентируемый растягивающийся аттрактор коразмерности один j=1 такой, что D(f, h) = {Oj, dj}r , где f∗ = A∗ и h : Tn → Tn - непрерывное гомотопное тождественному отображение, удовлетворяющее соотношению h ◦ f = A ◦ h. Что касается неориентируемых базисных множеств коразмерности один, то имеет место следующий результат, доказанный в [19, 50] Теорема 3.6. Пусть f : M 2m+1 → M 2m+1 - структурно устойчивый диффеоморфизм замкнутого (2m + 1)-мерного многообразия M 2m+1, 2m + 1 3. Тогда спектральное разложение 18 В. З. ГРИНЕС, Е. В. ЖУЖОМА, О. В. ПОЧИНКА диффеоморфизма f не содержит неориентируемых растягивающихся аттракторов и сжимающихся репеллеров коразмерности один. Первый пример неориентируемого базисного множества коразмерности один, которое является растягивающимся аттрактором или сжимающимся репеллером, был построен Плыкиным [23] на двумерной сфере S2 (следовательно, в данном примере базисное множество коразмерности один является одномерным). Отметим также, что диффеоморфизм в примере Плыкина - структурно устойчивый. Этот пример Плыкина показывает, что теорема 3.6 не верна в размерности n = 2. Для размерностей 2m 4 вопрос существования неориентируемых растягивающихся аттракторов и сжимающихся репеллеров коразмерности один у структурно устойчивых диффеоморфизмов остается открытым. Однако, существуют Ω-устойчивые диффеоморфизмы с такими базисными множествами [19, 50]. 2. Поверхностные базисные множества. Пусть f : M 3 → M 3 - диффеоморфизм, удовлетворяющий аксиоме A С. Смейла, заданный на гладком замкнутом ориентируемом 3-многообразии M 3, и неблуждающее множество NW (f ) диффеоморфизма f содержит поверхностное двумерное базисное множество B. Тогда согласно Р. В. Плыкину B является либо аттрактором, либо репеллером. Следующие утверждения доказаны в работе [13]. Теорема 3.7. Для любого двумерного поверхностного аттрактора (репеллера) B A-диффеоморфизма f : M 3 → M 3 выполняется следующее: § B имеет тип (2, 1) ((1, 2)) и не является, следовательно, растягивающимся аттрактором (сжимающимся репеллером); § B совпадает со своим носителем, являющимся объединением конечного числа многообразий, каждое из которых ручно вложено1 в M 3 и гомеоморфно двумерному тору; § ограничение некоторой степени диффеоморфизма f на любую компоненту связности носителя сопряжено с гиперболическим автоморфизмом тора. Будем рассматривать класс G, состоящий из A-диффеоморфизмов f : M 3 → M 3, неблуждающее множество NW (f ) которых состоит только из поверхностных двумерных базисных множеств. Пусть f ∈ G. Обозначим через A (R) объединение всех аттракторов (репеллеров), принадлежащих NW (f ). Следующее утверждение уточняет топологию многообразия M 3 (см. работу [15]). Лемма 3.2. Для любого диффеоморфизма f ∈ G множества A, R не пусты и граница каждой компоненты связности V множества M 3 \\ (A ∪ R) состоит в точности из одной периодической компоненты A ⊂ A и одной периодической компоненты R ⊂ R. При этом замыкание cl V гомеоморфно многообразию T2 × [0, 1]. Таким образом, несущее многообразие M 3 гомеоморфно фактор-пространству Mτ , полученному из T2 × [0, 1] отождествлением точек (z, 1) и (τ (z), 0), где τ : T2 → T2 - некоторый гомеоморфизм. Таким образом, Mτ есть локально тривиальное расслоение над окружностью со слоем тор. Следующая лемма является хорошо известным топологическим фактом. Лемма 3.3. Многообразие Mτ гомеоморфно многообразию M , где J ∈ GL(2, Z) является 2 J 2 матрицей, определенной действием автоморфизма τ∗ : π1(T ) → π1(T ). 1Следует подчеркнуть, что носитель двумерного поверхностного множества диффеоморфизма f может быть негладким в каждой своей точке (соответствующий пример имеется в [46]), однако он не является диким ни в одной точке. Напомним, что C0-отображение g : B → X называется топологическим вложением топологического многообразия B в многообразие X, если оно гомеоморфно отображает B на подпространство g(B) с индуцированной из X топологией. При этом образ A = g(B) называется топологически вложенным многообразием. Заметим, что топологически вложенное многообразие не является топологическим подмногообразием в общем случае. Если A - подмногообразие, то оно называется ручным или ручно вложенным, в противном случае A называется диким или дико вложенным, и точки, в которых не выполняются условия определения топологического подмногообразия, называются точками дикости. В силу результатов [52] топологическое вложение ориентируемой поверхности в 3-многообразие является ручным тогда и только тогда, когда оно является цилиндрическим. Напомним, что двумерная поверхность Sg ⊂ W называется цилиндрически вложенной в 3-многообразие W , если существует топологическое вложение h : Sg × [-1, 1] → W такое, что h(Sg × {0}) = Sg , где Sg - стандартная ориентируемая двумерная поверхность рода g 0. ГРУБЫЕ ДИФФЕОМОРФИЗМЫ С БАЗИСНЫМИ МНОЖЕСТВАМИ КОРАЗМЕРНОСТИ ОДИН 19 Представим многообразие MJ как пространство орбит MJ = (T2 × R)/Γ, где Γ = {γk, k ∈ Z} - группа степеней диффеоморфизма γ : T2 × R → T2 × R, заданного формулой γ(z, r) = (J (z), r - 1). Обозначим через p J J : T2 × R → M естественную проекцию. Обозначим через C множество гиперболических матриц из GL(2, Z). Для C ∈ C обозначим через Z(C ) централизатор C , т. е. Z(C ) = {J : J ∈ GL(2, Z), C J = J C }. Следующий результат доказан в [24]. Лемма 3.4. Группа Z(C ), C ∈ C изоморфна группе Z ⊕ Z2. Положим Id = 1 0 0 1 , -Id = -1 0 0 -1 и J = C ∪ Id ∪ (-Id). Так как C и -C принадлежат Z(C ), то следствием утверждения 3.4 является следующий факт. Лемма 3.5. Если J ∈ Z(C ) для C ∈ C, то J ∈ J . Более того, C и J имеют одинаковую форму в следующем смысле: C = (-Id)jC ξkC и J = (-Id)jJ ξkJ , где ξ ∈ C, kC, kJ ∈ Z, jC, jJ ∈ {0, 1}. Следующая теорема, доказанная в [15], выделяет множество всех многообразий, которые допускают диффеоморфизмы из класса G. Теорема 3.8. Пусть многообразие M 3 допускает диффеоморфизм f из класса G. Тогда M 3 диффеоморфно многообразию M J , где J ∈ J . Замечание 3.1. В работе [42] аналогичный вывод о структуре многообразия получен в предположении, что многообразие M 3 является неприводимым (т. е. любая цилиндрически вложенная в M 3 двумерная сфера ограничивает в нем трехмерный шар) и допускает диффеоморфизм f : M 3 → M 3 с инвариантным аносовским тором (т. е. диффеоморфизмы с гладким f инвариантным подмногообразием, гомеоморфным тору, на фундаментальной группе которого f индуцирует гиперболическое действие). Заметим, что в теореме 3.8 не требуется неприводимость многообразия M 3. Пусть MS(S1) - класс структурно устойчивых преобразований окружности, который совпадает, согласно результатам Майера [20], с классом диффеоморфизмов Морса-Смейла на S1. Разо- - бьем MS(S1) на два подкласса MS+(S1) и MS (S1), состоящих из сохраняющих ориентацию и меняющих ориентацию диффеоморфизмов соответственно. Сформулируем результаты Майера по топологической классификации структурно устойчивых преобразований окружности. Теорема 3.9. 4. Для каждого диффеоморфизма ϕ ∈ MS+(S1) неблуждающее множество NW (ϕ) состоит из 2n, n ∈ N периодических орбит, каждая из которых имеет период k. - 5. Для каждого диффеоморфизма ϕ ∈ MS (S1) множество NW (ϕ) состоит из 2q, q ∈ N периодических точек, две из которых являются неподвижными, а другие имеют период 2. Пусть ϕ ∈ MS+(S1). Перенумеруем периодические точки из NW (ϕ): p0, p1, . . . , p2nk -1, p2nk = p0, начиная с произвольной периодической точки p0, по часовой стрелке, тогда существует целое число l такое, что ϕ(p0) = p2nl, причем l = 0 для k = 1, l ∈ {1, . . . , k-1} для k > 1 и числа (k, l) являются взаимно простыми. Непосредственно проверяется, что l не зависит от выбора точки p0. Отметим, что А. Г. Майер вместо числа l использовал число r1, которое называл порядковым числом, таким что l · r1 ≡ 1(mod k). Теорема 3.10. 1. Два диффеоморфизма ϕ; ϕt ∈ MS+(S1) с параметрами n, k, l; nt, kt, lt топологически сопряжены тогда и только тогда, когда n = nt, k = kt и верно одно из следующих утверждений: o l = lt (при этом, если l /= 0, то сопрягающий гомеоморфизм сохраняет ориентацию), o l = kt - lt (при этом сопрягающий гомеоморфизм меняет ориентацию). - 2. Два диффеоморфизма ϕ; ϕt ∈ MS (S1) с параметрами q; qt тогда и только тогда, когда q = qt. топологически сопряжены 20 В. З. ГРИНЕС, Е. В. ЖУЖОМА, О. В. ПОЧИНКА РИС. 7. Топологически сопряженные диффеоморфизмы окружности с различными порядковыми числами На рис. 3.2 изображены фазовые портреты топологически сопряженных диффеоморфизмов окружности с различными порядковыми числами. - - Для n, k ∈ N и целого l, такого что для k = 1, l = 0 и для k > 1, l ∈ {1, . . . , k - 1}, построим стандартного представителя ϕ+ in MS+(S1) с параметрами n, k, l. Для q ∈ N построим стандартного представителя ϕ в MS (S1) с параметром q. Представим S1 как S1 = {ei2πr = (cos2πr, sin2πr) ∈ R2 : r ∈ R}. Обозначим через π : R → S1 проекцию, заданную формулой π(r) = ei2πr. Введем следующие отображения: ψm : R → R - сдвиг на единицу времени потока r˙ = sin(2πmr) для m ∈ N; l χk,l : R → R - диффеоморфизм, заданный формулой χk,l(r) = r - k ; χ : R → R - диффеоморфизм, заданный формулой χ(r) = -r; ϕ˜+ = ψn·kχk,l : R → R и ϕ˜- = ψqχ : R → R. Можно непосредственно проверить, что ϕ˜+(r + ν) = ϕ˜+(r) + ν и ϕ˜-(r + ν) = ϕ˜-(r) - ν для ν ∈ Z. Следовательно, для σ ∈ {+, -} следующие диффеоморфизмы корректно определены: ϕσ = πϕ˜σ π-1 : S1 → S1, где π-1(s) - полный прообраз точки s ∈ S1. Используя ϕσ и гиперболическую матрицу C, построим модельный диффеоморфизм φσ на M для J ∈ J J из класса G. Обозначим через φ˜σ : T2 × R → T2 × R произведение диффеоморфизма ϕ˜σ и автоморфизма C , C ∈ C, т. е. φ˜σ (z, r) = (C (z), ϕ˜σ (r)). Так как MJ = (T2 × R)/Γ и Γ - циклическая группа с образующей γ(z, r) = (J (z), r - 1), то либо φ˜σ γ = γφ˜σ , либо φ˜σ γ-1 = γφ˜σ является необходимым p и достаточным условием, позволяющим задать диффеоморфизм φσ : MJ → MJ как φσ 1 J = pJ φ˜σ - (см., например, [17]). Из этого следует, что CJ = JC для σ = + и CJ-1 = JC для σ = -. Более того, для σ = - имеем C2J = JC2 и J ∈ Z(C 2), следовательно, в силу леммы 3.5 J ∈ {Id, -Id}. Пусть J+ ∈ J и C+ ∈ C, такие что C+J+ = J+C+. Пусть J- ∈ {Id, -Id} и C- ∈ C. Положим φ˜σ (z, r) = (C σ (z), ϕ˜σ (r)). Легко проверяется, что φ˜σ γσ = γσ φ˜σ , где γσ (z, r) = (Jσ (z), r - 1) - σ образующая группы Γσ = {γi , i ∈ Z}. Тогда корректно следующее определение. Будем говорить, что диффеоморфизм φσ : M J σ → MJ σ , σ ∈ {+, -} является локально прямым ˜ 1 Jσ произведением C σ и ϕσ, если φσ = pJσ φσp- , и писать φσ = C σ ⊗ ϕσ. Обозначим через Φ+(Φ-) множество всех локально прямых произведений φ+ (φ-). Тогда каждый диффеоморфизм φ+ ∈ Φ+ единственным образом определяется параметрами {J+, C+, n, k, l} и каждый диффеоморфизм φ- ∈ Φ- единственным образом определяется параметрами {J-, C-, q}. Положим Φ = Φ+ ∪ Φ-. Таким образом, мы дали описание класса Φ ⊂ G модельных диффеоморфизмов. ГРУБЫЕ ДИФФЕОМОРФИЗМЫ С БАЗИСНЫМИ МНОЖЕСТВАМИ КОРАЗМЕРНОСТИ ОДИН 21 σ! Лемма 3.6. Если два диффеоморфизма φσ = C σ ⊗ ϕσ, φt σ! ⊗ ϕ σ! = C t t ∈ Φ топологически сопряжены, то: σ! 1. ϕσ, ϕt топологически сопряжены; σ! 2. существует матрица H ∈ GL(2, Z), такая что Cσ H = HCt . В силу приведенной выше конструкции справедливо и обратное утверждение теоремы 3.8, и мы получаем следующий результат. Теорема 3.11. Многообразие M 3 допускает диффеоморфизм f из класса G тогда и только тогда, когда M 3 диффеоморфно многообразию M J , где J ∈ J . Следующий результат, доказанный в [15], является алгебраическим критерием топологической сопряженности диффеоморфизмов из Φ. Теорема 3.12. 1. Два диффеоморфизма φ+; φt ∈ Φ+ с параметрами {J+, C+, n, k, l}; {Jt , Ct , nt, kt, lt} топо- + + + логически сопряжены тогда и только тогда, когда n = nt, k = kt, и существует матрица + H ∈ GL(2, Z), такая что C+H = HCt и выполняется одно из следующих утверждений: + o J+H = HJt и l = lt, o J-1 t t t t + H = HJ+ и либо l = l = 0, либо l = k - l . 2. Два диффеоморфизма φ-; φt ∈ Φ- с параметрами {J-, C-, q}; {Jt , Ct , qt} топологически - - - - сопряжены тогда и только тогда, когда J- = Jt , q = qt и существует матрица H ∈ - GL(2, Z), такая что C-H = HCt . 3. Не существует топологически сопряженных диффеоморфизмов φ+ ∈ Φ+ и φ- ∈ Φ-. Напомним, что диффеоморфизм g называется частично гиперболическим, если существуют такое N ∈ N и Dg-инвариантное непрерывное разложение TM 3 = Es ⊕ Ec ⊕ Eu на одномерные подрасслоения, что ||DgN |Es || < ||DgN |Ec || < ||DgN |Eu || и ||DgN |Es || < 1 < ||DgN |Eu || для каждоx x x x x го x ∈ M 3. При этом g называется динамически когерентным, если существует g-инвариантное слоение, касательное к Ecs = Es ⊕ Ec, Ecu = Ec ⊕ Eu (и, следовательно, также к Ec). Заметим, что если в приведенной выше конструкции φσ ∈ Φσ мы заменим r˙ = sin(2πmr) на 1 векторное поле r˙ = ln(µ) · sin(2πmr), где µ < |λ| и |λ|, |λ| модули собственных значений Cσ, то построенный диффеоморфизм будет динамически когерентным. Таким образом, мы получаем следующий результат. Теорема 3.13. Каждый диффеоморфизм φ из класса Φ топологически сопряжен с динамически когерентным диффеоморфизмом. Напомним, что два диффеоморфизма f : M 3 → M 3, f t : Mt3 → Mt3 называются объемлюще Ω-сопряженными, если существует гомеоморфизм h : M 3 → Mt3 такой, что h(NW (f )) = NW (ft) и hf|NW (f ) = fth|NW (f ). Следующая теорема доказана в [15]. Теорема 3.14. Любой диффеоморфизм из класса G является объемлюще Ω-сопряженным некоторому диффеоморфизму из класса Φ. Доказательство теоремы 3.14 базируется на следующем результате Дж. Френкса [36] (см. также [17]). ∗ Лемма 3.7. Пусть h : T2 → T2 - гомеоморфизм, который индуцирует гомоморфизм h : π1(T2) → π1(T2) фундаментальных групп, заданный гиперболической матрицей H, и h топологически сопряжен с диффеоморфизмом Аносова. Тогда существует единственный изотопный тождественному гомеоморфизм g : T2 → T2, такой что gh = H g. Следующее определение является топологическим аналогом определения динамически когерентного диффеоморфизма. Будем говорить, что f ∈ G является топологически когерентным (см. рис. 8), если выполняются следующие условия: 22 В. З. ГРИНЕС, Е. В. ЖУЖОМА, О. В. ПОЧИНКА РИС. 8. Топологически когерентный диффеоморфизм f ∈ G 1. если пересечение Ws(x) ∩ Wu(y) не пусто для некоторых точек x ∈ A, y ∈ R, то каждая компонента связности пересечения Ws(x) ∩ Wu(y) является открытой дугой, имеющей в точности две граничные точки, одна из которых принадлежит A, другая R; 2. на M 3 существует непрерывное f -инвариантное одномерное слоение If , каждый слой которого есть объединение замыканий всех дуг, определенных в первом условии. Следующие результаты доказаны в работе [39]. Теорема 3.15. Если диффеоморфизм из класса G является топологически когерентным, то он топологически сопряжен некоторому диффеоморфизму из класса Φ. Доказательство теоремы 3.15 базируется на теореме 3.14 и следующей лемме. Лемма 3.8. Пусть f ∈ G - топологически когерентный диффеоморфизм, V - компонента связности множества M 3 \\ (A ∪ R) такая, что ∂V = A ∪ R, где A ∈ A, R ∈ R. Пусть k0 - натуральное число, такое что fk0 (V ) = V и f0 = fk0 . Тогда на множестве cl V существует двумерное f0-инвариантное слоение PV , каждый слой которого является тором, пересекающим каждый слой слоения If в одной точке. Теорема 3.16. Пусть f ∈ G. Если f - структурно устойчивый диффеоморфизм, то f является топологически когерентным. Как следствие из теорем 3.15 и 3.16 получаем результат. Теорема 3.17. Каждый структурно устойчивый диффеоморфизм из класса G топологически сопряжен некоторому диффеоморфизму из класса Φ. Заметим, что в классе G существуют диффеоморфизмы, которые не являются топологически сопряженными с диффеоморфизмами класса Φ. Доказательство основной классификационной теоремы 3.17 сводится к доказательству существования одномерного слоения If у структурно устойчивого диффеоморфизма f из класса G. Поскольку это самое нетривиальное место в теореме, приведем идею его доказательства. По теореме 3.14, f объемлюще Ω-сопряжен некоторому диффеоморфизму φ : MJ → MJ из класса Φ посредством гомеоморфизма h : M 3 → M , J ∈ J . Для наших целей достаточно предположить, что φ принадлежит Φ+ J и определяется параметрами C ∈ C, n ∈ N, k = 1, l = 0 (в ГРУБЫЕ ДИФФЕОМОРФИЗМЫ С БАЗИСНЫМИ МНОЖЕСТВАМИ КОРАЗМЕРНОСТИ ОДИН 23 РИС. 9. Области Bu и Bs противном случае можно выбрать подходящую степень f ). Положим ψ = hfh-1 : M J будем применять к гомеоморфизму ψ понятия и обозначения устойчивых и неусто → MJ и ых ойчив мн гообразий неблуждающих точек, понимая их как прообразы относительно h соответствующих объектов диффеоморфизма f. По построению ψ и φ совпадают на неблуждающем множестве, и по теореме 3.14 существует поднятие ψ˜ : T2 × R → T2 × R гомеоморфизма ψ, совпадающее с φ˜ на множестве T2 × ( J i \\. i∈Z 2n Обозначим через p : R2 → T2 универсальное накрытие такое, что p(x, y) = (x(mod 1), y(mod 1)) → × через η : R3 T2 R накрытие, заданное формулой η(x, y, z) = (p(x, y), z). Положим η = J → p η : R3 M J . Обозначим через J ψˇ : R3 → R3 поднятие ψ˜ относительно η. Для устойчивого (неустойчивого) многообразия Ws(x) (Wu(x)) неблуждающей точки x ∈ NW (ψ) обозначим через ws(xˇ) (wu(xˇ)) компоненту связности множества η-1(Ws(x)) η-1(Wu(x)), проходящую через точку J J J xˇ ∈ η-1(x). Поскольку любое поднятие Cˇ : R2 → R2 диффеоморфизма C имеет форму Cˇ(x, y) = (ax + by + α, cx + dy + β) для некоторых α, β ∈ Z, то гомеоморфизм i ψˇ имеет в точности одну 2n неподвижную седловую точку Pi на плоскости Πi = R2 × f L для каждого i ∈ Z. Заметим, что |Πi гомеоморфизм ψˇ обладает двумя трансверсальными одномерными ψˇ-инвариантными слоениями Fs u i , Fi на Πi, состоящими из параллельных прямых с различными иррациональными наклонами µs и µu. Положим Nu(P0) = J wu(xˇ) (Ns(P1) = J ws (xˇ)) для некоторого фиксированного γ γ γ 0 xˇ∈Lu(P0) γ 1 xˇ∈Ls (P1) γ > 0. Используя свойство непрерывной зависимости инвариантных многообразий, можно доказать, что существуют числа bu, bu, bs, bs такие, что замкнутая область Bu (Bs), ограниченная 1 2 1 2 u 3 u u 3 u плоскостями Π-1, Π1, Q1 = {(x, y, z) ∈ R : y = µux + b1 }, Q2 = {(x, y, z) ∈ R : y = µux + b2 } (Π0, Π2, Qs = {(x, y, z) ∈ R3 : y = µsx + bs}, Qs = {(x, y, z) ∈ R3 : y = µsx + bs}) содержит Nu(P0) 1 1 2 2 γ γ (Ns(P1)) в своей внутренности. Тогда можно доказать, что wu(P0) ∩ ws(P1) /= ∅ (см. рис. 3.2) и, более того, (cl wu(P0)) ∩ Π1 = wu(P1), а (cl ws(P1)) ∩ Π0 = ws(P0). В силу всюду плотности периодических точек в базисном множестве получаем, что для любой точки x ∈ Π0 существует точка y ∈ Π1 такая, что (cl wu(x)) ∩ Π1 = wu(y) и обратно, для любой точки y ∈ Π1 существует точка x ∈ Π0 такая, что (cl ws(y)) ∩ Π0 = ws(x). На множестве R2 × [0, 1/2n) существует ψˇ-инвариантное двумерное слоение R0 (R1), каждый слой которого G0 (G1) гомеоморфен полуплоскости и совпадает с wu(x) ∩ (R2 × [0, 1/2n)) 24 В. З. ГРИНЕС, Е. В. ЖУЖОМА, О. В. ПОЧИНКА (ws(x)∩(R2 ×[0, 1/2n))) для некоторой точки x ∈ Π0 (x ∈ Π1). Поскольку cl (G1)∩Π0 = {(x, y, z) ∈ Π0 : y = µsx + bG1 } для некоторого bG1 ∈ R, то пересечение Y = G0 ∩ G1 не пусто для любых G0,G1 ∈ Π0, P слоев G0 ∈ R0, G1 ∈ R1 и cl (Y ) \\ Y состоит из двух точек P 0 1 G0,G1 ∈ Π1. В силу структурной устойчивости диффеоморфизма f компоненты связности множества Y не могут ограничивать дисков на G0, так как в противном случае такой диск расслоен следами пересечений со слоями слоения R1 и это слоение обязано иметь особенности, что соответствует нарушению сильного условия трансверсальности. Таким образом, Y состоит из единственной кривой z такой, G0,G1 что cl z ∩ (Π0 ∪ Π1) = P 0 ∪ P 1 G0,G1 , что и завершает доказательство. 4. ЭНЕРГЕТИЧЕСКАЯ ФУНКЦИЯ ДЛЯ ГРУБЫХ ДИФФЕОМОРФИЗМОВ С ДВУМЕРНЫМ РАСТЯГИВАЮЩИМСЯ АТТРАКТОРОМ Наиболее законченные результаты в направлении построения энергетических функций получены для систем Морса-Смейла - структурно устойчивых систем, чье цепно рекуррентное множество состоит из конечного числа гиперболических неподвижных точек и периодических орбит. С. Смейл [59] в 1961 году доказал существование энергетической функции, являющейся функцией Морса, у градиентно-подобного потока (потока Морса-Смейла без замкнутых траекторий). К. Мейер [51] в 1968 году обобщил этот результат и построил энергетическую функцию, являющуюся функцией Морса-Ботта для произвольного потока Морса-Смейла. Напомним, что точка p ∈ Mn называется критической точкой Cr -гладкой (r 2) функции ψ : Mn → R, если в неко- ∂ψ ∂ψ торых локальных координатах x1, . . . , xn (xj (p) = 0 для всех j = 1, n) ∂x1 n (p) = · · · = ∂x (p) = 0 (grad ψ(p) = 0). Критическая точка p называется невырожденной, если матрица вторых производ- 2 ных ∂ ψ 1. (матрица Гесса) не вырождена, в противном случае точка p называется вырож- ∂xi∂xj денной. Функция ψ : Mn → R называется функцией Морса, если все ее критические точки не вырождены, и называется функцией Морса-Ботта, если гессиан в каждой критической точке не вырожден в направлении нормальном к критическому множеству уровня. В 1977 году Д. Пикстон [54] установил существование энергетической функции, являющейся функцией Морса, для диффеоморфизмов Морса-Смейла на поверхностях. Кроме того, он построил диффеоморфизм на 3-сфере, не обладающий энергетической функцией, и показал, что этот эффект связан с диким вложением сепаратрис седловых точек. В работах [37, 38] исследованы условия существования энергетической функции для каскадов Морса-Смейла на 3-многообразиях. Из этих исследований стало понятно, что многие каскады Морса-Смейла на 3-многообразиях не обладают энергетической функцией. В следующем разделе мы приводим результаты работы [37] (см. также книгу [17]), касающиеся критерия существования энергетической функции в бассейне одномерного аттрактора градиентноподобного 3-диффеоморфизма. 1. Существование энергетической функции в бассейне одномерного аттрактора градиентно-подобного 3-диффеоморфизма. Пусть g - диффеоморфизм Морса-Смейла на многообразии N и функция Морса ϕ : N → R является функцией Ляпунова для g. В силу [54] (см. также книгу [17]) любая периодическая точка β является максимумом ограничения ϕ на неустойчивое многообразие Wu и минимумом ограничения ϕ на устойчивое многообразие Ws. Если эти β β экстремумы являются невырожденными, то инвариантные многообразия точки β трансверсальны всем регулярным множествам уровня ϕ в некоторой окрестности Uβ точки β. Функция Ляпунова ϕ : N → R для диффеоморфизма Морса-Смейла f : N → N называется функцией Морса- Ляпунова, если любая периодическая точка β является невырожденным максимумом (минимумом) ограничения ϕ на неустойчивое (устойчивое) многообразие Wu(β) (Ws(β)). Среди функций Ляпунова для диффеоморфизма Морса-Смейла g функции Морса-Ляпунова образуют открытое всюду плотное в C∞-топологии множество. Если β - критическая точка функции Морса ϕ : N → R, то, согласно лемме Морса (см., например, [21]), в некоторой окрестности V (β) точки β существует локальная система координат x1, . . . , xn, называемая координатами Морса, такая, что xj (p) = 0 для каждого j = 1, n и ϕ имеет ГРУБЫЕ ДИФФЕОМОРФИЗМЫ С БАЗИСНЫМИ МНОЖЕСТВАМИ КОРАЗМЕРНОСТИ ОДИН 25 вид ϕ(x) = ϕ(β)-x2 -· · ·-x2 +x2 +· · ·+x2 , где b - индекс1 точки β. Если ϕ - функция Ляпунова 1 b b+1 n для диффеоморфизма Морса-Смейла f : N → N, то в силу [54] для любой периодической точки β ∈ Per(g) выполняется равенство b = dim Wu(β). Если ϕ - функция Ляпунова для диффеоморфизма Морса-Смейла g, то любая периодическая точка диффеоморфизма g является критической точкой функции ϕ. Обратное, вообще говоря, неверно: функция Ляпунова может иметь критические точки, которые не являются периодическими точками для g. Так, в работе В. З. Гринеса, Ф. Лауденбаха, О. В. Починки [14] доказано, что функция Ляпунова в примере Пикстона (см. рис. 10) имеет не менее шести критических точек. Напомним, что диффеоморфизм Морса-Смейла g : N → N называется градиентно-подобным, если для любой пары периодических точек β, γ (β /= γ) из условия Wu(β) ∩ Ws(γ) /= ∅ следует, что dim Ws(β) < dim Ws(γ). Следующее определение выделяет для градиентно-подобных диффеоморфизмов класс функций Морса-Ляпунова с дополнительными свойствами, аналогичными свойствам функций, введенных С. Смейлом [59] для градиентно-подобных векторных полей. Функция Морса-Ляпунова ϕ для градиентно-подобного диффеоморфизма g называется самоиндексирующейся энергетической функцией, если выполняются следующие условия: 1. множество критических точек функции ϕ совпадает с множеством Per(g) периодических точек диффеоморфизма g; 2. ϕ(β) = dim Wu(β) для любой точки β ∈ Per(g). Заметим, что понятие функции Ляпунова корректно определено на любом g-инвариантном подмножестве многообразия N. Следующие рассмотрения относятся только к трехмерным многообразиям. Пусть g : N → N - градиентно-подобный диффеоморфизм. Пусть Σ+(Ω+) - подмножество множества всех седловых точек с одномерными неустойчивыми инвариантными многообразиями (стоковых точек) и множество A+ = Wu(Σ+) ∪ Ω+ является замкнутым и g-инвариантным. Тогда A+ является аттрактором диффеоморфизма g. Множество Ws(A+) = J β+∈(Σ+∪Ω+) Ws(β+) является gинвариантным и называется бассейном одномерного аттрактора A+. Обозначим через c+ число компонент связности аттрактора A+, через r+ - число седловых точек и через s+ - число стоковых точек в A+. Положим δ(A+) = c+ + r+ - s+. Аттрактор A+ называется тесно вложенным, если он обладает окрестностью P + со следующими свойствами: 1. g(P +) ⊂ int P +; 2. P + - является дизъюнктным объединением c+ ручечных тел2, сумма родов которых равна δ(A+); σ+ 3. для любой седловой точки σ+ ∈ Σ+ пересечение Ws ∩ P + состоит из одного двумерного диска. Теорема 4.1. Cамоиндексирующаяся энергетическая функция ϕA+ диффеоморфизма g существует в бассейне Ws(A+) аттрактора A+ тогда и только тогда, когда он является тесно вложенным. Тесно вложенный репеллер A- градиентно-подобного диффеоморфизма g : N → N и его бассейн определяются как тесно вложенный аттрактор A+ и его бассейн для диффеоморфизма g-1. При этом функция ϕA- (x) = 3 -ϕA+ (x) будет самоиндексирующиейся функцией диффеоморфизма g в бассейне репеллера A-. В вышеупомянутом примере Пикстона неблуждающее множество g : S3 → S3 состоит в точности из четырех неподвижных точек: одного источника α, двух стоков ω1, ω2, одного седла σ. Одномерный аттрактор A+ этого диффеоморфизма совпадает с замыканием устойчивого многообразия седла σ и δ(A+) = 0. При этом любой трехмерный шар, содержащий аттрактор A+ в своей 2 1Индексом критической точки β называется число отрицательных собственных значений матрицы ∂ ϕ ∂xi∂xj (β). 2Ручечным телом рода δ 0 называется компактное трехмерное многообразие с краем, полученное из 3-шара попарным отождествлением 2δ двумерных попарно не пересекающихся дисков на границе шара посредством меняющего ориентацию отображения. 26 В. З. ГРИНЕС, Е. В. ЖУЖОМА, О. В. ПОЧИНКА внутренности, пересекает Ws(σ) не менее чем по трем компонентам связности (см. рис. 10). Таким образом, аттрактор A+ не является тесно вложенным и, в силу предложения 4.1, в бассейне одномерного аттрактора Пикстона не существует энергетической функции. РИС. 10. Пример Пикстона 2. Схема построения. В этом разделе мы приведем идею доказательства следующей теоремы (подробное доказательство можно найти в статье [16]). Теорема 4.2. Для любого структурно устойчивого диффеоморфизма f : M 3 → M 3, неблуждающее множество которого содержит двумерный растягивающийся аттрактор Λ, существует энергетическая функция, являющаяся функцией Морса вне Λ. Доказательство теоремы 4.2 базируется на теоремах 3.2 и 4.1, приведем его идеи. Пусть (p, q) - пара ассоциированных граничных точек периода mpq базисного множества Ω. pq Положим A- mpq -1 = J j=0 fj ( kpq -1 J i=1 Ws(Pi) ∪ kpq -1 J i=1 pq Ws(αi)). По построению множество A- являетpq ся репеллером диффеоморфизма f и δ(A- ) = 0. Покажем, что он является тесно вложенным. Для этого достаточно показать, что существует 3-шар P- такой, что f-mpq (P- ) ⊂ int P- и pq pq pq pq пересечение P- ∩ Wu(Pj ) состоит в точности из одного двумерного диска для каждого седла 1}. pq В силу структурной устойчивости диффеоморфизма f любая дуга (x, ϕpq (x))s, x ∈ Dp \\ p пересекает Wu(Pj ) ровно в одной точке для всех j = 1, . . . , kpq - 1, так как, предположив противное, мы найдем точку, в которой произойдет касание устойчивого многообразия этой точки и неустойчивого многообразия Wu(Pj ), что противоречит сильному условию трансверсальности. Таким образом, 3-шар Qpq пересекает двумерное неустойчивое многообразие седла Pj, j ∈ {1, . . . , kpq - 1} в точности по одному двумерному диску. Искомый 3-шар P- получается из Qpq вдавливанием внутрь дисков Dp, Dq и сглаживанием углов (см. рис. 11). В силу леммы 4.1 в бассейне Wu(A- ) репеллера A- существует самоиндексирующаяся энерpq pq гетическая функция ϕA- диффеоморфизма f. Положим bpq = inf{ϕA- (z), z ∈ Wu }. Опре- A pq pq pq - делим функцию gpq : (bpq, 3] → (0, 3] следующим образом: если bpq > -∞, то положим gpq (x) = 2 (2-bpq )(3-x) x-bpq 3 (3-bpq )(x-2) x-bpq и, если bpq = -∞, то положим gpq (x) = 23-x3x-2. По построению функция gpq является бесконечно гладкой и имеет положительную производную, при этом gpq (2) = 2, gpq (3) = 3 и lim x→bpq pq gpq (x) = 0. Рассмотрим суперпозицию ϕpq = gpqϕA- . pq Поскольку grad ϕpq = gt § A grad ϕ - pq p q и гессианы ∆ ϕpq и ∆ ϕA- связаны соотношением ГРУБЫЕ ДИФФЕОМОРФИЗМЫ С БАЗИСНЫМИ МНОЖЕСТВАМИ КОРАЗМЕРНОСТИ ОДИН 27 Wu(P1) Wu(Pk) Wu(p) u Wu(q) pq РИС. 11. Окрестность P- ∆ ϕpq = gtt § (grad ϕA- ) · (grad ϕA- )T + gt § ∆ ϕA- , то функция ϕpq является энергетической pq pq pq pq pq A - функцией Морса для f в бассейне Wu . pq Положим A- = J (p,q)⊂ΓΛ pq A- , Wu(A-) = J (p,q)⊂ΓΛ pq Wu(A- ) и обозначим через ϕA - функцию, составленную из функций ϕpq, (p, q) ⊂ ΓΛ. Определим на многообразии M 3 функцию ϕ формулой ( ϕA- (z), если z ∈ Wu(A-); ϕ(z) = 0, если z ∈ Λ. По построению функция ϕ является функцией Ляпунова для диффеоморфизма f, более того, она является функцией Морса на M 3 \\ Λ. Искомая энергетическая функция представляет из себя суперпозицию ψ = gϕ, где g : [0, 3] → [0, 3] - C2-гладкая функция, построенная следующим образом. Пусть d - риманова метрика на многообразии M 3, а расстояние между множествами определяется как инфимум расстояний между элементами этих множеств, т. е. ∀X, Y ⊂ M : d(X, Y ) = inf{d(x, y) : x ∈ X, y ∈ Y }. Для c ∈ (0, 3] положим α(c) = min{1, d2(ϕ-1(c), Λ)} и β(c) = max{1, max x∈ϕ-1([c,3]) | grad ϕ(x)|}. По построению функции α(c) и β(c) являются непрерывными, причем α(c) - неубывающая на (0, 3] и существует значение c∗ ∈ (0, 3] такое, что α(c) - монотонно возрастает на (0, c∗], а β(c) - невозрастающая. Тогда функция α(c) β(c) является неубывающей на полуинтервале (0, 3] и lim α(c) = 0. c→0 β(c) Используя разбиение единицы, построим C2-гладкую функцию g : [0, 3] → [0, 3] такую, что 4. gt(c) > 0 для любого c ∈ (0, 3]; α(c) 5. g(c) β(c) для любого c ∈ (0, 1/2]; α(c) 6. gt(c) β(c) для любого c ∈ (0, 1/2]; 4. g(2) = 2 и g(3) = 3. Поскольку grad ψ = gt · grad ϕ и гессианы ∆ ψ и ∆ ϕ связаны соотношением ∆ ψ = gtt · (grad ϕ) · (grad ϕ)T + gt · ∆ ϕ, то функция ψ является энергетической функцией Морса для f на множестве M 3 \\ Λ. По построению ψ является гладкой на всем многообразии M 3.