Discrete and Continuous Models and Applied Computational ScienceDiscrete and Continuous Models and Applied Computational ScienceDiscrete and Continuous Models and Applied Computational Science2658-46702658-7149Peoples' Friendship University of Russia named after Patrice Lumumba (RUDN University)8267ArticlesСтатьиResearch ArticleIndex of Sobolev Problems Associated with Lie Group ActionИндекс задач Соболева, ассоциированных с действием групп ЛиLoshhenovaD AЛощёноваДарья АлександровнаDepartment of Applied MathematicsКафедра прикладной математикиdarya.loshhenova.90@bk.ruPeoples’ Friendship University of RussiaРоссийский университет дружбы народов150220152NO2 (2015)№2 (2015)111808092016Copyright ©; 2015, Лощёнова Д.А.2015Лощёнова Д.А.http://creativecommons.org/licenses/by/4.0https://journals.rudn.ru/miph/article/view/8267In relative elliptic theory or “Sobolev” problem as B. Yu. Sternin named it in his works one is required to construct a Fredholm elliptic theory and find an index formula in the category of smooth pairs of manifolds (M,X), where X is a submanifold in M. From the point of view of (pseudo)differential equations the Sobolev problem deals with the comparison Du ≡ f(modX), where D is a pseudodifferential operator, while the sign “ ≡” means that the left and right hand sides are equal modulo distributions supported on X. Obviously, if the dimension of the submanifold is greater than one, the comparison written above does not define a Fredholm operator, since its kernel is infinite-dimensional. It turns out, that if we add to the comparison some operators B defined on X, which are related by an algebraic condition (of coercitivity type) with operator D, then the obtained operator (D,B) is already Fredholm in appropriate Sobolev spaces. Remarkably, this condition can be formulated invariantly as an ellipticity condition of some operator, which is induced by the problem on the submanifold X. Hence, the ellipticity conditions of operators D and (D,B) together give us a Fredholm operator. This theorem and the corresponding index formula were proved by B.Yu. Sternin. Note that all operators appearing in this theory are pseudodifferential. In particular, (D,B) is a pseudodifferential operator, meanwhile, this enabled one to define its ellipticity. We have a quite different situation, if the manifold M is endowed with an additional structure, for example, if it carries a Lie group action. In this case, (D,B) is in general no longer a pseudodifferential operator and, hence, the question of its ellipticity, formally speaking, can not even be rised. However, in our work, under certain conditions, we can examine the resulting operator (D,B), define its symbol and prove its Fredholm property. Moreover, we give an index formula in this more general situation. This is the subject of this work.Относительная эллиптическая теория или, как её назвал в своих работах Б.Ю. Стернин, «проблема Соболева», состоит в том, что в категории гладких пар многообразий (M,X), одно из которых X гладко вложено в другое M, построить фредгольмову эллиптическую теорию и найти формулу индекса для неё. С точки зрения (псевдо)дифференциальных уравнений задача Соболева состоит в том, что рассматривается сравнение Du ≡ f(modX), где D - псевдодифференциальный оператор, а символ « ≡» означает равенство левой и правой части с точностью до распределений сосредоточенных на подмногообразии X. Очевидно, в случае, когда размерность подмногообразия больше единицы, сравнение, о котором говорится выше, не определяет фредгольмов оператор, именно ядро этого сравнения является бесконечномерным. Оказывается, что если добавить к рассматриваемому сравнению ещё некоторые операторы B, определённые на подмногообразии X, связанные некоторым алгебраическим условием (типа коэрцитивности) с оператором D, то полученный оператор (D,B) уже будет фредгольмовым в соответствующих пространствах Соболева. Замечательным фактом при этом является то, что это условие может быть сформулировано инвариантным образом как условие эллиптичности некоторого оператора, индуцированного задачей на подмногообразии X и, таким образом, условия эллиптичности оператора D и оператора (D,B) вместе доставляют нам фредгольмов оператор. Эта теорема вместе с формулой индекса была в своё время доказана Б.Ю. Стерниным. Напомним, что все операторы, участвующие в построении указанной теории, были псевдодифференциальными. В частности, псевдодифференциальным был оператор (D,B), что, между прочим, и позволило дать определение его эллиптичности. Совершенно по другому обстоит дело в ситуации, когда на многообразии M имеется дополнительная структура, например, действие группы Ли. В этом случае оператор (D,B) уже не будет, вообще говоря, псевдодифферециальным оператором и, следовательно, вопрос о его эллиптичности, формально говоря, не может быть даже поставлен. Тем не менее, в нашей работе при определённых условиях мы можем изучить полученный оператор (D,B), дать определение его символа и доказать его фредгольмовость. Более того, мы предъявляем формулу индекса в этой более общей ситуации. Этому и посвящена настоящая работа.elliptic operatorsSobolev problemsindexfixed points of Lie group actionoperators concentrated at a pointэллиптические операторызадачи Соболеваиндекснеподвижные точки действия группы Лиоператорысосредоточенные в точке1.Стернин Б.Ю. Эллиптические и параболические задачи на многообразиях с границей, состоящей из компонент различной размерности // Труды московского математического общества. - 1966. - Т. 15. - С. 346-382.2.Стернин Б.Ю. Относительная эллиптическая теория и проблема С.Л. Соболева // Доклады АН СССР. - 1976. - Т. 230, № 2. - С. 287-290.3.Лощенова Д.А. О задаче Соболева, ассоциированной с компактной группой Ли // Бесконечномерный анализ, стохастика, математическое моделирование: новые задачи и методы. Проблемы математического и естественнонаучного образования. Тезисы докладов. - Москва: 2014.4.Савин А.Ю., Стернин Б.Ю. Нелокальные эллиптические операторы для компактных групп Ли // Доклады АН СССР. - 2010. - Т. 431, № 4. - С. 457-460.5.Стернин Б.Ю. и Шаталов В.Е. Относительная эллиптическая теория и задача Соболева // Математический сборник. - 1996. - Т. 187, № 11. - С. 115-144.6.Wojciechowski K. A Note on the Space of Pseudodifferential Projections with the Same Principal Symbol // J. Operator Theory. - 1986. - Т. 15, № 2. - С. 207-216.7.Пламеневский Б.А. Алгебры псевдодифференциальных операторов. - Москва: Наука, 1986.