О некоторых вырожденных эллиптических уравнениях, возникающих в геометрических задачах

Аннотация

Мы рассматриваем некоторые вполне нелинейные вырожденные эллиптические операторы и исследуем справедливость определенных свойств, связанных с принципом максимума. В частности, мы устанавливаем эквивалентность между свойством распространения знака и строгой положительностью подходящим образом определенного обобщенного главного собственного значения. Также мы показываем, что даже в вырожденном случае, рассмотренном в настоящей работе, хорошо известное условие на член нулевого порядка, введенное Келлером-Оссерманом, является необходимым и достаточным для существования целых слабых субрешений.

Полный текст

ВВЕДЕНИЕ Нелинейные вырожденные эллиптические уравнения возникают при изучении разнообразных задач в различных областях геометрии. Укажем только работы, частично послужившие толчком для данного исследования: Харвея-Лавсона о p-выпуклости, p-субгармоничности и комплексном уравнении Монжа-Ампера (см. [30]), Амброзио-Сонера [1] и Джига [29] о движении поверх- ностей под действием потоков средней кривизны [1], Джига [29], Оссермана о классификации римановых поверхностей с отрицательной гауссовой кривизной [44]. Основным модельным оператором, рассматриваемым в настоящей работе, является оператор, определенный на функциях u : Rn → R из C2 как частичная сумма упорядоченных собственных значений матрицы Гессе D2u P- 2 k (D u) = η1(D2 u)+ ··· + ηk (D2 u), (1.1) n где k - фиксированное целое число между 1 и n, η1 ::: η2 ::: ... ηk. Этот оператор локально представляет среднюю частичную кривизну декартовой поверхности xn+1 = u(x) в Rn+1, см. [30]. Заметим, что в частном случае k = n P-(D2u) = Δu является прототипом равномерно эллипти- ческих операторов. Для меньших значений k они соответствуют промежуточным случаям между кривизной сечений P- и кривизной Риччи P- , как указано в [47, 49], и следовательно, являются 1 n-1 вырожденными эллиптическими операторами. Дуальный оператор + 2 Pk (D 2 u) = ηn-k+1(D u)+ ··· + ηn(D2 u) (1.2) возникает при изучении некоторых геометрических потоков, см. [1, 29]. См. также в [42] подход уравнений с частными производными к проблеме выпуклых оболочек. Целью настоящей работы является проиллюстрировать, как основные структурные свойства равномерно эллиптических операторов: принцип максимума, а также некоторые результаты об устранимых особенностях, - продолжают иметь место в вырожденном случае k < n. Эти вопросы будут освещены в разделах 2 и 3, опираясь соответственно на [2, 8], в разделе 4 мы сообщим о новых нелинейных случаях, рассмотренных в работах авторов, см. [19], хорошо известных результатов Келлера и Оссермана [37, 44] о целых решениях. ЧАСТИЧНЫЙ ЛАПЛАСИАН И ОПЕРАТОР ПУЧЧИ Прежде всего мы введем обозначения, которые будут использоваться в дальнейшем. Через Sn обозначим множество вещественных симметричных матриц порядка n × n, через ηi(X), i = n 1,..., n, - i-е собственное значение матрицы X ∈ S , занумерованное в порядке неубывания, а Qc 2015 РУДН 96 О ВЫРОЖДЕННЫХ ЭЛЛИПТИЧЕСКИХ УРАВНЕНИЯХ, ВОЗНИКАЮЩИХ В ГЕОМЕТРИЧЕСКИХ ЗАДАЧАХ 97 n через TrX = ), ηi(X) - след матрицы X. Линейное пространство Sn будет наделено стандартным i=1 отношением частичного порядка: X 0 тогда и только тогда, когда η1(X) 0, и X ::: Y означает, n что Y - X 0. Через In ∈S будем обозначать единичную матрицу. Функция F : Sn → R является эллиптически вырожденной, если ∈S F (X) ::: F (Y ) ∀ X n n ∀ X, Y ∈S : X ::: Y (2.1) и равномерно эллиптической, если существуют положительные числа λ, Λ, такие что λ ::: Λ и n λTr (Y - X) ::: F(Y) - F(X) ::: ΛTr (Y - X) ∀ X, Y ∈S : X ::: Y. (2.2) Пусть u ∈ C2(Ω) - вещественнозначная функция, определенная на области (открытом связном n множестве) Ω в Rn. Будем обозначать через Du ее градиент и через D2u ∈S ее матрицу Гессе. Соответственно вполне нелинейный дифференциальный оператор F (D2u) будет называться вы- рожденным или равномерно эллиптическим. Типичные примеры вполне нелинейных равномерно эллиптических операторов с постоянными n эллиптичности 0 < λ ::: Λ строятся путем рассмотрения подмножеств A ⊆ {A ∈ S ΛIn}, если положить : λIn ::: A ::: F (X) = inf A∈A Tr (AX). (2.3) Этот класс выпуклых операторов возникает в теории оптимального управления и известен как операторы Беллмана. Семейство операторов Беллмана F, определенных выше, определяет опера- торы Айзекса G(X) = sup F (X), возникающие в дифференциальной теории игр; они не являются F ∈F ни выпуклыми, ни вогнутыми. Если в (2.3) инфимум берется по всем матрицам A, таким что λIn ::: A ::: ΛIn, то мы получаем минимальный оператор Пуччи - Mλ,Λ(X) = inf Tr (AX). (2.4) λIn:::A:::ΛIn В двойственной форме максимальный оператор Пуччи определяется как + Mλ,Λ(X) = sup λIn:::A:::ΛIn при этом выполнено соотношение двойственности Tr (AX), (2.5) - + M λ,Λ(X) = -Mλ,Λ(-X). ∈S Через X+ и X- обозначим однозначное разбиение X n, такое что X = X+ Справедливо следующее определение экстремальных операторов Пуччи: -X- и X+X- = 0. n n + + - + - Mλ,Λ(X) = ΛTr (X ) - λTr (X ) = Λ i=1 n ηi (X) - λ i=1 n ηi (X), (2.6) M- + - + - λ,Λ(X) = λTr (X ) - ΛTr (X ) = λ i=1 ηi (X) - Λ i=1 ηi (X) (см. [16]). Заметим, что в тривиальном случае λ = Λ = 1 максимальный и минимальный операторы Пуччи совпадают с оператором Лапласа Δ. Похожая, но более общая конструкция использует k < n наибольших и наименьших собствен- ных значений. В данном случае мы получаем так называемый частичный лапласиан порядка k: n + Pk (X) = ηi(X), i=n-k+1 k - Pk (X) = ηi(X). (2.7) i=1 Как и ранее, выполняется соотношение двойственности - + P k (X) = -Pk (-X). 98 И. КАПУЦЦО ДОЛЬЧЕТТА, Ф. ЛЕОНИ, А. ВИТОЛО Эти операторы также могут быть представлены в виде (2.4) и (2.5). Действительно, для заданного k-мерного линейного подпространства W в Rn рассмотрим сужение оператора взятия следа на W : Tr W (X) = Tr (PWXPW), (2.8) где PW - матрица представления оператора ортогонального проектирования на W. Обозначим че- рез Gk грассманиан k-мерного линейного подпространства в Rn, тогда + Pk (X) = sup W ∈Gk - Pk (X) = inf Tr W (X), Tr W (X). (2.9) W ∈Gk Несложно понять из этих формул или из определения (2.7), что максимальный и минимальный частичные лапласианы являются вполне нелинейными вырожденными эллиптическими, но не рав- номерно эллиптическими, операторами, за исключением тривиального случая k = n. Приведем явный пример при n = 2 и k = 1: 1 0 X = 0 0 + ::: Y = 1 0 0 1 . Действительно, заметим, что P+(Y ) -P (X) = 0, но Tr (Y - X) = 1. 1 1 Помимо отмеченных соотношений двойственности, пара (P-, P+) обладает многими свойствами , M ( пары M - λ,Λ + λ,Λ k k ), а именно: P±(cX) = cP±(X) при c 0 (положительная однородность); k k P+(X)+ P-(Y ) ::: P+(X + Y ) ::: P+(X)+ P+(Y ) (субаддитивность и двойственность); k k k k k - - - + - Pk + + (X)+ Pk (Y ) ::: Pk (X + Y ) ::: Pk (X)+ Pk (Y ) (супераддитивность и двойственность); P - (X) k1 ::: k2 влечет k1 k1 ::: k2 P- (X) k2 ::: Pk2 (X) k2 ::: Pk1 (X) k1 (монотонность). Замечательна также следующая связь с экстремальными операторами Пуччи: если отношение Λ к λ невелико, то пара (M- , M+ ) может быть оценена парой (P-, P+) в следующем смысле: λ,Λ λ,Λ k k Лемма 2.1. Пусть Λ ::: n, тогда λ k Λ c-(X) P-(X) ::: M- (X) ::: M+ (X) ::: Λ c+(X) P+(X) (2.10) где k λ,Λ λ,Λ k ( n/k при P+(X) > 0, c+(X) = k 1 в противном случае, c-(X) = c+(-X). k Доказательство. Предположим, что P+(X) > 0, и пусть p > 0 - число положительных собствен- ных значений X. Рассмотрим вначале случай k ::: p. В силу свойства 4 имеем + Mλ,Λ(X) = λ (η1 + ... ηn-p)+Λ (ηn-p+1 + ... ηn) ::: p p P ::: Λ +(X) ::: Λ k + n Pk (X) ::: Λ k + Pk (X). В случае p < k, используя предположение Λ ::: n, и свойство 4, получаем λ k + Mλ,Λ(X) = λ (η1 + ... ηn-p)+Λ (ηn-p+1 + ... ηn) ::: n-k+1 n-p n-p+1 n ::: λ n - p (η + ... η )+Λ (η + ... η ) ::: k - p n + n + ::: λ k (ηn-k+1 + ... ηn-p)+Λ (ηn-p+1 + ... ηn) ::: Λ Pk (X) ::: Λ k Pk (X). k С другой стороны, если P+(X) ::: 0, то, очевидно, k > p и из предыдущих соотношений мы получаем, что + + Mλ,Λ(X) ::: Λ Pk (X). Остальные неравенства в (2.10) следуют из двойственности. О ВЫРОЖДЕННЫХ ЭЛЛИПТИЧЕСКИХ УРАВНЕНИЯХ, ВОЗНИКАЮЩИХ В ГЕОМЕТРИЧЕСКИХ ЗАДАЧАХ 99 k Замечание 2.1. Отметим, что, несмотря на вырождение, в силу максимальности P+ верно λ,Λ неравенство M+ k (X) ::: Λ c+(X) P+(X). С другой стороны, вырождение исключает выполнение λ,Λ любой нижней оценки вида M+ k (X) C P+(X). Теперь обратимся к справедливости принципа максимума для частичного оператора Лапласа в случае вязкостных решений. Обозначим через LSC(Ω) и USC(Ω) пространства полунепрерывных снизу и сверху функций в Ω соответственно. Напомним, см. [21], что u ∈ USC(Ω) является вязкостным решением дифференциального неравенства F (D2u) 0 (2.11) (или, по аналогии с классической терминологией в случае оператора Лапласа, субрешением урав- нения F (D2u) = 0), если F (D2ϕ(x0)) 0 для всех (x0, φ) ∈ Ω × C2(Ω), таких что u - ϕ имеет локальный максимум в точке x0. Аналогично функция u ∈ LSC(Ω) является вязкостным решением F (D2u) ::: 0, если F (D2φ(x0)) ::: 0 для всех (x0, φ) ∈ Ω × C2(Ω), таких что u - φ имеет локальный минимум в x0. Вязкостное решение уравнения F (D2u) = 0 в Ω - это непрерывная в Ω функция, удовлетворя- ющая одновременно условиям суб- и суперрешений. k Утверждение 2.1. Пусть Ω - ограниченная область в Rn. Если u ∈ USC(Ω) - вязкостное решение неравенства P+(D2u) 0 в Ω, то sup u ::: sup u. Ω ∂Ω k Если u ∈ LSC(Ω) - вязкостное решение P-(D2u) ::: 0, то inf u inf u. Ω ∂Ω k 1 Доказательство. Рассмотрим случай субрешений, т. к. суперрешения рассматриваются по двой- ственности. Предположим, что P+(D2u) 0 в Ω. Заметим, что в силу сформулированного выше свойства монотонности 4 достаточно доказать утверждение для вязкостного решения неравенства ηn(D2u) = P+(D2u) 0. Заметим также, что мы можем считать без ограничения общности, что sup u ∂Ω ::: 0, возможно заменив u(x) на u(x) - sup u. ∂Ω Простое вязкостное вычисление показывает, что u+ = max{u, 0} удовлетворяет ηn(D2u+) 0 в вязкостном смысле, и нам остается доказать, что u+ = 0 на ∂Ω влечет u+ = 0 в Ω. Для этого предположим противное: M := sup u+ > 0. Мы можем считать, что Ω ⊂ BR(0) при Ω некотором R > 0 и что u+(0) = M. Если рассмотреть параболоид φ(x) = M 2 1 - |x| , то 2 u+(x) - ϕ(x) ::: -M 2R2 на ∂Ω, u+(0) - ϕ(0) = 0, так что u+ - ϕ имеет неотрицательный максимум в некоторой точке x0 ∈ Ω. Мы можем использо- вать φ в определении вязкостного субрешения, чтобы получить, что ηn(D2φ(x0)) 0. M R2 С другой стороны, прямое вычисление показывает, что ηn(D2ϕ(x0)) = - < 0. Это противоречит предыдущему неравенству, следовательно, M = 0, что завершает доказательство. Замечание 2.2. Из утверждения 2.1 следует, что если гладкая функция u ∈ C2(Ω) неположи- тельна на границе Ω и положительна в некоторой внутренней точке Ω, то существует точка x1 ∈ Ω со строго отрицательной ηn(D2u(x1)). Замечание 2.3. Прямым следствием утверждения 2.1 является следующее свойство распро- странения знака в ограниченной области Ω в Rn: + 2 Pk (D u) 0 в Ω, u ::: 0 на ∂Ω влечет u ::: 0 в Ω 100 И. КАПУЦЦО ДОЛЬЧЕТТА, Ф. ЛЕОНИ, А. ВИТОЛО и P- 2 k (D u) ::: 0 в Ω, u 0 на ∂Ω влечет u 0 в Ω. В следующем разделе мы вернемся к этому свойству с более общей точки зрения. Замечание 2.4. Предыдущее утверждение неверно для оператора Пуччи в вырожденном случае + λ = 0, а именно, M0,Λ(X) = ΛTr (X +). 0,Λ Действительно, неравенство M+ Однако, если неравенство M+ (D2u) 0 выполняется для любой функции u. (D2u) 0 заменить строгим неравенством M+ (D2u) > 0, то 0,Λ ηn(D2u) > 0 и в силу утверждения 2.1 u ::: 0 на ∂Ω влечет u ::: 0 в Ω. 0,Λ Также заметим, что утверждение 2.1 имеет силу, если значения u известны на значительной части границы, например, на ∂Ω \\ K, где размер компактного множества K достаточно мал. n Классический способ определения подходящего размера множества K дается α-емкостью Cα(K) в смысле теории потенциала Рисса (логарифмическая емкость в случае α = 0); точные определе- ния и свойства см. в [38]. Хорошо известно, см. например, [33], что в случае оператора Лапласа Δ, который может рассматриваться как частный случай P±(D2u), справедлив следующий обобщен- ный принцип максимума в ограниченной области Ω в Rn: если K ⊂ ∂Ω имеет ньютоновскую емкость Cn-2(K) = 0, то sup u ::: sup u Ω ∂Ω\\K для любой ограниченной сверху субгармонической функции u. Аналогично inf u inf u для любой ограниченной снизу супергармонической функции. Ω ∂Ω\\K В [2] это утверждение было обобщено на операторы частичного лапласиана P+ и P- в следу- k k ющем смысле: Утверждение 2.2. Пусть Ω - ограниченная область в Rn, k ∈ N такое, что 2 ::: k ::: n, и K - компактное подмножество ∂Ω, такое что Ck-2(K) = 0. Тогда sup u ::: sup u Ω ∂Ω\\K k для любого ограниченного сверху вязкостного решения u ∈ USC(Ω) неравенства P+(D2u) 0 в Ω. Неравенство inf u inf u Ω ∂Ω\\K выполнено для любого ограниченного снизу вязкостного решения u ∈ LSC(Ω) неравенства P- k (D2 u) ::: 0 в Ω. Как отмечено в [2], приведенное выше утверждение представляет альтернативное доказатель- ство теоремы об устранимой особенности, первоначально доказанной Харвеем и Лавсоном в [31]. В самом деле, справедлива Теорема 2.1. Пусть Ω - область в Rn, K - компактное подмножество Ω с емкостью Ck-2(K) = 0. k Тогда любая ограниченная функция u ∈ C(Ω\\K), удовлетворяющая равенству P+(D2u) = 0 k в Ω\\K в вязкостном смысле, может быть продолжена до вязкостного решения u˜ уравнения P+(D2u˜) = 0, такого что u˜ = u на Ω\\K. 3. РАСПРОСТРАНЕНИЕ ЗНАКА И ОБОБЩЕННОЕ ГЛАВНОЕ СОБСТВЕННОЕ ЗНАЧЕНИЕ ∈ C(Ω) В этом разделе мы обсуждаем новый более общий критерий характеризации вырожденных эл- липтических операторов F (x, D2u), зависящих от x, для которых выполнено следующее свойство распространения знака с границы во внутрь области: F (x, D2u) 0 в Ω, u ::: 0 в ∂Ω влечет u ::: 0 в Ω, (3.1) где Ω - ограниченная область в Rn. В дальнейшем мы будем использовать сокращенную запись F [u] вместо F (x, D2u). О ВЫРОЖДЕННЫХ ЭЛЛИПТИЧЕСКИХ УРАВНЕНИЯХ, ВОЗНИКАЮЩИХ В ГЕОМЕТРИЧЕСКИХ ЗАДАЧАХ 101 Хорошо известно, см., например, [45], что в линейном самосопряженном случае равномерно эллиптического оператора F (x, D2u) = div(A(x)Du), n где A(x) ∈ S , λIn ::: A(x) ::: ΛIn для некоторого положительного λ ::: Λ и всех x ∈ Ω, свой- ство (3.1) выполнено, и также хорошо известно, что главное собственное значение λ1(F, Ω) задачи Дирихле в Ω положительно. Для таких операторов главное собственное значение определяется естественным образом клас- сической вариационной формулой Рэлея-Ритца: ⎪ ⎧ [ A(x) Dφ · Dφ dx ⎨Ω ⎫ 1 ⎪⎬ λ1(F, Ω) = inf ⎪⎩ ⎭ ⎪ [ φ2 dx ; φ ∈ H0 (Ω) . Ω Для равномерно эллиптических линейных операторов в недивергентной форме F [u] = Tr (A(x)D2u)+ b(x) · Du + c(x)u Берестики, Ниренберг и Варадхан в [9] ввели следующее выражение для обобщенного главного собственного значения, не требующее вариационной структуры оператора: loc λ1(F, Ω) = sup{λ ∈ R : ∃φ > 0, Tr(A(x)D2φ)+ b(x) · Dφ + c(x)φ + λφ ::: 0}, (3.2) где φ ∈ W 2,N (Ω), а неравенства выполняются почти всюду. Используя данное выражение, они смогли доказать следующее замечательное обобщение клас- сической характеристики выполнения принципа распространения знака для сильных субрешений задачи Дирихле в терминах положительности главного собственного значения λ1(F, Ω) для более широкого класса необязательно самосопряженных линейных равномерно эллиптических операто- ров, даже в негладких областях. Для случая неограниченных областей мы отсылаем читателя к недавним результатам в [10]. О проблеме собственных значений вполне нелинейных уравнений впервые говорилось в [41] для уравнений типа Беллмана. Наиболее поздние работы принадлежат Биринделли и Деман- жель [11, 12], см. также [4, 34, 46]. В этих работах рассматривались равномерно эллиптические уравнения, за исключением [11], где рассматривались некоторые сингулярные операторы. В этой работе предложено немного измененное определение (3.2) для работы с классом F положительно однородных операторов порядка α > 0, включая некоторые операторы, вырождение которых мо- делировалось на примере p-лапласиана. В [11] использовалось следующее определение главного собственного значения: Ω λ1(F, Ω) = sup{λ ∈ R : ∃φ ∈ LSC(Ω), inf φ > 0 и F [φ]+ λφα ::: 0 в Ω}, где дифференциальные неравенства понимаются в вязкостном смысле. Используя данное опреде- ление, авторам удалось получить замечательное обобщение на нелинейный случай результатов [9] о характеризации. Вопрос о том, как обобщить справедливость этих результатов на случай вполне нелинейных вырожденных эллиптических операторов F и как определить подходящим образом главное соб- ственное значение, остался открытым. К этим вопросам мы обратимся ниже, ограничиваясь для простоты обозначений случаем F [u] = F (x, D2u). На самом деле бо´льшая часть результатов в [8] применима в общем случае F [u] = F (x, u(x), Du(x), D2u(x)). Хорошо известно, что задача Дирихле для вырожденного уравнения Tr (A(x)D2u)+ b(x) · Du + c(x)u = 0 с A(x) 0 не является корректной, см. [25, 43]. По этой причине, а также в силу полной нели- нейности операторов, которые мы планируем рассматривать, подходящим определением решения, предложенным в [8], является субрешение задачи Дирихле F (x, D2u) = 0 в Ω, u = 0 на ∂Ω в ослабленном вязкостном смысле. 102 И. КАПУЦЦО ДОЛЬЧЕТТА, Ф. ЛЕОНИ, А. ВИТОЛО Под этим мы подразумеваем следующее: функция u ∈ USC(Ω) называется субрешением в ослабленном вязкостном смысле задачи Дирихле, если для любой пробной функции φ ∈ C2(Ω) и точки локального максимума x0 ∈ Ω функции u - φ выполняется следующая пара условий: F (x0, D2φ(x0)) 0, если x0 ∈ Ω, min{u(x0); -F (x0, D2φ(x0))} ::: 0, если x0 ∈ ∂Ω. Подходящим определением обобщенного главного собственного значения в нашем общем случае является следующее, введенное в [8]: Определение 3.1. Пусть заданы область Ω в Rn, открытое множество O, такое что Ω ⊂ O, и положительно однородный оператор F степени α > 0, положим μ1(F, Ω) = sup{λ ∈ R : ∃O ⊃ Ω∗ ⊃ Ω, ∃φ ∈ LSC(Ω∗), φ > 0,F [φ]+ λφα ::: 0 в Ω∗}. Условие положительной однородности выглядит следующим образом: ∃ α > 0 такое что F (x, c X) = cαF (x, X) для всех c 0. Заметим, что наше определение числа μ1 в области Ω требует априори оператор, определенный в более широкой области O. Однако, наш следующий характеристический результат гарантирует, что определение μ1(F, Ω) не зависит на самом деле от выбранного расширения. Заметим также, что можно доказать, что для гладкой области Ω и равномерно эллиптической F равенство μ1(F, Ω) = λ1(F, Ω) верно, когда μ1(F, Ω) ::: λ1(F, Ω) в общем невырожденном случае. Вот наш основной результат характеристики справедливости принципа распространения знака: Теорема 3.1. Пусть Ω - ограниченная, не обязательно гладкая, область в Rn и O - от- крытое множество, такое что Ω ⊂ O ⊂ Rn. Предположим, что функция F непрерывная, вырожденная эллиптическая, положительно однородная степени α > 0, и что существует n ω ∈ C([0, +∞)) ω(0) = 0 такая, что если X, Y ∈S удовлетворяют условию ∃ σ > 0 : -3σ то верно следующее неравенство: I 0 0 I ::: X 0 0 -Y ::: 3σ I -I , -I I для всех x, y ∈ O. F (x, X) - F (y, Y ) ::: ω(σ|x - y|2 + |x - y|) При этих условиях F удовлетворяет условию распространения знака (3.1) в Ω тогда и только тогда, когда μ1(F, Ω) > 0. Замечание 3.1. Структурное условие в предположении теоремы было введено в [21] для уси- ления справедливости принципа сравнения между суб- и суперрешениями в вязкостном смысле, что важно для нашего доказательства. Например, в случае F [u] = Tr (A(x)D2u) с положительно полуопределенной A(x) достаточно, чтобы A(x) = Σ(x)tΣ(x) с Σ ∈ W 1,∞(O). k Замечание 3.2. Насколько нам известно, приведенная выше характеризация является новой даже для линейных операторов вида F [u] = Tr (A(x)D2u) с положительно полуопределенной A(x). Более того, этот результат применим к вполне нелинейным операторам P± раздела 2. Замечание 3.3. Другой важный класс, к которому применяется данная характеризация, со- ставляют однородные операторы, которые являются глобально вырожденными эллиптическими операторами, за исключением некоторого направления ξ, т. е. F (x, X + ξ ⊗ ξ) - F (x, X) β > 0. В этом случае μ1(F, Ω) > 0, что видно при φ(x) = 1 - δ eσ ξ·x, с большим σ и малым δ. Приведенное выше условие выполнено, например, для двумерного оператора Келдыша-Грушина ∂xx + |x|k∂yy с некоторым четным k. Подробнее о данном классе операторов см. [26]. О ВЫРОЖДЕННЫХ ЭЛЛИПТИЧЕСКИХ УРАВНЕНИЯХ, ВОЗНИКАЮЩИХ В ГЕОМЕТРИЧЕСКИХ ЗАДАЧАХ 103 Доказательство теоремы 3.1 весьма длинное и сложное, оно требует построения подходящих пробных функций, использует сравнительные свойства и вязкостную версию (см. [35]) классиче- ского метода Перрона. Мы приведем краткую схему доказательства ниже, полное доказательство см. в [8]. Начнем с утверждения μ1(F, Ω) > 0 влечет справедливость (3.1) в Ω. (A) Действительно, если μ1(F, Ω) > 0, то в силу определения μ1(F, Ω) существуют λ > 0, Ω∗ ⊃ Ω и φ ∈ LSC(Ω∗) ∩ L∞(Ω∗), такие что φ > 0, F [φ]+ λφα ::: 0 в Ω∗. Предположим противное: (3.1) не выполнено; тогда должно существовать решение u, положитель- ное в некоторой подобласти Ω. На первом шаге, пользуясь вязкостным анализом, покажем, что u˜ = max[u, 0] χΩ, где χ ≡ 1 в Ω и χ ≡ 0 вне Ω, удовлетворяет неравенству F [u˜] ::: 0 в Ω∗. Затем используем метод удвоения переменной, типичный для вязкостной теории, и рассмотрим максимумы вспомогатель- ной функции n 2 Φ(x, y) = u˜(x) - φ(y) - 2 |x - y| , n = 1, 2, 3 ... Применяя принцип сравнения Крандалла-Ишии-Лионса, после некоторых вычислений можно показать, что φ(z) ::: 0 при некотором z. Это противоречит предположению, что φ > 0, следова- тельно, (A) доказано. Доказательство импликации если (3.1) выполнено в Ω, то μ1(F, Ω) > 0, (B) более тонкое. Основной идеей является доказательство существования функции U ∈ USC(Ω), такой что U ◦≡ 0, U 0 и (F [U ]+ μ1(F, Ω) Uα 0 в Ω, U ::: 0 на ∂Ω в ослабленном вязкостном смысле. Для этого мы адаптируем метод внешней аппроксимации Ω, предложенный в [11, 12], прини- мая во внимание типичные трудности, возникающие в случае вырождения (заметим, что мы не предполагаем ни регулярности ∂Ω, ни существования барьерной функции). Кратко говоря, опуская многочисленные детали, пусть (Ωn)n∈N - гладкие области, такие что (1 Ωn = Ω, Ω ⊂ Ωn+1 ⊂ Ωn ⊂ O, n∈N и ищутся субрешения un уравнений F [un]+ (μ1(F, Ω) - n 1 n \\ uα = -1 в O, supp un ⊆ Ωn. Используя метод Перрона-Ишии, рассуждения о компактности и свойства стабилизации вяз- костных субрешений, построим функцию U, такую что F [U ]+ μ1(F, Ω) Uα 0, U 0 в O, U ≡ 0 в O\\ Ω, max U = 1. Ω Дальнейшие нетривиальные вычисления показывают, что U удовлетворяет граничным условиям в ослабленном вязкостном смысле. Как следствие мы получаем, что μ1(F, Ω) > 0, и (B) доказано. Замечание 3.4. Функция U, построенная выше, может показаться подходящим кандидатом на главную собственную функцию, соответствующую главному собственному значению μ1(F, Ω) > 0, и являющуюся положительным решением уравнения F [U ]+ μ1(F, Ω) Uα = 0, U = 0 на ∂Ω. Вообще говоря, это не верно. Существуют вырожденные операторы, у которых нет главной соб- ственной функции, например, когда μ1(F, Ω) = +∞, см. другие примеры в [8]. 104 И. КАПУЦЦО ДОЛЬЧЕТТА, Ф. ЛЕОНИ, А. ВИТОЛО Насколько нам известно, определение класса вырожденных эллиптических операторов, для ко- торых можно доказать существование обобщенной главной собственной функции, является нере- шенной проблемой. В целом открытой проблемой является также понимание того, при каких условиях наше но- вое определение обобщенного главного собственного значения μ1(F, Ω) совпадает с классическим λ1(F, Ω). В оставшейся части этого раздела мы кратко сформулируем результаты [8]. Укажем, что в случае гладкой области Ω они верны по крайней мере в двух важных случаях: оператор допускает барьеры в каждой точке границы, F - линейный оператор и условие Фикеры либо выполнено, либо нарушается в каждой точка ∂Ω. Важную роль в данном направлении имеет определение барьеров. Подходящее для нашего случая определение таково: точка ξ ∈ ∂Ω допускает барьер, если существует шар B с центром в ξ и неотрицательная функция w ∈ C(Ω ∩ B), такая что w(ξ) = 0 и F [w] ::: -1 в Ω ∩ B. Можно показать, что в первом случае, если ∂Ω класса C2 при некоторых дополнительных условиях к предположениям теоремы 3.1, включая ограничение степени однородности α ::: 1, μ1(F, Ω) = λ1(F, Ω). Заметим, что для областей с достаточно гладкой границей барьеры могут быть построены в каждой точке ∂Ω, используя функцию расстояния до ∂Ω со знаком. Теперь рассмотрим второй случай, а именно: F [u] = Tr (A(x)D2u) с A(x) = Σt(x)Σ(x), где n Σ : Ω → S непрерывна по Липшицу. Известно, см. [21], что это условие является в точности структурным условием в теореме 3.1. Мы явно увидим это, если предположим, что A(x) p · p 0 при всех p ∈ Rn и, следовательно, F - вырожденная эллиптическая функция, возможно, не равномерно эллиптическая. Следующее условие на граничное поведение A(x) в немного другой форме было введено Фи- керой в [25] при изучении задачи Дирихле для вырожденных эллиптических уравнений, см. так- же [43, 48] и [7] для обсуждения в терминах вязкостных решений. Определение 3.2. Говорят, что условие Фикеры выполнено в точке ξ ∈ ∂Ω, если справедлив один из двух случаев: either A(ξ)Dd(ξ) · Dd(ξ) > 0 или (A(ξ)Dd(ξ) · Dd(ξ) = 0, Tr (A(ξ)D2d(ξ)) > 0, где d - функция расстояния со знаком до ∂Ω, положительная внутри Ω и отрицательная снаружи. При выполнении данных условий справедлив следующий результат: Утверждение 3.1. Если Ω класса C2 со связной границей и условий Фикеры либо выполнено, либо нарушается во всех точках ∂Ω, то μ1(F, Ω) = λ1(F, Ω). Замечание 3.5. Этот результат, доказательство которого можно найти в [8], применим к важ- ному классу областей Ω, инвариантных относительно соответствующей стохастической динамики dXt = Σ(Xt) dWt. Действительно, хорошо известно, что Ω инвариантна тогда и только тогда, когда условие Фикеры нарушается на всей границе, см. подробное обсуждение данного факта даже в случае негладких областей, например, [27] и [18]. 4. ЦЕЛЫЕ СУБРЕШЕНИЯ k В этом разделе мы по-прежнему работаем с оператором P+, см. раздел 2, и мы рассматрива- ем проблему существования во всем пространстве вязкостного решения неравенства в частных производных + 2 Pk (D u) f (u) в Rn . (4.1) Будем предполагать, что член нулевого порядка f (u) удовлетворяет структурному условию f : R → R непрерывна, строго положительная и неубывающая. (4.2) О ВЫРОЖДЕННЫХ ЭЛЛИПТИЧЕСКИХ УРАВНЕНИЯХ, ВОЗНИКАЮЩИХ В ГЕОМЕТРИЧЕСКИХ ЗАДАЧАХ 105 Заметим, что при k = n последнее неравенство сводится к полулинейному дифференциальному неравенству Δu f (u) в Rn и хорошо известные результаты Келлера [37] и Оссермана [44] гарантируют существование реше- ния в том и только том случае, когда +∞⎛ t r r ⎝ 0 0 1 ⎞- 2 f (s)ds⎠ dt = +∞. (4.3) Этот результат имеет много следствий и приложений, множество результатов, связанных с ним, может быть найдено в старой и современной литературе. В частности, условие (4.3) использовал Брезис в [15] для изучения существования целого решения полулинейного уравнения Δu = f (u) - g(x) в Rn, где g - локально интегрируемая функция и f - нелинейный поглощающий член, т. е. f : R → R - нечетная, непрерывная, возрастающая и выпуклая на (0, +∞) функция. Аналогичный результат для более общего уравнения с линейной главной частью в дивер- гентной форме был позже получен Боккардо-Галуэ-Васкесом [13, 14], Леони [39] и Леони- Пеллаччи [40], Д’Амброзио-Митидиери [22]. Во вполне нелинейном случае аналогичный результат был недавно доказан Эстебаном- Фелмером-Куассом [24], Гализе-Витоло [28], Диасом [23], Амендола-Гализе-Витоло [3] и Бао-Джи [5], Бао-Джи-Ли [6], Джином-Ли-Ксу [36] для уравнений на гессиан, включа- ющих k-ю элементарную симметричную функцию собственных значений η1(D2u),..., ηn(D2u). Наш основной результат утверждает, что условие (4.3) необходимо и достаточно в рассматри- ваемом вполне нелинейном вырожденном случае. Теорема 4.1. Пусть 1 ::: k ::: n и f удовлетворяет (4.2). Тогда неравенство (4.1) имеет целое вязкостное решение u ∈ C(Rn) тогда и только тогда, когда f удовлетворяет условию Келлера-Оссермана (4.3). С другой стороны, если f удовлетворяет (4.2), но не удовлетворяет (4.3), то для любой функции u, удовлетворяющей (4.1) в вязкостном смысле в собственном открытом подмноже- стве Ω ⊂ Rn, справедлива следующая оценка: u(x) ::: R-1(d(x)) для всех x ∈ Ω, ⎛ t +∞ [ ⎞-1/2 2 f (s)ds r ⎜ ⎟ R где d(x) = dist(x, ∂Ω) и (a) = ⎜ a ⎜ k a ⎝ ⎟ dt. ⎟ ⎠ Схема доказательства теоремы 4.1. Шаг 1: построение локальных радиальных решений. Пусть Φ(x) = ϕ(|x|) - радиальная функция в шаре BR = BR(0) с ϕ : [0, R) → R класса C2([0, R)), удовлетворяющая условию ϕ∗(0) = 0. Так как собственные значения матрицы Гессе D2Φ(x) суть ϕ∗∗(|x|) - простое собственное значение и ϕ∗(|x|)/|x| порядка n - 1, получаем, что Φ(x) будет классическим решением уравнения + 2 Pk (D Φ) = f (Φ) в BR (4.4) тогда и только тогда, когда ϕ(r) удовлетворяет условиям ⎧ ⎨ ϕ∗∗ + k - 1 ϕ∗ = f (ϕ) в [0, R), r ⎩ ϕ∗(0) = 0, ϕ∗∗ ϕ∗/r. 106 И. КАПУЦЦО ДОЛЬЧЕТТА, Ф. ЛЕОНИ, А. ВИТОЛО Рассмотрим задачу Коши при a ∈ R и c > 0 ( ϕ∗∗(r)+ c - 1 ϕ∗(r) = f (ϕ(r)), r 0, r ϕ(0) = a, ϕ∗(0) = 0. (4.5) Классическая теория обыкновенных дифференциальных уравнений гарантирует существование ло- кальных решений задачи (4.5), которыми являются, в частности, функции ϕ, определенные в некотором интервале [0, R) при 0 < R ::: +∞, непрерывные в [0, R), дважды дифференцируемые в (0, R) и такие, что 0 = ϕ∗(0) = lim r→0+ ϕ∗(r), ϕ∗∗(0) = lim r→0+ ϕ∗∗(r) = lim r→0+ ϕ∗(r) r ◦= ∞. Более того, для любых c > 0 и f, удовлетворяющей (4.2), следует, что локальные решения (4.5) возрастают, выпуклы и таковы, что ϕ∗∗(r) ϕ∗(r) . r Шаг 2: существование целых решений соответствующего обыкновенного дифференциального уравнения. Если c 1, то каждое максимальное решение (4.5) глобально определено на [0, +∞) тогда и только тогда, когда f удовлетворяет (4.3), см. [37, 44]. Из шага 1 следует, что если (4.3) выполнено, то решения (4.1) существуют (а именно, радиальные решения). Более того, если (4.3) не выполнено, и ϕ является максимальным решением задачи Коши (4.5), определенным на ограниченном интервале [0, R), то необходимо получаем, что +∞Г r R = R(a) ::: R(a) = c dt. (4.6) t a 2 [ f (s)ds a Шаг 3: существование целого субрешения (4.1). В силу шага 2, если выполнено условие (4.3), то неравенство (4.1) имеет целые решения. Обратно, предположим, что u ∈ C(Rn) является решением неравенства (4.1) в вязкостном смыс- ле, и пусть ϕ ∈ C2 ([0, R)) - максимальное решение задачи для обыкновенного дифференциального уравнения (4.5) при некотором a ∈ R, таком что a < u(0). Мы утверждаем, что R = +∞. Если от противного R < +∞, то в силу максимальности ϕ(r) → +∞ при r → R-, тогда в силу шага 1, Φ(x) = ϕ(|x|) - радиальное решение (4.4), разрушающееся на границе ∂BR. Как и в доказательстве утверждения 2.1, принцип сравнения влечет u(x) ::: Φ(x) в BR, что противоречит условию u(0) > a = Φ(0). Таким образом, максимальным интервалом существования ϕ является [0, +∞), и в силу шага 2 условие (4.3) должно выполняться. Шаг 4: верхняя оценка для локальных субрешений (4.1). Предположим, что (4.3) не выполнено. Тогда принцип сравнения, примененный на шаге 3, и нера- венство (4.6) говорят, что если u - вязкостное субрешение в Ω, то u(x) ::: a для всех x ∈ Ω и a ∈ R, таких что R(a) ::: d(x). Нетрудно видеть, что R(a) - невозрастающая функция, стремяща- яся к нулю при a → +∞. Отсюда следует, что u(x) ::: a при всех a R-1(d(x)). Замечание 4.1. Если опустить условие строгой положительности f и ослабить его до f 0, где f не равна тождественно нулю, то неравенство (4.1), так же как и задача (4.5), имеет це- лые постоянные решения u ≡ c для любых c, таких что f (c) = 0, независимо от роста f на бесконечности. Естественно предположить, что в этом случае неравенство (4.1) имеет непостоянное решение в том и только том случае, когда f удовлетворяет (4.3). Взглянув на доказательство теоремы 4.1, можно понять, что если f удовлетворяет (4.3), то существуют целые решения (4.1), отличные от константы, которые являются радиальными решениями. С другой стороны, если неравенство (4.1) О ВЫРОЖДЕННЫХ ЭЛЛИПТИЧЕСКИХ УРАВНЕНИЯХ, ВОЗНИКАЮЩИХ В ГЕОМЕТРИЧЕСКИХ ЗАДАЧАХ 107 имеет непостоянное целое решение u, такое что sup u > sup{c ∈ R : f (c) = 0}, то так же, как Rn выше, можно получить, что f должна удовлетворять (4.3). Таким образом, остался единственный случай существования непостоянного ограниченного сверху решения однородного неравенства + 2 Pk (D u) 0 в Rn . (4.7) Если k = n = 2, то применима классическая теорема Лиувилля для ограниченных сверху субгар- монических функций во всем пространстве, и мы получаем, что неравенство Δu f (u) в R2 имеет решения, отличные от константы, тогда и только тогда, когда f удовлетворяет (4.3). Обрат- но, если либо k < n, либо k = n 3, неравенство (4.7), как легко видеть, имеет ограниченные решения, отличные от константы, таким образом, в этом случае неравенство (4.3) является доста- точным, но не обязательно необходимым для существования непостоянного решения (4.1). Замечание 4.2. Если усилить условие (4.2) требованием, что f - строго возрастающая, то можно провести такое же доказательство теоремы 4.1 для существования целых решений нера- венства + M0,1(D2 u) f (u) в Rn , (4.8) 0,1 где M+ вырожденный максимальный оператор Пуччи. Как говорилось в замечании 2.4 в раз- 0,1 0,1 деле 2, принцип максимума не применим к M+ . Более сильное условие на f требуется, чтобы компенсировать сильное вырождение M+ , тогда принцип сравнения может быть применен к + M0,1 - f. Заметим также, что + M0,1(X) F (X) для любого оператора F : Sn → R, такого что F (O) = 0 и n 0 ::: F (X + P ) - F (X) ::: Tr (P ), ∀ X, P ∈S , P 0. Таким образом, условие (4.3) является необходимым для существования вязкостных решений u ∈ C(Rn) любого вполне нелинейного дифференциального неравенства вида F (D2u) f (u) в Rn. Результат, аналогичный теореме 4.1, может быть получен для более общего вполне нелиней- ного вырожденного эллиптического дифференциального неравенства, содержащего члены первого порядка: F (D2u) f (u)+ g(u)|Du|q, где в качестве F, как и ранее, может быть P+ или M+ , q - показатель степени в интервале (0, 2] k 0,1 и g : R → R - непрерывная монотонная неубывающая функция. Заметим, что соответствующее обыкновенное дифференциальное уравнение в этом случае имеет вид ϕ∗∗ + c - 1 r ϕ∗ = f (ϕ)+ g(ϕ)|ϕ∗|q, где либо c = k, либо c = n. Похожее, но более сложное качественное исследование задачи Коши для этого уравнения приводит к характеристике существования целых решений через условие обобщающее (4.3), которое использует одновременно f, g и q. k В частности, для оператора P+ мы имеем следующий результат, доказательство которого содержится в [20]. Теорема 4.2. Предположим, что f удовлетворяет (4.2) и g : R → R - непрерывная, неотри- цательная неубывающая функция. Тогда существует целое вязкостное решение u ∈ USC(Rn) неравенства + 2 Pk (D u) f (u)+ g(u)|Du|q в Rn 108 И. КАПУЦЦО ДОЛЬЧЕТТА, Ф. ЛЕОНИ, А. ВИТОЛО в том и только том случае, когда +∞ r q ::: 1 и t +∞ dt r = 1/2 t dt 1/(2-q) = +∞. (4.9) 0 [ f (s) ds 0 0 [ g(s) ds 0 Заметим, что в случае q > 1 целых решений не существует вне зависимости от малости роста f и g. С другой стороны, если q ::: 1, то необходимы ограничения роста как f, так и g. В частности, если lim t→+∞ g(t) < +∞, интеграл, содержащий g, сходится, т. к. q ::: 1, и, следовательно, (4.9) превращается в обычное условие Келлера-Оссермана (4.3). Обратно, если g растет на бесконеч- ности, как, например, g(t) '"" tα при t → +∞, то в (4.9) нужно потребовать α ::: 1 - q, а при q = 1 допустим не более чем логарифмический рост: g(t) '"" (ln t)α с α ::: 1. Заметим также, что если условие (4.9) нарушается и u - вязкостное субрешение в открытом собственном подмножестве Ω ⊂ Rn, то u удовлетворяет универсальной поточечной оценке сверху вида u(x) ::: R-1(d(x)), где d(x) = dist(x, ∂Ω) и R может быть явно определена через n, k, q, f и g. В заключение отметим, что теорема 4.1 с предыдущим результатом о существовании решений для уравнений, имеющих строго растущие нулевые члены поглощающего типа (см., в частно- сти, [23]), дает следующий результат о существовании/несуществовании решений уравнения + 2 Pk (D u) = f (u) - h(x) в Rn . (4.10) Следствие 4.1. Пусть f : R → R - непрерывная, строго возрастающая, выпуклая и огра- ниченная снизу функция и h : Rn → R - ограниченная непрерывная функция. Предположим, что +∞ r dt t < +∞. Тогда: - 0 [ f (s) inf f ds 0 R Если sup h ::: inf f, то (4.10) не имеет вязких решений. Rn R Если inf h > inf f, то (4.10) имеет единственное ограниченное вязкое решение.