Введение в сублинейный анализ

Аннотация

На основе понятия компактного субдифференциала построено развитое субдифференциальное исчисление первого и высших порядков, вплоть до формулы Тейлора и теории экстремумов. Введен и изучен обширный класс субгладких отображений, к которым применим построенный формализм. Разработан аппарат исследования одномерных экстремальных вариационных задач с субгладким интегрантом, включая достаточные условия. Рассмотрен ряд примеров.

Полный текст

СОДЕРЖАНИЕ 1. Постановка проблемы и исходные задачи 65 1. Введение 65 2. K-субдифференциал для отображений скалярного аргумента с приложениями к интегралу Бохнера (краткий обзор) 66 2. Сублинейные операторы в нормированных конусах 68 1. Абстрактные нормированные конусы и их свойства. Конус выпуклых компактов . . 68 2. Сублинейные операторы и функционалы 71 3. Сублинейные K-операторы и K-функционалы 76 4. Симметризация сублинейных функционалов и K-функционалов 80 3. Компактные субдифференциалы. Исчисление первого порядка 81 1. K-пределы и их основные свойства 81 2. K-субдифференциалы по направлению 83 3. Слабый K-субдифференциал, K-субдифференциал Гато, K-субдифференциал Фреше 85 4. Общие свойства сильных K-субдифференциалов 88 5. Теорема о среднем для K-субдифференцируемых отображений 94 6. K-субдифференцируемость и субгладкость 96 7. Связь K-субдифференцируемости на отрезке с обычной дифференцируемостью . . 100 4. Компактные субдифференциалы высших порядков 100 1. K-субдифференциалы второго порядка. Теорема Юнга о симметричности 100 2. K-субдифференциалы высших порядков. Общая теорема Юнга 103 3. K-субдифференциалы высших порядков от функционалов 105 4. K-субдифференциалы и субгладкость высших порядков 106 5. Формула Тейлора в K-субдифференциалах и исследование на экстремум 108 5. Приложения к вариационным задачам с субгладким интегрантом 112 1. K-субдифференциал основного вариационного функционала 112 2. K-аналоги основной вариационной леммы и уравнения Эйлера-Лагранжа 116 3. Второй K-субдифференциал основного вариационного функционала 121 4. K-аналог необходимого условия Лежандра 124 5. K-аналог достаточных условий Лежандра-Якоби 127 Список литературы 131 Исследование выполнено за счет гранта Российского научного фонда (проект № 14-21-00066, Воронежский госуниверситет). Qc 2014 РУДН 64 ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 65 1. ПОСТАНОВКА ПРОБЛЕМЫ И ИСХОДНЫЕ ЗАДАЧИ 1. Введение. Обещания нужно выполнять. В заключительных замечаниях к статье о компактных субдифференциалах в банаховых пространствах и их применении к вариационным функционалам [19] авторы решились на следующее обещание: «Авторы отдают себе отчет в том, что существенное приложение теории K-субдифференциалов к невыпуклым вариационным задачам с негладким интегрантом должно включать, как минимум, обобщение уравнения Эйлера-Лагранжа, условия Лежандра, уравнения Якоби и условий Лежандра-Якоби. Базой таких приложений неизбежно обязано служить K-субдифференциальное исчисление высшего порядка. Построение исчисления высшего порядка (вообще говоря, “больное место” общей теории субдифференциалов), в рамках предложенной выше методики является вполне обозримой задачей, которую авторы надеются разрешить в оптимальные сроки.» В настоящей работе строится такое субдифференциальное исчисление вместе с (пока одномерными) вариационными применениями. Субдифференциалы, как инструмент негладкого анализа, достаточно давно получили признание в математике (см., например, [1, 4, 9-11, 29]). Начиная с классического субдифференциала выпуклого функционала (описанного в известной монографии Р. Рокафеллара [24]), появились и продолжают появляться новые определения субдифференциалов, рассчитанные на применение к различным классам экстремальных и других негладких задач (такие как известный субдифференциал Ф. Кларка, субдифференциал Б. Н. Пшеничного и многие другие (см. [8, 20-22]). В большинстве своем это определения для отображений в евклидовых пространствах, но имеются и более общие. С целью применения к исследованию проблемы Радона-Никодима для интеграла Бохнера, первым из авторов несколько лет назад был введен и в совместных работах с Ф. С. Стонякиным (см. [16, 17, 39]) подробно изучен компактный субдифференциал (K-субдифференциал) для отображений вещественного аргумента в ЛВП. В случае пространств Фреше K-субдифференциал оказался адекватным инструментом и позволил найти топологическое решение проблемы Радона- Никодима (см. [27, 28]). Естественным образом возник вопрос о переносе понятия на случай векторного аргумента. Вопрос диктуется не только внутренней логикой теории, но и соображением (возможно, более важным) о приложениях в вариационном исчислении. Приложения субдифференциалов к вариационным задачам с негладким интегрантом составляют неотъемлемую часть современного негладкого анализа (см., например, [2, 3, 5-7, 23, 35, 36]). Характерно, что в новейшей математической классификации MSC-2010 раздел «Негладкий анализ» входит в блок «Вариационное исчисление». Движение по намеченному пути сразу же приводит нас от K-субдифференциала как компактного выпуклого множества (случай фиксированного направления) к многозначному субаддитивному оператору с компактными выпуклыми значениями (K-оператору). Таким образом, возникает потребность хотя бы в минимальном аппарате теории K-операторов. При всем богатстве потока работ по мультиоператорам (см., например, [12-14, 25, 26]), этот объект, насколько нам известно, не изучался. Дуальная трудность состоит в том, что ограниченные K-операторы образуют не банахово пространство, а банахов конус, который не содержится ни в каком банаховом пространстве. Теория абстрактных локально выпуклых конусов возникла сравнительно недавно (см., например, [37, 38, 40, 41]), а описание абстрактных нормированных конусов также оказалось новой задачей. Таким образом, обрисовались рамки существенно нового подхода, в котором место дифференциала Фреше (линейного оператора) занимает K-субдифференциал Фреше (многозначный сублинейный оператор). При этом место банахова пространства линейных ограниченных операторов занимает банахов конус ограниченных K-операторов. Теория K-субдифференциалов первого порядка для этого случая была построена в наших с З. И. Халиловой работах [18, 19, 32-34] и включает в себя приложения к экстремальным вариационным задачам с негладким интегрантом. 66 И. В. ОРЛОВ Соответствующая функциональная база описана во втором разделе настоящей работы. Она включает в себя элементы теории абстрактных нормированных конусов, общей теории сублинейных операторов и функционалов, теории сублинейных K-операторов и K-функционалов. На этой основе в третьем разделе работы построено K-субдифференциальное исчисление первого порядка. Отметим, что здесь, помимо необходимого технического аппарата, описан удобный для приложений новый класс субгладких отображений, которые заведомо K-субдифференцируемы. Установлено также, что любое K-субдифференцируемое на отрезке отображение почти всюду дифференцируемо в обычном смысле. Примененный подход позволяет без труда дать индуктивное определение K-субдифференциалов второго и высших порядков. Четвертый раздел работы посвящен K-субдифференциальному исчислению высшего порядка. Получены аналоги основных результатов классического анализа Фреше, от теоремы Юнга до формулы Тейлора и теории экстремумов (включая достаточные условия). Частично эти результаты изложены в наших работах [19, 34]. Отметим следующие моменты. Во-первых, в случае нормированных пространств K-субдифференцируемость n-го порядка влечет обычную дифференцируемость (n - 1)-го порядка, что существенно упрощает приложения. Во-вторых, понятие субгладкости распространяется на случай n-го порядка; такие отображения заведомо n раз K-субдифференцируемы. Наконец, в пятом разделе работе детально рассмотрены приложения K-субдифференциального исчисления к исследованию экстремальных вариационных задач с субгладким интегрантом (одномерный случай). Получены субгладкие аналоги основной вариационной леммы, уравнения Эйлера-Лагранжа, простого и усиленного условий Лежандра, а также условий Лежандра-Якоби для основного вариационного функционала. Рассмотрен ряд примеров. 2. K-субдифференциал для отображений скалярного аргумента с приложениями к интегралу Бохнера (краткий обзор). K-субдифференциал для отображений отрезка возник в наших с Ф. С. Стонякиным работах [16, 17, 39] с целью приложений к интегралу Бохнера. Как известно, проблема Радона-Никодима для интеграла Бохнера состоит в том, что далеко не для всех банаховых пространств класс неопределенных интегралов Бохнера совпадает с классом сильно абсолютно непрерывных отображений. В связи с этим возникла идея ввести подходящее расширение классической дифференцируемости. Субдифференциалы Рокафеллара и Кларка, как и другие известные нам типы субдифференциалов, не устраивали нас по ряду причин. Возникло понятие компактного субдифференциала (K-субдифференциала), которое позволило, в конечном счете, найти топологическое решение проблемы Радона-Никодима в классе пространств Фреше. В этом кратком обзоре мы приводим только два результата по бохнеровской тематике (теоремы 1.4 и 1.5). Подробное изложение можно найти в работах [16, 17, 39] и кандидатской диссертации Ф. С. Стонякина [27]. Начнем с определения K-предела. Далее U (0) - окрестность нуля в вещественном отделимом ЛВП E, co - замкнутая выпуклая оболочка множества в E. Определение 1.1. Пусть {Bδ }δ>0 - убывающая при δ "). +0 система замкнутых выпуклых подмножеств E с непустым пересечением B. Множество B назовем K-пределом системы {Bδ }δ>0 : B = Klim Bδ, δ→+0 если Замечание 1.1. ∀ U (0) ⊂ E ∃ δU > 0 : (0 < δ < δU ) ⇒ (Bδ ⊂ B + U (0)). (1.1) 1. Сходимость типа (1.1) можно характеризовать как внешнее равномерное топологическое стягивание множеств Bδ к их компактному пересечению. Отметим, что в случае компактных Bδ условие (1.1) в пространстве Фреше выполнено автоматически. 2. Если множество B одноточечно, то (1.1) - обычное условие стягивания к точке. 3. Свойства K-пределов будут изложены далее в п. 3.1, в рамках более общего определения. Перейдем к определению компактного субдифференциала. Далее f : I = [a; b] → R. ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 67 Определение 1.2. K-субдифференциал отображения f в точке x ∈ I есть K-предел замкнутых выпуклых оболочек разностных отношений: ( f (x + h) - f (x) Замечание 1.2. ∂Kf (x) = Klim co δ→+0 0 < |h| < δ . h 1. Очевидно, K-субдифференциал есть обобщение обычной производной: (∃f ∗(x)) ⇒ (∂Kf (x) = {f ∗(x)}). Если ∂Kf (x) - одноточечный, то верно и обратное. 2. Для вещественных функций f : I → R справедлива формула df df l ( ( df ∂Kf (x) = df \ (x); (x) ; dx dx \ при этом ∃ ∂Kf (x)) ⇔ (x) и (x) dx dx конечны . В частности, в угловых точках имеем df df l ∂Kf (x) = - (x 0); (x + 0) . dx dx Таким образом, для выпуклых вещественных функций K-субдифференциал совпадает с обычным субдифференциалом. Отметим, что K-субдифференциал может существовать и в точках осцилляций. 1 Пример 1.1. Пусть f (x) = x sin (x /= 0), f (0) = 0. Здесь ∂Kf (0) = df (0); df l (0) = [-1; 1]. x Приведем ряд простейших свойств K-субдифференциалов. Теорема 1.1. Справедливы следующие утверждения: dx dx a) (f K-субдифференцируемо в точке x) ⇒ (f непрерывно в точке x); б) ∂K (f1 + f2)(x) ⊂ ∂Kf1(x)+ ∂Kf2(x) (субаддитивность); в) ∂K (λf )(x) = λf (x); г) (A ∈ L(E; F )) ⇒ (∂K (Af )(x) = A(∂Kf (x)); → д) ([a; b] -f g [c; d] -→ 1. ⇒ (∂K (g(f ))(x) ⊂ ∂K f (x) ∂K g(f (x)); e) (f : [a; b] → R, g : [a; b] → E) ⇒ (∂K (fg)(x) ⊂ ∂Kf (x)g(x)+ f (x)∂Kg(x)). В случае, когда одно из отображений дифференцируемо в обычном смысле, включения в пунктах (б), (д), (е), превращаются в точные равенства. Далее, в случае пространства Фреше E определению 1.2 можно придать секвенциальную форму. Теорема 1.2. Пусть E - пространство Фреше, f : I → E. Тогда f K-субдифференцируемо в точке x ∈ E в том и только в том случае, если для любой последовательности hk → 0 ( f (x + hk ) - f (x) последовательность h имеет конечный частичный предел. При этом ∂Kf (x) k есть множество всех таких частичных пределов: ( f (x + hk ) - f (x) ∂Kf (x) = part.lim k→∞ h hk → 0 . k Приведем также теорему о среднем для K-субдифференциалов. Теорема 1.3. Если отображение f непрерывно на [a; b] и K-субдифференцируемо на (a; b), то - ∈ co f (b) f (a) ( I a<x<b \ ∂Kf (x) (b - a). В частности, если E - банахово пространство, то lf (b) - f (a)l sup (sup l∂Kf (x)l)(b - a). a<x<b 68 И. В. ОРЛОВ Важную информацию о связи K-субдифференцируемости почти всюду с обычной дифференцируемостью почти всюду дает следующий результат. Теорема 1.4. Пусть E - пространство Фреше, f : I → E. Если отображение f K-субдифференцируемо почти всюду на I, и при этом f почти всюду сепарабельнозначно на I, то f дифференцируемо в обычном смысле почти всюду на I. В частности, утверждение теоремы справедливо, если f непрерывно и почти всюду Kсубдифференцируемо на I (и тем более, если f всюду K-субдифференцируемо на I). Наконец, приведем одно из приложений теории K-субдифференциалов к интегралу Бохнера. Известна так называемая проблема Радона-Никодима, состоящая в том, что (в отличие от скалярного случая) не все сильно абсолютно непрерывные отображения f : I → E (при dim E = ∞) почти всюду дифференцируемы. Нами с Ф. С. Стонякиным получен следующий результат. Теорема 1.5. Пусть отображение F : [a; b] → E абсолютно непрерывно и K-субдифференцируемо почти всюду на [a; b]. Тогда любой селектор ∂ K F многозначного отображения ∂KF интегрируем по Бохнеру на [a; b], причем x r F (x) = F (a)+ (B) a ∂ K F (t)dt (a x b). В частности, если E - пространство Фреше, то F дифференцируемо в обычном смысле почти всюду на [a; b], и справедливо равенство: x r F (x) = F (a)+ (B) a F ∗(t)dt (a x b). В заключение этого пункта отметим, что в наших с Ф. С. Стонякиным работах получено общее топологическое решение проблемы Радона-Никодима для интеграла Бохнера, на котором мы здесь не будем останавливаться. 2. СУБЛИНЕЙНЫЕ ОПЕРАТОРЫ В НОРМИРОВАННЫХ КОНУСАХ 1. Абстрактные нормированные конусы и их свойства. Конус выпуклых компактов. Перенос понятия K-субдифференциала на случай отображений векторного аргумента приводит к сублинейным операторам с компактными выпуклыми значениями. Такие операторы образуют уже не линейное пространство, а выпуклый (абстрактный) конус. Таким образом, построение замкнутого K-субдифференциального исчисления, включающего субдифференциалы высших порядков, приводит к необходимости с самого начала работать в рамках нормированных конусов. Эта теория была развита в работах З. И. Халиловой [32-34] и наших совместных работах [18, 19]. Мы рассматриваем здесь только выпуклые конусы. Напомним общее определение. Определение 2.1. Конусом (выпуклым) назовем некоторое множество векторов X = {x}, снабженное операциями сложения векторов и умножения на неотрицательные скаляры. При этом операции обладают следующими свойствами: 1. (x + y)+ z = x + (y + z); x + y = y + x (∀ x, y, z ∈ X); 2. λ(μx) = (λμ)x; (λ + μ)x = λx + μx; λ(x + y) = λx + λy (∀x, y ∈ X ∀λ ) 0, μ ) 0). Замечание 2.1. Тривиальным примером конуса служит вещественное векторное пространство. В большинстве публикаций рассматриваются конусы, вложенные в векторные пространства (см. [38, 40]). Однако, начиная с 80-х годов прошлого века, активно исследуются и абстрактные конусы, разрабатывается общая теория локально выпуклых конусов (см. [37, 41]). По известному критерию («cancellation law»), выпуклый конус X может быть изоморфно вложен в некоторое векторное пространство тогда и только тогда, когда (x + z = y + z) ⇒ (x = y) для любых x, y, z ∈ X. Простейший пример абстрактного конуса - конус всех подмножеств векторного пространства. Тем не менее, теория нормированных конусов, основанная на общей теории локально выпуклых конусов, не обнаружена нами в литературе. Эта теория, как вспомогательный блок, изложена в нашей работе. ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 69 Дадим определение нормированного конуса. Определение 2.2. Выпуклый конус X назовем нормированным, если для любого его элемента x ∈ X определена неотрицательная величина (конус-норма) lxl, обладающая следующими свойствами: 1. (lxl = 0) ⇔ (x = 0); 1. lx + yl lxl + lyl; 2. lλxl = λlxl (∀λ ) 0). Конус-норма индуцирует локально выпуклую конус-топологию в X, и, в частности приводит к следующим понятиям. Определение 2.3. Пусть (X, l· l) - нормированный конус. Введем понятия: a) ε-окрестность точки x ∈ X : Oε(x) = {x + h| h ∈ X, lhl < ε}. б) Сходящаяся последовательность xn → x : ∀ ε > 0 ∃N (n ) N ) ⇒ (xn ∈ Oε(x)). в) Квазифундаментальная последовательность {xn}: ∀ ε > 0 ∃ N (n ) N, p ) 0) ⇒ (xn+p ∈ Oε(xn)). г) Квазиполнота: X - квазиполный конус, если любая квазифундаментальная последовательность в X сходится. Квазиполный нормированный конус будем называть банаховым конусом. д) Квазиметрика: если y = x + h, то полагаем d(x, y) = lhl. e) Ограниченность: множество B ⊂ X ограничено, если sup lxl < +∞. x∈B Общие топологические понятия вводятся в X обычным образом. Замечание 2.2. Конус-норма (как и вообще конус-топология) порождает не классическую равномерность в X, а лишь «направленную» квазиравномерность. В частности, квазиметрика, вообще говоря, не симметрична: если существует d(x, y), то d(y, x) может не существовать. Важный для нас тип конусов образуют конусы компактных выпуклых подмножеств. Определение 2.4. Пусть (X, l· l) - нормированный конус. Обозначим через XK множество всех компактных выпуклых подмножеств X. Нетрудно проверить, что XK образует выпуклый конус относительно поэлементного сложения множеств и умножения на неотрицательные скаляры. Нулем в XK является множество {0}. Замечание 2.3. 3. В конусе XK возможно, например (в случае векторного пространства X), умножение и на отрицательные скаляры, однако (-1)C не есть противоположный элемент к C. 4. Конус XK индуктивно упорядочен отношением вложения. 5. Вообще говоря (при X /⊂ R), конус XK не удовлетворяет «cancellation law». Введем норму в XK : lCl = sup lxl. x∈C Замечание 2.4. Легко видеть, что lCl обладает всеми свойствами конус-нормы и согласована с отношением порядка в XK. Покажем теперь, что квазиполнота конуса X влечет квазиполноту и конуса XK. n=1 Лемма 2.1. Пусть последовательность {xn}∞ квазифундаментальна в нормированном коk=1 нусе X. Если некоторая подпоследовательность {xnk }∞ сходится в E к x0 ∈ E, то и послеn=1 довательность {xn}∞ сходится в X к x0. Доказательство. Зафиксируем ε > 0. Согласно определению сходимости, xnk ∈ Oε/2(x0) для достаточно больших номеров nk. В свою очередь, согласно определению квазифундаментальности, для достаточно больших номеров n > N (ε) при любом nk > n верно xn ∈ Oε/2(xnk ). В итоге получаем при n > N (ε): xn ∈ I (Oε/2(xn \ I ( \ ε/2 ε/2 0 ε/2 ε 0 т. е. xn → x0. xnk ∈Oε/2(x0) k ) ⊂ O x∈Oε/2(x0) (x) = O (x )+ O (0) ⊂ O (x ), 70 И. В. ОРЛОВ Лемма 2.2. Пусть X - банахов конус. Для ограниченных подмножеств B ⊂ X введем норi=1 му lBl = sup lyl. Тогда если {Ci}∞ - последовательность компактов из X такая, что ∞ i=1 y∈B lCil < ∞, то множество ∞ ∞ Ci := yi yi ∈ Ci (2.1) - также компакт в X. i=1 i=1 Доказательство. Заметим сначала, что любой ряд справа в (2.1) абсолютно сходится, так как ∞ i=1 lyil ∞ i=1 lCil < ∞. ∞ Отсюда, в силу квазиполноты F, обычным образом вытекает сходимость рядов ∞ i=1 yi. Далее введем пространство ляемой квазиметрикой i=1 Ci, компактное в тихоновской топологии произведения, опреде- ∞ d(y, z) = lhil i=1 i=1 при y = {yi}∞ i=1 , z = {zi}∞ i=1 , hi = {hi}∞ ∞ , zi = yi + hi (i ∈ N). Рассмотрим отображение ∞ Σ : Ci → F, Σ(y) = yi. i=1 i=1 Очевидно, (z = y + h) ⇒ (Σ(z) = Σ(y)+ Σ(h)), откуда следует ∞ d(Σ(y), Σ(z)\ = lhil = d(y, z). i=1 Следовательно, Σ - непрерывное отображение, откуда по теореме Вейерштрасса множество ( ∞ Σ i=1 Ci\ = ∞ i=1 Ci - компакт в X. Приведем теперь основной результат этого раздела. Теорема 2.1. Если X - банахов конус, то нормированный конус XK - также банахов. n=1 Доказательство. Покажем, что любая квазифундаментальная последовательность {Cn}∞ в XK содержит сходящуюся подпоследовательность. По условию фундаментальности, Cn = Cn+p + Hnp, где lHnpl→ 0 при n →∞ равномерно по p. Возьмем произвольную последовательность {εk > 0} такую, что εk < +∞, и затем выберем возрастающую последовательность номеров {nk } так, чтобы k lHk := Hn ,n k+1-nk l εk. k ∞ Покажем, что соответствующая подпоследовательность {Cnk = Cnk+1 + H Положим }k=1 сходится в XK. ∞ ∞ ∞ ∞ H k = hi hi ∈ Hi i=k = Hi (k = 1, 2,.. .). i=k Поскольку i=k lHil i=k εi < ∞, то в силу леммы 2.2 множества H k компактны в X. Поскольку выпуклость H k следует из определения, то H k ∈ XK. Положим 1 C0 := Cn1 + H 1 = Cn1 + (H + H 2 2 ) = Cn2 + H k = ... = Cnk + H = .... ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 71 k Из lH k l → 0 следует Cn квазиполный конус. → C0 в XK. Тогда по лемме 2.1 также и Cn → C0, т. е. XK - Замечание 2.5. Простейшим примером банахова конуса XK является конус RK = [x1; x2] ⊂ R x1 x2 . Это единственный (в классе банаховых пространств X) пример конечномерного конуса XK. Конус RK можно отождествить с полуплоскостью R2 (x1, x2) ∈ R2 x1 x2 + = . + При этом порядок в R1 , соответствующий вложению в RK, следующий: ( \ (x1, x2) ◦ (y1, y2) ⇔ . (y1 x1, y2 ) x2\ Заметим, что этот порядок не соответствует обычному порядку в R при диагональном вложении + R '→ R2 + (x ∈ R 1→ (x, x) ∈ R2 ). В общем случае также, индуктивный порядок в XK, определяемый вложением, не связан с возможным исходным порядком в X. Замечание 2.6. В случае индуктивно упорядоченного конуса X, будем говорить, что конуснорма в X согласована с порядком, если (x1 x2) ⇒ (lx1l lx2l). В этом случае возможна более грубая топология, также порождаемая нормой: Oε(x) = {y ∈ X| x ◦ y ◦ x + h; lhl < ε}. 2. Сублинейные операторы и функционалы. Использование сублинейных операторов с компактными выпуклыми значениями удобнее проводить на основе достаточно развитой общей теории сублинейных операторов со значениями в упорядоченном конусе. Такое развитие общей теории сублинейных операторов излагается здесь впервые. Оно далеко не полно, но это тот минимум, который позволяет далее достаточно свободно строить основной аппарат K-субдифференциального исчисления. Определение 2.5. Пусть E - выпуклый конус, F - индуктивно упорядоченный выпуклый конус. Оператор A : E → F назовем сублинейным, если: 1. A(h1 + h2) ◦ Ah1 + Ah2; 2. A(λh) = λAh (∀h1, h2 ∈ E, ∀λ ) 0). Оператор A назовем надлинейным, если условие (1) заменить условием 3. A(h1 + h2) C Ah1 + Ah2. Определение 2.6. Пусть, в условиях определения 2.5, F = R. Тогда сублинейный оператор f : E → R назовем сублинейным функционалом. В этом случае условия (1)-(2) перепишутся в следующем виде: 4. f (h1 + h2) f (h1)+ f (h2); f (λh) = λf (h) (λ ) 0). Соответственно, для надлинейного функционала первое из неравенств (4) заменяется неравенством 5. f (h1 + h2) ) f (h1)+ f (h2). Замечание 2.7. 1. Иногда в определении сублинейного оператора равенство (2) заменяется неравенством A(λh) ◦ λAh. У нас не возникнет потребность в таком ослаблении условия, т. к. K-субдифференциал всегда обладает свойством (2). 2. Очевидно, сублинейность функционала f равносильна надлинейности функционала (-f ). Простейшим примером сублинейного функционала в нормированном конусе служит сама норма: f (h) = lhl. В случае векторного пространства E легко описать связь сублинейности и линейности функционалов. 72 И. В. ОРЛОВ Теорема 2.2. Пусть E - векторное вещественное пространство, f : E → R - сублинейный (соответственно - надлинейный) функционал. Тогда f линеен в том и только в том случае, если (f (-h) = -f (h) (∀h ∈ E)). (2.2) Доказательство. Необходимость утверждения теоремы очевидна. Обратно, пусть f сублинеен и выполнено условие (2.2). Тогда ∀ h1, h2 ∈ E имеем: ⎧ a). f (h1 + h2) f (h1)+ f (h2); - ⎪⎨ б). ( f (- h1 - h2) f (- h1)+ f (- h2) = - f (h1) - f (h2)) ⇒ ⎩⎪ ⇒ (f (h1 + h2) = -f (-h1 - h2) ) f (h1)+ f (h2)). Отсюда следует аддитивность: f (h1 + h2) = f (h1)+ f (h2). Кроме того, позитивная однородность f вместе с равенством (2.2) влечет полную вещественную однородность f. Таким образом, функционал f линеен. Результат переносится и на сублинейные операторы A : E → F, если F - упорядоченное векторное пространство. Введем теперь для произвольных отображений в нормированных конусах понятия непрерывности и полунепрерывности. Определение 2.7. Пусть E, F - нормированные конусы, отображение Φ : E → F определено в некоторой окрестности U (x) точки x ∈ E. Назовем Φ непрерывным в точке x, если ∃y ∀ ε > 0 ∃ δ > 0 (lhl < δ) ⇒ (Φ(x + h) = Φ(x)+ y, где lyl < ε). Пусть, кроме того, конус F индуктивно упорядочен и норма в F согласована с порядком. Назовем отображение Φ полунепрерывным сверху в точке x, если ∃y ∀ ε > 0 ∃ δ > 0 (lhl < δ) ⇒ (Φ(x + h) ◦ Φ(x)+ y, где lyl < ε); Φ полунепрерывно снизу в точке x, если ∃y ∀ ε > 0 ∃ δ > 0 (lhl < δ) ⇒ (Φ(x) ◦ Φ(x + h)+ y, где lyl < ε). Замечание 2.8. Одновременная полунепрерывность сверху и снизу равносильна полной непрерывности Φ лишь в случае, когда F - векторное пространство (в частности, для функционалов). В общем же случае мы можем только утверждать, что из полной непрерывности следует полунепрерывность сверху. Возможно, здесь следует ввести «ко-непрерывность» с условием: Φ(x) = Φ(x + h)+ y, lyl < ε. Обратимся теперь к вопросу о непрерывности сублинейных операторов. Вначале введем для них понятие нормы. Далее, E и F - нормированные конусы, F индуктивно упорядочен (согласованно с нормой: (y1 ◦ y2) ⇒ (ly1l◦ ly2l)). Определение 2.8. Пусть оператор A : E → F - сублинейный. Положим (по аналогии с линейным случаем): lAl := sup ±h± 1 lAhl. Если lAl < +∞, назовем оператор A ограниченным. Нетрудно проверить сохранение обычных свойств операторной нормы (с учетом λ ) 0). Предложение 2.1. Пусть A(Ai) : E → F - сублинейные ограниченные операторы. Тогда: 1. (lAl = 0) ⇔ (A = 0); 1. lA1 + A2l lA1l + lA2l; 2. lλAl = λlAl (λ ) 0). Замечание 2.9. Свойства сублинейной операторной нормы позволяют ввести нормированный операторный конус Lsub(E; F ) ограниченных сублинейных операторов A : E → F. Конус Lsub(E; F ) индуктивно упорядочен отношением (A1 ◦ A2) ⇔ (A1h ◦ A2h (∀h ∈ E)). Важным обстоятельством является то, что, в случае банахова конуса F, конус Lsub(E; F ) - также банахов. ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 73 Теорема 2.3. Пусть E и F - нормированные конусы, F индуктивно упорядочен. Тогда конус Lsub(E; F ) также нормированный. Если, кроме того, конус F - банахов, то Lsub(E; F ) - также банахов конус. Доказательство. Очевидно, сублинейная операторная норма создает в Lsub(E; F ) структуру нормированного конуса в соответствии с определением 2.8. Пусть теперь F - банахов конус. Докажем, что конус Lsub(E; F ) - также банахов. n=1 Пусть последовательность {An}∞ квазифундаментальна в конусе Lsub(E; F ). Следовательно, согласно определению 2.3, ∀ ε > 0 ∃ N (n ) N, p > 0) ⇒ (Anh = An+ph + Bnph, где lBnpl < ε). (2.3) n=1 3. Зафиксируем h ∈ E, lhl 1 и покажем, что последовательность {Anh}∞ квазифундаментальна в F. Действительно, в силу (2.3) ∀ ε > 0 ∃ N (n ) N, p > 0) ⇒ (Anh = An+ph + Bnph), (2.4) причем из неравенства lBnpl < ε следует lBnphl lBnpl lhl < εlhl. Таким образом, последоваn=1 тельность {Anh}∞ квазифундаментальна ∀ h ∈ E, lhl 1. Но тогда ∀ h ∈ E, h /= 0, имеем ( ( h \ ∞ n=1 {Anh}∞ = lhl An lhl , n=1 n=1 откуда следует квазифундаментальность {Anh}∞ . В силу квазиполноты F, ∀ h ∈ E в F существует предел Ah := lim n→∞ Anh. 4. Проверим сублинейность оператора A : E → F : а) A(h1 + h2) = lim An(h1 + h2) lim (Anh1 + Anh2) = lim Anh1 + lim Anh2 = Ah1 + Ah2; n→∞ n→∞ n→∞ n→∞ б) A(λh) = lim An(λh) = lim (λAnh) = λ lim Anh = λAh (при λ ) 0). n→∞ n→∞ n→∞ 5. Проверим ограниченность по норме оператора A. В силу [19, лемма 2.1], квазифундаментальn=1 ная последовательность {An}∞ ограничена: lAnl C (n = 1, 2,.. .). Отсюда следует, что lAnhl Clhl (∀ h ∈ E ∀ n ∈ N ). Переходя к пределу при n → ∞, получаем lAhl Clhl, откуда lAl C. Таким образом, A ∈ Lsub(E; F ). 6. Проверим, что An → A в Lsub(E; F ). Из условия (2.4), переходя к пределу при p → ∞, получаем: Anh = Ah + Bnh. При этом из неравенства lBnpl < ε в пределе следует lBnl ε при n ) N (ε), т. е. Bn → 0 в Lsub(E; F ). Следовательно, An = A + Bn → A в Lsub(E; F ) при n → ∞. Таким образом, нормированный конус Lsub(E; F ) - квазиполный, т. е. Lsub(E; F ) - банахов конус. Выясним связь ограниченности сублинейного оператора с его непрерывностью. Она отличается от классического линейного случая. Теорема 2.4. Для сублинейного оператора A : E → F следующие условия равносильны: 7. lAl < ∞; 8. A непрерывен в нуле; 9. A равномерно полунепрерывен сверху на E. Доказательство. 1. Если A ограничен по норме, то из неравенства lAhl lAl lhl немедленно следует непрерывность A в нуле. 10. Пусть A непрерывен в нуле. Тогда ∀ ε > 0 ∃ δ > 0 (lhl δ) ⇒ (lAhl ε). (2.5) При этом, ввиду субаддитивности A, для любого x ∈ E: A(x + h) Ax + Ah, где lAhl ε, 74 И. В. ОРЛОВ т. е. A равномерно субнепрерывен всюду на E. 11. Пусть A равномерно субнепрерывен всюду на E. Нетрудно видеть, что при этом A непрерывен в нуле, т. е. выполнено условие (2.5). Отсюда получаем: I ( δh lhl\I ( lhl ( δh \\ ε I I lAl = sup lAhl = sup IA I = sup A < ∞, ±h± 1 т. е. A ограничен по норме. ±h± 1I lhl δ I ±h± 1 δ lhl δ Замечание 2.10. По аналогии с линейным случаем, нетрудно доказать, что все сублинейные функционалы f : Rn → R автоматически ограничены. Перейдем к общим свойствам сублинейных ограниченных операторов. Вначале рассмотрим вопрос о сублинейной композиции и сублинейных операторных матрицах. Теорема 2.5. Пусть E, F, G - нормированные конусы, причем F и G индуктивно упорядочены. Если A ∈ Lsub(E; F ), B ∈ Lsub(F ; G), то композиция B · A ∈ Lsub(E; G), причем lB · Al lAl lBl. (2.6) Доказательство. Сублинейность B · A очевидна. Неравенство (2.6) проверяется по той же схеме, что и для линейных ограниченных операторов в нормированных пространствах. Перейдем к вопросу о матрице сублинейных операторов. Далее подразумевается, что прямая сумма E = n Ej и декартово произведение F = j=1 m Fi нормированных конусов определяются i=1 аналогично случаю нормированных пространств. Вначале рассмотрим вопрос о разложении сублинейного оператора в прямую сумму; он отличается от случая нормированных пространств. n Предложение 2.2. Пусть Ej (j = 1, n) и F - нормированные конусы, A ∈ Lsub( Ej ; F \. j=1 Обозначим Pj : E → Ej канонические проекции, и положим Aj = A · Pj (j = 1, n). Тогда справедлива оценка: n n n (A ◦ a:4 Aj = A · Pj \ ⇔ (Ah ◦ Ajhj (∀ h = h1 + ... + hn ∈ E)\. j=1 j=1 j=1 Перейдем к вопросу о покоординатном разложении сублинейного оператора; здесь равенство сохраняется. m Предложение 2.3. Пусть E и Fi (i = 1, m) - нормированные конусы, A ∈ Lsub(E; Fi\. i=1 Обозначим Qi : Fi → F канонические инъекции и положим Ai = Qi · A (i = 1, m). Тогда справедливо равенство: m \ ( \ i=1 (A = (Ai)m = Qi · A ⇔ i=1 i=1 Ah = (Aih)m (∀h ∈ E) . Из результатов предложений 2.2 и 2.3 следует общее утверждение о разложении сублинейного оператора в матрицу. n m Теорема 2.6. Пусть Ej и Fi - нормированные конусы, A ∈ Lsub( Ej ; Fi\, где j = 1,n и j=1 i=1 i = 1, m. Обозначим, как и ранее, через Pj : E → Ej и Qi : Fi → F соответствующие канонические проекции и инъекции, и положим Aij = QiAPj (i = 1, m, j = 1, n). Тогда справедлива оценка: m n n m i=1,m = (A ◦ (Aij )j=1,n i=1 j=1 \ Qi · A · Pj ( ⇔ Ah ◦ ( j=1 Aijhj ∀ ∈ \ ( h = h1 + ... + hn E)\. i=1 ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 75 Введем теперь бисублинейные операторы и выпишем аналог известного изоморфизма между пространствами линейных и билинейных операторов. Определение 2.9. Пусть E1, E2, F - выпуклые конусы, F индуктивно упорядочен. Оператор B : E1 ×E2 → F назовем бисублинейным, если он сублинеен по каждой переменной в отдельности, т. е. 1. B(h1 + h2, k) ◦ B(h1, k)+ B(h2, k); B(h, k1 + k2) ◦ B(h, k1)+ B(h, k2); 2. B(λh, k) = λB(h, k); B(h, μk) = μB(h, k) (λ, μ ) 0). Определение 2.10. Пусть, в условиях определения 2.9, конусы E1, E2, F нормированы. Введем норму бисублинейного оператора B равенством: lBl = sup ±h± 1, ±k± 1 Если lBl < ∞, назовем оператор B ограниченным. lB(h, k)l. По аналогии с предложением 2.1 и теоремой 2.4, сформулируем свойства нормы бисублинейного оператора и связь его ограниченности с непрерывностью. Теорема 2.7. В условиях определений 2.9-2.10 верно: 1. (lBl = 0) ⇔ (B = 0); 12. lB1 + B2l lB1l + lB2l; 13. lλBl = λlBl (∀ λ ) 0); 14. lB(h, k)l lBl lhl lkl. Для бисублинейного оператора B : E1 × E2 → F следующие условия равносильны: а) lBl < ∞; б) B непрерывен в нуле; в) B равномерно полунепрерывен сверху на E1 × E2. Замечание 2.11. Свойства нормы бисублинейного оператора позволяют, по аналогии с сублинейным случаем, ввести нормированный операторный конус, индуктивно упорядоченный отношением (B1 ◦ B2) ⇔ (B1(h, k) ◦ B2(h, k)) (∀h ∈ E1, k ∈ E2). Обозначим его Lsub(E1, E2; F ). Теорема 2.8. Если E1, E2, F - нормированные конусы, F индуктивно упорядочен, то конус Lsub(E1, E2; F ) - также нормированный и индуктивно упорядоченный. При этом, если F - банахов конус, то конус Lsub(E1, E2; F ) - также банахов. Наконец, справедлив аналог классической изометрии между пространством линейных и билинейных ограниченных операторов. Теорема 2.9. В условиях и обозначениях теоремы 2.8 имеет место изометрия: Lsub(E1, E2; F ) ∼= Lsub(E1; Lsub(E2; F )), (2.7) которая устанавливается с помощью биекции (B : E1 × E2 → F ) ↔ (AB : E1 → Lsub(E2; F )), (ABh)k = B(h, k). Замечание 2.12. Нетрудно аналогичным образом ввести понятие полисублинейного оператора P : E1 × ... × En → F, его нормы, а также нормированный упорядоченный конус полисублинейных ограниченных операторов Lsub(E1,... En; F ). Аналог изометрии (2.7) имеет вид: Lsub(E1,..., En; F ) ∼= Lsub(E1; Lsub(E2,..., En; F )). (2.8) sub Далее в случае E1 = ... = En левую часть (2.8) будем кратко обозначать Ln (E; F ). Замечание 2.13. Используя определение 2.9, нетрудно задать бисублинейный оператор n m B : ( E1\ × ( E2\ → F i i=1 j j=1 76 И. В. ОРЛОВ ij как бисублинейную операторную матрицу B = (B )j=1,m, где i=1,n i , Ej ; F ) ∼= L (E1; Lsub(E2; F )). Bij ∈ Lsub(E1 2 sub i j В частности, в теории K-субдифференциалов для нас особенно будет важен случай квадратной бисублинейной «матрицы Гессе»: i=1,n , B : B = (Bij )j=1,n n ( i=1 n \ ( \ Ei × Ej → F. j=1 3. Сублинейные K-операторы и K-функционалы. Здесь мы опишем важный тип сублинейных операторов, которые возникают далее в работе при общем определении компактных субдифференциалов. Начнем с общих определений. Определение 2.11. Пусть E - выпуклый конус, F - нормированный конус, FK - нормированный упорядоченный конус выпуклых компактных подмножеств F (см. определение 2.4). Сублинейный оператор A : E → FK назовем сублинейным K-оператором, или, коротко, K-оператором. Сублинейный оператор f : E → RK назовем сублинейным K-функционалом, или, коротко, K-функционалом. В случае нормированного конуса E, банахов конус сублинейных ограниченных K-операторов Lsub(E; FK ) будем более коротко обозначать LK (E; F ); банахов конус сублинейных ограниченных K K-функционалов Lsub(E; RK ) = LK (E; R) более коротко обозначим E∗ . Замечание 2.14. Если F - нормированное пространство, то для K-операторов из LK (E; F ) можно ввести умножение на отрицательные скаляры: ((-λ)A)h = -A(λh) (λ ) 0), а также «скалярную разность» K-операторов: A - B = A + (-1)B. При этом l- Al = lAl, lA - Bl ) |lAl- lBl|, однако, вообще говоря, (A - B)+ B /= A. Для сублинейных K-функционалов возможно точное описание. Теорема 2.10. Пусть E - выпуклый конус, f : E → RK. Тогда f - сублинейный K-функционал в том и только в том случае, если f (h) = [f (h); f (h)], где f : E → R - надлинейный функционал, f : E → R - сублинейный функционал, f (h) f (h) (∀h ∈ E). При этом в случае нормированного конуса E, K-функционал f = [f ; f ] ограничен в том и только в том случае, если f равномерно полунепрерывен снизу на E, f равномерно полунепрерывен сверху на E. Доказательство. 1. Так как значения f - компактные отрезки в R, то можно принять обозначение f (h) = [f (h); f (h)], где -∞ < f(h) f (h) < +∞. Согласно свойству субаддитивности f, для любых h1, h2 ∈ E верно: [f (h1 + h2); f (h1 + h2)] ⊂ [f (h1); f (h1)] + [f (h2); f (h2)] = [f (h1)+ f (h2); f (h1)+ f (h2)], что равносильно системе неравенств: ( f (h1 + h2) ) f (h1)+ f (h2); f (h1 + h2) f (h1)+ f (h2). Аналогично, ∀λ ) 0, ∀h ∈ E имеем: [f (λh); f (λh)] = λ[f (h); f (h)] = [λf (h); λf (h)], что равносильно системе равенств {f (λh) = λf (h); f (λh) = λf (h)}. Таким образом, f надлинеен, f сублинеен. Обратное утверждение проверяется аналогично. 2. Если f ограничен по норме, то согласно теореме 2.4 f равномерно полунепрерывен сверху на E, т. е. ∀ ε > 0 ∃ δ > 0 ∀ x ∈ E (lhl < δ) ⇒ ([f (x + h); f (x + h)] ⊂ (f (x) - ε; f (x)+ ε)). (2.9) ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 77 Условие справа в (2.9) равносильно системе неравенств ( f (x + h) > f(x) - ε; f (x + h) < f (x)+ ε, что означает равномерную полунепрерывность для f (снизу) и f (сверху). Замечание 2.15. Отметим также, что для любого K-функционала (не только субили надлинейного) f = [f ; f ] : E → RK свойство полунепрерывности сверху в точке x ∈ E можно записать в следующем виде: f (x) lim f (x + h) lim f (x + h) f (x). n→0 n→0 Приведем простой класс примеров сублинейных ограниченных K-функционалов. Пример 2.1. Пусть E - нормированное пространство, C - выпуклый компакт в E∗ (в сильной топологии). Положим fC(h) = C· h. (2.10) K Тогда fC ∈ E∗ , lfCl = lCl. В случае, если E - вещественное гильбертово пространство, можно взять C ⊂ E и положить fC(h) = (C, h). В частности, при E = R имеем f[a;b](h) = [a; b] · h. Отметим, что K-функционал допускает представление fC(h) = [f C(h); f C(h)], где f C(h) = min(C· h), f C(h) = max(C· h). K Построенный пример нетрудно обобщить на K-операторы конечного ранга A : E → Rn n Ah = (Ci · h) (Ci ⊂ E∗), i=1 а также на K-операторы со значениями в (lp)K, p ) 1, n ∞ p Ah = (Ci · h) (Ci ⊂ E∗, lCil < +∞). i=1 i=1 Помимо рассмотренных в пункте 2.2 общих свойств сублинейных операторов, опишем некоторые специальные свойства сублинейных K-операторов. Вначале введем понятие K-композиции. Определение 2.12. Пусть E, F, C - нормированные конусы, A ∈ LK (E; F ), B ∈ LK (F ; G). Kкомпозицией [B · A] K-операторов A и B назовем многозначное отображение § co [B A]h = ( I k∈Ah \ Bk . Имеет место следующий неочевидный факт. Теорема 2.11. Если A ∈ LK (E; F ), B ∈ LK (F ; G), то [B · A] ∈ LK (E; G). При этом выполнено неравенство Доказательство. Пусть D = J l[B · A]l lAl· lBl. n=1 By. Для произвольной последовательности {zn}∞ ⊂ D возможны два случая. y∈Ah n=1 2. Вся последовательность {zn}∞ , или хотя бы некоторая ее подпоследовательность, содерn=1 жится в одном By, при некотором y ∈ Ah. Так как множество By компактно, то из {zn}∞ можно выделить сходящуюся подпоследовательность. n=1 3. Никакая подпоследовательность из {zn}∞ не содержится в каком-либо одном By, где y ∈ Ah, т. е. в каждом By может содержаться только конечное число zn. Следовательно, сущеk=1 ствует некоторая последовательность {yk }∞ ⊂ Ah, такая, что каждое Byk содержит некоторую точку znk . 78 И. В. ОРЛОВ n=1 а). Так как Ah - компакт, то из {yk }∞ можно выделить некоторую сходящуюся подпоследовательность yki → y0 ∈ Ah. Так как B непрерывен как отображение в F K , то Byki ⊂ By0 + Eki , где lEki l = sup z∈Eki lzl→ 0. б). Следовательно, для любого i = 1, 2,... найдется такой элемент ∈ By , что z = + e , i где ei ∈ Eki , leil→ 0 при i → ∞. zi 0 nk zi i Так как последовательность { }∞ содержится в компакте By0, то из нее можно выделить zi i=1 zij zij некоторую сходящуюся подпоследовательность → z0 ∈ By0. При этом = eij k + zn ij , где j leij l→ 0, j → ∞, откуда следует, что znki → z0 при некотором z0 ∈ D. Следовательно, множество D компактно, откуда множество co(D) = co(D) также компактно. Сублинейность отображения [B · A] : E → GK проверяется непосредственно. Замечание 2.16. Нетрудно аналогичным образом ввести бисублинейные K-операторы B : E1 × E2 → FK. В этом случае каноническая изометрия между упорядоченными конусами бисублинейных и сублинейных операторов (2.7) принимает вид LK (E1, E2; F ) ∼= Lsub(E1; LK (E2; F )), а в случае полисублинейных операторов LK (E1,..., En; F ) ∼= Lsub(E1; LK (E2,..., En; F )). n Перейдем к вопросу о матрице сублинейных K-операторов. Вначале рассмотрим вопрос о разложении сублинейного K-оператора в прямую сумму; здесь сохраняется результат предложения 2.2. Предложение 2.4. Пусть Ej (j = 1, n) и F - нормированные конусы, A ∈ LK ( Ej ; F \. j=1 Обозначим Pj : E → Ej канонические проекции, и положим Aj = A · Pj (j = 1, n). Тогда справедлива оценка n n n (A ◦ a:4 Aj = A · Pj \ ⇔ (Ah ◦ Ajhj (∀ h = h1 + ... + hn ∈ E)\. j=1 j=1 j=1 Перейдем к вопросу о покоординатном разложении сублинейного K-оператора. Здесь удобнее перейти к так называемому K-набору координатных операторов. m Предложение 2.5. Пусть E и Fi (i = 1, m) - нормированные конусы, A ∈ LK (E; Fi\. i=1 Обозначим Qi : Fi → F канонические инъекции и положим Aih = Qi · (Ah) (i = 1, m). Введем «K-набор» K-операторов Ai : E → (Fi)K : Тогда справедлива оценка m (A1,..., Am)K h = (Aih) ∈ i=1 ( m \ Fi . i=1 K m (A ◦ (A1,..., Am)K \ ⇔ (Ah ⊂ (Aih)\. i=1 При этом прямоугольная оценка точна по проекциям: Pi(Ah) = Aih (i = 1, m). Из результатов предложений 2.2 и 2.3 следует общее утверждение о разложении сублинейного K-оператора в так называемую K-матрицу. Теорема 2.12. Пусть Ej (j = 1, n) и Fi (i = 1, m) - нормированные конусы, A ∈ n m . LK ( Ej ; Fi\ Обозначим, как и ранее, через Pj : E → Ej и Qi : Fi → F соответствуj=1 i=1 ющие канонические проекции и инъекции, и положим Aijhj = Qi(APj h) (i = 1, m; j = 1, n). ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 79 Тогда справедлива оценка n i=1,m m n i=1,m := (A ◦ (Aij )j=1,n ( \ K . Qi · (APj ) ⇔ ( Ah ⊂ ( ( Aijhj \\ j=1 i=1 j=1 Опишем детально частный случай K-матриц для сублинейных K-функционалов и K-операторов конечного ранга. Вначале опишем разложение в прямую сумму K-функционалов. n ∗ Предложение 2.6. Пусть Ej (j = 1, n) - нормированные конусы, f = [f ; f ] ∈ ( Ej \ . Положим fj = f · Pj = [f · Pj ; f · Pj ] = [fj ; fj ] (j = 1, n). j=1 K Тогда справедлива оценка n n n n (f ◦ a:4 fj = f · Pj \ ⇔ ([f (h); f (h)] ⊂ I fj (hj ); f j (hj ) \ (∀ h = h1 + ... + hn ∈ E). j=1 j=1 j=1 j=1 Перейдем к разложению в K-набор сублинейного K-оператора конечного ранга. Предложение 2.7. Пусть E - нормированный конус, A ∈ LK (E; Rm), Qi : R(i) → Rm - канонические инъекции. Положим K fih = [fi(h); fi(h)] = Qi(Ah), fi ∈ (E)∗ (i = 1, m). Введем «K-набор» K-функционалов fi : E → RK : m (f 1,...,fm)K · h = [fi(h); fi(h)] ∈ Rm. i=1 Тогда справедлива оценка m i (A ◦ (f 1,...,fm)K \ ⇔ (Ah ⊂ [fi(h); f (h)]\ (∀h ∈ E). i=1 При этом прямоугольная оценка точна по проекциям: Pi(Ah) = [fi(h); fi(h)]. Наконец, опишем общее разложение K-оператора конечного ранга в K-матрицу. n Теорема 2.13. Пусть Ej (j = 1, n) - нормированные конусы, A ∈ LK ( Ej ; Rm\. Положим j=1 fij (hj ) = [fij (hj ); fij (hj )] = Qi(APj h) (i = 1, m; j = 1, n). Тогда ∀ h = h1 + ... + hn ∈ E справедлива оценка n n m n n ( A ◦ ([fij ; fij ])K = (I fij ; fij \i=1,m \ K ( ⇔ Ah ⊂ ( I fij (hj ); fij (hj ) \ . (2.11) j=1 j=1 i=1 j=1 j=1 Замечание 2.17. Приведем полезную для приложений параметрическую модель K-матрицы (в случае K-операторов конечного ранга). Вводим «нижнюю» и «верхнюю» матрицы K-оператора A: A = (fij )j=1,m j=1,n i=1,n , A = (fij )i=1,m. Тогда оценка (2.11) позволяет интерпретировать K-матрицу [fij ; fij ] как набор матриц j=1,n ((1 - ti)fij + ti · f \ ij i=1,m (0 ti 1). Будем записывать это множество как m-мерный матричный прямоугольник [A; A], стягивающий (вдоль главной диагонали) матрицы A и A. Вершинами этого прямоугольника служат 2m матриц, часть строк которых берется из A, а другая часть строк - из A. Перейдем к бисублинейным K-функционалам. Здесь справедлив аналог теоремы 2.10. 80 И. В. ОРЛОВ Теорема 2.14. Пусть E1, E2 - выпуклые конусы, ϕ : E1 × E2 → RK. Тогда ϕ - бисублинейный K-функционал в том и только в том случае, если ϕ(h1, h2) = [ϕ(h1, h2); ϕ(h1, h2)], где ϕ : E1 × E2 → R - бинадлинейный функционал, ϕ : E1 × E2 → R - бисублинейный функционал, ϕ(h1, h2) ϕ(h1, h2). При этом, если E1, E2 - нормированные конусы, то K-функционал ϕ = [ϕ; ϕ] ограничен в том и только в том случае, когда ϕ полунепрерывен снизу, ϕ полунепрерывен сверху на E1 × E2. Рассматривая, по аналогии сублинейным случаем, бисублинейный K-функционал B ∈ LK (E1 a:4 ... a:4 En, E1 a:4 ... a:4 En; R), мы приходим к порожденной им квадратной бисублинейной K-матрице i=1,n MB = (ϕij = [ϕij ; ϕij ])j=1,n. Аналогом оценки (2.11) здесь служит следующая квадратичная оценка. Теорема 2.15. В рассмотренных условиях справедлива оценка n n B(h)2 ⊂ MB · (h)2 ⊂ [ϕji(hi, hj ); ϕji(hi, hj )]. j=1 i=1 Отметим в заключение, что замечание 2.17 естественным образом распространяется и на бисублинейные K-матрицы. 1. Симметризация сублинейных функционалов и K-функционалов. Как уже отмечалось в примере 2.1, естественное вложение R '→ RK (x 1→ {x}) инъективно, сохраняет операции, но не сохраняет порядок: (x1 < x2 в R)=R({x1} ◦ {x2} в RK ); более того, {x1} и {x2} несравнимы. Вследствие несогласованности исходного порядка в R и порядка по вложению в RK, возникает «дисбаланс» между сублинейными функционалами f : E → R и однозначными сублинейными функционалами f : E → R '→ RK : 1. если K-функционал f = [f ; f ] : E → R '→ RK (т. е. f = f ) сублинеен относительно вложения в RK, то f - линейный функционал; 2. если функционал f : E → R сублинеен относительно обычного порядка в R (например, f (x) = lxl), то линейность f отсюда не следует. Таким образом, если f : E → R сублинеен, то функционал {f } : h 1→ {f (h)}, вообще говоря, не сублинеен. Наша цель - устранить этот «дисбаланс» с помощью простого преобразования «симметризации». Вначале введем его для функционалов f : E → R. Далее E - нормированное пространство. Определение 2.13. Пусть функционал f : E → R сублинеен. Введем симметризованный Kфункционал fs равенством: fs(h) = [-f (-h); f (h)] =: [fs(h); fs(h)]. (2.12) Предложение 2.8. Если f : E → R сублинеен, то определение (2.12) корректно и K-функционал fs : E → RK также сублинеен. При этом fs(-h) = -fs(h). Доказательство. Если f сублинеен, то fs = f также сублинеен. Для fs имеем: fs(h + k) = -f (-h - k) ) -f (-h) - f (-k) = fs(h)+ fs(k); fs(λh) = -f (-λh)f (-h) = λf (h). Таким образом, fs надлинеен, т. е. fs = [fs; fs] сублинеен. При этом: fs(-h) = [-f (h); f (-h)] = -[-f (-h); f (h)] = -fs(h). Теперь распространим определение симметризации на сублинейные K-функционалы. ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 81 Определение 2.14. Пусть K-функционал f : E → RK сублинеен. Введем симметризованный K-функционал fs равенством fs(h) = [min(f (h), -f (-h)); max(f (h); -f (-h))]. (2.13) Предложение 2.9. Если f : E → RK сублинеен, то определение (2.13) корректно и K-функционал fs : E → RK также сублинеен. При этом fs(-h) = -fs(h). Доказательство. Если f сублинеен, то имеем импликации: (f надлинеен) ⇒ (-f (-h) сублинеен) ⇒ (fs(h) = max(f (h), -f (-h)) сублинеен); (f сублинеен) ⇒ (-f (-h) надлинеен) ⇒ (fs(h) = min(f (h), -f (-h)) надлинеен). Нечетность fs проверяется аналогично случаю f : E → R. Замечание 2.18. 2. Из сублинейности f в обоих рассмотренных случаях непосредственно следует неравенство fs fs(h). 3. Нечетность fs влечет его однородность ∀ λ ∈ R : fs(λh) = λfs(h). Однако отсюда не следует линейность функционала fs ввиду его многозначности. 4. Повторная симметризация не меняет вид fs: fss = fs. Наконец отметим, что в случае f : E → R симметризации f и {f } совпадают, что решает поставленную в начале пункта задачу. Предложение 2.10. Если f : E → R сублинеен, то {f }s = fs. Таким образом, в этом случае формулы (2.12) (для f ) и (2.13) (для {f }) дают один и тот же результат. В частности, если f линеен, то fs = {f }. Доказательство. Имеем: {f }s(h) = [min(f (h), -f (-h)); max(f (h), -f (-h))] = [-f (-h); f (h)] = fs(h). Замечание 2.19. Отметим в заключение, что процедуру симметризации можно применить также и к сублинейным операторам A : E → F, B : E → FK, если конус F решеточно упорядочен. Заметим также, что записанные в этом разделе свойства K-функционалов распространяются на случай симметризованных функционалов. 3. КОМПАКТНЫЕ СУБДИФФЕРЕНЦИАЛЫ. ИСЧИСЛЕНИЕ ПЕРВОГО ПОРЯДКА 1. K-пределы и их основные свойства. Понятие K-предела, введенное ранее в пункте 1.2, мы изложим здесь уже в категории нормированных конусов. Определение 3.1. Пусть E - нормированный конус, {Bδ }δ>0 - убывающая по вложению при δ "). +0 система замкнутых выпуклых подмножеств E с непустым компактным пересечением B. Множество B назовем K-пределом системы {Bδ }δ>0 при δ → +0: B = Klim Bδ, δ→+0 если ∀ U (0) ⊂ E ∃ δU > 0 (0 < δ < δU ) ⇒ (Bδ ⊂ B + U ). Таким образом, «K-сходимость» множеств Bδ, в рамках определения 3.1 (как и ранее в рамках определения 1.1) можно охарактеризовать как равномерное внешнее топологическое стягивание множеств Bδ к их компактному пересечению. Перейдем к простейшим свойствам K-пределов. Следующие два свойства легко следуют из определения и не используют в доказательстве компактность K-предела. Предложение 3.1. Пусть в условиях определения 3.1 существует Klim B1. Если B2 ⊂ B1 (∀ δ > 0), то существует и Klim B2, причем выполнено включение: δ→+0 δ δ δ δ→+0 δ Klim B2 ⊂ Klim B1. δ δ→+0 δ δ→+0 82 И. В. ОРЛОВ Предложение 3.2. Если существует Klim Bδ, то при любом λ ) 0 существует и δ→+0 Klim(λBδ ), причем выполнено равенство: δ→+0 Klim(λBδ ) = λ Klim Bδ. δ→+0 δ→+0 Доказательство свойства обобщенной аддитивности уже требует компактности хотя бы одного из двух K-пределов. Предложение 3.3. Если существуют K-пределы Klim B1 и Klim B2, то существует и δ→+0 δ δ→+0 δ K-предел их замкнутой суммы (по Минковскому) {B1 + B2}δ>0, причем выполнено равенство: δ δ Klim (B1 + B2) = Klim B1 + Klim B2. δ→+0 δ δ δ δ→+0 δ δ→+0 Доказательство. Обозначим пределы справа, соответственно, через B1 и B2. Непосредственно проверяется, что выполняется включение n (B1 + B2) ⊃ n B1 + n B2 = B1 + B2. δ δ>0 δ δ δ>0 δ δ>0 Для проверки обратного включения воспользуемся свойством из определения 3.1. Для заданной окрестности нуля U = U (0) ∈ E выберем такую окрестность нуля Ut = Ut (0) ∈ E и подходящее t δUt , чтобы U + Ut ⊂ U и выполнялось: ( 1 1 t 2 2 t \ Отсюда следует: (0 < δ < δUt ) ⇔ Bδ ⊂ B + U , Bδ ⊂ B + U . (B1 + B2) ⊂ (B1 + Ut )+ (B2 + Ut ) = (B1 + B2)+ (Ut + Ut ) ⊂ (B1 + B2)+ U. δ δ Таким образом, условие из определения 3.1 для B1(h)+ B2(h) выполнено. При этом n (B1 + B2) ⊂ n [B1 + B2)+ U ] = B1 + B2, δ δ>0 δ U (0)∈E так как B1 + B2 замкнуто. Таким образом, условие из определения 3.1 для B1 + B2 также выполнено и равенство доказано. Предложение 3.4. Пусть B1 ⊂ E1, B2 ⊂ E2 (∀δ > 0), где E1, E2 - нормированные конусы. δ δ Если существуют K-пределы Klim B1 и Klim B2, то существует и K-предел их декартова δ→+0 δ δ→+0 δ произведения {B1 × B2}δ>0 в E1 × E2, причем имеет место равенство: δ δ Klim(B1 × B2) = (Klim B1) × (Klim B2). (3.1) δ δ δ→+0 δ δ→+0 δ δ→+0 Доказательство. Обозначим пределы справа в (3.1), соответственно, через B1 и B2. Тогда / n (B1 × B2) = \ n B1 × / \ n B2 = B1 × B2, δ δ δ>0 δ δ>0 δ δ>0 т. е. условие из определения 3.1 для B1 × B2 выполнено. Далее, для любых окрестностей Ui(0) ∈ Ei (i = 1, 2) выберем такие δUi > 0, что 1 2 (0 < δ < δUi ) ⇒ (Bδ ⊂ Bδ ), i = 1, 2. Пусть U = U1 × U2, δU = min(δU1 , δU2 ). Следовательно, 1 2 1 2 1 2 1 2 (0 < δ < δUi ) ⇒ B × B ⊂ (Bδ + U1) × (Bδ + U2) = (B × B )+ (U1 + U2) ⊂ (B × B )+ U, т. е., условие из определения 3.1 для B1 × B2 также выполняется. Следовательно, равенство (3.1) доказано. Наконец, справедлив следующий важный критерий «K-сходимости», который мы, по аналогии с известным признаком Вейерштрасса, назовем признаком Вейерштрасса для K-пределов. ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 83 Теорема 3.1. В условиях и обозначениях определения 3.1 K-предел Klim Bδ существует δ→+0 тогда и только тогда, когда найдется такой выпуклый компакт B ⊂ E, что ∀ U (0) ⊂ E ∃δU > 0 : (0 < δ < δU ) ⇒ (Bδ ⊂ B + U (0)). (3.2) При этом Klim Bδ ⊂ B . δ→+0 Доказательство. Необходимость. Пусть B= Klim Bδ. Тогда, подставляя B = B во второе усло- δ→0 вие из определения 3.1, мы сразу же приходим к условию (3.2). Достаточность. Пусть (3.2) выполнено. Тогда B = n Bδ компактно, т. к. δ>0 (B = n Bδ ⊂ B˜ + U ) ⇒ (B ⊂ n (B + U ) = B ). δ>0 U (0) Допустим, что B /= Klim Bδ, т. е. условие из определения 3.1 не выполняется. Следовательно, δ→0 существует такая открытая окрестность U0(0) ⊂ E и такая последовательность δn "). 0, что n B + U0 /= ∅, n = 1, 2,.... (3.3) Bδn Выберем ∀ n ∈ N точку xn ∈ Bδn \(B + U0). Так как δn → 0, то из (3.2) следует d(xn, B) → 0 при n → ∞. Из определения квазиметрики теперь следует, что ∀ n существует такой x˜n ∈ B˜, что d(xn, x˜n) → 0 при n → ∞. n=1 Ввиду компактности B˜, из последовательности {x˜n}∞ ⊂ B можно выделить сходящуюся подпоследовательность x˜nk → x0 ∈ B˜ при k → ∞. При этом, в силу (3.3), xnk /∈ B + U0 (k = 1, 2,.. .), откуда следует в пределе x0 /∈ B. С другой стороны, из-за убывания {Bδ }δ>0 последовательность {xnk } ∞ k=1 сходится в каждом Bδ, начиная с некоторого номера nk0 0 (для которого δnk δ). Следовательно, ввиду замкнутости Bδ имеем x0 ∈ Bδ ∀ δ > 0, откуда x0 ∈ B. Получено противоречие, следовательно, условие из определения 3.1 выполнено. Замечание 3.1. 1. Условие (3.2) можно, видимо, трактовать как условие «полунепрерывности сверху» отображения δ 1→ Bδ в конусе EB выпуклых замкнутых ограниченных подмножеств E. 2. Теорема 3.1 служит далее базой для получения критериев K-субдифференцируемости. 2. K-субдифференциалы по направлению. Определяя K-субдифференциалы в нормированных конусах, мы стараемся придерживаться классической схемы Гато-Адамара-Фреше: дифференциал по направлению - слабый дифференциал - дифференциал Гато - дифференциал Фреше. Замена основных объектов следующая: пространства 1→ конусы, линейные операторы 1→ сублинейные операторы, дифференциалы 1→ K-субдифференциалы. Всюду далее E, F - нормированные конусы, U (x) - окрестность точки x ∈ E, h ∈ E - произ вольное направление в E, co - замкнутая выпуклая оболочка множества в F. Определение 3.2. Назовем K-субдифференциалом отображения f в точке x следующий Kпредел (если он существует): ∂δf (x,h) ∂Kf (x, h) = Klim ,.co {Y ∈ F | f (x + th) = f (x)+ tY, 0 < t < δ.. . (3.4) δ→+0 } В случае, когда F - нормированное пространство, выражение под знаком K-предела в (3.4) можно выразить в более привычной форме, через разностные отношения: ( f (x + th) - f (x) ∂Kf (x, h) = Klim co δ→+0 0 < t < δ . t 84 И. В. ОРЛОВ Заметим, что если конус F не погружается в векторное пространство, то в (3.4) при каждом фиксированном t > 0 определяется Y , вообще говоря, не единственным образом. Приведем некоторые элементарные свойства K-субдифференциалов по направлению. Предложение 3.5. Справедливы соотношения: 1. ∂K (λf )(x, h) = λ∂Kf (x, h) (∀λ ) 0); 2. ∂K (f1 + f2)(x, h) ⊂ ∂Kf1(x, h)+ ∂Kf2(x, h). Доказательство. Имеем: ( f1(x + th)+f2(x + th) - f1(x) - f2(x) ∂K (f1 + f2)(x, h) = Klim co δ→+0 (( f1(x + th) - f1(x) t ( f2(x + th) - f2(x) 0 < t < δ = \ = Klim co δ→+0 ⊂ + 0 < t < δ t t ( f1(x + th) - f1(x) ( f2(x + th) - f2(x) l ⊂ Klim co δ→+0 0 < t < δ t + co 0 < t < δ = t I ( f1(x + th) - f1(x) ( f2(x + th) - f2(x) 1 = Klim co δ→+0 0 < t < δ t + co 0 < t < δ . t Таким образом, получаем: ( f1(x + th) - f1(x) ∂K (f1 + f2)(x, h) ⊂ Klim co δ→+0 ( f2(x + th) - f2(x) 0 < t < δ + t + Klim co δ→+0 0 < t < δ t = ∂Kf1(x, h)+ ∂Kf2(x, h). В случае, если F - нормированное пространство, свойство однородности по f выполнено в полном объеме: 3. ∂K (λf )(x, h) = λ∂Kf (x, h) (∀λ ∈ R). Предложение 3.6. Справедливо соотношение: 1. ∂K (f )(x, λh) = λ∂Kf (x, h) (∀λ ) 0); В случае, если F - нормированное пространство, свойство однородности по h выполнено в полном объеме: 2. ∂Kf (x, λh) = λ∂Kf (x, h) (∀λ ∈ R). Доказательство. Имеем: ( f (x + t(λh)) - f (x) ∂Kf (x, λh) = Klim co δ→+0 0 < t < δ = t co = Klim ( f (x +(tλ)h) - f (x) λ 0 < tλ < λδ = δ→+0 tλ = ( f (x + t˜h) - f (x) l δ˜ = λδ, δ˜ → +0, tλ = t˜ = Klim λco ˜ 0 < t˜ < δ˜ = λ∂Kf (x, h). δ → ˜ +0 t Предложение 3.7. Если f = (f1, f2) : E → F1 × F2, то справедливы равенства: i prF (∂Kf (x, h)) = ∂Kfi(x, h) (i = 1, 2). В частности, ∂K (f1, f2)(x, h) ⊂ ∂Kf1(x, h) × ∂Kf2(x, h). Выделим важный случай K-субдифференцирования функционала f : E → R. Здесь можно дать простую формулу для вычисления ∂Kf (x, h). ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 85 Теорема 3.2. Функционал f : E → R K-субдифференцируем в точке x по направлению h тогда и только тогда, когда существуют конечные верхняя и нижняя производные f по направлению h в этой точке: ∂f (x, h) и ∂f (x, h). При этом имеет место равенство: I ∂Kf (x, h) = ∂f (x, h); ∂f (x, h) . (3.5) Доказательство. Введем вспомогательную функцию ϕ(t) = f (x + th), ϕ : [0; 1] → R. Поскольку при 0 < t 1 f (x + th) - f (x) = ϕ(t) - ϕ(0), то отсюда следует t t dϕ dϕ ∂f ∂Kf (x, h) = ∂Kϕ(0) = I dt (0); (0) = I dt (x, h); ∂f (x, h) . Замечание 3.2. Формулы для вычисления ∂f (x, h) и ∂f (x, h) имеют обычный вид, коническая структура E его не усложняет: ∂f (x, h) = lim t→+0 f (x + th) - f (x) t , ∂f (x, h) = lim t→+0 f (x + th) - f (x). t Как следствие, отметим уже приведенный в пункте 1.2 результат (замечание 1.2). Следствие 3.1. Функция f : R → R K-субдифференцируема в точке x ∈ R тогда и только тогда, когда существуют и конечны нижняя и верхняя частные производные в этой точке: df (x) и df (x). При этом имеет место равенство dx dx df df l ∂Kf (x) = (x); (x) . dx dx Следствие 3.2. Отображение f = (f1,..., fm) : E → Rm K-субдифференцируемо в точке x ∈ R по направлению h тогда и только тогда, когда все координатные функционалы fi K-субдифференцируемы в этой точке по направлению h. При этом выполнена оценка m ∂ ∂K (f1,..., fm)(x, h) ⊂ I fj (x, h); ∂fj (x, h) . (3.6) j=1 При этом прямоугольная оценка (3.6) точна по проекциям. 3. Слабый K-субдифференциал, K-субдифференциал Гато, K-субдифференциал Фреше. Отправляясь от K-субдифференциала по фиксированному направлению h и действуя по аналогии с классической схемой, мы теперь вводим слабый K-субдифференциал как сублинейный K-оператор по h, K-субдифференциал Гато - как ограниченный сублинейный K-оператор, и наконец, K-субдифференциал Фреше «по схеме Гато» плюс «равномерная по направлениям сходимость в K-пределе ∂Kf (x, h)». Далее, как и в пункте 3.2, E и F - нормированные конусы, U (x) - окрестность точки x ∈ E, f : E ⊃ U (x) → F. Определение 3.3. Будем говорить, что отображение f слабо K-субдифференцируемо в точке x, если f K-субдифференцируемо в этой точке по любому направлению h ∈ E и K-субдифференциал по направлению ∂Kf (x, h) сублинеен по h. Примем в этом случае обозначение ∂Kf (x)h = ∂Kf (x, h). Здесь ∂Kf (x) : E → FK - сублинейный K-оператор. Определение 3.4. Будем говорить, что отображение f K-субдифференцируемо по Гато в точке x, если f слабо K-субдифференцируемо в этой точке и слабый K-субдифференциал ∂Kf (x) ограничен (или, что равносильно, равномерно полунепрерывен сверху на E). В этом случае сублинейный ограниченный оператор ∂Kf (x) назовем K-субдифференциалом Гато отображения f в точке x. 86 И. В. ОРЛОВ Определение 3.5. Будем говорить, что отображение f K-субдифференцируемо по Фреше (или сильно K-субдифференцируемо) в точке x, если f K-субдифференцируемо по Гато в этой точке и сходимость в K-пределе ∂Kf (x)h = Klim co{Y ∈ F |f (x + h) = f (x)+ tY, 0 < t < δ} (3.7) δ→+0 равномерна по всем направлениям h, 0 < lhl 1. В этом случае K-оператор ∂Kf (x) назовем K-субдифференциалом Фреше (или сильным K-субдифференциалом) отображения f в точке x. В случае нормированного пространства F равенство (3.7) принимает вид: K co ∂ f (x)h = Klim ( f (x + th) - f (x) ; 0 < t < δ . δ→+0 t Приведем теперь критерии для всех типов K-субдифференцируемости в терминах малости остаточного члена (доказательство опирается на признак Вейерштрасса для K-пределов). С этой целью введем понятие многозначного малого отображения. Определение 3.6. Обозначим через FB нормированный выпуклый конус всех замкнутых ограниченных выпуклых подмножеств F с суммой (B1 + B2) и с нормой lBl = sup lyl. y∈B Отображение Ψ : R ⊃ U (0) → FB назовем малым (в нуле), если lΨ(t)l→ 0 при t → 0. Примем обычную запись: Ψ(t) → 0 при t → 0. Теорема 3.3. Отображение f слабо K-субдифференцируемо в точке x в том и только в том случае, если найдутся сублинейный K-оператор B : E → FK и отображение ψ : E → FB такие, что f (x + h) ∈ f (x)+ Bh + ψ(h), где При этом ∂Kf (x)h ⊂ Bh (∀h ∈ E). ψ(th) t → 0 при t → +0 (∀h ∈ E). (3.8) В случае нормированного пространства F представление (3.8) можно переписать в виде f (x + th) - f (x) t ∈ Bh + λ(t, h), где λ(t, h) → 0 при t → +0 (∀h ∈ E). Доказательство. Докажем необходимость. Пусть f слабо K-субдифференцируемо в точке x. Тогда для любого фиксированного h ∈ S1 применимо условие (3.8). Полагая U = Uε(0), найдем δ = δh(ε) > 0, для которого (δ < δh(ε)) ⇒ (∂δf (x, h) ⊂ Bh + Uε), (3.9) причем оператор Bh = ∂Kf (x)h - сублинейный по h. Так как при этом δh(ε) можно уменьшать, то без ограничения общности можно считать, что δh(ε) строго убывает к нулю при ε "). 0. Тогда существует обратная функция ε = εh(δ) (также строго убывающая к нулю при δ "). 0), для которой ∂δf (x, h) ⊂ Bh + Uεh (δ). Так как (для y из (3.9)) верно, что y ∈ ∂δf (x, h) при 0 < t < δ, то отсюда получаем f (x + th) ∈ f (x)+ B(th)+ tεh(t), (3.10) где εh(t) → 0 при t → 0. Положим ψ(th) = tεh(t) (в частности, ψ(h) = εh(1)). Тогда ψ(th)/t = εh(t) → 0 при t → 0, т. е. условие (3.8) выполняется. Проверим достаточность. Пусть выполняется (3.8). Тогда, заменяя h 1→ th в (3.8), получим: f (x + th) ∈ f (x)+ B(th)+ ψ(th), что равносильно включению (для y из (3.9)) Следовательно, y ∈ Bh + ψ(th) . t ∂δf (x, h) ⊂ Bh + Uε ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 87 при δ δh(ε), т. е. условие выполнено для любого h, lhl = 1, откуда отображение f K-субдифференцируемо по любому направлению h. Теорема 3.4. Отображение f K-субдифференцируемо по Гато в точке x в том и только в том случае, если выполнена оценка (3.8), где B ∈ LK (E; F ). Доказательство. Если (3.8) выполнено, то по теореме 3.3 ∂Kf (x)h =: Ah ⊂ Bh, откуда lAl lBl < ∞, т. е. A ограничен. Таким образом, отображение f K-субдифференцируемо по Гато в точке x. Обратно, если f K-субдифференцируемо по Гато в точке x, подставим в (3.8) Bh = ∂Kf (x)h. Теорема 3.5. Отображение f K-субдифференцируемо по Фреше в том и только в том случае, если выполнена оценка (3.8), где B ∈ LK (E; F ) и ψ(th) t ⇒ 0 при t → +0 (равномерно по lhl 1); (3.11) или, что равносильно, lψ(h)l = o(lhl). Доказательство. Если выполнено (3.11), то, повторяя выкладку из доказательства достаточности в теореме 3.3, получим: ∂Kf (x)h ⊂ Ah + ψ(th) . t Так как ψ(h) → 0 при lhl→ 0, то (ψ(th)/t) ⇒ 0 при t → 0, lhl 1. Следовательно, Ah ⊂ ∂Kf (x, t)h ⊂ Ah + U при |t| < δU (∀lhl 1), т. е. выполнено определение K-субдифференцируемости по Фреше. Обратно, если f K-субдифференцируемо по Фреше, т. е. ∂δf (x, h) ⇒ ∂Kf (x, h) при δ → +0, lhl 1, то в доказательстве необходимости теоремы 3.3 определение δh(ε), а значит, и определение ψ(th), не зависит от выбора h, т. е. зависит только от lh˜ = thl = t. Таким образом, заменяя th = h˜, получаем f (x + h˜) ∈ f (x)+ ∂Kf (x, h˜)+ ψ(h˜), где ψ(h˜) → 0 при lh˜l→ 0, т. е. выполнено (3.11). Отметим некоторые свойства сильных K-субдифференциалов, непосредственно вытекающие из определения и критерия 3.5. Прежде всего, это очевидная связь между K-субдифференцируемостью и непрерывностью. Теорема 3.6. Если отображение f сильно K-субдифференцируемо в точке x, то f непрерывно в этой точке. Далее, в случае нормированных пространств очевидно, что ∂Kf (x) - обобщение производной Фреше. Менее очевидно, что существует и обратная связь. Теорема 3.7. Пусть E, F - нормированные пространства, f : E ⊃ U (x) → F. Тогда: 1. Если f сильно дифференцируемо в точке x, то f также и сильно K-субдифференцируемо в точке x, причем ∂Kf (x) = f ∗(x). t 2. Обратно, если f дифференцируемо по каждому направлению в точке x, причем (обозначая ∂f (x, h) = lim (f (x + th) - f (x)/t)): →+0 ∂f (x, -h) = -∂f (x, h), и f сильно K-субдифференцируемо в точке x, то f сильно дифференцируемо (в обычном смысле) в этой точке. 88 И. В. ОРЛОВ Доказательство. 1. Очевидно, существование ∂f (x, h) влечет равенство ∂Kf (x; h) = ∂f (x, h), так как определение одноточечного K-предела сводится к обычному условию стягивания. 2. Далее, для K-оператора с одноточечными значениями свойство сублинейности (при условии A(-h) = -Ah) переходит в свойство линейности. Таким образом, ∂Kf (x) ∈ L(E; F ), а в этом случае определение 3.5 сильной K-субдифференцируемости тождественно определению сильной дифференцируемости по Фреше. Простой пример ∂Kf /= f ∗ дает функция f (x) = |x|. Имеем ∂Kf (x) = f ∗(x) = sign x при x /= 0, ∂Kf (0) = [-1; 1]. Здесь мы также выделим важный случай K-субдифференцирования функционалов. K Замечание 3.3. В случае сильного K-субдифференцирования функционалов f : E → R, а также (покоординатно) отображений f : E → Rm нам удобнее будет использовать симметризованный K-субдифференциал ∂s f (x)h. Используя равенства (3.5) и (2.12), получаем: ∂s Kf (x)h = [min(∂f (x, h), -∂f (x, -h)); max(∂f (x, h), -∂f (x, -h))]. (3.12) Смысл симметризации легко уяснить, переходя к языку нижних и верхних частных производных. Фиксируя нормированное направление h, равенство (3.5) можно переписать в виде: ∂f ( ∂f l (x + 0) (3.13) ∂Kf (x)h = x + 0); ∂h ∂h (где справа выписаны нижняя и верхняя правосторонние частные производные f в точке x по прямой {λh | λ ∈ R} с положительным направлением h). Тогда ∂f (x - 0); - ∂f l (x - 0) (3.14) ∂Kf (x)(-h) = - ∂h ∂h (где справа выписаны уже левосторонние нижняя и верхняя производные f в точке x). Отсюда, подставляя (3.13) и (3.14) в (3.12), получаем: ( ∂f ∂s (x + 0); ∂f \ (x - 0) ; max ( ∂f (x + 0); ∂f \l (x - 0) = ∂f (x); ∂f l (x) (3.15) Kf (x)h = min ∂h ∂h ∂h ∂h ∂h ∂h Теорема 3.8. Пусть E - нормированный конус. Если функционал f : E → R сильно K-субдифференцируем в точке x, то ∀ h ∈ E справедливо равенство I ∂Kf (x)h = ∂ h f (x)h; ∂f (x) , (3.16) где ∂f (x) - надлинейный, полунепрерывный снизу по h функционал, ∂f (x) - сублинейный, полунепрерывный сверху по h функционал. В частности, если E - нормированное пространство и lhl = 1, то ∂f ∂s (x); ∂f l (x) . (3.17) Kf (x)h = ∂h ∂h Доказательство. Равенство (3.16) для K-субдифференциала по направлению было доказано в теореме 3.2. Так как ∂Kf (x) - сублинейный ограниченный K-функционал, то требуемые свойства функционалов ∂f (x, h) и ∂f (x, h) вытекают из теоремы 2.10. Равенство (3.17) выведено в замечании 3.3. 4. Общие свойства сильных K-субдифференциалов. Мы начнем с необходимого условия K-субдифференцируемости. Теорема 3.9. Пусть E1,..., En, F - нормированные конусы. Если отображение f : E1 × ... × En → F K-субдифференцируемо в точке x = (x1,..., xn) по совокупности переменных, то f K-субдифференцируемо в этой точке по каждой из переменных в отдельности. При этом справедлива оценка n ( ∂f \ ∂x ∂Kf (x1,..., xn)(h1,..., hn) ⊂ i (x1,..., xn)hi. K i=1 ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 89 Доказательство. 1. По определению частных K-субдифференциалов ∂δfxj (xi, hi) = co yj f (xj + thj, xi) = f (x1, x2)+ tyj 0 < t < δ (i, j = 1, 2). С другой стороны, ∂δf ((x1, x2), (h1, 0)) = co y1 f (x1 + th1, x2) = f (x1, x2)+ ty1 0 < t < δ , ∂δf ((x1, x2), (0, h2)) = co y2 f (x1, x2 + th2) = f (x1, x2)+ ty2 0 < t < δ . Переходя в этих равенствах к пределу по направлениям (h1, 0) и (0, h2) соответственно, получим: ∂x1 x2 K f (x1, x2)h1 = ∂Kf (x1, x2)(h1, 0), ∂K f (x1, x2)h2 = ∂Kf (x1, x2)(0, h2). 2. Если отображение f слабо K-субдифференцируемо в точке (x1, x2), h = (h1, h2) = (h1, 0) + (0, h2), то, ввиду сублинейности K-субдифференциалов по h, ∂Kf (x1, x2)(h1, h2) ⊂ ∂Kf (x1, x2)(h1, 0) + ∂Kf (x1, x2)(0, h2) = ∂x1 f (x1, x2)h1 + ∂x2 f (x1, x2)h2. K K Следствие 3.3. Пусть E1,..., En - нормированные пространства. Если функционал f : E1 × ... × En → R сильно K-субдифференцируем в точке x, то имеет место «формула полного K-субдифференциала» (∀ h = (h1,..., hn) ∈ E1 × ... × En) в оценочной форме: n ∂s ( ∂f \s n ∂f n ∂f l Kf (x)(h1,... hn) ⊂ i=1 ∂hi (x)hi = K i=1 (x); ∂hi i=1 (x) ∂hi , (3.18) K где через (∂f/∂hi)s обозначены симметризованные частные K-субдифференциалы по переменным hi ∈ Ei. В частности, если функционал f : Rn → R сильно K-субдифференцируем в точке x, то в этой точке существуют и конечны нижние и верхние частные производные f по всем переменным, причем выполнена оценка n ∂f n ∂f l ∂s Kf (x)(h1,... hn) ⊂ (x)hi; ∂x (x)hi ∂x I = ∇f (x); ∇f (x) § h, ( ∂f \ i=1 i ( ∂f \ i=1 i где ∇f (x) = (x) ∂xi ∇ , f (x) = i=1,n (x) ∂xi . i=1,n Теперь рассмотрим вопрос о покоординатной K-субдифференцируемости отображения f : E → F1 × ... × Fm, где E, F1,..., Fm - нормированные конусы. Теорема 3.10. Отображение f K-субдифференцируемо в точке x ∈ E тогда и только тогда, когда все координатные отображения fj, j = 1, m, K-субдифференцируемы в точке x. При этом справедлива оценка m ∂Kf (x)h ⊂ (∂Kfj (x)h) . (3.19) j=1 В частности, если f : R → Rm, то последняя оценка принимает вид m ( dfj dfj l \ ∂s Kf (x)h ⊂ (x); (x) dx dx j=1 · h . (3.20) При этом прямоугольные оценки (3.19) и (3.20) точны по проекциям. Доказательство. Напомним свойство покоординатной сходимости для K-предела (предложение 3.4): Klim(B1 × ... × Bn) = (Klim B1) × ... × (Klim Bn). δ δ→+0 δ t→+0 δ t→+0 δ Отсюда, применяя определение K-субдифференциала к отображению f = (f1,..., fm) : E → F1 × ... × Fm, 90 И. В. ОРЛОВ получаем (∀ h ∈ E): ( ∂Kf (x, h) = Klim δ→+0 (y1,..., ym) ∈ F1 × F2 × ... × Fm (f1(x + th),..., fm(x + th)) = = (f1(x),..., fm(x)) + t(y1,..., ym); 0 < t < δ ⊂ ( ⊂ Klim δ→+0 y1 ∈ F1 f1(x + th) = f1(x)+ ty1; 0 < t < δ × ... × l × ym ∈ Fm fm(x + th) = fm(x)+ tym; 0 < t < δ = ( \ = Klim δ→+0 y1 ∈ F1 f1(x + th) = f1(x)+ ty1; 0 < t < δ × ... × ( \ × Klim δ→+0 ym ∈ Fm fm(x + th) = fm(x)+ tym; 0 < t < δ = = ∂Kf1(x, h) × ... × ∂Kfm(x, h). (3.21) При этом, в силу предложения 3.4, ∂Kf (x, h) существует тогда и только тогда, когда существуют все ∂Kfj (x, h), j = 1, m. Далее, в силу предложения 2.3, ∂Kf (x, h) - сублинейный ограниченный (по h) K-оператор тогда и только тогда, когда ∂Kfj (x, ·) ∈ LK (E; Fj ), j = 1, m. Наконец, в силу точности по проекциям оценки в (3.21), сходимость в K-пределе ∂Kf (x, h) равномерна по lhl 1 тогда и только тогда, когда это справедливо для всех K-пределов ∂Kfj (x, h) j = 1, m. Таким образом, оценка (3.19) выполнена и точна по проекциям. Перейдем к вопросу о K-матрице Якоби для отображений f : n Ei → i=1 m Fj, где Ei (i = 1, n), j=1 Fj (j = 1, m) - нормированные конусы. Используя предыдущие результаты, нетрудно получить следующее утверждение. Теорема 3.11. Если отображение f K-субдифференцируемо в точке x = (x1,... xn), то m ( n ( ∂fj \ \ ∂Kf (x1,... xn)(h1,..., hn) ⊂ ∂xi (x1,..., xn)hi K . (3.22) j=1 i=1 Доказательство. Последовательно применяя теоремы 3.10 и 3.9, имеем: m m ( n ( ∂fj \ \ ∂Kf (x1,... xn)(h1,..., hn) ⊂ (∂Kfj (x1,... xn)(h1,..., hn)) ⊂ ∂xi (x1,..., xn)hi . K j=1 j=1 i=1 Определение 3.7. K-матрицу сублинейных K-операторов (( ∂fj \ \i=1,n, j=1,m (( ∂fj \ \ JKf (x) = ∂xi (x) K K ∂xi 1. ∈ LK (Ei; Fj ) K назовем K-матрицей Якоби отображения f в точке x. Выделим случай евклидовых пространств, где оценка (3.22) существенно уточняется. Теорема 3.12. Пусть E1,..., En - нормированные пространства. Если отображение f : E1 × ... × En → Rm сильно K-субдифференцируемо в точке x, то ∀ h = (h1,..., hn) справедлива оценка m n ∂fj n ∂fj l ∂s Kf (x)(h1,..., hn) ⊂ (x); ∂h (x) . ∂h j=1 В частности, в случае f : Rn → Rm получаем i=1 i i=1 i m n ∂fj n ∂fj [ fj j m l ( \ ∂s Kf (x)(h1,..., hn) ⊂ j=1 i=1 (x)hi; ∂xi i=1 (x)hi ∂xi = ∇ (x); ∇f (x)], h j=1 = [Jf (x); Jf (x)]·h, ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 91 ( ∂fj \j=1,m ( ∂fj \j=1,m где Jf (x) = (x) ∂xi , Jf (x) = i=1,n (x) ∂xi - соответственно, нижняя и верхняя матi=1,n рицы Якоби f в точке x, [Jf (x); Jf (x)] - m-мерный отрезок, стягивающий эти матрицы (см. замечание 2.14). Доказательство. Доказательство непосредственно следует из теоремы 3.10 и следствия 3.3. Перейдем к вопросу о K-субдифференцировании композиции. Теорема 3.13. Если отображение f : E → F K-субдифференцируемо в точке x ∈ E, отображение g : F → G K-субдифференцируемо в точке y = f (x) ∈ F, то композиция g ◦ f : E → G также K-субдифференцируема в точке x ∈ E. При этом ∂K (g ◦ f )(x)h ⊂ [∂Kg(y) · ∂Kf (x)]h. (3.23) Доказательство. Обозначим Ah = ∂Kf (x)h, Bk = ∂Kg(y)k. Применяя теорему 3.3 к f в точке x и к g в точке y, соответственно, получаем: f (x + h) ∈ f (x)+ Ah + ϕ(h), где ϕ(th) t → 0 при t → 0 (∀h ∈ E), g(y + k) ∈ g(y)+ Bk + ψ(h), где ψ(tk) t ⇒ 0 при t → 0 (∀k ∈ E, lkl 1). Подставляя во второе включение y = f (x), f (x + h) = f (x)+ k, получаем: g(f (x + h)) ∈ g(f (x)) + Bk + ψ(k) ∈ B(Ah + ϕ(h)) + ψ(Ah + ϕ(h)). (3.24) Поскольку отображение f K-субдифференцируемо по Гато в точке x, а отображение g K-субдифференцируемо по Фреше в точке y, то: а). Так как B субаддитивен, то из (3.24) получаем: g(f (x + h) ∈ g(f (x)) + B(Ah)+ [B(ϕ(h)) + ψ(Ah + ϕ(h))] ⊂ ⊂ [BA]h + [B(ϕ(h)) + ψ(Ah + ϕ(h))]. (3.25) При этом [BA] ∈ LK (E; G) в силу сублинейности и ограниченности A и B. б). Так как (ϕ(th)/t) → 0) при t → 0 для любого h ∈ E и B непрерывен в нуле, то B(ϕ(th)) t ( ϕ(th)\ = B t → 0 при t → 0. в). Так как ψ(tk)/(t) ⇒ 0 при t → 0 (lkl 1), то для любого фиксированного h ∈ E ( ψ(A(th)+ϕ(th)) ψ t = t Ah + t ϕ(th) l\ t ⇒ 0 =: ψ(tkt) t при t → 0, так как множество Ah ограничено при lhl 1, ϕ(th) ϕ(th) t → 0 и, следовательно, множество kt = Ah + получаем: ограничено при достаточно малых t. Отсюда, обозначая t λ(h) = B(ϕ(h)) + ψ(Ah + ϕ(h)), (λ(th)/t) → 0 при t → 0 ∀ h ∈ E. (3.26) Поскольку из (3.25) следует (g ◦ f )(x + h) ∈ (g ◦ f )(x)+ [BA]h + λ(h), то отсюда и из (3.26) по теореме 3.3 следует K-субдифференцируемость по Гато g ◦ f и оценка (3.23). t 2. Если f также K-субдифференцируемо по Фреше в точке x, то ϕ(th) ⇒ 0 при t → 0, lhl 1. Отсюда следует уточнение пункта б) в первой части доказательства: B (ϕ(th)) t ( ϕ(th)\ = B t ⇒ 0 при t → 0, lhl 1. 92 И. В. ОРЛОВ Следовательно, в пункте в) доказательства первой части имеем теперь: при t → 0, lhl 1. Итак, λ(th) t ( ϕ(th)\ = B + t ψ(A(th)+ ϕ(th)) t ⇒ 0 (g ◦ f )(x + h) ∈ (g ◦ f )(x)+ [BA]h + λ(h), где λ(h) → 0 при lhl→ 1. Отсюда по теореме 3.3 следует, что отображение (g ◦ f ) K-субдифференцируемо по Фреше в точке x. Для приложений важен вопрос о K-матрице Якоби композиции. Рассмотрим случай n f =(f1,..,fm ) m l g=(g1,...,gl) E = Ei --------→ F = Fj -------→ Gk = G. i=1 j=1 k=1 Напомним, что в определении 2.12 была введена K-композиция [B · A] K-операторов. Это позволяет ввести соответствующее произведение K-матриц: (Aij )K × (Bjk )K = ( \ · [Aij Bjk ] . K j Теорема 3.14. Если отображение f K-субдифференцируемо в точке x ∈ E, а отображение g K-субдифференцируемо в точке y = f (x) ∈ F, то справедлива оценка (в обозначениях определения 2.12): ( m ( ∂gk \ ( ∂fj \ l\k=1,l, i=1,n ∂K (g◦f )(x) ◦ JK (g◦f )(x) ◦ JKg(y)×JKf (x) = ∂yj (y)· K ∂xi (x) K K , (3.27) или 1. ( n 2. ( ∂gk \ j=1 ( ∂fj \ l \ ∂K (g ◦ f )(x) ◦ JK (g ◦ f )(x) ⊂ ∂yj 2. · K ∂xi (x) hi K (h = (h1,..., hn) ∈ E). k=1 i=1 j=1 В частности, если в условиях теоремы выполняется E = Rn, F = Rm, G = Rl, то l ( n m ∂gk ∂g l ∂fj ∂f l \ ∂s · k j K (g ◦ f )(x) ⊂ (JKg(y) × JKf (x))h = (y); (y) ∂y ∂y (x); (x) ∂x ∂x § hi . (3.28) k=1 i=1 j=1 j j i i В случае, если f дифференцируемо в обычном смысле, оценка (3.28) принимает вид l n m ∂gk ∂fj n m ∂g ∂fj l Js K (g ◦ f )(x)h ⊂ (y) (x)hi; ∂y ∂x k (y) (x)hi . ∂y ∂x k=1 i=1 j=1 j i i=1 j=1 j i Доказательство. Оценка (3.28) вытекает из последовательного применения теорем 3.10 и 3.11. Рассмотрим теперь вопрос о K-субдифференцировании оператора композиции. Теорема 3.15. Пусть B(u)(x) = f (u(x)), где B : C1(I) → C(I). Если f всюду K-субдифференцируема на I, то оператор композиции B(u)(x) также всюду K-субдифференцируем в C1(I), причем (∂KB(u)h)(x) ⊂ (∂Kf (u(x))h)h(x) = [∂f (u(x)); ∂f (u(x))]h(x). Доказательство. Рассмотрим отображение B(u)(x) = f (u(x)), B : C1(I) → C(I), где f -заданная K-субдифференцируемая функция. Зафиксируем направление h(·) ∈ C1(I), t /= 0. Тогда B(u + th) - B(u)(x) = f (u(x)+th(x)) - f (u(x)) = f (u(x)+th(x)) - f (u(x)) t t th(x) · h(x). ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 93 Перейдем к выпуклым оболочкам: ( B(u + th) - B(u) ( f (u(x)+th(x)) - f (u(x)) co t |0 < t < τ (x) = co th(x) · h(x)|0 < t < τ . Пусть |th(x)| = |k(x)|, тогда - ( f (u(x)+th(x)) f (u(x)) co th(x) · h(x)|0 < t < τ = - ( f (u(x)+k(x)) f (u(x)) co k(x) · h(x)|0 < t < τ ⊂ ( f (u(x)+k(x)) - f (u(x)) ⊂ co k(x) |0 < |k(x)| < τ |h(x)| · h(x). Отсюда, переходя к замыканиям, получаем: ( B(u + th) - B(u) ( B(u + th) - B(u) ∂τ B(u, h)(x) = co 0 < t < τ t (x) ⊂ co 0 < t < τ t (x) ⊂ ( f (u(x)+ k(x)) - f (u(x)) ⊂ co k(x) 0 < |k(x)| < τ |h(x)| h(x) = ( ( f (u(x)+k(x)) - f (u(x)) \ = co k(x) 0 < |k(x)| < τ |h(x)| · h(x) = ∂τ |h(x)|f (u(x), h(x)). Переходя к K-пределам, находим: ( \ ( \ Klim ∂τ B(u, h) τ →0 (x) ⊂ Klim τ →0 ∂τ B(u, h)(x) ⊂ ( \ ( \ Отсюда имеем ⊂ Klim τ →0 (∂τ |h(x)|f (u(x)) h(x) | | = Klim ∂τ h(x) f (u(x)) τ →0 h(x). (∂KB(u)h)(x) ⊂ (∂Kf (u(x))h)h(x) = [∂f (u(x)); ∂f (u(x))]h(x). Отметим, наконец, случай композиции с билинейным оператором (аналог «производной произведения»). Теорема 3.16. Пусть E - нормированный конус, F1, F2, G - нормированные пространства. Если отображение f = (f1, f2) : E → F1 × F2 K-субдифференцируемо в точке x ∈ E, и B : F1 × F2 → G - билинейный непрерывный оператор, то отображение B(f1, f2) : E → G также K-субдифференцируемо в точке x, причем ∂KB(f1, f2)(x)h ⊂ B(f1(x), ∂Kf2(x)h)+ B(∂Kf1(x)h, f2(x)). Доказательство. По теореме 3.13 о K-субдифференцировании композиции ∂KB(f1, f2) ⊂ [(∂KB)(f1(x), f2(x)) ◦ ∂K (f1, f2)(x)]. При этом для любого h : ∂K (f1, f2)(x)h ⊂ ∂Kf1(x)h × ∂Kf2(x)h. Поскольку ∂K (f1, f2)(x) : h 1-→ ∂K (f1, f2)(x)h ⊂ (∂Kf1(x)h) × (∂Kf2(x)h), ∂Kf1(x) : h 1-→ ∂Kf1(x)h, ∂Kf2(x) : h 1-→ ∂Kf2(x)h, то ∂K (f1, f2)(x)h ⊂ [∂Kf1(x)h × ∂Kf2(x)h]. Итак, ∂KB(f1, f2)(x)h ⊂ [∂KB(f1(x), f2(x))h ◦ ∂K (f1, f2)(x)h]; ∂K (f1, f2)(x)h ⊂ [∂Kf1(x)h × ∂Kf2(x)h]. Так как билинейный оператор B дифференцируем по Фреше, то ∂KB(f1(x), f2(x)) = B(f1(x), ·)+ B(·, f2(x)), 94 И. В. ОРЛОВ следовательно, ∂KB(f1, f2)(x)h ⊂ [∂KB(f1(x), f2(x))h ◦ [∂kf1(x)h × ∂Kf2(x)h]] = = [(B(f1(x), ·)+ B(·, f2(x)))[∂Kf1(x)h × ∂Kf2(x)h]] = = [(B(f1(x), ∂Kf2(x))h + B(∂Kf1(x), f2(x))h] = B(f1(x), ∂Kf2(x))h + B(∂Kf1(x), f2(x))h. 1. Теорема о среднем для K-субдифференцируемых отображений. Напомним классическую схему вывода теоремы о среднем в банаховых пространствах. 1. Формула конечных приращений для непрерывных отображений f : R ⊃ [a; b] → F : для возрастающей непрерывной на [a; b] и дифференцируемой на (a; b) функции g(x) и замкнутого выпуклого множества B ⊂ F справедлива импликация (f ∗(x) ∈ g∗(x) · B, a < x < b) ⇒ (f (b) - f (a) ∈ [g(b) - g(a)] · B). 2. Общая форма теоремы о среднем для непрерывных на отрезке и дифференцируемых внутри него отображений f : E ⊃ U ([a; b]) → F : f (b) - f (a) ∈ co{f ∗(x)|a < x < b}· (b - a). 3. Простейшая форма теоремы о среднем (в той же ситуации): lf (b) - f (a)l sup x∈(a;b) lf ∗(x)l· lb - al. При переходе к нормированным конусам, придерживаясь в целом изложенной выше схемы, мы вынуждены оценку f (b) - f (a) ∈ [g(b) - g(a)] · B заменять оценкой: f (b) ∈ f (a)+ [g(b) - g(a)] · B. Теорема 3.17. Пусть F - нормированный конус, отображения f : R ⊃ [a; b] → F и g : R ⊃ [a; b] → R непрерывны на [a; b] и K-субдифференцируемы на (a; b), причем g возрастает. Если для некоторого замкнутого выпуклого множества B ⊂ F выполнена локальная оценка ∂Kf (x) ∈ ∂Kg(x) · B (a < x < b), то справедлива глобальная оценка f (b) ∈ f (a)+ [g(b) - g(a)] · B. (3.29) Если, в частности, F - нормированное пространство, то оценку (3.29) можно записать в виде f (b) - f (a) ∈ [g(b) - g(a)] · B. Доказательство. 1. Фиксируем ε > 0. Используя определение K-субдифференциала, выберем для каждого x ∈ [a + ε; b - ε] такое δ = δ(ε, x) > 0, что ⎨ ⎧ {y|f (x + h) = f (x)+ h · y}⊂ Oε(∂Kg(x) · B); (0 < |h| < δ) ⇒ Отсюда получаем: g(x + h) - g(x) ⎩ h ∈ Oε(∂Kg(x)). (f (x + h) = f (x)+ h · y, 0 < |h| < δ) ⇒ ( y ∈ O2ε ( g(x + h) - g(x) \\ h · B . (3.30) 1. Из покрытия {Oδ (x)}x∈[a+ε;b-ε] выберем конечное покрытие [a + ε; b - ε] ⊂ n J Oδi (xi). i=1 Впишем в это покрытие разбиение a + ε = x0 < x1 < ... < xm = b - ε так, чтобы каждый отрезок разбиения содержался в некотором Oδi (xi), причем один из его концов совпадал с xi. Фиксируем отрезок разбиения [xj-1; xj ]; пусть, например, xi = xj-1. Положим h = xj - xj-1. Тогда из (3.30) получаем: f (xj ) = f (xj-1)+ Δxj · yj, где yj ∈ Oε ( g(xj ) - g(xj-1) B\ Δxj · (j = 1, m). (3.31) ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 95 В равенствах (3.30) последовательной подстановкой (j = 1) 1→ (j = 2) 1→ ... (j = m - 1) 1→ (j = m) получаем: m f (b - ε) = f (a + ε)+ Δxj · yj := f (a + ε)+ yε. j=1 При этом, используя выпуклость B, имеем: m Δxj m Δxj ( g(xj ) - g(xj 1) \ yε = (b - a - 2ε) · j=1 b - a - 2ε yj ∈ (b - a - 2ε) · j=1 b - a - 2ε xj § Oε Δ - · B ⊂ (I m Δxj g(xj ) - g(xj 1) \ (g(b - ε) - g(a + ε) \ ⊂ (b - a - 2ε)·Oε j=1 § Δ - b - a - 2ε xj ·B =(b - a - 2ε)·Oε b - a - 2ε ·B = Отсюда получаем: = Oε([g(b - ε) - g(a + ε)] · B). f (b - ε) ∈ f (a + ε)+ Oε([g(b - ε) - g(a + ε)] · B). (3.32) 2. Переходя в (3.32) к пределу при ε → 0, с учетом замкнутости B и непрерывности f и g, получаем: f (b) ∈ f (a)+ [g(b) - g(a)] · B. Перейдем к теореме о среднем для отображений вещественного аргумента. Теорема 3.18. Пусть F - нормированный конус, отображение f : R ⊃ [a; b] → F непрерывно на [a; b] и K-субдифференцируемо на (a; b). Тогда выполняется оценка )+ co f (b) ∈ f (a ( I a<x<b ∂Kf (x)\ · (b - a). (3.33) Если, в частности, F - нормированное пространство, то оценку (3.33) можно записать в виде co f (b) - f (a) ∈ ( I a<x<b ∂Kf (x)\ · (b - a). ( J \ Доказательство. Достаточно в условиях теоремы 3.17 положить g(x) = x, B = co а затем применить формулу (3.29). a<x<b ∂Kf (x) , Из последнего результата легко следует общая форма теоремы о среднем в нормированных конусах. Здесь удобнее перейти к локальным обозначениям. Теорема 3.19. Пусть E и F - нормированные конусы, отображение f : E ⊃ U ([x; x+h]) → F непрерывно на [a; b] и K-субдифференцируемо на (a; b). Тогда справедлива оценка ∈ )+ co f (x + h) f (x ( I 0<θ<1 \ (∂Kf (x + θh) · h) . (3.34) Если, в частности, F - нормированное пространство, то оценку (3.34) можно записать в виде - ∈ co f (x + h) f (x) ( I 0<θ<1 \ (∂Kf (x + θh) · h) . Доказательство. Достаточно применить оценку (3.33) к функции ϕ(θ) = f (x + θh), ϕ : [0; 1] → F. Наконец, предъявим теорему о среднем с оценкой по норме. 96 И. В. ОРЛОВ Теорема 3.20. В условиях теоремы 3.19 справедливы представление и оценка f (x + h) = f (x)+ y, где lyl sup 0<θ<1 l∂Kf (x + θh)l· lhl. (3.35) Если, в частности, F - нормированное пространство, то оценку (3.35) можно записать в виде lf (x + h) - f (x)l sup 0<θ<1 l∂Kf (x + θh)l· lhl. Доказательство. Здесь следует применить оценку (3.35) и учесть, что sup 0<θ<1 l∂Kf (x + θh) · hl ( sup 0<θ<1 \ l∂Kf (x + θh)l § lhl. Выделим теперь важный случай функционалов. Теорема 3.21. Пусть E - нормированный конус, отображение f : E ⊃ U ([x; x + h]) → R непрерывно на [x; x + h] и K-субдифференцируемо на (x; x + h). Тогда справедлива оценка ( ( ∂f ∂f \\ |f (x + h) - f (x)| sup max (x + θh) , (x + θh) · lhl. (3.36) 0<θ<1 ∂h ∂h Если, в частности, E = Rn, то оценка (3.36) принимает вид |f (x + h) - f (x)| sup (max(l∇f (x + θh)l, l∇f (x + θh)l)) · lhl. (3.37) 0<θ<1 Из (3.37) вытекает оценка аналогичного типа для отображений f : Rn → Rm. Следствие 3.4. Пусть отображение f = (f1,..., fm) : Rn ⊃ U ([x; x + h]) → Rm непрерывно на [x; x + h] и K-субдифференцируемо в (x; x + h). Тогда справедлива оценка m lf (x + h) - f (x)l sup l max(l∇fj (x + θh)l, l∇fj (x + θh) \ § lhl. 0<θ<1 j=1 2. K-субдифференцируемость и субгладкость. Напомним определение полунепрерывности сверху (см. пункт 2.2). Определение 3.8. Пусть E, F - нормированные конусы, F индуктивно упорядочен, Λ : E ⊃ U (x) → F. Будем говорить, что отображение Λ полунепрерывно сверху (или субнепрерывно) в точке x ∈ E (обозначение Λ ∈ Csub(x)), если ∀ε > 0 ∃ δ > 0 (lhl < δ) ⇒ (Λ(x + h) ◦ Λ(x)+ y, где lyl < ε). (3.38) Основным для нас является то обстоятельство, что в случае субдифференциалов (т. е. при Λ = ∂KF : E → LK (E; F )) в условии (3.38) можно заменить Λ(x) = ∂Kf (x) на произвольный элемент нормированного конуса LK (E; F ). Это и есть общая форма достаточного условия Kсубдифференцируемости. Теорема 3.22. Пусть E, F - нормированные конусы, отображение f : E ⊃ U (x) → F непрерывно в точке x и K-субдифференцируемо в проколотой окрестности U˙ (x) этой точки. Если для некоторого K-оператора Df,x ∈ LK (E; F ) выполнено условие ∀ε > 0 ∃ δ > 0 (0 < lhl < δ) ⇒ (∂Kf (x + h) ◦ Df,x + Y, где lY l < ε), (3.39) то f K-субдифференцируемо в точке x, причем ∂Kf (x) ◦ Df,x. Доказательство. Фиксируем h ∈ E, lhl < δ0. Из условия (3.39) вытекает оценка при 0 < θ < 1: ∂Kf (x + θh) ◦ Df,x + Y (θh), где lY (h)l→ 0 при lhl→ 0. Отсюда, применяя на отрезке [x; x + h] к f теорему о среднем 3.17, получаем: ( I \ ( \ f (x + h) ∈ f (x)+ co 0<θ<1 ∂Kf (x + θh) · h ⊂ f (x)+ co Df,x · h + I 0<θ<1 Y (θh) · h ⊂ ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 97 Таким образом, ⊂ f (x)+ Df,x · h + Oε(0) · h, при lhl < δ = δ(ε). f (x + h) ∈ f (x)+ Df,x · h + o(lhl), т. е. выполнено условие критерия сильной K-субдифференцируемости (теорема 3.5) для f в точке x. Напомним, что доказательство этого критерия опирается на признак Вейерштрасса для K-пределов (теорема 3.1). Замечание 3.4. Таким образом, в случае отображения Λ = ∂Kf условия (3.38) и (3.39) равносильны. Поэтому мы можем принять условие (3.39) за определение полунепрерывности сверху, или субнепрерывности отображения ∂Kf в точке x: ∂Kf ∈ Csub(x). Будем писать также в этом sub случае: f ∈ C1 (x) и называть отображение f субгладким (точнее, C1-субгладким) в точке x. Перейдем к субгладкости частных K-субдифференциалов как достаточному условию K-субдифференцируемости. Теорема 3.23. Пусть E1,..., En, F - нормированные конусы, f : E1 × ... × En ⊃ U (x) → F. Тогда sub (f ∈ C1 (x)) ⇔ (( ∂f \ ∂xi \ ∈ Csub(x); i = 1,n ⇒ (f K-субдифференцируемо в точке x). K Доказательство. Поскольку n ( ∂f \ ∂Kf (x) = a:4 ∂xi (x), (3.40) K то из субнепрерывности ( ∂f \ i=1 в точке x в силу (3.39) легко следует субнепрерывность ∂Kf ∂xi K в этой точке. Обратно, субнепрерывность ∂Kf в точке x, согласно определению (3.39), с учетом (3.40) означает: ( n ( ∂f \ \ ∀ ε > 0 ∃ δ > 0 (0 < lhl < δ) ⇒ a:4 ∂xi (x + h) ◦ Df,x + Y, где lY l < ε K . (3.41) i=1 n n При этом в силу разложения LK ( Ei; F ) = LK (Ei; F ) имеем: i=1 n i=1 n f,x Df,x = a:4 Di i=1 f,x , Y = a:4 Y i, где Di i=1 , Y i ∈ LK (Ei; F ). Отсюда и из (3.41) следует ∀ i = 1,n ∀ ε > 0 ∃ δ > 0 (0 < lhl < δ) ⇒ (( ∂f \ ∂x f,x (x + h) ◦ Di + Y i, где lY \ il < ε , i K ( ∂f \ т. е., в силу (3.39), ∂xi ∈ Csub(x) при i = 1, n. K Рассмотрим теперь случай функционалов f : E → R, опираясь на результаты пунктов 3.2-3.4. ∂f Здесь мы выходим на узловые условия полунепрерывности снизу (по x) ∂f и полунепрерывности ∂h сверху (по x) , которые в совокупности равносильны субнепрерывности ∂h ∂f ; ∂f l : E → RK. ∂Kf = ∂h ∂h Теорема 3.24. Пусть E - нормированный конус, f : E ⊃ U (x) → R. Тогда sub (f ∈ C1 (x))⇔ ( ∂f ∂h полунепрерывен снизу в точке x, ∂f \ ⇒ полунепрерывен сверху в точке x ∂h ⇒ (f K-субдифференцируем в точке x). 98 И. В. ОРЛОВ Доказательство. Применяя определение субнепрерывности 3.8 в нашем случае, получаем: ( ∂f (x + k); ∂f l (x + k) ( ∂f ⊂ 1. - ε; ∂f (x)+ ε \\ . (3.42) ∀ ε > 0 ∃δ > 0 (lkl < δ) ⇒ ∂h ∂h ∂h ∂h Включение справа в (3.42) равносильно выполнению (при lkl < δ) пары неравенств ∂f (x + k) > ∂f (x) - ε; ∂f (x + k) < ∂f (x)+ ε, ∂h ∂h ∂h ∂h ∂f ∂f что в точности означает полунепрерывность в точке x для (сверху) и ∂h (снизу). ∂h В частности, для функционалов многих переменных справедливо следующее утверждение. Теорема 3.25. Пусть E1,..., En - нормированные конусы, f : E1 × ... × En ⊃ U (x) → R. Тогда sub (f ∈ C1 (x)) ⇔ ( ∇Kf = (( ∂f \ \ ∂xi полунепрерывен снизу в точке x, (( ∂f \ \ K i=1,n \ ∇Kf = ∂xi K i=1,n полунепрерывен сверху в точке x ⇒ (f K-субдифференцируем в точке x). В частности, в случае f : Rn → R имеем: sub (f ∈ C1 (x)) ⇔ ( ( ∂f \ i ∇f = ∂x полунепрерывен снизу в точке x, ∇f = ( ∂f \ ∂x i=1,n \ полунепрерывен сверху в точке x ⇒ (f K-субдифференцируем в точке x). i i=1,n Наконец, выразим условия субгладкости в терминах верхней и нижней K-матриц Якоби. Теорема 3.26. Пусть E1,..., En; F1,..., Fm - нормированные конусы, f : E1 × ... × En ⊃ U (x) → F1 × ... × Fm. Тогда sub (f ∈ C1 (x)) ⇔ матрица ( JKf = (( ∂fj \ ∂xi \j=1,m полунепрерывна снизу (поэлементно) в K i=1,n точке x, матрица JKf = (( ∂fj \ ∂x \j=1,m \ полунепрерывна сверху в точке x ⇒ i K i=1,n ⇒ (f K-субдифференцируемо в точке x). В частности, в случае f : Rn → Rm имеем: sub (f ∈ C1 ( (x)) ⇔ ( ∂fj \j=1,m матрица Jf = ∂xi полунепрерывна снизу в точке x, ( ∂fj \j=1,m i=1,n \ матрица Jf = полунепрерывна сверху в точке x ⇒ ∂xi i=1,n ⇒ (f K-субдифференцируемо в точке x). sub Дадим некоторое описание класса субгладких функционалов на компакте C1 всего, легко видеть, что все такие функционалы удовлетворяют условию Липшица. (D). Прежде sub Теорема 3.27. Пусть D - компакт в нормированном конусе E. Тогда Lip(D) ⊃ C1 (D). ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 99 sub Доказательство. Действительно, пусть f ∈ C1 (D), т. е. ∂f ∂f и ∂h ∂h субнепрерывны на D, соответственно, снизу и сверху. Тогда из соответствующих версий теоремы Вейерштрасса следует ∂f ограниченность и ∂h ∂f ∂h на D (по норме), а значит, и (равномерная по x ∈ D) ограниченность разностных отношений (f (x + h) - f (x)/h). Это означает локальную липшицевость f на D, что в силу компактности D влечет глобальную липшицевость. sub Простые примеры показывают, что Lip(D) /= C1 (D). Пример 3.1. Пусть f (x) = x2 sin(1/x) при (x /= 0), f (0) = 0. Непосредственное вычисление показывает: lim f ∗(x) = -1 < f ∗(0) = 0 < lim f ∗(x) = 1. x→0 x→0 sub Таким образом, f ∈/ C1 (0). При этом, ввиду ограниченности f ∗, f ∈ Lip(R). Сравним теперь субгладкость с кусочной гладкостью. Здесь мы будем понимать кусочную гладкость в самом широком смысле: f ∈ C 1 p.s. ( n \ I Di , i=1 D если каждое сужение f i принадлежит классу C1(Di). При этом Di - произвольные замкнутые области в E, пересекающиеся по границе. n Теорема 3.28. Если D = J Di ⊂ E, то верно включение i=1 C1 1 p.s.(D) ⊂ Csub(D). m p.s. Доказательство. Пусть f ∈ C1 x, имеем: (D), x0 ∈ n ∂Dik k=1 D . В силу C1-гладкости сужений f ik в точке Отсюда следует: lim Dik x → x0 ) = f ∗(x ( f k Di 0 1 \∗(x ) (k = , m). ∂f lim (x) = max ∂ ( ( f \ \ (x) ∂ ( ( max f \ \ (x0) = ∂f (x0), x→x0 ∂h 1 k m ∂h k Di 1 k m ∂h k Di ∂h lim ∂f (x) = min ∂ ( ( f \ \ (x) ∂ ( ( ) min f \ \ (x0) = ∂f (x0), x→x0 ∂h 1 k m ∂h k Di 1 k m ∂h k Di ∂h т. е. ∂f ∂f и ∂h ∂h полунепрерывны в D, соответственно, сверху и снизу. Аналогичные выкладки для «кусочно-субгладких» отображений приводят к несколько неожиданному выводу: «кусочная» субгладкость совпадает с «полной» субгладкостью. n Теорема 3.29. Если D = sub J Di ⊂ E, то (C1 sub )p.s.(D) = C1 (D). i=1 Заметим, что существуют и осциллирующие, не всюду дифференцируемые функции класса C1 sub(D). ( ln x\ Пример 3.2. Пусть f (x) = x sin √2 , x /= 0, f (0) = 0. Здесь lim f ∗(x) = 1 = f ∗(0); lim f ∗(x) = -1 = f ∗(0). x→0 x→0 Резюмируя, заметим, что в случае компактной области D имеет место двухсторонняя строгая sub оценка класса C1 (D): C1 1 p.s.(D) Csub(D) Lip(D). 100 И. В. ОРЛОВ 3. Связь K-субдифференцируемости на отрезке с обычной дифференцируемостью. Здесь мы опираемся на результат, полученный Ф. С. Стонякиным (теорема 1.4) в связи с обобщением теоремы Данжуа-Янг-Сакса на случай K-субдифференциалов [28]. Напомним его. Теорема 3.30. Пусть F - банахово пространство, F : R ⊃ [a; b] → F. Если отображение f непрерывно на [a; b] и K-субдифференцируемо почти всюду на [a; b], то f почти всюду дифференцируемо на [a; b] в обычном смысле. Отсюда легко следует, что непрерывная K-субдифференцируемость f в любой точке отрезка влечет обычную дифференцируемость в этой точке. K Теорема 3.31. Если в условиях теоремы 3.30 отображение f непрерывно K-субдифференцируемо в некоторой точке x ∈ [a; b], то f дифференцируемо в точке x в обычном смысле. В частности, класс непрерывно K-субдифференцируемых на отрезке отображений C1 ([a; b],F ) совпадает с классом C1([a; b],F ) отображений f : [a; b] → F, непрерывно дифференцируемых на [a; b] в обычном смысле. Доказательство. Допустим противное: f не дифференцируемо в точке x в обычном смысле, т. е. ∂Kf (x) - неодноточечное множество из FK. Поскольку в силу теоремы 3.31 f почти всюду дифференцируемо в обычном смысле в некоторой окрестности точки x, то найдется такая последовательность xn → x в [a; b], для которой {f ∗(xn)} → ∂Kf (x) в нормированном конусе FK при n → ∞. Легко видеть, что сходимость одноточечных множеств к многоточечному в FK невозможна. Действительно, по определению сходимости в нормированном конусе имеем: ∀ ε > 0 ∃N (n > N ) ⇒ (f ∗(xn) = ∂Kf (x)+ Y, где lY l < ε). (3.43) При этом множество ∂Kf (x)+ Y всегда многоточечно, в силу многоточечности ∂Kf (x), поэтому равенство справа в (3.43) невозможно в принципе. Таким образом, f дифференцируемо в точке x ∈ [a; b]. Остается заметить, что для отображений x 1→ {f ∗(x)} ([a; b] → FK ) и отображения x 1→ f ∗(x) ([a; b] → F ) свойство непрерывности совпадает, поскольку F изометрично множеству своих одноточечных подмножеств F ⊂ FK. Эти результаты нетрудно распространить на случай векторного аргумента. Теорема 3.32. Пусть E и F - банаховы пространства, f : E ⊃ U ([a; b]) → F. Если отображение f K-субдифференцируемо всюду на [a; b], то f дифференцируемо в обычном смысле всюду на [a; b] \ e, где mes ϕ-1(e) = 0 (ϕ(t) = (1 - t)a + tb, 0 t 1). В частности, если f непрерывно K-субдифференцируемо всюду на [a; b], то f ∈ C1[a; b]. Доказательство. Достаточно применить теоремы 3.30 и 3.31 к композиции ϕ(t) = (1 - t)a + tb, ϕ : R ⊃ [0; 1] → F. Замечание 3.5. Последний результат будет далее играть важную роль в теории K-субдифференциалов высших порядков. Из него будет следовать, что, в случае банаховых пространств, n-кратная K-субдифференцируемость на отрезке влечет (n - 1)-кратную обычную дифференцируемость. Таким образом, в рассматриваемой ситуации окажется, что собственно K-субдифференциал (не совпадающий с обычным субдифференциалом) может существовать лишь для старшего порядка и лишь на множестве меры нуль. 1. КОМПАКТНЫЕ СУБДИФФЕРЕНЦИАЛЫ ВЫСШИХ ПОРЯДКОВ 1. K-субдифференциалы второго порядка. Теорема Юнга о симметричности. Приведем вначале определение K-субдифференциала 2-го порядка, следуя стандартной индуктивной схеме. Всюду далее E, F - нормированные конусы, U (x) - окрестность x ∈ E, f : E ⊃ U (x) → F. ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 101 Определение 4.1. Пусть отображение f (сильно) K-субдифференцируемо на множестве U (x). Если отображение ∂Kf : E ⊃ U (x) → LK (E; F ) K-субдифференцируемо в точке x, то будем говорить, что f дважды K-субдифференцируемо в точке x, и введем K-субдифференциал второго порядка от f стандартным индуктивным образом: ∂2 Kf (x) := ∂K (∂Kf )(x). Замечание 4.1. K 1. В силу определения, ∂2 f (x) ∈ Lsub(E; LK (E; F )). Однако, используя каноническую изометрию конусов сублинейных и бисублинейных операторов (теорема 2.9), можно считать, что ∂2 2 Kf (x) ∈ LK (E, E; F ), т. е. ∂Kf (x) является бисублинейным ограниченным оператором. K 2. Используя определение ∂Kf (x), приведем выражение ∂2 f (x) через K-предел: ∂2 Kf (x)h = Klim co δ→+0 Z| ∂Kf (x + th) = ∂Kf (x)+ tZ, 0 < t < δ , где Z ∈ LK (E; F ). Отсюда, используя свойства K-пределов, можно получить оценку: ∂2 Kf (x)(h; k) ⊂ Klim co δ→+0 Y ∈ FK | ∂Kf (x + th)k = ∂Kf (x)k + tY, 0 < t < δ = ∂K (∂Kf (·, k))(x)h. Из последней оценки нетрудно получить следующую: K ∂Kf (x)(x + h)k ∈ ∂Kf (x)k + ∂2 f (x)(h, k)+ o(lhl lkl), служащую K-аналогом классической формулы в банаховых пространствах: (f ∗(x + h) - f ∗(x))k = f ∗∗(x)(h, k)+ o(lhl lkl). В случае нормированных пространств E и F, повторная K-субдифференцируемость f, в силу результатов предыдущего пункта, влечет обычную однократную дифференцируемость f в точке x. Теорема 4.1. Пусть E, F - нормированные пространства. Если отображение f : E ⊃ U (x) → F дважды K-субдифференцируемо в точке x, то f дифференцируемо в обычным смысле в этой точке. В частности, если f дважды K-субдифференцируемо в окрестности U (x), то ∂2 ∗ Kf (x) = ∂K (f )(x). Доказательство. Действительно, по условию, отображение ∂Kf : E ⊃ U (x) → LK (E; F ) K-субдифференцируемо в точке x, а значит, и непрерывно в этой точке. Таким образом, отображение f : E ⊃ U (x) → F непрерывно K-субдифференцируемо в точке x. Но тогда, согласно теореме 3.31, f дифференцируемо (в обычном смысле) в точке x. На K-субдифференциалы 2-го порядка обобщается классическая теорема Юнга о симметричности второго сильного дифференциала. Вначале введем вспомогательное понятие. Определение 4.2. Для фиксированных h, k ∈ E предположим, что существует следующий Kпредел: 2 ∂ K f (x)(h, k) = Klim co z ∈ F f (x + th + sk)+ f (x) = f (x + th)+ f (x + sk)+ (st)z 0 < t, s < δ , δ→+0 (4.1) который назовем бисимметрическим вторым K-субдифференциалом f в точке x по паре направлений (h, k). Замечание 4.2. 3. В случае, если F - нормированное пространство, равенство (4.1) принимает вид: 2 ( f (x + th + sk) - f (x + th) - f (x + sk)+f (x) ∂ K f (x)(h, k) = Klim co δ→+0 ; 0 < t, s < δ st . (4.2) 4. Если ∂ 2 Kf (x)(h, k) - бисублинейный K-оператор, назовем его слабым бисимметрическим K-субдифференциалом. Понятия бисимметрических K-субдифференциалов Гато и Фреше вводятся аналогично случаю ∂Kf. 2 2 5. Очевидно, ∂ K f (x)(h, k) = ∂ K f (x)(k, h). 102 И. В. ОРЛОВ K Основной результат этого раздела: в случае банаховых пространств E и F второй K-субдифференциал ∂2 f (x), если он существует, совпадает со вторым бисимметрическим K-субдифферен- K циалом ∂ 2 f (x) и, как следствие, является симметрическим бисублинейным оператором. Теорема 4.2. Пусть E и F - банаховы пространства, f : E ⊃ U (x) → F. Если отображение f дважды K-субдифференцируемо в точке x, то f также бисимметрически K-субдифференцируемо в точке x, причем ∂2 2 В частности, Kf (x)(h, k) = ∂ K f (x)(h, k). ∂2 2 Kf (x)(h, k) = ∂Kf (x)(k, h) (∀h, k ∈ E). Доказательство. 1. Согласно общему определению второго K-субдифференциала в банаховых конусах, ∂2 Kf (x)(h, k) = Klim co δt→+0 Y | ∂Kf (x + th) · k = ∂Kf (x) · k + tY, 0 < t < δt . (4.3) Поскольку f дифференцируемо обычным образом в некоторой окрестности точки x, то f (x + th + sk) - f (x + th) ∂Kf (x + th) · k = f ∗(x + th) · k = lim s→0 ∂Kf (x) · k = f ∗(x) · k = lim s→0 s f (x + sk) - f (x) s , (4.4) . (4.5) Заметим, что в силу повторной K-субдифференцируемости, отображение f ∗ непрерывно, поэтому предел в (4.4) - равномерный по 0 < t < δt. С учетом (4.4)-(4.5), равенство (4.3) принимает вид: ∂2 ( f ∗(x + th) - f ∗(x) Kf (x)(h; k) = Klim co δt→+0 t Наконец, вычитая (4.4) и (4.5) почленно, находим: § k, 0 < t < δt . (4.6) f ∗(x + th) - f ∗(x) t s § k = lim →+0 f (x + th + sk) - f (x + th) - f (x + sk)+f (x), (4.7) ts где f (x + th + sk) - f (x + th) - f (x + sk)+ f (x) обозначим через Δ 2f (x; th, sk). 6. Из (4.7) следует, что при любом ε > 0 для 0 < s < δs(ε) и 0 < t < δt верно: f ∗(x + th) - f ∗(x) ( Δ 2f (x; th, sk)\ t · k ∈ Oε , (4.8) ts где δs(ε) не зависит от выбора t ∈ (0; δt) в силу равномерности по t предела (4.7). Из (4.7) и (4.8) получаем, что при 0 < s < δs(ε), 0 < t < δt ( f ∗(x + th) - f ∗(x) ( ( Δ 2f (x; th, sk)\ co · k 0 < t < δt t ⊂ co Oε 0 < t < δt, 0 < s < δs(ε) = ts ( ( Δ 2f (x; th, sk)\ \ = Oε co 0 < t < δt, 0 < s < δs(ε) ts . (4.9) Переходя в (4.9) к K-пределу при δt → 0, δs → 0, с учетом (4.6) и K-признака Вейерштрасса, имеем при любом ε > 0: ( ( Δ2f (x; th, sk) ∂2 \ 2 ts Kf (x)(h, k) ⊂ Oε Klim co δt→0,δs→0 2 0 < t < δt, 0 < s < δs = Oε(∂ K f (x)(h, k)). (4.10) Так как множество ∂ K f (x)(h, k) замкнуто, то переходя справа в (4.10) к пересечению по всем ε > 0, приходим к включению: ∂2 2 Kf (x)(h, k) ⊂ ∂ K f (x)(h, k). (4.11) ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 103 7. Проверим теперь справедливость обратного включения. Из (4.7) следует, что при любом ε > 0 для 0 < s < δs(ε) и 0 < t < δt верно: Δ 2f (x; th, sk) ts ∈ Oε ( f ∗(x + th) - f ∗(x) t · k \ . (4.12) Из (4.7) и (4.12) получаем, что при 0 < s < δs(ε), 0 < t < δt ( Δ 2f (x; th, sk) ( ( f ∗(x + th) - f ∗(x) \ co 0 < t < δt, 0 < s < δs(ε) ts ⊂ co Oε t · k 0 < t < δt = ( ( f ∗(x + th) - f ∗(x) \ \ = Oε co t · k 0 < t < δt . (4.13) Переходя в (4.13) к пределу при δt → 0, δs → 0, с учетом признака Вейерштрасса имеем при любом ε > 0: 2 ( ( f ∗(x + th) - f ∗(x) \ ∂ K f (x)(h, k) ⊂ Oε Klim co δt→0,δs→0 · k 0 < t < δt, 0 < s < δs = t Отсюда, приходим к включению: K = Oε(∂2 f (x)(h, k)). (4.14) 2 2 ∂ K f (x)(h, k) ⊂ ∂Kf (x)(h, k). (4.15) 8. Наконец, из взаимно-обратных включений (4.11) и (4.15) следуют равенства из условий теоремы. K K Замечание 4.3. Отметим, в заключении этого пункта, что симметричность ∂2 f (x) - лишь следствие более важного результата: возможности представления ∂2 f (x) через «одинарный» Kпредел (4.2). 2. K-субдифференциалы высших порядков. Общая теорема Юнга. Примененный нами подход позволяет использовать индукцию для определения K-субдифференциала n-го порядка. Далее, как и в предыдущем пункте, E и F - нормированные конусы, U (x) - окрестность точки x ∈ E, f : E ⊃ U (x) → F. Определение 4.3. Пусть отображение f K-субдифференцируемо (n - 1) раз в U (x). Если отображение ∂n-1 n-1 K f : E ⊃ U (x) → LK (E,..., E; F ) =: LK (E; F ) - n..,.1 K-субдифференцируемо в точке x, то мы будем говорить, что f n раз K-субдифференцируемо в точке x и введем K-субдифференциал n-го порядка от f стандартным индуктивным образом: ∂n n-1 Kf (x) := ∂K (∂K f )(x). Замечание 4.4. В силу определения, ∂n f (x) ∈ Lsub(E; Ln-1(E; F )). Однако, используя (как и K K при n = 2) каноническую изометрию (теорема 2.9), можно считать, что ∂n f (x) ∈ Ln (E; F ), т. е. K K является n-сублинейным ограниченным K-оператором. В случае нормированных пространств E и F n-кратная K-субдифференцируемость f в точке x влечет обычную (n - 1)-кратную дифференцируемость f в этой точке. Теорема 4.3. Пусть E, F - нормированные пространства. Если отображение f : E ⊃ U (x) → F n раз K-субдифференцируемо в точке x, то f дифференцируемо (n - 1) раз в обычном смысле в этой точке. В частности, если f n раз K-субдифференцируемо в U (x), то ∂n Kf (x) = ∂K (f (n-1) \(x). (4.16) Доказательство. Достаточно применить индукцию, опираясь на теорему 4.1 (n = 2). Отметим также, по аналогии с теоремой 3.7, связь кратной K-субдифференцируемости с обычной кратной дифференцируемостью. 104 И. В. ОРЛОВ Теорема 4.4. Пусть E, F - нормированные пространства. Тогда: 1. Если f n раз сильно дифференцируемо в точке x ∈ E, то f n раз сильно K-субдифференцируемо в этой точке, причем ∂n Kf (x) = {f (n) (x)}. 2. Обратно, пусть f n раз сильно K-субдифференцируемо в точке x. Если для каждого набора направлений {h1,..., hn}⊂ E выполнены условия: K а). ∂n f (x)(h1,..., hn) - одноэлементное множество; K б). ∂n f (x)(h1,..., hn) антисимметричен по каждому направлению hi (i = 1, n); - то f сильно дифференцируемо n раз (в обычном смысле) в точке x. Далее, для переноса теоремы Юнга на случай K-субдифференциалов n-го порядка нам понадобится понятие полисимметрического K-субдифференциала. Здесь мы для простоты рассмотрим только случай нормированных пространств. Определение 4.4. Пусть E, F -нормированные пространства, f : E ⊃ U (x) → F, (h1,..., hn) ⊂ E. Выражение n Δ nf (x, h1,..., hn) = f (x + hk \ - n-1 i f (x + hk \+ k=1 n-2 1 k1<...<kn-1 n i=1 i + f (x + hk \ - ... + (-1)nf (x) 1 k1<...<kn-2 n i=1 назовем полисимметрической разностью n-го порядка для f в точке x, отвечающей набору направлений (h1,... hn). Если существует K-предел n ( Δ nf (x; t1h1, t2h2 ..., tnhn) ∂ K f (x, h1,..., hn) = Klim co δ→+0 t1 ... tn 0 < t1,..., tn < δ , то назовем его полисимметрическим K-субдифференциалом f в точке x по полинаправлению (h1,..., hn). Замечание 4.5. K 3. Если ∂ n f (x, h1,..., hn) - n-сублинейный K-оператор, назовем его слабым полисимметрическим K-субдифференциалом. Понятия полисимметрических K-субдифференциалов Гато и Фреше вводятся аналогично случаю ∂Kf. 4. Очевидно, n n ∂ K f (x)(h1,..., hn) = ∂ K f (x)(hp(1),..., hp(n)) для любой перестановки p набора (1,..., n). Общая теорема Юнга для K-субдифференциалов n-го порядка имеет следующий вид. Теорема 4.5. Пусть E и F - нормированные пространства. Если отображение f : E ⊃ U (x) → F n раз K-субдифференцируемо в точке x, то существует и n-симметрический Kсубдифференциал f в этой точке, причем эти K-субдифференциалы совпадают: ∂n n Kf (x)(h1,..., hn) = ∂ K f (x)(h1,..., hn) (∀h1,..., hn ⊂ E). K В частности, ∂n f (x) - симметрический n-сублинейный K-оператор: ∂n n Kf (x)(h1,..., hn) = ∂Kf (x)(hp(1),..., hp(n)) (∀h1,..., hn ⊂ E) для любой перестановки p набора индексов 1,..., n. Доказательство. Доказательство может быть проведено по аналогии с доказательством теоремы 4.2 (n = 2). ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 105 3. K-субдифференциалы высших порядков от функционалов. Используя теоремы 4.3 и 3.2, нетрудно вывести формулу K-субдифференциала n-го порядка для случая f : E → R, если E - нормированное пространство. Далее для h ∈ E обозначим через (h)n диагональный поливектор (h,..., h). ..n,. Теорема 4.6. Пусть E - нормированное пространство. Если функционал f : E ⊃ U (x) → R K-субдифференцируем n раз в U (x), то ∀ h ∈ E имеет место равенство ∂n n ∂ ( (n-1) n-1\ ∂ ( (n-1) n-1\ l ∂ ∂ ; l( ∂n-1f \ (x) · (h)n Kf (x)(h) = ∂h f (·) · (h) (x); f ∂h (·) · (h) (x) = ∂h ∂h ∂hn-1 . В частности, в случае f : R ⊃ U (x) → R справедливо равенство d ( dn-1f \ ∂n d ( dn-1f \ l dnf dnf l Kf (x) = dx dxn-1 (x); dx dxn-1 (x) := dxn(x); dxn(x) . ∂n Доказательство. Согласно теореме 4.3, из n-кратной K-субдифференцируемости f в U (x) следует (n - 1)-кратная обычная дифференцируемость f в некоторой окрестности U (x) и равенство Kf (x) = ∂K (f (n-1) )(x). При этом f (n-1) : E ⊃ U ∗(x) → Ln-1(E; R), откуда при любом фиксированном h ∈ E имеем: f (n-1)(·) · (h)n-1 : E ⊃ U ∗(x) → R. Из формулы (4.16) для K-субдифференциала по направлению теперь следует ∂n Kf (x) · (h)n = ∂K (f (n-1) )(x)(h)n = ∂K (f (n-1) (·) · (h) n-1 )(x)h = = ∂ ( ∂h f (n-1)(·)(h)n-1 \(x); ∂ (f ∂h (n-1)(·)(h) n-1\ l (x) . Рассмотрим далее случай функционала от нескольких переменных f : E1 × ... × Em → R, где E1,..., Em - нормированные пространства. Здесь мы опираемся на теорему 3.9 и известную формулу для дифференциалов Фреше, используя стандартные сокращения. Теорема 4.7. Пусть E1,..., Em - нормированные пространства. Если функционал f : E1 × ... × Em ⊃ U (x) → R K-субдифференцируем n раз в точке U (x), то имеет место оценка m ( ∂ \ ( ∂ ∂ \n-1 l ∂n n Kf (x)(h) ⊂ ∂x h1 + ... + hm ∂x ∂x · f (x) · hi. (4.17) i=1 i K 1 m Доказательство. В силу «формулы полного K-субдифференциала» (теорема 3.3) имеем: ∂n Kf (x)(h)n = ∂K (f (n-1) (·) · (h) n-1 ( ∂ \ m · ⊂ ) h ∂x (f (n-1) (·) · (h) n-1 ) · hi, что приводит к оценке (4.17). i=1 i K Выделим случай функционала f : Rm → R, когда оценка (4.17) переходит в точное равенство. Теорема 4.8. Если функционал f : Rm ⊃ U (x) → R K-субдифференцируем n раз в U (x), то справедливо равенство m ∂ m ∂ l(( ∂ ∂ \n-1 \ ∂n n Kf (x)(h) = hi; hi ∂x ∂x h1 + ... + hm ∂x ∂x · f (x). (4.18) i=1 i i=1 i 1 m Доказательство. Достаточно использовать «формулу полного K-субдифференциала» с точным равенством (теорема 3.3) для функционала f (n-1)(·) · (h)n-1. 106 И. В. ОРЛОВ Замечание 4.6. Отметим, что вводя в случае f : Rm → R нижнюю и верхнюю матрицы Якоби n-го порядка: Jnf = ( ∂ ∂xin ( ∂n-1f \\ =: ∂xi1 ... ∂xin-1 ( ∂nf \ , ∂xi1 ... ∂xin Jnf = ( ∂ ∂xin ( ∂n-1f \\ =: ∂xi1 ... ∂xin-1 ( ∂nf \ , ∂xi1 ... ∂xin равенство (4.18) можно записать в виде: ∂n Kf (x) · (h) n = [Jn f (x); Jnf (x)] · (h)n, где [Jnf (x); Jnf (x)] - (nm)-мерный матричный отрезок, соединяющий концевые матрицы (по главной диагонали). В частности, в важном далее для приложений случае n = 2, мы получаем равенство ∂2 Kf (x) · (h) n = [J 2 f (x); J 2f (x)] · (h)2, где [J 2f (x); J 2f (x)] - 2m-мерный матричный прямоугольник, соединяющий нижнюю и верхнюю матрицы Гессе. Вершинами этого прямоугольника служат 2m матриц, одна часть строк которых берется из J 2f (x), а другая часть строк - из J 2f (x). Следствие 4.1. Если отображение f = (f1,..., fl) : Rm ⊃ U (x) → Rl K-субдифференцируемо n раз в U (x), то имеет место оценка l m ∂ m ∂ l (( ∂ ∂ \n \ ∂n Kf (x)(h)n ⊂ hi; ∂x i · h ∂x ∂x h1 + ... + ∂x hm § fj (x). j=1 i=1 i i=1 i 1 m 1. K-субдифференциалы и субгладкость высших порядков. Здесь, опираясь на результаты пунктов 3.6 и 4.3, мы вводим понятие субгладкости n-го порядка и показываем, что такая субгладкость является достаточным условием K-субдифференцируемости n-го порядка. Вначале приведем обобщение теоремы 3.22. Теорема 4.9. Пусть E, F - нормированные конусы, отображение f : E ⊃ U (x) → F (n - 1) раз K-субдифференцируемо в точке x и n раз K-субдифференцируемо в проколотой окрестности K U˙ (x). Если отображение ∂n f : E ⊃ K U˙ (x) → Ln (E; F ) субнепрерывно в точке x (∂n f ∈ Csub(x)), т. е. при некотором Dn ∈ Ln (E; F ) верно: K f,x K n ∀ε > 0 ∃ δ > 0 (0 < lhl < δ) ⇒ (∂n f (x + h) ◦D + Y, где lY l < ε), K f,x n то f K-субдифференцируемо n раз в точке x, причем ∂n f (x) ◦D . K f,x Доказательство. Достаточно применить теорему 3.22 к отображению ∂n-1 n-1 K f : E ⊃ U (x) → LK (E; F ), учитывая изоморфизм Ln (E; F ) ∼= LK (E; Ln-1(E; F )). K sub Определение 4.5. Будем говорить, что f : E ⊃ U (x) → F - субгладкое отображение n-го sub порядка (или Cn-субгладкое отображение) в точке x, и писать f ∈ Cn K (x), если ∂n f ∈ Csub(x). sub В случае n = 0 мы отождествляем классы C0 (x) и Csub(x). Перенесем на случай высших порядков достаточное условие n-кратной K-субдифференцируемости в терминах частных K-субдифференциалов (теорема 3.23). Теорема 4.10. Пусть E1,..., En,F - нормированные конусы, f : E1 × ... × Em ⊃ U (x) → F. Тогда sub (f ∈ Cn (x)) ⇔ (( ∂nf ∂xi \ \ ( ∈ Csub(x), (∀ 1 i1 ... in m) ⇒ ∃ i K ∂n f (x)\. 1 ... ∂x n K ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 107 Доказательство. Применяя разложение (3.40), по индукции получаем: n ( ∂ \ n n ( ∂2 \ ∂n n-1 a:4 n-1 a:4 a:4 n-2 Kf (x) = ∂K (∂K f )(x) = i1=1 ∂xi1 (∂K f ) (x) = K i1=1 i2=1 ∂xi1 ∂xi2 (∂K f ) (x) = ... = K n n n ( ∂nf \ = a:4 a:4 ... a:4 ∂xi1 ... ∂xin (x). (4.19) K i1=1 i2=1 in=1 1 В силу равенства (4.19), из субнепрерывности (∂nf /∂xi ... ∂xin )K в точке x легко следует субнепрерывность ∂n f в этой точке. Обратно, субнепрерывность ∂n f в точке x, согласно определе- K нию 4.5, означает: ( a:4 K ( ∂nf \ n \ ∀ε > 0 ∃ δ > 0 (0 < lhl < δ) ⇒ При этом i1,...,in=1 ∂xi1 ... ∂xin (x + h) ◦ Df,x + Y, где lY l < ε . (4.20) K n,(i1,...,in) n Df,x = a:4 i1,...,in=1 n,(i1,...,in) Df,x , Y = a:4 i1,...,in=1 Y (i1,...,in), 1 где Df,x , Y (i1,...,in) ∈ LK (Ei × ... × Ein ; F ). Отсюда и из (4.20) следует ∀ i1,..., in = 1,m : ∀ε > 0 ∃ δ > 0 (0 < lhl < δ) ⇒ (( ∂nf \ n,(i ,...,i ) \ ⇒ ∂xi1 ... ∂xin 1 (x + h) ◦ Df,x K n + Y (i1,...,in), где lY (i1,...,in)l < ε , т. е., в силу теоремы 4.9, ( ∂nf \ ∂xi1 ... ∂xin K ∈ Csub(x) при i1,..., in = 1, m. Рассмотрим теперь случай функционалов f : Rm → R, опираясь на результаты пунктов 3.6 и 4.3. Теорема 4.11. Пусть f : Rm ⊃ U (x) → R. Тогда (f ∈ Cn ( (x)) ⇔ все ∂ ( ∂n-1f \ ∂ ( ∂n-1f \ и sub ∂xi n ∂xi1 ... ∂xi n-1 ∂xin ∂xi1 ... ∂xi n-1 \ полунепрерывны в точке x, соответственно, снизу и сверху K ⇒ (∃ ∂n f (x)\. Доказательство. В силу теоремы 3.24, соответствующая полунепрерывность элементов пар ( ∂nf ; ∂xi1 ... ∂xin ∂nf \ ∂xi1 ... ∂xin ∇ ∇ влечет субнепрерывность K-функционалов r ; § ∂x ∂n-1f ... ∂x , а значит, и субнепрерывность i1 r∇; ∇ · Jn-1f (x). in-1 Тогда из оценки (4.17) следует Cn-субгладкость f в точке x. Обратная импликация следует из точности оценки (4.18) по каждой компоненте кратной прямой суммы. Приведем простой пример. m Пример 4.1. Пусть f : Rm → R, f (x) = (xi)n-1 · |xi|. Тогда: i=1 ∂nf ∂xi (x) = ( (n - 1)! sign xi, xi /= 0; -(n - 1)!, xi = 0; ∂nf ∂xi (x) = ( (n - 1)! sign xi, xi /= 0; (n - 1)!, xi = 0. Кроме того, все смешанные верхние и нижние частные производные от f равны нулю. Легко видеть, что все (∂nf /∂xn) полунепрерывны снизу, а все (∂nf /∂xn) полунепрерывны сверху. Таким i sub образом, в силу теоремы 4.11 имеем f ∈ Cn i (0). 108 И. В. ОРЛОВ Замечание 4.7. 1. Вводя нижнюю и верхнюю K-матрицы Якоби n-го порядка: Jnf = ( ∂nf ∂xi1 ... ∂xin \ ; Jnf = ( ∂fj \ , ∂xi1 ... ∂xin теорему 4.11 можно сформулировать так: sub (f ∈ Cn (x)) ⇔ (Jnf и Jnf ) полунепрерывны в точке x, соответственно, снизу и сверху). sub 2. Наконец, опираясь на описание класса C1 sub (D) в пункте 3.6 и определение класса Cn (D), sub нетрудно дать примерное описание класса Cn (D), где D - компактная область в Rm. sub а). Очевидно, (f ∈ Cn (D)) ⇒ (f (n-1) ∈ Lip(D)), что мы кратко запишем в виде Cn n sub(D) ⊂ Lip (D). Модификация примера 3.1: f (x) = x2n sin 1 (x = 0), f (0) = 0, показывает, что последнее включение является строгим. x / б). Теорема 3.28 без труда переносится на случай кусочной гладкости и субгладкости высших порядков: Cn n p.s.(D) ⊂ Csub(D). Это включение также является строгим. При этом «кусочная» субгладкость n-го порядка не отличается от «полной» субгладкости: C ( n sub \ (D) = Cn (D). p.s. sub Таким образом, в случае компактной области D ⊂ Rm имеем: Cn n n n p.s.(D) Csub(D) = (Csub)p.s.(D) Lip (D). 1. Формула Тейлора в K-субдифференциалах и исследование на экстремум. Мы рассмотрим здесь формулу Тейлора в форме Пеано лишь в случае отображений в нормированных пространствах. В этом случае только последнее слагаемое в многочлене Тейлора будет многозначным, что существенно упрощает применение. Теорема 4.12. Пусть E, F - нормированные пространства, f : E ⊃ U (x) → F. Если f Kсубдифференцируемо n раз в точке x, то 1 n-1 f (x + h) - l f (k)(x) · (h)k - n 1 ∂n f (x) · (h)n = o(lhl ). (4.21) k! k=0 n! K Если при этом f K-субдифференцируемо n раз в окрестности x, то равенство (4.21) принимает вид - n-1 1 f (x + h) k! l f (k)(x) · (h)k - n 1 n! ∂K (f (n-1)(·)(h)n-1\(x)h = o(lhl ). k=0 Доказательство. 1. Так как f n-кратно K-субдифференцируемо в точке x, то существует (n - 1)кратная обычная дифференцируемость f в точке x, откуда получаем: ( ∂l l Kf (x) = {∂ f (x)} при 0 < l n - 1, ∂n Kf (x) = ∂(∂ (n-1) f )(x). Следовательно, (4.26) можно записать в виде: 1 n ( n-1 1 \ f (x + h) - ∂lf (x)(h)l - ∂n f (x)(h)n = o(lhl ). l! l=0 n! K 2. Рассмотрим вспомогательную функцию n - l l - n-1 1 r (f, h) = f (x + h) ∂ f (x)(h) l! K 1 ∂n f (x)(h)n, n! l=0 ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 109 которая действует из банахового пространства E в банахов конус FK. Применим математическую индукцию. а). При n = 1 получим определение K-субдифференциала из критерия K-субдифференцируемости: f (x + h) - f (x) - ∂Kf (x)h = o(lhl). б). Воспользуемся индукцией по n. Предположим, что формула (4.26) верна для n-1. Вычислим K-субдифференциал вспомогательной функции rn, получим: 1 n-1 ∂K rn(f, h) = f ∗(x + h) - ∂lf (x)(h)l-1 - 1 ∂n f (x)(h)n-1 = n-2 l=1 (l - 1)! (n - 1)! K = f ∗(x + h) - 1 ∂lf (x)(h)k - 1 ∂n-1(f ∗)(x)(h)n-1 = r (f ∗, h), k! k=0 (n - 1)! K n-1 что по допущению индукции означает: ∂K rn(f, h) = rn-1(f ∗, h) = o(lhl Применяя теорему о среднем, получим: n-1). lrn(f, h)l = lrn(f, h) - rn(f, 0)l sup 0<θ<1 n-1 l∂K rn(f, θh)l· lhl = sup 0<θ<1 n-1 lrn-1(f ∗, θh)l· lhl = n = sup 0<θ<1 o(lθhl ) · lhl = o(lhl ) lhl) = o(lhl ). Таким образом, мы получили формулу Тейлора с остаточным членом в форме Пеано. Следствие 4.2. В условиях теоремы 4.12 справедлива оценка - n-1 1 f (x + h) k! l f (k)(x) · (h)k 1 ∈ n! l K ∂n f (x)(h)n + o(lhln) . (4.22) k=0 Если при этом f K-субдифференцируемо n раз в окрестности x, то оценка (4.22) принимает вид - n-1 1 f (x + h) k! l f (k)(x) · (h)k 1 ∈ n! ∂K n (f (n-1)(·)(h)n-1\(x)h + o(lhl ). k=0 Заметим, что условие (4.22) не равносильно условию (4.21), ввиду многозначности обоих слагаемых справа в (4.22). Выделим здесь также случай функционалов, опираясь на результат пункта 4.4. Теорема 4.13. Пусть E - нормированное пространство, f : E ⊃ U (x) → R. Если функционал f K-субдифференцируем n раз в окрестности x, то 1 n-1 f (x + h) - l f (k)(x) · (h)k - 1 ∂ ; ∂ l( f (n-1)(·)(h)n-1 \ n (x)h = o(lhl ). (4.23) k! k=0 n! ∂h ∂h В случае f : Rm → R равенство (4.23) принимает вид 1 n-1 f (x + h) - l f (k)(x) · (h)k - 1 ( ∂ h1 + ... + ∂ \ ( ∂ hm ; ∂ h1 + ... + \l hm × k! k=0 (( ∂ × ∂x1 n! h1 + ... + ∂x1 ∂ hm ∂xm \n-1 ∂xm \ · f (x) ∂x1 l = o(lh n ∂xm ). (4.24) В частности, в случае f : R → R равенство (4.24) принимает вид 1 n-1 f (x + h) - l f (k)(x) · (h)k - 1 dnf (x); dnf l (x) n · hn = o(lhl ), (4.25) где dnf = d (f (n-1)), dnf k=0 = k! d (f (n-1)). n! dxn dxn dxn dx dxn dx 110 И. В. ОРЛОВ Замечание 4.8. Многозначное равенство (4.25) можно записать в виде однозначного равенства с параметром: - n-1 1 f (x + h) k! l f (k)(x) · (h)k - 1 n! (1 - t) dnf dxn (x)+ +t · dnf dxn l (x) = o(lhln) (0 t 1). k=0 В аналогичном виде можно записать также равенства (4.23)-(4.24). Перейдем к условиям экстремума в терминах K-субдифференциалов. Начнем с K-аналога леммы Ферма в традиционной для выпуклого анализа форме. Теорема 4.14. Пусть E - нормированное пространство, f : E ⊃ U (x) → R. Если функционал f достигает локального экстремума в точке x и K-субдифференцируем в этой точке, то ∀h ∈ E: (0 ∈ ∂s f (x)h) ⇔ ( ∂f (x) 0 ∂f (x) \ . (4.26) K ∂h ∂h В частности, в случае f : Rm → R условие (4.26) принимает вид конечной системы двойных неравенств: ( ∂f ∂xi (x) 0 ∂f ∂xi (x) . (4.27) i=1,m Наконец, в случае f : R → R система (4.27) сводится к неравенству df (x) 0 df (x). dx dx Доказательство. Пусть, например, f достигает минимума в точке x. Тогда f (x + th) - f (x) ) 0 при достаточно малых t, откуда следует: ∂f (x + 0) ) 0, ∂f (x + 0) ) 0; ∂f (x - 0) 0, ∂f (x - 0) 0. Отсюда получаем: ∂f ∂h / ∂f ∂h ∂h ∂f \ ∂f ∂h ( ∂f ∂f \ (x) = max ∂h (x + 0), ∂h - (x 0) ∂h ) 0; (x) = min ∂h (x + 0), ∂h - (x 0) ∂h 0. Рассмотрим теперь условия 2-го порядка, предварительно введя необходимый аппарат теории квадратичных K-форм. Определение 4.6. Пусть E - выпуклый конус. Отображение B : E → RK назовем квадратичной K-формой, если: B(λh) = λ2 · B(h) (∀h ∈ E, ∀λ ) 0). K-форма B неотрицательна (B ) 0), если max B(h) ) 0 (∀ h ∈ E). K-форма B положительна (B > 0), если min B(h) > 0 (∀ h ∈ E \ {0}). В случае, когда E - нормированный конус, скажем, что K-форма B положительно определена (B » 0), если для некоторой положительной константы γ2 min B(h) ) γ2lhl2 (∀ h ∈ E). Условия B 0, B < 0 и B ∼ 0 вводятся, как обычно, с помощью перехода к K-форме (-B). Теорема 4.15. Пусть E - нормированное пространство. Если функционал f : E ⊃ U (x) → R дважды K-субдифференцируем в окрестности точки x, то ∀h ∈ E, lhl = 1, выполнено равенство ∂ (∂2 )f (x)(h)2 = (f ∗(·)h); ∂ l (f ∗(·)h) ∂2f =: (x); ∂2f l (x) . K ∂h ∂h ∂h2 ∂h2 ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 111 Приведем необходимое условие второго порядка для минимума. Теорема 4.16. Пусть E - нормированное пространство, f : E ⊃ U (x) → R. Если функционал f достигает локального минимума в точке x и дважды K-субдифференцируем в окрестности этой точки, то ∀h ∈ E, lhl = 1, выполнено неравенство \ ( ∂2f \ K ((∂2 )sf (x)(h)2 ) 0 ⇔ ∂h2 (x)(h)2 ) 0 . (4.28) В частности, в случае f : Rm → R неравенство (4.28) принимает вид условия неотрицательности максимума m-мерного отрезка, соединяющего «нижнюю» и «верхнюю» матрицы Гессе для f : max J 2f (x)(h)2 = ( ∂2f ∂xi∂xj (x) 2 \ (h)2; J f (x)(h)2 = ( ∂2f ∂xi∂xj \ l (x)(h)2 ) 0. (4.29) Обозначая J 2f (x),...,J 2 f (x) - вершины матричного отрезка, условие (4.29) можно перепи- 1 2m сать в более простой форме: max ( \ J 2f (x)(h)2 ) 0 (∀ h ∈ Rm). (4.30) 1 k 2m k Наконец, в случае f : R → R матричное неравенство (4.30) превращается в скалярное неравенство d2f dx2(x) ) 0. K Доказательство. Из повторной K-субдифференцируемости f в окрестности x следует обычная однократная дифференцируемость f и равенство ∂2 f (x) = ∂K (f ∗)(x). Поэтому условие K-леммы Ферма 0 ∈ ∂Ksf (x) переходит в равенство f ∗(x) = 0. По K-формуле Тейлора второго порядка, при достаточно малых h имеем: 1 2 2 2 f (x + h) - f (x) - f ∗(x)h - 2 ∂Kf (x)(h) откуда, с учетом f ∗(x) = 0, получаем: = o(lhl ), 1 2 2 2 f (x + h) - f (x) ∈ 2 ∂Kf (x)(h) + o(lhl ). (4.31) Фиксируя теперь h ∈ E и заменяя в (4.31) h 1→ th, получаем: f (x + th) - f (x) 1 2 2 o(t2) 0 t2 ∈ 2 ∂Kf (x)(h) + t2 , откуда при t → 0, с учетом компактности ∂2 f (x)(h)2, следует max ∂2 f (x)(h)2 ) 0. K K Выпишем теперь достаточного условие локального минимума в терминах второго K-субдифференциала. Заметим, что вывод условия (4.33) в нем опирается на конечномерную форму теоремы Крейна-Мильмана (см. [15]). Теорема 4.17. Пусть E - нормированное пространство, f : E ⊃ U (x) → R, функционал f дважды K-субдифференцируем в точке x, причем f ∗(x) = 0. Если выполнено условие ∂2 Kf (x) » 0, (4.32) то f достигает строгого локального минимума в точке x. В частности, в случае f : Rm → R неравенство (4.32) принимает вид условия положительной определенности набора «крайних» точек m-мерного отрезка [J 2f (x); J 2f (x)]: J 2 2 2 1 f (x) » 0; J2 f (x) » 0; ... ; J2m f (x) » 0. (4.33) Наконец, в случае f : R → R система матричных неравенств (4.33) сводится к одному скалярному неравенству d2f dx2(x) > 0. 112 И. В. ОРЛОВ K Доказательство. По K-лемме Ферма, 0 ∈ ∂Ksf (x), и если существует ∂2 f (x), то существует f ∗ в окрестности точки x, т. е. приходим к условию f ∗(x) = 0. По обобщенной формуле Тейлора второго порядка для любого достаточно малого h получаем: 1 f (x + h) - f (x) - f ∗(x)h - 2 ∂ 2f (x)(h)2 = o(lhl2), откуда при достаточно малых lhl верно: 1 0 f (x + h) - f (x) ∈ 2 ∂ 2f (x)(h)2 + o(lhl2). (4.34) Выберем ε настолько малым, чтобы при lhl < ε величина o(lhl2) в равенстве (4.34) удовлетворяла γ2 условию lo(lhl2)l < 2 lhl2. Тогда при lhl < ε (inf 1∂2 f (x)(th)2 + o( 2 th )2\ > γ h 2 > 0. (4.35) 2 K l l 2 l l Из формулы Тейлора, как уже отмечалось, вытекает включение 1 2 2 2 f (x + h) - f (x) - f ∗(x)h ∈ 2 ∂Kf (x)(h) Отсюда, в силу (4.35), получаем + o(lhl ). f (x + h) - f (x) ) γ2lhl2 > 0 при достаточно малом lhl > 0, т. е. f достигает строгого локального минимума в точке x. В заключение рассмотрим простой пример. Пример 4.2. Зададим в Rm функцию ( lxl2, x1x2 ... xm ) 0, f (x) = 2lxl2, x1x2 ... xm 0, достигающую, очевидно, строгого минимума в нуле. Имеем ( 2x, x1x2 ... xm ) 0, ∇f (x) = 4x, x1x2 ... xm 0, k откуда 0 - единственная стационарная точка. Наконец, как легко видеть, все «крайние» матрицы Гессе J 2f (0) являются диагональными матрицами, диагонали которых - наборы из чисел 2 и 4. Следовательно, J 2 k f (0) » 0 (k = 1,..., 2m). Таким образом, условие (4.32) теоремы 4.17 выполнено. 5. ПРИЛОЖЕНИЯ К ВАРИАЦИОННЫМ ЗАДАЧАМ С СУБГЛАДКИМ ИНТЕГРАНТОМ 1. K-субдифференциал основного вариационного функционала. Напомним классический результат. Пусть b r Φ(y) = a f (x, y, y∗)dx (y ∈ C1[a; b],f ∈ C1(R3),u = f (x, y, z)). (5.1) Тогда вариационный функционал (5.1) сильно дифференцируем в C1[a; b], причем первая вариация Φ имеет вид: Φ∗(y)h = b r ∂f ∂y a (x, y, y∗)h + ∂f l (x, y, y∗)h∗ ∂z dx (∀h ∈ C1[a; b]). (5.2) Наша цель - обобщить равенство (5.2) на случай субгладких интегрантов. В этом случае точное равенство переходит в оценку K-субдифференциала ∂K Φ(y). ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 113 Теорема 5.1. Пусть для вариационного функционала (5.1) интегрант f является C1-субsub гладким: f ∈ C1 (R3) (см. определение 3.8). Тогда Φ сильно K-субдифференцируем всюду в C1[a; b], причем справедлива оценка ⎡rb ( ∂f ∂f b \ r ( ∂f ∂f \ ⎤ ∂K Φ(y)h ⊂ ⎣ a (x, y, y∗)h + (x, y, y∗)h∗ ∂y ∂z dx; a (x, y, y∗)h + (x, y, y∗)h∗ ∂y ∂z dx⎦ (∀h ∈ C1[a; b]). (5.3) Доказательство. Введем вначале вспомогательный линейный оператор (Ay)(x) = (x, y(x), y∗(x)), A : C1[a, b] → R × C1[a, b] × C[a, b]. Очевидно, оператор A непрерывен. Введем еще два вспомогательных отображения - нелинейный оператор композиции Bf (A )(y) = f (A (y)), A ∈ L(C1[a, b]; R × C1[a, b] × C[a, b]), Bf : L(C1[a, b]; R × C1[a, b] × C[a, b]) → C[a, b], и линейный интегральный функционал b r G(v) = a v(x)dx, G : C[a, b] → R. Тогда вариационный функционал Φ может быть записан в виде композиции Φ(y) = G(Bf (Ay)). (5.4) Применяя к композиции (5.4) теорему о K-субдифференцировании композиции, получаем K ∂K Φ(y, h) = ∂K (G ◦ Bf ◦ A)(y)h ⊂ [∂KG(v) · [∂u2u3 Bf (u) · ∂(A(y))]]h. (5.5) Теперь рассмотрим в отдельности компоненты справа в (5.5). 1. Так как A - линейный непрерывный оператор, то он дифференцируем по Фреше, причем A∗(y) ≡ A. Следовательно, ∂K (Ay)(x) = (x, y(x), y∗(x)). 2. Для оператора Bf (u) = Bf ((u1, u2, u3)) мы вычисляем K-субдифференциал по u2, u3. Применяя теорему 3.13 и следствие 3.3, получаем: ∂yz ∂f ∂f ∂f ∂f l K Bf (A(y))h ⊂ (x, y, y∗)h + ; (x, y, y∗)h + (x, y, y∗)h∗ . ∂y ∂z(x, y, y )h ∂y ∂z ∗ ∗ 3. Так как G - линейный непрерывный функционал, то он дифференцируем по Фреше, причем G∗(v) ≡ G. Отсюда: b r ∂f ∂f ∂f ∂f l ∂K Φ(y)h ⊂ (x, y, y∗)h + ; (x, y, y∗)h + (x, y, y∗)h∗ ∂y ∂z(x, y, y )h ∂y ∂z dx = ∗ ∗ a b r ( ∂f = ∂y a (x, y, y∗)h + ∂f(x, y, y∗)h∗\dx; ∂z b r ( ∂f ∂y a (x, y, y∗)h + ∂f(x, y, y∗)h∗\dxl. (5.6) ∂z Отметим частный случай оценки (5.3), когда интегрант образован внешней композицией субгладкой функции с гладкой. 114 И. В. ОРЛОВ Теорема 5.2. Пусть b r Φ(y) = a sub ϕ rf (x, y, y∗) dx (y ∈ C1[a; b],f ∈ C1(R3),ϕ ∈ C1 (R)). Тогда справедлива оценка b r ( ∂f ∂f \ ∂K Φ(y)h ⊂ ϕ∗ (f (x, y, y∗)) a (x, y, y∗)h + (x, y, y∗)h∗ ∂y ∂z dx; b r ( ∂f ∂f \ l ϕ∗ (f (x, y, y∗)) ∂y a (x, y, y∗)h + (x, y, y∗)h∗ dx ∂z (∀h ∈ C1[a; b]). (5.7) Доказательство. Пусть b r Φ(y) = a ϕ(f (x, y, y∗))dx, (5.8) где f ∈ C1, ϕ всюду K-субдифференцируема. По формуле (5.6) имеем: b r ( ∂ ϕ(f (x, y, y∗))h + ∂ ϕ(f (x, y, y∗))h∗ \ dx; ∂K Φ(y)h ⊂ ∂y a ∂z b r ( ∂ ϕ(f (x, y, y∗))h + ∂ ϕ(f (x, y, y∗))h∗ \ l dx . (5.9) ∂y ∂z a При этом, учитывая гладкость f, имеем: ∂ ϕ(f (x, y, y∗)) = ϕ∗(f (x, y, y∗)) ∂f (x, y, y∗); ∂ ϕ(f (x, y, y∗)) = ϕ∗(f (x, y, y∗)) ∂f (x, y, y∗); ∂y ∂y ∂z ∂z ∂ ϕ(f (x, y, y∗)) = ϕ∗(f (x, y, y∗)) ∂f (x, y, y∗); ∂ ϕ(f (x, y, y∗)) = ϕ∗(f (x, y, y∗)) ∂f (x, y, y∗). (5.10) ∂y ∂y ∂z ∂z Подставляя (5.10) в (5.9) и вынося общие множители, приходим к оценке (5.7). Еще один существенный частный случай представляет внутренняя композиция субгладкой функции с гладкой. Здесь, для простоты, мы рассмотрим композицию только по третьей переменной. Теорема 5.3. Пусть b r Φ(y) = a sub f (x, y, ϕ(y∗))dx (y ∈ C1[a; b],f ∈ C1(R3),ϕ ∈ C1 (R)). Тогда справедлива оценка b r ∂K Φ(y)h ⊂ a ∂f (x, y, ϕ(y∗))hdx + ∂y ⎡rb ∂f b ⎤ r ∂f 1 · ⎣ + (x, y, ϕ(y∗)) ϕ∗(y∗)h∗dx; ∂z a a ∂z (x, y, ϕ(y∗)) · ϕ∗(y∗)h∗dx⎦ (h ∈ C [a; b]). (5.11) ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 115 Доказательство. Учитывая гладкость f, имеем: ∂ f (x, y, ϕ(y∗)) = ∂f (x, y, ϕ(y∗)) · ϕ∗(y∗); ∂ f (x, y, ϕ(y∗)) = ∂f (x, y, ϕ(y∗)) · ϕ∗(y∗); ∂y ∂y ∂z ∂z ∂ f (x, y, ϕ(y∗)) = ∂f (x, y, ϕ(y∗)) · ϕ∗(y∗); ∂ f (x, y, ϕ(y∗)) = ∂f (x, y, ϕ(y∗)) · ϕ∗(y∗). (5.12) ∂y ∂y ∂z ∂z Подставляя (5.12) в (5.6) и вынося общие множители, приходим к оценке (5.11). Отметим, в качестве конкретных примеров, случаи интегрантов, образованных композицией гладкой функции и модуля. Пример 5.1. Пусть b r Φ(y) = a |f (x, y, y∗)|dx (y ∈ C1[a; b],f ∈ C1(R3)). (5.13) Здесь, в обозначениях теоремы 5.2, ϕ(t) = |t|, откуда [ϕ(t); ϕ(t)] = ( sign t, t /= 0; [-1; 1], t = 0. (5.14) Подстановка (5.14) в (5.7), после преобразований, приводит к оценке ( r ∂f ∂f r ∂f ∂f \ r ∂f ∂f ∂K Φ(y)h ⊂ (yt>0) - ( h + h∗)dx ∂y ∂z (yt<0) ( h + h∗)dx ∂y ∂z + (yt=0) [-1; 1]( ∂y h + ∂z h∗)dx. (5.15) В частности, если mes(y∗ = 0) = 0, то оценка (5.15) принимает вид точного равенства: b r ( ∂f ∂f \ Пример 5.2. Пусть ∂K Φ(y)h = Φ∗(y)h = a b sign(y∗) h + h∗ ∂y ∂z dx. r Φ(y) = a f (x, y, |y∗|)dx (y ∈ C1[a; b],f ∈ C1(R3)). Здесь также ϕ(t) = |t|, но уже в обозначениях теоремы 5.3. Подстановка (5.14) в (5.11), после преобразований, приводит к оценке b r ∂K Φ(y)h ⊂ a ⎡ ∂f | | (x, y, y∗ )hdx + ∂y r (ytI=0) ∂f | | sign(y∗) (x, y, y∗ )h∗dx + ∂z ⎤ r ⎢ + ⎣- ∂f r ∂f (x, y, 0)h∗dx⎦ . (5.16) (x, y, 0)h∗dx;+ ⎥ ∂z ∂z (yt=0) (yt=0) В частности, если mes(y∗ = 0) = 0, то оценка (5.16) принимает вид точного равенства: b r ∂f ∂f l ∂K Φ(y)h = Φ∗(y)h = a Пример 5.3. Пусть | | | | (x, y, y∗ )h + sign(y∗) (x, y, y∗ )h∗ ∂y ∂z b dx. (5.17) r Φ(y) = a f (x, |y|, y∗)dx. 116 И. В. ОРЛОВ Здесь, после аналогичных преобразований, приходим к оценке: b ∂K Φ(y)h ⊂ r ( ∂f | | (x, y , y∗)h∗dx + ∂z a r (yI=0) ∂f | | sign y (x, y , y∗)hdx + ∂y r ∂f r - + (x, 0, y∗)hdx;+ ∂y ∂f l (x, 0, y∗)hdx ∂y . (5.18) (y=0) (y=0) В частности, если mes(y = 0) = 0, то оценка (5.18) превращается в точное равенство: b r ∂f ∂f l ∂K Φ(y)h = Φ∗(y)h = a | | | | sign y (x, y , y∗)h + (x, y , y∗)h∗ ∂y ∂z dx. 2. K-аналоги основной вариационной леммы и уравнения Эйлера-Лагранжа. Напомним классическую «основную вариационную лемму»: если b r ϕ(x)h(x) ≡ 0 (ϕ ∈ C[a; b], ∀h ∈ C[a; b]) , a то ϕ(x) ≡ 0 при a x b. Наше обобщение принимает форму оценки. Теорема 5.4. Пусть ϕ1, ϕ2 ∈ L2[a; b]. Если ⎡rb 0 ∈ ⎣ a b r ϕ1(x)h(x)dx; a ⎤ ϕ2(x)h(x)dx⎦ (∀h ∈ C[a; b]) , то 0 ∈ [ϕ1; ϕ2] ⊂ L2[a; b]. Доказательство. Произвольный элемент ϕ ∈ [ϕ1; ϕ2] представим в виде ϕ = (1 - t)ϕ1 + tϕ2 = ϕ1 + t(ϕ2 - ϕ1), где 0 t 1. 1. Вначале рассмотрим случай гильбертового пространства L2[a; b] = H. Обозначим через H1 = b b {ϕ2 - ϕ1}⊥. Тогда для любого h ∈ H1 выполняется (ϕ2 - ϕ1, h) = 0, т. е. ϕ2h = ϕ1h. Допустим, a a что ϕ1 неколлинеарно (ϕ2 - ϕ1). Тогда существует h0 ∈ H такой, что ϕ1 неортогонально h0, т. е. (ϕ1, h0) /= 0. Следовательно, (ϕ2 - ϕ1, h0) = 0, (ϕ1, h0) /= 0, откуда (ϕ2, h0) - (ϕ1, h0) = 0, (ϕ1, h0) /= 0. Это возможно тогда и только тогда, когда (ϕ2, h0) = (ϕ1, h0) /= 0. Отсюда для любого t ∈ [0; 1] получаем: b r ((1 t)ϕ + tϕ b r h dx = (ϕ h + t(ϕ b ϕ ))h dx = r b r ϕ h dx + t (ϕ ϕ )h dx = 0. - 1 2) 0 1 0 1. a 2 - 1 0 1 0 a b 2 - 1 0 / a Таким образом, существует h0 такой, что 0∈ [ϕ1; ϕ2]h0dx, что противоречит условию леммы. a Отсюда получаем, что ϕ1 коллинеарен (ϕ2 - ϕ1), т. е. весь отрезок [ϕ1; ϕ2] состоит из коллинеb b арных функций [ϕ1; ϕ2] = {λϕ3}λ1 λ λ2 . Тогда [ϕ1; ϕ2]hdx = {λ ϕ3hdx}λ1 λ λ2 . Следовательно, a a ( b \ условие 0 ∈ [ϕ1; ϕ2]hdx ∀ h a выполнено тогда и только тогда, когда b Возможны два случая: ( r 0 ∈ {λ a \ ϕ3hdx}λ1 λ λ2 ∀ h . ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 117 а). 0 ∈ [λ1; λ2]. Тогда 0 ∈ [ϕ1; ϕ2] = {λϕ3}. b б). 0∈[λ1; λ2], следовательно, ϕ3hdx = 0 ∀ h, откуда (ϕ3, h) = 0 ∀ h ⇒ ϕ3 = 0 ⇔ [ϕ1; ϕ2] = {0}. a Таким образом, утверждение в L2[a; b] доказано. b 2. Теперь рассмотрим случай, когда [ϕ1; ϕ2] ⊂ C1[a; b], h ∈ C1[a; b], т. е. 0 ∈ [ϕ1; ϕ2]hdx при a любом h ∈ C1[a; b]. Так как C1[a; b] непрерывно плотно вложено в L2[a; b], то из непрерывности b вложения легко следует 0 ∈ [ϕ1; ϕ2]hdx и для любого h ∈ L2. Действительно, для любого h0 ∈ L2 a → существует последовательность hn L2 h0, где hn ∈ C1. Поскольку по условию для любого hn верно 1. ( b b 0 ∈ [ϕ1; ϕ2]hndx = (1 - t) ϕ1hndx + t ϕ2hndx , то переходя к пределу при n → ∞, получаем, a a a b что 0 ∈ [ϕ1; ϕ2]h0 dx при любом h0 ∈ L2[a; b]. Отсюда, в силу первой части доказательства, a 0 ∈ [ϕ1; ϕ2]. Напомним теперь классическое уравнение Эйлера-Лагранжа: для вариационного функционала b r Φ(y) = a f (x, y, y∗)dx (f ∈ C1(R3),y ∈ C1[a; b], y(a) = ya, y(b) = yb) условие Φ∗(y) = 0 равносильно выполнению уравнения: ∂f (x, y, y∗) - d ( ∂f \ (x, y, y∗) = 0. (5.19) ∂y dx ∂z В частности, если Φ достигает локального экстремума в точке y, то уравнение (5.19) для y верно. Теорема 5.4 вместе с оценкой (5.3) для K-субдифференциала от Φ позволяют обобщить условие (5.19) на случай C1-субгладкого интегранта; при этом результат принимает форму оценки. Теорема 5.5. Пусть b r Φ(y) = a sub f (x, y, y∗)dx (f ∈ C1 (R3),y ∈ C1[a; b], y(a) = ya, y(b) = yb). (5.20) Тогда условие 0 ∈ ∂K Φ(y) равносильно выполнению «включения Эйлера-Лагранжа»: ∂f d ( ∂f \ ∂f d ( ∂f \l - ∈ 0 (x, y, y∗) ∂y dx (x, y, y∗) ; ∂z - (x, y, y∗) ∂y dx (x, y, y∗) ∂z (5.21) почти всюду на [a; b]. В частности, если Φ достигает локального экстремума в точке y, то включение (5.21) для y выполнено почти всюду на [a; b]. K Доказательство. По K-лемме Ферма, 0 ∈ ∂s Φ(y)h (∀ h ∈ C1[a; b], h(a) = h(b) = 0. В силу линейности по h обеих частей оценки ∂K Φ(y)h (формула (5.3), теорема 5.1), эта же оценка сохраняется и для симметризованного K-функционала: K 0 ∈ ∂s Φ(y)h ⊂ b r ( ∂f ∂y a ∂f (x, y, y∗)h + (x, y, y∗)h∗ ∂z b \ dx; b r ( ∂f (x, y, y∗)h + ∂y a ∂f \ l (x, y, y∗)h∗ dx = ∂z (r ( ∂f ∂f \ = (1 - t) ∂y (x, y, y∗)+ t ∂y (x, y, y∗) a § h+ ( ∂f ∂f \ l + (1 - t) ∂z (x, y, y∗)+ t ∂z (x, y, y∗) h∗ dx 0 t 1 =: I1(t)+ I2(t)| 0 t 1 . (5.22) 118 И. В. ОРЛОВ Применим к I2(t) в (5.22) интегрирование по частям: u = (1 - t) ∂f (x, y, y∗)+ t ∂z ∂f (x, y, y∗); ∂z I2(t) = = dv = h∗dx, v = h d ( ∂f d ∂f \ du = ((1 - t) dx (x, y, y∗)) + t ( (x, y, y∗) ∂z dx ∂z dx ( ∂f ∂f \ b b r d ( ∂f \ d ( ∂f \l = (1 - t) ∂z(x, y, y∗)) + t ∂z (x, y, y∗) · h - (1 - t) (x, y, y∗) + t (x, y, y∗) dx. a a Отсюда, подставляя (5.23) в (5.22), находим: dx ∂z dx ∂z (5.23) b (r ( ∂f d ( ∂f \ 0 ∈ (1 - t) a - (x, y, y∗) ∂y dx (x, y, y∗) + ∂z ( ∂f d ( ∂f \\l + t ∂y(x, y, y∗) - dx (x, y, y∗) ∂z hdx 0 t 1 = b r ∂f = (x, y, y∗) - d ( ∂f (x, y, y∗) \lhdx; b r ∂f (x, y, y∗) - d ( ∂f \l (x, y, y∗) l hdx . (5.24) ∂y dx ∂z a ∂y dx ∂z a Из (5.24) по основной лемме (теорема 5.4) следует включение Эйлера-Лагранжа (5.21). Решение включения (5.21) назовем субэкстремалью функционала (5.20). Замечание 5.1. Включение Эйлера-Лагранжа (5.21) можно равносильным образом переписать в виде «уравнения Эйлера-Лагранжа с параметром»: ∂f ∂f l d ∂f ∂f l п.в. (1 - t) ∂y (x, y, y∗)+ t ∂y (x, y, y∗) - dx (1 - t) ∂z (x, y, y∗)+ t ∂z (x, y, y∗) = 0. Субэкстремаль y(·) является решением этого уравнения при некотором t ∈ [0; 1]. Исследуем, в качестве существенного частного случая, случай модулированного интегранта из примера 5.1. Теорема 5.6. Пусть b r Φ(y) = a |f (x, y, y∗)|dx (f ∈ C1(R3),y ∈ C1[a; b], y(a) = ya, y(b) = yb). (5.25) Для функционала (5.25) включение Эйлера-Лагранжа принимает вид альтернативы: ⎡ либо ∂f (x, y, y∗) - d ( ∂f \ (x, y, y∗) = 0 (при f (x, y, y∗) /= 0); ⎢ ∂y ⎣ dx ∂z (5.26) либо f (x, y, y∗) = 0 (без дополнительных условий). В частности, если mes(f (x, y, y∗) = 0), мы приходим к обычному уравнению Эйлера-Лагранжа для f (почти всюду). ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 119 Доказательство. Обозначим через ϕ(x, y, z) = |f (x, y, z)|. Используя результат примера (5.1), получаем: ⎧ ∂f ⎧ ∂f ⎪⎪ ⎪⎪⎪ - ⎪ ⎪ ∂y ⎨ ∂ f , f (x, y, z) < 0, ∂y ⎪ - ⎪⎪ , f (x, y, z) < 0, ⎪⎪ ⎪⎪ ∂z ⎨ ∂f Kϕ = ⎪⎪ ∂y , f (x, y, z) > 0, K ∂z ϕ = ⎪⎪ , f (x, y, z) > 0, ∂z ∂f ⎪⎪ ⎪ ⎪ ∂fl ⎪ ⎪⎪ ∂f ⎪ ∂zl Иначе говоря, ⎩ ⎪ ; ∂y ∂y ⎩⎪ , f (x, y, z) = 0, ⎧ ; ∂z ∂y , f (x, y, z) = 0. ⎫ ⎪⎪ ∂f ∂f ⎪⎪ ∂y ⎪⎨ Kϕ = ⎪⎪ ⎪ - ∂y, f (x, y, z) < 0; ∂f , f (x, y, z) > 0 ∂y ⎬ , ⎪⎪ ⎪⎩ (2λ - 1) ∂y, f (x, y, z) = 0, 0 λ 1 ⎪⎭ ∂z Kϕ = ⎧ ⎪⎪⎨ ∂f - ∂z , f (x, y, z) < 0; ∂f ∂f ⎫ . ∂z, f (x, y, z) > 0⎪⎪⎬ ⎪⎪⎩ (2μ - 1) Отсюда находим сублагранжиан: ∂z, f (x, y, z) = 0, 0 μ 1 ⎪⎪⎭ ⎧ ⎪⎪ - ( ∂f - d ( ∂f \\ , f (x, y, z) < 0 ( ∂f - d ( ∂f \\ ⎫ , f (x, y, z) > 0 ⎪⎪ LK (ϕ)(y) п.в. ⎪⎨ = ⎪⎪ ∂y dx ∂z ∂f ∂y d ( ∂f\ dx ∂z ⎬⎪ . ⎪⎪ ⎩⎪ (2λ - 1) ∂y - (2μ - 1) dx ∂z , f (x, y, z) = 0, 0 λ 1; 0 μ 1⎪⎭ Таким образом, включение Эйлера-Лагранжа примет вид: ⎡ ∂f L(f )(y) = - d ( ∂f \ , f (x, y, z) /= 0, ⎢ ∂y dx ⎢ ⎢ ∂f ∂z d ( ∂f\ ⎣ Lαβ (f )(y) = α ∂y - β dx ∂z , -1 α, β 1 , f (x, y, z) = 0. В частности, при α = β = 0 равенство L00(f )(y) ≡ 0 тождественно выполнено, поэтому включение Эйлера-Лагранжа (5.26) при f (x, y, z) также тождественно выполнено. Таким образом, в нашем случае включение Эйлера-Лагранжа приводится в следующим условиям ⎡ либо ∂f d ( ∂f \ - = 0, при f (x, y, z) /= 0, ⎢ ∂y ⎣ dx ∂z (5.27) либо f (x, y, z) = 0 (без дополнительных условий). Рассмотрим конкретный пример «модулированного» гармонического осциллятора (см. [30, 31]). Пример 5.4. Пусть Φ(y) = π/2 r |y∗2 - y2|dx. (5.28) 0 Здесь f (y, z) = z2 - y2, L(f )(y) = -2y - 2y∗∗. При этом f (y, y∗) = y∗2 - y2 = 0 ⇔ y∗ = ±y, поэтому условие (5.27) примет вид: I либо y∗∗ + y = 0, при y∗ /= ±y, либо y∗ = ±y, при y∗ = ±y. (5.29) 120 И. В. ОРЛОВ Решая уравнения в (5.29), приходим к условиям I либо y = C1 cos x + C2 sin x, либо y = Me±x. (5.30) Рассмотрим функцию ⎧ y = sin x, при 0 x π/4, ⎨ y0(x) = ⎩ y = √2 e-π/4ex 2 , при π/4 x π/2. Непосредственно проверяется, что функция y0(x) удовлетворяет паре условий (5.30). Таким образом y0(x) - субэкстремаль, при этом: ⎧ ⎪⎪⎨ y0(π/4 - 0) = sin π/4 = ⎪⎪ y0(π/4 - 0) = cos π/4 = √2 = y0(π/4+ 0), 2 √2 = y0(π/4+ 0), ⎩ ∗ 2 ∗ откуда следует, что y0 ∈ C1[0; π/2]. При этом прямая проверка достаточных условий Лежандра-Якоби показывает, что на экстремали y1(x) = sin x вариационный функционал Φ1(y) = π/4 r (y∗2 - y2)dx 0 достигает строгого локального минимума. Тогда из неравенства π/4 r Φ 1(y) = 0 |y∗2 - y2|dx ) Φ1(y) ) Φ1(y1) следует, что вариационный функционал Φ 1(y) тем более достигает на экстремали y1(x) строгого локального минимума. Далее, поскольку вариационный функционал π/2 r Φ2(y) = π/4 |y∗2 - y2|dx неотрицателен и на экстремали y2(x) = √2 e-π/4ex 2 обращается в нуль, то Φ2 достигает строгого локального минимума на экстремали y2(x). Наконец, поскольку Φ(y) = Φ 1 ( \ y [0;π/4] + Φ2 ( \ y , [π/4;π/2] то вариационный функционал Φ(y) достигает строгого локального минимума на субэкстремали ( y1(x), 0 x π/4, y0(x) = y2(x), π/4 x π/2. Таким образом, на данной субэкстремали y0(x) достигается строгий локальный минимум вариационного функционала (5.28). В заключении рассмотрим вариационную задачу с модулем под знаком интегранта (см. пример 5.2). Теорема 5.7. Пусть b r Φ(y) = a f (x, y, |y∗|)dx (f ∈ C1(R3),y ∈ C1[a; b], y(a) = ya, y(b) = yb). (5.31) ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 121 Для функционала (5.31) включение Эйлера-Лагранжа принимает вид следующей альтернативы: ⎡ ∂f (x, y, y∗) - d ( ∂f \ (x, y, y∗) = 0 (при y∗ > 0); ⎢ ∂y ⎢ dx ∂z ⎢ ∂f d ( ∂f \ ⎢ ⎢ (x, y, -y∗)+ (x, y, -y∗) = 0 (при y∗ < 0); ⎢ ∂y ⎢ ⎢ ∂f dx ∂z d ( ∂f \ d ( ∂f \l ⎣ 0 ∈ ∂y(x, y, 0) + - dx (x, y, 0) ;+ ∂z dx (x, y, 0) ∂z (при y∗ = 0). В частности, если mes(y∗ = 0) = 0, мы приходим к уравнению ∂f (x, y, |y∗|) - (sign y∗) d ( ∂f \ (x, y, |y∗|) = 0 (п. в.) (5.32) ∂y dx ∂z Доказательство. Рассмотрим для простоты только случай mes(y∗ = 0) = 0. В этом случае интегрирование по частям в (5.16) (пример 5.2) приводит к равенству b r ∂f 0 = ∂y a (x, y, |y∗|) - | | d ( ∂f \l sign y∗ (x, y, y∗ ) dx ∂z hdx = b r ∂f ∂y a (x, y, |y∗|) - sign y∗ ∂f l ∂z (x, y, |y∗|) hdx при любом h ∈ C1[a; b], h(a) = h(b) = 0. Отсюда стандартным путем следует уравнение (5.32). 3. Второй K-субдифференциал основного вариационного функционала. Напомним классическую формулу второй вариации. Если b r Φ(y) = a f (x, y, y∗)dx (f ∈ C2(R3),y ∈ C1[a; b]), (5.33) то функционал (5.33) дважды сильно дифференцируем всюду в C1[a; b], причем для любого h ∈ C1[a; b]: Φ∗∗(y)(h)2 = b r ∂2f (x, y, y∗)h2 +2 ∂2f (x, y, y∗)h · h∗ + ∂2f l (x, y, y∗)h∗2 dx. (5.34) ∂y2 a ∂y∂z ∂z2 sub Мы обобщим здесь это условие на случай субгладких интегрантов класса C2 (R3). При этом, как K и в случае ∂K Φ, точное равенство (5.34) переходит в оценку ∂2 Φ. Теорема 5.8. Рассмотрим вариационный функционал b r Φ(y) = a sub f (x, y, y∗)dx (f ∈ C2 (R3),y ∈ C1[a; b]). (5.35) Функционал (5.35) дважды K-субдифференцируем всюду в C1[a; b], причем справедлива оценка: b r ( ∂2f ∂2f \ ∂2 2 ∗ 2 ∗ ∗ K Φ(y)(h) ⊂ a ∂y2 (x, y, y )h + (x, y, y )hh ∂y∂z dx; / b r ∂2f 2 ∂2f \ l ∂y2 (x, y, y∗)h a b + (x, y, y∗)hh∗ ∂y∂z b dx + r ( ∂2f + ∂z∂y a (x, y, y∗)hh∗ + ∂2f ∂z2 \ (x, y, y∗)h∗2 dx; r / ∂2f ∂z∂y a (x, y, y∗)hh∗ + ∂2f ∂z2 \ (x, y, y∗)h∗2 l dx . (5.36) 122 И. В. ОРЛОВ Доказательство. Так как f дважды K-субдифференцируем, то f один раз дифференцируем обычным образом, т. е. существует f ∗. Тогда вариационный функционал Φ(y) также один раз дифференцируем в обычном смысле и его дифференциал выглядит следующим образом: b r Ψ(y)h = Φ∗(y)h = (f ∗ (x, y, y∗)h + f ∗ (x, y, y∗)h∗)dx. (5.37) y z a Введем вспомогательный линейный оператор (Ay)(x) = (x, y(x), y∗(x)), A : C1[a, b] → R × C1[a, b] × C[a, b]. Очевидно, оператор A непрерывен. Теперь введем оператор композиции )) B(A (y)) = (f ∗ (A (y)), f ∗ (A (y)) =: (B1(A (y)), B2(A (y \\ , y z где A ∈ L(C1[a, b]; R × C1[a, b] × C[a, b]). Введем также линейный по u, v и по h интегральный оператор: b r D(u, v) = a [u(x)h(x)+ v(x)h∗(x)]dx, D : C[a, b] → R. Тогда вариационный функционал Ψ может быть записан в виде композиции Ψ(y)h = D[(Bfyt (A), Bfzt (A))]h. (5.38) Применяя к композиции (5.38) теорему 3.13 о K-субдифференцировании композиции, получаем ∂K Ψ(y)h = ∂K (D[(B(Ay)])h ⊂ [∂KD(B(Ay)) · [∂KB(Ay) · ∂KA(y)]] h. (5.39) Теперь рассмотрим в отдельности компоненты справа в (5.39). 1. Так как A - линейный непрерывный оператор, то он дифференцируем по Фреше, причем A∗(y) ≡ A. Следовательно, ∂K (Ay)(x) = (x, y(x), y∗(x)). 2. Для операторов B = (B1, B2), используя теорему о покоординатной K-субдифференцируемости 3.10, имеем: ∂KB(Ay)h ⊂ (∂KB1(Ay)h) × (∂KB2(Ay)h) ⊂ ∂ ∂ ( y ( y ∂ (f ∗ (x, y, y∗))h + ∂ (f ∗ (x, y, y∗))h∗]× ⊂ [ ∂y f ∗ (x, y, y∗))h + ∂z f ∗ (x, y, y∗))h∗; ∂y y ∂z y ∂ (f ∗ (x, y, y∗))h + ∂ (f ∗ (x, y, y∗))h∗; ∂ (f ∗ (x, y, y∗))h + ∂ (f ∗ (x, y, y∗))h∗]. ×[ ∂y z ∂z z ∂y z ∂z z 3. Так как D - линейный непрерывный функционал, то он дифференцируем по Фреше, причем D∗(v) ≡ D. Отсюда: b r (I ∂2f ∂2f ( ∂2f ∂2f 1 (x, y, y∗)h · h+ ∂K Ψ(y)h ⊂ a ∂y2 (x, y, y∗)h + ∂y∂z x, y, y∗)h∗; ∂y2 (x, y, y∗)h + ∂y∂z I ∂2f + (x, y, y∗)h + ∂2f (x, y, y∗)h∗; ∂2f (x, y, y∗)h + ∂2f 1 (x, y, y∗)h∗ · h∗ \ dx = ∂z∂y ⎡rb ( ∂2f ∂z2 2 ∂ f 2 \ (x, y, y∗)hh∗ ∂z∂y b r / ∂2f dx; ∂z2 (x, y, y∗)h2 + ∂2f \ (x, y, y∗)hh∗ ⎤ dx + = ⎣ ∂y2 (x, y, y∗)h a ⎡ b + ∂y∂z ∂y2 a b ∂y∂z ⎦ ⎤ r ( ∂2f (x, y, y∗)hh∗ + ∂2f \ (x, y, y∗)h∗2 r dx; / ∂2f (x, y, y∗)hh∗ + ∂2f \ (x, y, y∗)h∗2 dx . ⎣ + ∂z∂y a ∂z2 ∂z∂y a ∂z2 ⎦ (5.40) ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 123 Здесь, как и при оценке ∂K Φ, мы также выделим случай интегранта, образованного внешней sub композицией субгладкой функции (теперь уже класса C2 ) с гладкой функцией. Теорема 5.9. Пусть b r Φ(y) = a sub ϕ rf (x, y, y∗) dx (ϕ ∈ C2 (R),f ∈ C2(R3),y ∈ C1[a; b]). Тогда Φ дважды K-субдифференцируем всюду в C1[a; b], причем справедлива оценка (в краткой записи): b ∂ r ( ∂2 2 ∗ 2 ∂ ∗\ ⎡rb K Φ(y)(h) ⊂ ϕ (f ) a h + h ∂y ∂z b r fdx+ ⎤ + ⎣ ϕ∗∗(f ) ((fy )2h2 + fyzhh∗) dx; a a ϕ∗∗(f ) ((fy )2h2 + fyzhh∗) dx⎦ + ⎡rb rb ⎤ + ⎣ ϕ∗∗(f ) (fyzhh∗ + (fz )2h∗2) dx; a a ϕ∗∗(f ) (fyzhh∗ + (fz )2h∗2) dx⎦ . (5.41) Доказательство. Непосредственные вычисления дают: ϕ(f )y2 = ϕ∗∗(fy )2 + ϕ∗(f )fy2 ; ϕ(f )y2 = ϕ∗∗(f )(fy )2 + ϕ∗(f )fy2 ; ϕ(f )z2 = ϕ∗∗(fz )2 + ϕ∗(f )fz2 ; ϕ(f )z2 = ϕ∗∗(f )(fz )2 + ϕ∗(f )fz2 ; ϕ(f )yz = ϕ∗∗fyfz + ϕ∗(f )fyz ; ϕ(f )yz = ϕ∗∗(f )fyfz + ϕ∗(f )fyz. Подстановка этих величин в (5.36) приводит, после преобразований, к оценке (5.41). Рассмотрим, в качестве конкретного примера, класс интегрантов вида f (x, y, y∗)|f (x, y, y∗)|. Теорема 5.10. Пусть b r Φ(y) = a f (x, y, y∗)|f (x, y, y∗)|dx (f ∈ C2(R3),y ∈ C1[a; b]). Тогда справедлива оценка (в краткой записи): b r ( ∂ ∂ \2 r ∂2 2 ∗ ∗)2 K Φ(y)(h) ⎡ ⊂ |f | a r h + h ∂y ∂y fdx +2 (f I=0) r sign f (fyh + fzh ⎤ dx+ + ⎢ ( 2 ∗) ( 2 ∗) ⎥ ⎣-2 (f =0) ⎡ r fy2 h + fyz hh dx; +2 (f =0) r fy2 h + fyz hh dx⎦ + ⎤ + ⎢ ( 2) ( 2) ⎥ ⎣-2 (f =0) fyz hh∗ + fz2 h∗ dx; +2 (f =0) fyz hh∗ + fz2 h∗ dx⎦ . (5.42) В частности, если mes(f (x, y, y∗) = 0) = 0, то оценка (5.42) переходит в точное равенство: b r ( ∂ ∂ \2 b r ( ∂f ∂f \2 ∂2 2 ∗∗ 2 ∗ ∗ K Φ(y)(h) = Φ (y)(h) = |f | a h + h ∂y ∂z fdx +2 a sign f h + h ∂y ∂z fdx. В заключение приведем простейший пример. 124 И. В. ОРЛОВ Пример 5.5. Пусть b r Φ(y) = a y∗|y∗|dx. Здесь применение оценки (5.42) приводит к точному равенству: r ∂2 2 ∗∗ 2 ∗ ∗2 r ∗2 r ∗2 K Φ(y)(h) = Φ (y)(h) = 2 (ytI=0) (sign y )h dx = 2 h (yt>0) dx - 2 h (yt<0) dx. В частности, если mes(y∗ = 0) = 0, получаем: ∂2 2 b 2 r ∗ ∗2 K Φ(y)(h) = ΦK (y)(h) = 2 (sign y )h a dx. 1. K-аналог необходимого условия Лежандра. Напомним классическое необходимое условие Лежандра для минимума основного вариационного функционала: b r Φ(y) = a f (x, y, y∗)dx (f ∈ C2(R3),y ∈ C1[a; b], y(a) = ya, y(b) = yb). (5.43) Если функционал (5.43) достигает локального минимума в точке y ∈ C1[a; b], то ∂2f ∂z2 (x, y, y∗) ) 0 всюду на [a; b]. Мы обобщим здесь это условие на класс интегрантов второго порядка субгладкости. Как и в классическом случае, базовым является соответствующее условие неотрицательности квадратичного функционала. Теорема 5.11. Рассмотрим квадратичный функционал b r Φ (h) = a rP (x)h∗2 + Q(x)h2 dx (h ∈ C1[a; b], h(a) = h(b) = 0). Если коэффициенты P (x) и Q(x) ограничены, P (x) полунепрерывен сверху всюду на [a; b], и Φ (h) ) 0 при всех допустимых h, то P (x) ) 0 всюду на [a; b]. Доказательство. Допустим противное: P (x0) < 0 в некоторой точке x0 ∈ [a; b]. Тогда, в силу полунепрерывности сверху в точке x0, P (x) < 0 в некоторой δ-окрестности x0. Положим, следуя классической схеме: ⎧ √ ( x - x0\ ⎪⎪⎪ ⎪⎪ ⎨ δ 1+ δ при x0 - δ x x0, h(x) = √ ( x - x0\ ⎪ ⎪⎪ δ 1 - δ ⎪ при x0 x x0 + δ, ⎪⎩ 0 при остальных x ∈ [a; b]. Стандартная выкладка приводит к равенству Φ (h) = x0+δ r Q(x)h2dx + x0+δ r P (x)h∗2dx =: Φ Q(h)+ Φ P (h). (5.44) x0-δ Оценим оба слагаемых в (5.44). x0-δ ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 125 В силу ограниченности Q, |Φ Q(h)| MQ x0+δ r h2dx = 2MQδ. (5.45) x0-δ В силу теоремы Вейерштрасса для полунепрерывных сверху функций, P (x) -mP < 0 при x ∈ [x0 - δ; x0 + δ]. Отсюда Из (5.45)-(5.46) получаем: Φ P (h) -mP x0+δ r h2dx = -mP x0-δ 1. mP δ2δ = - 2 . (5.46) Φ (h) - P m + 2MQδ2 < 0 2 при достаточно малых δ > 0, что противоречит условию. K Из теоремы 5.11, общей оценки ∂2 (Φ) (теорема 5.8) и общего необходимого условия минимума в терминах второго K-субдифференциала (теорема 4.16) нетрудно получить необходимое условие sub второго порядка для минимума вариационного функционала с интегрантом из класса C2 (R3). Теорема 5.12. Рассмотрим вариационный функционал b r Φ(y) = a sub f (x, y, y∗)dx (f ∈ C2 (R3),y ∈ C1[a; b], y(a) = ya, y(b) = yb). (5.47) Если функционал (5.47) достигает локального минимума в точке y ∈ C1[a; b], то ∂2f ∂z2 (x, y, y∗) ) 0 всюду на [a; b]. (5.48) K Доказательство. Применим по формуле (5.36) оценки ∂2 Φ(y)(h)2 интегрирование по частям к слагаемым под интегралами, содержащим множитель hh∗, и преобразуем полученную сумму отрезков как выпуклую оболочку крайних точек: b r ( ∂2f d ( ∂2f \\ ∂2 2 ∗ (x, y, y∗) h2dx; K Φ(y)(h) ⊂ a ∂y2 (x, y, y ) - dx ∂y∂z / b r ∂2f d / ∂2f \\ (x, y, y∗) l h2dx + ∂y2 (x, y, y∗) - dx a b r ( ∂2f + (x, y, y∗)h∗2 - ∂y∂z d ( ∂2f \ (x, y, y∗) \ h2 dx; ∂z2 a dx ∂z∂y / b r ∂2f 2 d / ∂2f \ \ l (x, y, y∗) h2 dx = b (r ∂2f ∂z2 (x, y, y∗)h∗ a ( ∂2f - dx ∂z∂y d ( ∂2f ∂2f \\ l = co a ∂z2 (x, y, y∗)h∗2 + ∂y2 (x, y, y∗) - dx (x, y, y∗)+ ∂y∂z (x, y, y∗) ∂z∂y h2 dx; I b r ∂2f ∂ f 2 / 2 d / ∂2f ∗ (x, y, y∗)+ ∂2f \\ 1 (x, y, y∗) h2 dx; ∂z2 (x, y, y∗)∗h + a ∂y2 (x, y, y ) - dx ∂y∂z ∂z∂y 126 И. В. ОРЛОВ rb I ∂2f ∂ f 2 / 2 d / ∂2f ∗ (x, y, y∗)+ ∂2f \\ 1 (x, y, y∗) h2 dx; ∂z2 (x, y, y∗)h∗ + a ∂y2 (x, y, y ) - dx ∂y∂z ∂z∂y I b r ∂2f ∂ f 2 / 2 d / ∂2f ∗ (x, y, y∗)+ ∂2f \\ 1 (x, y, y∗) h2 dx =: ∂z2 (x, y, y∗)h∗ + a ∂y2 (x, y, y ) - dx ∂y∂z ∂z∂y =: co {I1(h), I2(h), I3(h), I4(h)} . (5.49) Далее, по необходимому условию второго порядка для минимума (теорема 4.16), K max ∂2 Φ(y)(h)2 ) 0 (∀ h ∈ C1[a; b], h(a) = h(b) = 0). Из оценки (5.49) и последнего условия получаем: max {I1(h), I2(h), I3(h), I4(h)} ) 0. (5.50) Обозначим теперь: P (x) = max / ∂2f ∂z2 (x, y, y∗), ∂2f ∂z2 \ (x, y, y∗) = ∂2f ∂z2 (x, y, y∗); Q(x) = max I( ∂2f (x, y, y∗) - d ( ∂2f (x, y, y∗)+ ∂2f \\ (x, y, y∗) , / ∂2f ∂y2 dx d / ∂2f ∂y∂z (x, y, y∗)+ ∂2f ∂z∂y \\ (x, y, y∗) , ∂y2 (x, y, y∗) - dx ∂y∂z ∂z∂y / ∂2f d / ∂2f (x, y, y∗)+ ∂2f \\ (x, y, y∗) , ∂y2 (x, y, y∗) - dx ∂y∂z ∂z∂y / ∂2f d / ∂2f (x, y, y∗)+ ∂2f (x, y, y∗) \\1 . ∂y2 (x, y, y∗) - dx b ∂y∂z ∂z∂y Положим I(h) = (P (x)h∗2 + Q(x)h2)dx. Тогда из неравенств Ik (h) I(h) k = 1, 4 и неравенa ства (5.50) следует I(h) ) 0 при любом h ∈ C1[a; b] h(a) = h(b) = 0. Применяя теперь к I(h) теорему 5.11, получим P (x) = ∂2f ∂z2 (x, y, y∗) ) 0 (a x b). Приведем конкретный пример с еще одним вариантом модуляции гармонического осциллятора. Пример 5.6. Пусть Φ(y) = r π/2 (y∗|y∗|- y2)dx (y ∈ C1[0; π ], y(0) = 0, y( π ) = 1). 2 2 0 Ограничимся рассмотрением функций y ∈ C1[0; T ], для которых множество стационарных точек имеет нулевую меру: mes(y∗ = 0) = 0. Для таких функций уравнение Эйлера-Лагранжа принимает вид: ⎡ y∗∗ + y = 0 при y∗ > 0 ⎢ (почти всюду на [0; T ]); ⎣ (5.51) Далее, y∗∗ - y = 0 при y∗ < 0. ∂2f ∂z2 (x, y, y∗) = ( 2, y∗ ) 0, -2, y∗ < 0. ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 127 Таким образом, ни одна немонотонная функция не удовлетворяет ни условию (5.48), ни сопряженному неравенству для максимума: ∂2f ∂z2 (x, y, y∗) 0 почти всюду на [a; b]. Среди монотонных функций (при данных граничных условиях) уравнению (5.51) удовлетворяют функции y = sin x и y = sh x/sh π . 2 2. K-аналог достаточных условий Лежандра-Якоби. Вначале напомним классические результаты, связанные с понятием сопряженной точки. Определение 5.1. Рассмотрим квадратичный функционал b r Φ (h) = a (P (x)h∗2 + Q(x)h2) dx (P, Q ∈ C[a; b], h ∈ C1[a; b]). (5.52) x Точка ∈ (a; b) называется сопряженной с a для функционала (5.52), если уравнение Эйлера- Лагранжа для Φ d Qh - dx (P h∗) = 0 (h(a) = 0, h∗(a) = 1) имеет ненулевое решение h(x) такое, что h( . x) = 0 Достаточное условие Лежандра-Якоби положительной определенности квадратичного функционала (5.52) имеет следующий вид. Теорема 5.13. Если для квадратичного функционала (5.52) выполнены условия 1. P (x) > 0 при a x b, 2. отрезок (a; b] не содержит точек, сопряженных с a, то квадратичный функционал (5.52) положительно определен в C1[a; b]. На основе теоремы 5.13 и формулы второй вариации доказываются достаточные условия Лежандра-Якоби для минимума вариационного функционала. Теорема 5.14. Пусть для вариационного функционала b r Φ(y) = a f (x, y, y∗)dx (f ∈ C2(R3),y ∈ C1[a; b], y(a) = ya, y(b) = yb). функция y - экстремаль. Если вдоль y выполнены условия 2 1. ∂ f (x, y, y∗) > 0 при a x b (усиленное условие Лежандра), ∂z2 2. для уравнения Якоби d ( ∂2f \ d ( ∂2f \ ∂2f l dx ∂z2 (x, y, y∗)h∗ - - dx (x, y, y∗) ∂y∂z + (x, y, y∗) ∂y2 h = 0 (h(a) = 0, h∗(a) = 1) (5.53) выполнено условие Якоби отсутствия сопряженных точек, то Φ достигает в точке y строгого локального минимума. Наша цель - обобщить результат теоремы 5.13 на случай квадратичных функционалов с ограниченными и полунепрерывными снизу коэффициентами P (x) и Q(x), и на этой основе обобщить результат теоремы 5.14 на случай C2-субгладкого интегранта. Заметим, что понятие сопряженной точки переносится на этот случай без изменений. Сформулируем аналог теоремы 5.13. Теорема 5.15. Рассмотрим квадратичный функционал b r Φ (h) = a (P (x)h∗2 + Q(x)h2) dx (h ∈ C1[a; b]), (5.54) 128 И. В. ОРЛОВ коэффициенты которого P (x) и Q(x) ограничены и полунепрерывны снизу на [a; b]. Если для функционала (5.52) выполнены условия Лежандра-Якоби (1)-(2) из теоремы 5.13, то он положительно определен в C1[a; b]. Доказательство. Следуя стандартной схеме доказательства для гладкого случая, добавим к выражению, стоящему под знаком интеграла в (5.54), величину вида d(wh2); при этом значение интеграла не изменится. Если w(x) удовлетворяет уравнению P (Q + w∗) = w2, (5.55) то функционал (5.54) приводится к виду: b r w 2 Φ (h) = a P (h∗ + h) dx. P Стандартным образом проверяется, что Φ (h) > 0 при h /= 0, с учетом того, что из полунепрерывности P снизу на [a; b] следует P (x) ) γ2 > 0 и ограниченность (1/P (x)). Отсюда в силу квадратичности функционала Φ , следует его положительная определенность. Остается показать, что уравнение Риккати (5.55) имеет решение. Стандартными преобразованиями оно приводится к уравнению d (Pu∗)+ Qu = 0, - dx т. е. к уравнению Якоби для функционала (5.54). По условию, это уравнение имеет решение u(x), которое не обращается в нуль при a < x b. Тогда существует и решение уравнения (5.55), определенное равенством w = -Pu∗u-1. Итак, функционал (5.54) положительно определен на C1[a; b]. Теперь перейдем к центральному результату - C2-субгладкому аналогу теоремы 5.14. Теорема 5.16. Рассмотрим вариационный функционал b r Φ(y) = a sub f (x, y, y∗)dx (f ∈ C2 (R3),y ∈ C1[a; b], y(a) = ya, y(b) = yb). (5.56) Предположим, что y - субэкстремаль функционала (5.56), т. е. почти всюду удовлетворяет уравнению Эйлера-Лагранжа. Пусть вдоль субэкстремали y выполнены следующие условия: ∂2f 1. ∂z2 (x, y, y∗) > 0 при a x b («нижнее» усиленное условие Лежандра); 2. для каждого из четырех уравнений Якоби, соответствующих вершинам двумерного матричного отрезка [J 2f (x); J 2f (x)]: d ∂2f l d ( ∂2f ∂2f \ ∂2f l dx ∂z2 (x, y, y∗) · h∗ - - dx (x, y, y∗)+ (x, y, y∗) ∂y∂z ∂z∂y + (x, y, y∗) ∂y2 · h = 0; (5.57) d ∂2f l d ( ∂2f ∂2f \ ∂2f l dx ∂z2 (x, y, y∗) · h∗ - - dx (x, y, y∗)+ (x, y, y∗) ∂y∂z ∂z∂y + (x, y, y∗) ∂y2 · h = 0; (5.58) d ∂2f l d ( ∂2f ∂2f \ ∂2f l dx ∂z2 (x, y, y∗) · h∗ - - dx (x, y, y∗)+ (x, y, y∗) ∂y∂z ∂z∂y + (x, y, y∗) ∂y2 · h = 0; (5.59) d ∂2f l d ( ∂2f ∂2f \ ∂2f l dx ∂z2 (x, y, y∗) · h∗ - - dx (x, y, y∗)+ (x, y, y∗) ∂y∂z ∂z∂y + (x, y, y∗) ∂y2 · h = 0; (5.60) (h(a) = 0, h∗(a) = 1) (5.61) выполнены условия Якоби отсутствия сопряженных точек. Тогда функционал (5.56) достигает строгого локального минимума в точке y. ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ 129 K Доказательство. Воспользуемся оценкой для ∂2 Φ(y)(h)2, полученной в доказательстве теоремы 5.12: ∂2 b 2 (r ∂2f ∂ f ( 2 ∗ ∗2 d ( ∂2f ∗ ∂2f \\ l (x, y, y∗ 2 K Φ(y)(h) ⊂ co a ∂z2 (x, y, y )h + ∂y2 (x, y, y ) - dx + ∂y∂z ∂y∂z ) h dx; b r ∂2f 2 ( ∂2f d ( ∂2f ∂2f \\ (x, y, y∗) h2 l dx; ∂z2 (x, y, y∗)h∗ + a b ∂y2 (x, y, y∗) - dx + ∂y∂z ∂y∂z r ∂2f 2 ( ∂2f d ( ∂2f ∂2f \\ 2l ∂z2 (x, y, y∗)h∗ + a ∂y2 (x, y, y∗) - dx + (x, y, y∗) ∂y∂z ∂y∂z h dx; b r ∂2f 2 ( ∂2f d ( ∂2f ∂2f \\ l (x, y, y∗) h2 dx =: ∂z2 (x, y, y∗)h∗ + a ∂y2 (x, y, y∗) - dx + ∂y∂z ∂y∂z =: co (h), J (h), J (h), J (h) . (5.62) J1 2 3 4 Проведем оценку каждого из интегралов Jk (h), k = 1, 4, пользуясь результатом теоремы 5.15. 1. Положим ∂2f ( ∂2f d ( ∂2f ∂2f \\ (x, y, y∗) . P1(x) = ∂z2 (x, y, y∗); Q1(x) = ∂y2 (x, y, y∗) - dx + ∂y∂z ∂y∂z Тогда уравнение Якоби для квадратичного функционала b r J1(h) = a [P1(x)h∗2 + Q1(x)h2]dx примет вид (5.57). Таким образом, если выполнено условие Якоби для уравнения (5.57) и усиленное условие Лежандра ∂2f P1(x) = ∂z2 (x, y, y∗) > 0 (a x b), то квадратичный функционал J1(h) положительно определен: 1 J1(h) ) γ2lhl2 (∀h ∈ C1[a; b], h(a) = h(b) = 0). 2. Аналогичным образом, обозначая через Pk (x) и Qk (x), соответственно, коэффициенты при h∗2 и h2 для функционалов b r Jk (h) = a [Pk (x)h∗2 + Qk (x)h2]dx (k = 2, 3, 4), мы приходим к условию Якоби для уравнений (5.58)-(5.60) и усиленным условиям Лежандра следующего вида: ∂2f ∂2f ∂2f P2(x) = ∂z2 (x, y, y∗) > 0; P3(x) = ∂z2 (x, y, y∗) > 0; P4(x) = ∂z2 (x, y, y∗) > 0 (a x b). Отсюда вытекает положительная определенность квадратичных функционалов Jk (h), k = 2, 3, 4: J2(h) ) γ2lhl2; J3(h) ) γ2lhl2; J4(h) ) γ2lhl2 (∀h ∈ C1[a; b], h(a) = h(b) = 0). 2 3 4 Таким образом, обозначая γ2 = min{γ2, γ2, γ2, γ2} > 0, приходим к следующему итогу. 1 2 3 4 При выполнении Якоби для каждого из уравнений (5.57)-(5.60) и усиленного условия Лежандра в форме ∂2f ∂z2 (x, y, y∗) > 0 (a x b), 130 И. В. ОРЛОВ выполнены неравенства Jk (h) ) γ2lhl2. Но тогда из оценки (5.62) вытекает неравенство ∂2 Φ(y)(h)2 ) γ2lhl2, т. е. ∂2 Φ(y) также положи- K K тельно определен. Следовательно, в силу общей теоремы 4.17, Φ достигает строгого локального минимума в точке y. Замечание 5.2. При переходе к достаточным условиям максимума в теореме 5.16, условие (1) заменяется на условие: ∂2f ∂z2 (x, y, y∗) < 0 при a x b. Условие (2) остается без изменения. В заключении рассмотрим пример применения теоремы 5.16 к еще одному варианту «модулирования» гармонического осциллятора. Пример 5.7. Пусть Φ(y) = π/2 r (y∗2 - y|y|)dx (y ∈ C1I π π ; y( π \ = 1, y(- π \ = -sh π \. (5.63) -π/2 - 2 2 , 2 2 2 Здесь уравнение Эйлера-Лагранжа принимает вид: I y∗∗ + y = 0 (y∗ ) 0), y∗∗ - y = 0 (y∗ 0). Таким образом, функция y = sin x (0 x π \ ( π = -shx - x 0 , является субэкстре- , y \ 2 π 2 2 . 2 малью функционала (5.63); при этом y ∈ C2I - π ; «Нижнее» условие Лежандра для субэкстремали y выполнено: ∂2f ∂2f ∂z2 (x, y, y∗) = ∂z2 (x, y, y∗) = 2 > 0. «Нижнее» уравнение Якоби (5.57) принимает вид: ⎡ h∗∗ + h = 0 (y∗ ) 0), \ ⎢ (h(- π ) = 0, h∗(- π ) = 1 ⎢ 2 2 ⎣ Отсюда h∗∗ - h = 0 (y∗ 0). ⎧ π π ( π \ ⎪⎨sin xch 2 + cos xsh 2 0 x 2 , h(x) = ( π \ ( π \ ⎪⎩sh x + 2 - 2 x 0 , и условие Якоби для уравнения (5.57), как легко видеть, выполнено. Условие Якоби для уравнений (5.57)-(5.61) проверяется аналогично. Таким образом, вариационный функционал (5.63) достигает на субэкстремали ( sin x, (0 x π ), строгого локального минимума. y = 2 2 -sh x, (- π x 0) В заключение скажем несколько слов о субгладкости. Как представляется, практические применения построенного в работе формализма определяются именно возможностью работать с субгладкими задачами так же уверенно, как классический анализ работает с гладкими задачами.