Введение в сублинейный анализ - 2: Симметрический вариант

Аннотация

Построена развитая теория симметрических дифференциалов Фреше и симметрических K-субдифференциалов Фреше первого и высших порядков, включающая, в частности, теорему о среднем и формулу Тейлора. Найдены простые достаточные условия симметрической K-субдифференцируемости. Рассмотрены некоторые приложения к рядам Фурье и вариационным функционалам.

Полный текст

1. Введение. По-видимому, симметрические производные с самого их возникновения занимают несколько изолированную позицию в вещественном анализе. Хотя на протяжении почти столетия с их определением, приложениями и обобщением был связан ряд блистательных имен - Риман, Шварц, Кантор, Валле-Пуссен, Сакс и другие (см. [4, 9, 15, 26, 30, 36, 38]), симметрические производные «знали свое место» - гармонический анализ, а в его рамках - применение второй симметрической производной к обобщенному суммированию. Развитый симметрический анализ так и не был создан даже в вещественном случае, да и бесконечномерная революция Гато- Адамара-Фреше обошла его стороной. Наш интерес к обобщению симметрической дифференцируемости первоначально также укладывался в рамки обобщения метода Римана: перейти к подходящему типу симметрического субдифференциала и поставить второй симметрический субдифференциал на место второй симметрической производной в рамках классической схемы Римана-Кантора. Конечно, базой для этого должен был послужить какой-либо минимальный вариант симметрического сублинейного анализа. Сами по себе субдифференциалы как важнейший инструмент негладкого анализа достаточно давно получили признание в математике (см. [5, 7, 8, 10-14, 21-24, 29, 35, 37]). Некоторое время назад в работах И. В. Орлова и Ф. С. Стонякина ( [17, 18, 39]) был введен и изучен компактный субдифференциал для отображений вещественного аргумента, получивший хорошие приложения в векторном интегрировании. Недавно в работах И. В. Орлова и З. И. Халиловой ( [19, 20, 33]) K-субдифференциальное исчисление было распространено на банахов случай, со значимым вариационным приложением. При этом соответствующие мультиоператоры образуют уже не банахово пространство, а банахов конус, и индуктивное определение высших K-субдифференциалов приводит к переводу всех конструкции в категорию банаховых конусов. Подробный обзор по этой тематике (см. [16]) недавно опубликован в СМФН. Симметрический же случай позволяет не выходить за рамки банаховых пространств, поскольку высшие производные и субдифференциалы не определяются индуктивным путем. С этой точки зрения, симметрический K-анализ оказывается проще несимметрического. Однако важные результаты, как в анализе, так и в субанализе, начинаются, как известно, от теоремы о среднем - «основной теоремы дифференциального исчисления», которая в симметрическом случае «под вопросом». Поворотный момент в наших исследованиях наступил, когда такая «симметрическая форма» теоремы о среднем появилась - на базе существенно иной техники доказательства. Началось то, что в своей Нобелевской лекции великий Бродский назвал «диктатом языка», а люди простые - математики - определяют оборотом речи: «Задача сама знает, как ей решаться». В итоге удалось построить, как представляется, достаточно развитое KS -субдифференциальное исчисление «многоцелевого» характера. Мы завершаем эту работу на подступах к вариационным приложениям, получив в пункте 6.5 оценку KS -субдифференциала одномерного вариационного 110 И. В. ОРЛОВ, И. В. БАРАН функционала. Перспективы возможных приложений в теории экстремальных задач обсуждаются в заключительных замечаниях. Результаты данной статьи частично изложены в работах [1-3]. Ниже даются краткие комментарии к основным блокам работы. Ставя задачу перехода от дифференциала к субдифференциалу, мы тем самым ставим задачу перехода от одноточечного предела разностных отношений (различного типа) к многозначной характеристике поведения совокупности разностных отношений вблизи данной точки. Из общих топологических соображений желательно, чтобы такая характеристика была выпуклой и компактной. Таков, например, классический субдифференциал Рокафеллара (см. [25]), однако исключение из его определения предельного процесса привело к резкому ограничению - требованию выпуклости субдифференцируемых функционалов. Дальнейшие многочисленные работы по субдифференциальному исчислению использовали, как правило, ту или иную форму многозначного предельного перехода. Представилось целесообразным выделить подходящий тип многозначного предельного перехода в явной форме, придав ему максимально простой вид. Так возникло понятие компактного предела (K-предела), которое вполне себя оправдало при построении теории K-субдифференциалов и исследовании их приложений (см., например, [16, 27, 28, 31, 32, 34]). В настоящей работе техника K-пределов использована, в основном, для определения симметрических K-субдифференциалов первого и высших порядков, а также при определении строгого K-субдифференциала (как вспомогательного инструмента в рамках данной теории). В пункте 1.2 мы даем необходимую информацию о K-пределах. Далее, классическая теория симметрических производных (см., например, [4, 9, 30]) не включает теорему о среднем. Более того, на первый взгляд, теорема о среднем плохо «стыкуется» с симметрическим характером производной. Тем более удивительным оказался тот факт, что при дополнительном условии абсолютной непрерывности, опираясь на теорему Витали о покрытиях, все-таки удалось получить теорему о среднем для симметрического случая (раздел 2). Это позволило распространить на данный случай и асимптотическую форму полной формулы Тейлора с несколько ослабленной оценкой (по сравнению с классическим «центрированным» случаем). В дальнейшем в работе эти результаты обобщаются как на случай сильных симметрических дифференциалов, так и на случай сильных симметрических K-субдифференциалов. Еще одним удивительным обстоятельством в теории симметрических производных оказалось отсутствие до сих пор их обобщения на случай банаховых пространств. Этот пробел мы восполняем (в третьем пункте раздела), следуя классической схеме Гато-Адамара-Фреше. На случай s-дифференциалов Фреше перенесена теорема о среднем. Важным моментом является исследование вопроса о композиции: показано, что композиция строго дифференцируемого и s-дифференцируемого отображения является s-дифференцируемой. Определение s-дифференциала n-го порядка, в отличие от центрированного случая, не является индуктивным. В качестве подходящей операторной базы мы вводим понятие степенного оператора n-го порядка и проверяем для него свойство «биномиальности». На этой основе полученная ранее s-формула Тейлора перенесена на векторный случай. В третьем разделе для удобства изложения теорию симметрических K-субдифференциалов (или KS -субдифференциалов) первого порядка мы излагаем сначала для случая скалярного аргумента. В случае вещественного аргумента первый симметрический K-субдифференциал (или KS -субдифференциал) еще не имеет K-операторной формы; это просто выпуклый компакт, что существенно упрощает исследование его свойств. В векторном случае мы легко можем трансформировать их в свойства KS -субдифференциала по направлению. Показано, что KS -субдифференциал является обобщением обычного K-субдифференциала, при этом симметрическая оценка - более точная. Наконец, мы рассматриваем формы формулы конечных приращений и теоремы о среднем для KS субдифференцируемых отображений с оценкой по норме, не требующие абсолютной непрерывности отображений. Как приложение, описан широкий класс случаев, когда KS -субдифференцируемость всюду на отрезке влечет почти всюду обычную дифференцируемость. В четвертом разделе, так же как и в третьем, для удобства изложения теорию KS -субдифференциалов высших порядков мы излагаем сначала для случая скалярного аргумента. При этом KS -субдифференциалы второго порядка рассмотрены отдельно, в связи с приложениями к обобщенному суммированию тригонометрических рядов. Отметим также, что «прямое» (индуктивное) определение KS -субдифференциалов высших порядков упрощает изложение. ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ - 2: СИММЕТРИЧЕСКИЙ ВАРИАНТ 111 Приступая к реализации плана переноса обобщенного суммирования Римана на случай вторых KS -субдифференциалов, мы переносим классическую теорему Шварца и ослабленное условие Шварца на случай дважды KS -субдифференцируемых функций. Посредством перехода в конструкции классического метода Римана от обычной второй симметрической производной к соответствующему KS -субдифференциалу мы вводим понятие K-метода Римана суммирования тригонометрических рядов. На основе предыдущих результатов мы обобщаем теорему Кантора о суммировании методом Римана тригонометрического ряда на случай K-метода Римана. В пятом разделе строится развитая теория KS -субдифференциалов первого порядка в банаховых пространствах. Вначале, вводя KS -операторы (K-операторы с полной однородностью), мы строим подходящую операторную базу. Затем, следуя обобщенной схеме Гато-Адамара-Фреше, последовательно вводятся KS -субдифференциалы по направлению, слабые, по Гато, и, наконец, KS -субдифференциалы Фреше. Мы вводим также строгие K-субдифференциалы, необходимые в дальнейшем. Для всех этих типов субдифференциалов установлены подходящие критерии. Изучены основные свойства сильных KS -субдифференциалов, среди которых выделим теорему о среднем и теорему о KS -субдифференцируемости композиции строго K-субдифференцируемого и симметрически K-субдифференцируемого отображения. Так как в симметрическом случае высшие субдифференциалы не носят индуктивный характер, общая схема их определения в шестом разделе сходна со схемой определения KS -субдифференциала первого порядка. Поскольку мы отправляемся здесь от конечных разностей высших порядков, операторной базой служит теория субстепенных KS -операторов. Построенный далее аппарат высших KS -субдифференциалов позволяет перенести на случай банаховых пространств асимптотическую форму формулы Тейлора. Получено точное описание высших KS -субдифференциалов от функционалов. Важным моментом является также введение понятия симметрической субгладкости (как первого, так и высших порядков). Это понятие позволяет в приложениях сводить ситуацию к нижним и верхним симметрическим производным, что и продемонстрировано в заключительном параграфе работы на примере вариационных функционалов. В заключительных замечаниях мы обсуждаем возможные перспективы применения симметрических дифференциалов и субдифференциалов в теории экстремальных задач. 2. K-пределы и признак Вейерштрасса для K-пределов. В этом пункте мы приводим общее определение K-предела в случае банаховых пространств и даем краткий перечень его необходимых свойств. Далее U (0) - замкнутая выпуклая окрестность нуля в вещественном банаховом пространстве E, co A - замкнутая выпуклая оболочка множества A ⊂ E. Приведем (в банаховом случае) определение и основные свойства K-пределов, рассмотренных в работах И. В. Орлова и Ф. С. Стонякина [17, 39]. Определение 1.1. Пусть {Bδ }δ>0 - убывающая по вложению система замкнутых выпуклых подмножеств E (K-система). Непустое множество B ⊂ E называется K-пределом системы {Bδ }δ>0: B = Klim Bδ , если: δ→0 1. ∀ U (0) ⊂ E ∃ δU > 0 : (0 < δ < δU ) =⇒ (B ⊂ Bδ ⊂ B + U ); 2. B- компактное множество в E. Таким образом, основными характеристиками K-предела являются равномерное топологическое стягивание множеств Bδ к своему непустому пересечению и компактность этого пересечения. K-предел обладает, в частности, следующими свойствами (см., например, [17]): 1. Монотонность: (B1 ⊂ B2 ∀ δ > 0) =⇒ (Klim B1) ⊂ (Klim B2). δ δ 2. Однородность: δ δ→+0 δ δ→+0 ∀ λ ∈ R : Klim Bδ = λ · Klim Bδ . 3. Обобщенная аддитивность: δ→+0 δ→+0 Klim (B1 + B2) = Klim B1 + Klim B2. δ→+0 δ δ δ δ→+0 δ δ→+0 112 И. В. ОРЛОВ, И. В. БАРАН 4. Обобщенная линейность: Klim (λ1 · B1 + λ2 · B2) = λ1 · Klim B1 + λ2 · Klim B1. δ→+0 δ δ δ δ→+0 δ δ→+0 5. Если F - вещественное банахово и A ∈ L(E; F ), то Klim A(Bδ ) = A( Klim Bδ ). δ→+0 δ→+0 6. Покоординатная сходимость: если B1 ⊂ E1, B2 ⊂ E2, то δ δ Klim(B1 × B2) = ( Klim B1) × ( Klim B2). δ δ δ→+0 δ δ→+0 δ δ→+0 Сформулированный ниже признак в дальнейшем играет базовую роль в теории K-субдифференциалов (см., например, [19, теорема 4.1]). Теорема 1.1. Пусть {Bδ }δ>0 - K-система в E. K-предел Klim Bδ существует в том и δ→0 только том случае, если для некоторого выпуклого компакта B˜ имеет место внешнее топологическое полустягивание системы {Bδ }δ>0 к B : ∀ U (0) ⊂ E ∃δU > 0 : (0 < δ < δU ) ⇒ (Bδ ⊂ B˜ + U ). (1.1) При этом Klim Bδ ⊂ B˜. δ→0 δ Следствие 1.1. Пусть {Bδ }δ>0 и {B∗ }δ>0 - две K-системы, причем: 1) B∗ ⊂ Bδ ) ∀ δ > 0; 2) ∃ Klim Bδ . δ δ→0 Тогда существует Klim B∗ , причем Klim B∗ ⊂ Klim Bδ . δ→0 δ δ→0 δ δ→0 1. СИММЕТРИЧЕСКИЕ ПРОИЗВОДНЫЕ И СИММЕТРИЧЕСКИЕ ДИФФЕРЕНЦИАЛЫ ФРЕШЕ. ОСНОВНЫЕ СВОЙСТВА И НЕКОТОРЫЕ ПРИЛОЖЕНИЯ 1. Симметрические производные первого и высших порядков. Теорема о среднем и формула Тейлора. В этом пункте мы рассматриваем теорему о среднем и формулу Тейлора для симметрических производных в случае абсолютно непрерывных отображений. Всюду далее мы рассматриваем отображение f : R ⊃ U (x) → F, определенное в некоторой окрестности U (x) точки x ∈ R, где F - произвольное вещественное банахово пространство. Напомним классические определения первой и высших симметрических производных (см. [4, 30, 38]), которые без труда распространяются на отображения со значениями в банаховых пространствах. Определение 2.1. Первой симметрической производной f в точке x называется предел 1 f [∗](x) = lim Δ f (x, h) = lim f (x + h) - f (x - h) . h→+0 2h h→+0 2h Определение 2.2. Симметрической производной n-го порядка отображения f в точке x называется величина Δnf (x, h) f [n](x) = lim = lim n 1 '\\"(-1)k Ck f (x + (n - 2k)h). h→0 (2h)n h→+0 (2h)n n k=0 Напомним также определение абсолютно непрерывного отображения. Определение 2.3. Отображение f : [a; b] → F называется (сильно) абсолютно непрерывным на [a; b], если ∀ε > 0 ∃ δ > 0 такое, что для любого конечного или счетного набора непересекающихся интервалов {(ak ; bk )} из области определения f, который удовлетворяет условию '\\"(bk - ak ) < δ, k выполнено '\\" lf (bk ) - f (ak )l < ε. k Вначале получим формулу конечных приращений для симметрического случая. Здесь, в отличие от обычного случая, мы вынуждены добавить требование абсолютной непрерывности. ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ - 2: СИММЕТРИЧЕСКИЙ ВАРИАНТ 113 Теорема 2.1. Пусть отображения f : R ⊃ [a; b] → F и g : R ⊃ [a; b] → R абсолютно непрерывны на [a; b] и симметрически дифференцируемы на (a; b), причем g возрастает. Если для некоторого замкнутого выпуклого множества B ⊂ F выполнена локальная оценка f [∗](x) ∈ g[∗](x) · B (a < x < b), то справедлива глобальная оценка: f (b) - f (a) ∈ [g(b) - g(a)] · B. (2.1) Доказательство. 1. Фиксируем ε > 0. Используя определение симметрической производной, выберем для каждого x ∈ [a + ε; b - ε] такое δ = δ(ε, x) > 0, что ⎧ f (x + h) - f (x - h) ⎪ [∗] ⎨ (0 < h <: δ) ⇒ 2h ∈ Uε(g (x) · B), g(x + h) - g(x - h) [∗] ⎪ ⎩ 2h ∈ Uε(g (x)) (здесь Uε - ε-окрестность множества U ). Отсюда получаем: (0 < h <: δ) ⇒ ( f (x + h) - f (x - h) 2h ∈ U2ε ( g(x + h) - g(x - h) \\\\ 2h · B . (2.2) 1. Система сегментов {U δ (x)}x∈[a+ε;b-ε], δ < δ(ε, x), очевидно, образует покрытие Витали (см. [6, 15]) множества [a + ε; b - ε]. По второй теореме Витали о покрытиях (см. [15]), для любого заданного η > 0 из данного покрытия можно выделить такую конечную систему сегментов n δi i i=1 {U (x ) n , что mes( S = [a + ε; b - ε]\\ i (x ) 1 U δ i i=1 < η. Последнее множество S состоит из конечного числа отрезков [αj ; βj ], j = 1,n + 1. В силу абсолютной непрерывности отображений f и g на [a; b], можно подобрать такое η = η(ε) > 0, что n+1 n+1 ( n+1 '\\" '\\" (mes S = '\\"(βj - αj ) < η ⇒ lf (βj ) - f (αj )l < ε, [g(βj ) - g(αj )] < ε . (2.3) Имеем: j=1 j=1 n j=1 n+1 f (b - ε) - f (a + ε) = '\\"[f (xi + δi) - f (xi - δi)] + '\\"[f (βj ) - f (αj )], (2.4) где в силу (2.2) i=1 j=1 ( g(xi + δi) - g(xi - δi) \\ и в силу (2.3) f (xi + δi) - f (xi - δi) ∈ 2δi · Uε n+1 n+1 2δi · B (i = 1, n), (2.5) '\\"[f (βj ) - f (αj )] ∈ Uε(0), j=1 '\\"[g(βj ) - g(αj )] ∈ (-ε; ε). (2.6) j=1 Подставляя оценки (2.5) и (2.6) в (2.4), с учетом выпуклости B имеем: n f (b - ε) - f (a + ε) ∈ '\\" i=1 Г 2δi · Uε ( g(xi + δi) - g(xi - δi) 2δi \\l · B + Uε(0) ⊂ ⊂ Uε / n \\ '\\" g(xi + δi) - g(xi - δi) · B i=1 + Uε(0) ⊂ (2.7) ⊂ Uε ([(g(b - ε)+ ε) - (g(a + ε) - ε)] · B)+ Uε(0). 2. Переходя в (2.7) к пределу при ε → 0, с учетом замкнутости B получаем (2.1). Докажем теперь теорему о среднем для симметрически дифференцируемых отображений. Теорема 2.2. Пусть отображение f : R ⊃ [x; x + h] → F абсолютно непрерывно на [x; x + h] и симметрически дифференцируемо в (x; x + h). Тогда выполняется оценка: f (x + h) - f (x) ∈ co f [∗]((x; x + h)) · h. (2.8) 114 И. В. ОРЛОВ, И. В. БАРАН Доказательство. Достаточно в условиях теоремы 2.1 положить g(θ) = θ и B = co {f [∗](x + θh)| 0 < θ < 1}, а затем применить формулу (2.1). Далее мы получим здесь формулу Тейлора в форме Пеано в предположении, что отображение f : R ⊃ U (x) → F (n - 1) раз дифференцируемо обычным образом в окрестности точки x и n раз симметрически дифференцируемо в точке x. Вначале сформулируем несколько вспомогательных утверждений. Лемма 2.1. Имеет место числовое равенство [ n 2] n '\\"(-1)k Ck (n - 2k)n = 2n-1n!. k=0 Предложение 2.1. Если существует (f (n-1))[∗](x), то существует симметрическая производная n-го порядка f [n](x) в точке x и имеет место равенство: f [n](x) = (f (n-1))[∗](x). (2.9) Доказательство. Применим теорему Коши для отображений скалярного аргумента в банахово пространство (см. [30]) (n - 1) раз по переменной h: Δnf (x, h) ( (Δnf (x, h))(n-1) (2h)n ∈ co ((2h)n)(n-1) θh 0 < θ < 1 ⊂ n 1 ( nn-1Δ1f (n-1)(x, nθh) - ··· + C 2 - 2n-1Δ1f (n-1)(x, 2θh) ( nn-1 ⊂ co Δ1f (n-1)(x, nθh) 2n (n - 2)n n n!(θh) Δ1f (n-1)(x, (n - 2)θh) 0 < θ < 1 ⊂ ⊂ co 2n-1(n - 1)! 2nθh - 2n-1(n - 1)! + ... 0 < θ < 1 . 2(n - 2)θh Полученную оценку можно записать в виде: [ n ] Δnf (x, h) 2 '\\" ( Δ1f (n-1)(x, αnk h) (2h)n ∈ co k=1 (2αnk h)n [ n ] 0 < θ < 1 · βnk , (2.10) n где αnk = n - 2k, βnk = (-1)k Ck (n - 2k)n 2n-1 · n! 2 . При этом '\\" βnk = 1 в силу леммы 2.1. Переходя к k=1 пределу в (2.10) при h → +0, получаем: [ n 2] f [n](x) ∈ '\\" βnk · /(f (n-1))[∗](x) = /(f (n-1))[∗](x) , (2.11) k=1 откуда в силу одноэлементности правой части в (2.11) имеем точное равенство: f [n](x) = (f (n-1))[∗](x). Справедлива следующая асимптотическая формула Тейлора для симметрических производных (более слабая по сравнению с классическим случаем). Теорема 2.3. Предположим, что существует (f (n-1))[∗](x) и отображение f сильно абсолютно непрерывно в окрестности U (x). Тогда имеет место оценка: - n 1 f (x + h) - '\\" f (k) k (x) 1 h ∈ co f [n]((x; x + h)) · hn + o(hn). (2.12) k! n! k=0 ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ - 2: СИММЕТРИЧЕСКИЙ ВАРИАНТ 115 Доказательство. Из существования (f (n-1))[∗](x) следует, что отображение f (x) определено и имеет обычные производные до (n - 1) порядка включительно в окрестности точки x. Применим математическую индукцию. 3. При n = 1 равенство (2.12) принимает вид: f (x + h) - f (x) ∈ co f [∗]((x; x + h)) · h + o(h), и мы приходим к теореме 2.1 о среднем. (n-2) [∗] 4. Допустим, что утверждение теоремы верно для порядка (n- 1): если существует (f и отображение f абсолютно непрерывно в U (x), то ) (x) hn-1 [n 1]( ) n 1 - f (x + h) - f (x) ∈ (n - 1)! co f (x; x + h) + o(h - ). [n-1]( ) Отсюда для любого yn-1 ∈ co f (x; x + h) получаем включение: hn-1 n 1 f (x + h) - f (x) - (n - 1)! yn-1 ∈ o(h - ), где o(hn-1) не зависит от выбора yn функцию: -1. Введем для любого yn ∈ co f [n]((x; x + h)) вспомогательную n - - '\\" n-1 f (k)(x) r (f ; h) = f (x + h) f (x) k! hk - hn n! yn. k=1 Вычисляя обычную производную по h вспомогательной функции rn, имеем: n-1 (k) n-1 r∗ ∗ '\\" f (x) k-1 h n(f ; h) = f (x + h) - k=1 h (k - 1)! - (n - 1)! yn, n-1 n откуда по допущению индукции следует: r∗ (f ; h) = rn-1(f∗; h) = o(h теорему о среднем в банаховых пространствах, получаем: ). Применяя классическую / rn(f ; h) ∈ co r∗ (f ; θh) 0 < θ < 1 · h = o(hn-1) · h = o(hn). n Итак, доказано по индукции, что n-1 (k) n k f (x + h) - '\\" f (x) h h - y ∈ o(hn), (2.13) k! k=0 n! n где многозначная оценка «о» не зависит от выбора yn ∈ co f [n]((x; x + h)). Перенося последнее слагаемое в (2.13) направо и переходя затем справа к выпуклой замкнутой оболочке по всем yn, мы приходим к искомой оценке (2.12). Заметим, что при n ;:? 4 условие абсолютной непрерывности f в окрестности точки x выполнено автоматически ввиду f ∈ C1(U ). Для нечетного порядка из теоремы 2.3 вытекает следующая форма формулы Тейлора. Теорема 2.4. Предположим, что существует (f (2n))[∗](x) и отображение f сильно абсолютно непрерывно в некоторой окрестности U (x). Тогда справедлива оценка: n f (x + h) - f (x - h) - 2 '\\" f (2k-1) 2k 1 (x) 2 h - ∈ co f [2n+1]((x - h; x + h)) · h2n+1 + o(h2n+1). k=1 (2k - 1)! (2n + 1)! (2.14) Доказательство. Применяя формулу Тейлора (2.12) порядка (2n + 1) к f (x + h) и f (x - h), получаем: 2n f (x + h) - '\\" f (k) k (x) 1 h ∈ co f [2n+1]((x; x + h)) · h2n+1 + o(h2n+1); (2.15) k! k=0 (2n + 1)! 116 И. В. ОРЛОВ, И. В. БАРАН 2n f (x - h) - '\\" f (k) k (x) 1 (-h) ∈ co f [2n+1]((x - h; x)) · (-h)2n+1 + o((-h)2n+1). (2.16) k! k=0 (2n + 1)! Вычитая почленно оценки (2.15) и (2.16) и приводя слева подобные члены, получаем: n f (x + h) - f (x - h) - 2 '\\" f (2k-1) (x) h2k-1 ∈ k=1 (2k - 1)! 1 ∈ (2n + 1)! ( co f [2n+1] ((x; x + h)) + co f [2n+1] )) ((x - h; x h 2n+1 · + o(h2n+1) ⊂ 1 ⊂ (2n + 1)! ( co f [2n+1] ((x - h; x + h)) + co f [2n+1] )) ((x - h; x + h h 2n+1 · + o(h2n+1) = [2n+1] - · 2n+1 2n+1 2 = co f ((x h; x + h)) h + o(h ). (2n + 1)! Аналогично можно получить формулу Тейлора в случае четного порядка. Теорема 2.5. Предположим, что существует (f (2n-1))[∗](x), и отображение f сильно абсолютно непрерывно в некоторой окрестности U (x). Тогда справедлива оценка: - n 1 f (x + h)+ f (x - h) - 2 '\\" f (2k) 2k (x) 2 h ∈ co f [2n+2]((x - h; x + h)) · h2n + o(h2n). (2.17) k=0 (2k)! (2n)! 2. Приложение: некоторые глобальные свойства симметрических производных. Здесь мы свяжем результаты предыдущего раздела со свойствами обобщенных симметрических производных Ш.-Ж. Валле-Пуссена (см. [9, 36]), исследованных в работе Р. Джеймса [38]. Вначале введем необходимые понятия и приведем результаты, полученные в [38]. Определение 2.4. Пусть функция f (x) определена на [a; b], x0 ∈ (a; b). Если существуют постоянные β0, β2,..., β2r (зависящие только от x0) такие, что 1 /f (x 2 0 + h)+ f (x0 r '\\" h) - - k=0 h2k (2k)! β2k = o(h2r ) при h → 0, то β2r называется обобщенной симметрической производной (Валле-Пуссена) порядка 2r функции f (x) в точке x0 и обозначается D2r f (x0). Если D2k f (x0) существуют при 0 <: k <: m - 1, определим величину θ2m(x0; h) равенством: и положим h2m (2m)! θ2m(x0, h) = 1 / 2 f (x0 + h)+ f (x0 - h) m-1 '\\" - k=0 h2k (2k)! D2k f (x0) Δ2mf (x0) = lim sup θ2m(x0; h), δ2mf (x0) = lim inf θ2m(x0; h). h→0 h→0 Скажем, что функция f (x) удовлетворяет условиям A2m на (a; b), если она непрерывна на [a; b], все D2k f (x) существуют и конечны при 1 <: k <: m - 1 на (a; b) и lim hθ2m(x, h) = 0 h→0 при всех x из (a; b) \\ E, где E не более чем счетно. Скажем. что функция f (x) удовлетворяет условиям B2m-2 на (a; b), если она непрерывна на [a; b], все D2k f (x) существуют и конечны при 1 <: k <: m- 1 на (a; b) и D2k f (x) не имеет разрывов первого рода на (a; b). Далее через Δk f обозначается конечная разность K-го порядка для f. Теорема 2.6. Если f (x) удовлетворяет условиям A2m-2 и B2m-4 на (a; b), причем на (a; b) выполнено Δ2m-2f (x) > 0, то функция D2m-4f (x) выпукла, и при всех 1 <: k <: m - 2 функции D2k f (x) непрерывны на (a; b). ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ - 2: СИММЕТРИЧЕСКИЙ ВАРИАНТ 117 2m Теорема 2.7. Если f (x) удовлетворяет условиям A2m и B2m-2 на (a; b) и Δ f (x) > 0 на (a; b), то функция D2m-2f (x) выпукла, и при всех 1 <: k <: m - 1 функции D2k f (x) непрерывны на (a; b). Аналогичные результаты приведены в [38] для обобщенных симметрических производных нечетного порядка, где автор исходит из разложения: 1 /f (x 2 0 + h) - f (x0 r '\\" h) - - k=1 h2k-1 (2k - 1)! β2k-1 = o(h2r-1). Сравнивая результаты теорем 2.6 и 2.7 и с результатами, соответственно, теорем из раздела 2.1, мы приходим к следующим утверждениям, вначале для симметрических производных четного порядка (см. теорему 2.5). Теорема 2.8. Пусть отображение f∗ абсолютно непрерывно в U (x) и существует симмет- - рическая производная f [2n](x) = (f (2n-1))[∗](x). Если f удовлетворяет условиям A2m 2 и B 2m-4 в U (x), причем Δ2m-2f > 0 в U˙ (x), то функция f (2m-4) выпукла, и при всех 1 <: k <: m - 2 функции f (2k) непрерывны в U˙ (x). Теорема 2.9. Пусть отображение f∗ абсолютно непрерывно в U (x) и существует симмет- - рическая производная f [2n](x) = (f (2n-1))[∗](x). Если f удовлетворяет условиям A2m и B2m 2 в U (x), причем Δ2mf > 0 в U˙ (x), то функция f (2m-2) выпукла, и при всех 1 <: k <: m - 1 функции f (2k) непрерывны в U˙ (x). Аналогично, отправляясь от соответствующих результатов [38] в нечетном случае, мы приходим к следующим результатам, связанным с симметрическими производными нечетного порядка (см. теорему 2.4). Теорема 2.10. Пусть отображение f∗ абсолютно непрерывно в U (x) и существует симмет- - рическая производная f [2n+1](x) = (f (2n))[∗](x). Если f удовлетворяет условиям A2m 1 и B 2m-3 в U (x), причем Δ2m-1f > 0 в U˙ (x), то функция f (2m-3) выпукла, и при всех 1 <: k <: m - 2 функции f (2k+1) непрерывны в U˙ (x). Теорема 2.11. Пусть отображение f∗ абсолютно непрерывно в U (x) и существует симмет- - рическая производная f [2n+1](x) = (f (2n))[∗](x). Если f удовлетворяет условиям A2m+1 и B2m 1 в U (x), причем Δ2m+1f > 0 в U˙ (x), то функция f (2m-1) выпукла, и при всех 1 <: k <: m - 1 функции f (2k+1) непрерывны в U˙ (x). 3. Симметрические дифференциалы Фреше. В этом параграфе мы вводим симметрические дифференциалы первого и высших порядков, следуя классической схеме Гато-Адамара-Фреше, и изучаем ряд их свойств. Пусть отображение f : E → F (E, F - вещественные банаховы пространства) определено в окрестности точки x ∈ E, h ∈ U (0) ⊂ E. Вводимый ниже симметрический дифференциал по направлению h будем называть также s-дифференциалом по направлению. Определение 2.5. Симметрический дифференциал отображения f в точке x по направлению h есть следующий предел (если он существует): ∂[∗]f (x, h) = lim t→+0 f (x + th) - f (x - th) . (2.18) 2t В случае функционала f : E → R полезно также ввести верхний и нижний s-дифференциалы по направлению. Определение 2.6. Верхний и нижний s-дифференциалы ∂[∗]f (x, h) и ∂[∗]f (x, h) функционала f в точке x по направлению h имеют следующий вид: ∂[∗]f (x) = lim f (x + th) - f (x - th) , ∂[∗]f (x) = lim f (x + th) - f (x - th) . t→+0 2t t→+0 2t Приведем простой вспомогательный результат. 118 И. В. ОРЛОВ, И. В. БАРАН → Предложение 2.2. Пусть E -f → F -A G, A ∈ L(F, G). Тогда для любого h ∈ U (0): ∂[∗](f · A)(x, h) = ∂[∗]f (Ax, Ah). (2.19) Перейдем к основным типам s-дифференцируемости, которые мы введем по аналогии с классической схемой Гато-Адамара-Фреше. Определение 2.7. Пусть отображение f s-дифференцируемо в точке x по любому направлению h ∈ U (0) ⊂ E. Будем говорить, что f слабо s-дифференцируемо в точке x, если s-дифференциал по направлению ∂[∗]f (x, h) является линейным оператором по h. Примем в этом случае обозначение ∂[∗]f (x)h. K Определение 2.8. Пусть отображение f слабо s-дифференцируемо в точке x. Будем говорить, что f s-дифференцируемо по Гато в точке x, если слабый s-дифференциал ∂[∗]f (x)h непрерывен по h, или, что равносильно, оператор ∂[∗]f (x) ограничен по норме. Заметим, что в этом случае, обозначая имеем ϕ(th) f (x + h) - f (x - h) = 2∂[∗]f (x)h + ϕ(h), (2.20) t → 0 при t → 0 (∀ h ∈ U (0)). Определение 2.9. Если отображение f s-дифференцируемо по Гато в точке x, причем сходимость в (2.18) равномерна по всем направлениям lhl <: 1: f (x + th) - f (x - th) 2t ⇒ ∂ [∗] f (x)h при t → 0, t то оператор ∂[∗]f (x)h назовем s-дифференциалом Фреше, или сильным s-диференциалом f в точке x. Заметим, что в этом случае, используя обозначение (2.20), имеем: ϕ(h) = o(lhl), или, что равносильно, ϕ(th) ⇒ 0 при t → 0 (lhl <: 1). Перейдем к важному вопросу об s-дифференцируемости композиции. Легко видеть, что композиция s-дифференцируемых отображений не является, вообще говоря, s-дифференцируемой даже в скалярном случае. Однако, мы покажем, что композиция строго дифференцируемого и s-дифференцируемого отображений сохраняет s-дифференцируемость. Далее мы рассматриваем отображения f : E → F и g : F → G, определенные соответственно в некоторых окрестностях U (x) ⊂ E и V (y = f (x)) ⊂ F, где E, F, G - банаховы пространства. Напомним определение строгой дифференцируемости. Определение 2.10. Отображение g, дифференцируемое по Фреше в точке x0, называется строго дифференцируемым в точке x0, если для любого ε > 0 найдется такое δ > 0, что для всех x1 и x2, удовлетворяющих неравенствам lx1 - x0l < δ, lx2 - x0l < δ, выполнено неравенство lg(x1) - g(x2) - g∗(x0)(x1 - x2)l <: εlx1 - x2l. Докажем теорему об s-дифференцируемости композиции. Теорема 2.12. Если отображение f : E → F s-дифференцируемо по Фреше в точке x и непрерывно в этой точке, а отображение g : F → G строго дифференцируемо по Фреше в точке y = f (x) ∈ F, то композиция g ◦ f : E → G s-дифференцируема по Фреше в точке x ∈ E, причем ∂[∗](g ◦ f )(x)h = g∗(f (x)) ◦ ∂[∗]f (x)h. (2.21) Доказательство. Как уже отмечалось выше, определение симметрической производной по Фреше можно записать в виде: f (x + th) - f (x - th) = 2t · ∂[∗]f (x)h + o(th), (2.22) причем сходимость в (2.22) при t → 0 равномерна по всем направлениям lhl <: 1. Проведем замену обозначений и переменных: y = f (x), k1(th) = f (x + th) - f (x), k2(th) = k1(th) - 2t · ∂[∗]f (x)h - o(th). ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ - 2: СИММЕТРИЧЕСКИЙ ВАРИАНТ 119 Тогда f (x + th) = y + k1(th), f (x - th) = y + k2(th), k1(th) - k2(th) = 2t · ∂[∗]f (x)h - o(th). Заметим, что k1(th) → 0 и k2(th) → 0 при t → 0 равномерно по lhl <: 1 в силу непрерывности и s-дифференцируемости отображения f в точке x. Симметрическое разностное отношение для композиции g ◦ f в точке x по направлению h с учетом строгой дифференцируемости g в точке y можно преобразовать следующим образом: Δ(g ◦ f )(x, th) = g(f (x + th)) - g(f (x - th)) = g(y + k1(th)) - g(y + k2(th) = 2t 2t 2t = g∗(y)(k1(th) - k2(th)) + o(k1(th) - k2(th)) = 2t = = g∗(y)(2t · ∂[∗]f (x)h - o(th)) + o(2t · ∂[∗]f (x)h - o(th)) 2t = [g∗(y)∂[∗]f (x)] · h + o(2t · ∂ [∗] [ ] f (x)h) o(2t) = [g∗(y)∂ ∗ f (x)] · h + . 2t 2t Переходя к пределу в последнем выражении при t → 0, получаем (2.21). Перейдем к теореме о среднем для s-дифференциалов Фреше. Теорема 2.13. Пусть отображение f : E ⊃ [x; x + h] → F абсолютно непрерывно на [x; x + h] и симметрически дифференцируемо на (x; x + h). Тогда выполняется оценка: f (x + h) - f (x) ∈ co ∂[∗]f ((x; x + h)) · h. (2.23) Доказательство. Положим A(t) = x + th (0 <: t <: 1), A : [0; 1] → E. Тогда f (x + th) = (f · A)(t). Применяя к композиции ϕ = f · A формулу (2.19) и теорему о среднем 2.2 для отображений скалярного аргумента, получаем: f (x + h) - f (x) = ϕ(1) - ϕ(0) ∈ co ∂[∗](f · A)((0; 1)) = = co ∂[∗]f (A((0; 1))) · A(1) = co ∂[∗]f ((x; x + h)) · h. Наконец, предъявим как следствие теорему о среднем с оценкой по норме. Теорема 2.14. В условиях теоремы 2.13 справедливы представление и оценка: lf (x + h) - f (x)l <: sup 0<θ<1 l∂[∗]f (x + θh)l· lhl. (2.24) Доказательство. Здесь следует применить оценку (2.23) и учесть, что sup 0<θ<1 lco ∂[∗]f ((x; x + h)) · hl <: sup 0<θ<1 l∂[∗]f (x + θh) · hl <: sup 0<θ<1 l∂[∗]f (x + θh)l· lhl. Следуя предыдущей схеме, дадим определение s-дифференциала Фреше n-го порядка и получим формулу Тейлора. Вначале определим степенной s-оператор n-го порядка. Определение 2.11. Пусть E и F - вещественные банаховы пространства. Отображение A : → E F будем называть степенным s-оператором n-го порядка, если A порождается некоторым n ··· n-линейным симметрическим оператором A : ,.E × × E"" → F : n A(h) = A (,.h, . . ., h"") = A (h)n. (2.25) В частности, A(λh) = λn · A(h) при любом λ ∈ R. Оператор A при n = 2 будем называть квадратичным s-оператором, при n = 3 - кубическим s-оператором. Приведем следующее свойство «биномиальности» для степенного s-оператора. 120 И. В. ОРЛОВ, И. В. БАРАН Предложение 2.3. Для любых h, k ∈ E верно: n ( n A(h + k) = '\\" Cl A (h)l, (k)n-l . (2.26) l=0 Доказательство. Пусть оператор A порождается некоторым n-линейным симметрическим оператором A : A(h + k) := A (h + k)n для любых h, k ∈ E. Имеем, применяя известное свойство сочетаний: A (h + k)n = C0 A(h)n + (C1 + C0 )A ((h)n-1, k)+ (C2 + C1 )A ((h)n-2, (k)2)+ ··· + + (Cm-1 n-1 m n-1 n-m n-1 m n-1 n-1 n-2 n-1 n-1 n-1 n n-1 + Cn-1)A ((h) , (k) )+ ··· + (Cn-1 + Cn-1 )A (h, (k) )+ Cn-1 A (k) = = A (h)n + C1A(( n h)n-1, k)+ C2A((h)n-2, ( n k)2)+ ·· CmA((h)n-m, (k)m)+ ··· + Cn-1A(h, (k)n-1)+ A(k)n n n · + n n + = '\\" Cl A((h)l, (k)n-l). l=0 Определение 2.12. Назовем s-дифференциалом n-го порядка по направлению h отображения f : E ⊃ U (x) → F в точке x следующий предел (если он существует): ( 1 ∂[n]f (x, h) = lim n \\ '\\"(-1)k Ck f (x + (n - 2k)th) = lim Δnf (x, th) . (2.27) t→+0 (2t)n n k=0 t→+0 (2t)n Если ∂[n]f (x, h) существует по любому направлению h и является степенным s-оператором nго порядка, то будем говорить, что f слабо s-дифференцируемо n раз в точке x, и примем обозначение ∂[n]f (x)(h). Отметим, что в этом случае легко указать n-линейный порождающий оператор: ∂ [n] f (x)(h1,..., hn) = lim t ( 1 (2t)n n '\\" (-1)k n Ck f (x + t n-2k '\\" \\ ) hi . [n] →+0 k=0 i=0 Оператор ∂ f (x) назовем полисимметрическим дифференциалом порядка n отображения f в точке x. Далее, если степенной s-оператор n-го порядка ∂[n]f (x) ограничен, то будем говорить, что f s-дифференцируемо n раз в точке x по Гато. Наконец, если ∂[n]f (x) - s-дифференциал Гато и сходимость в равенстве (2.27) равномерна по всем направлениям lhl <: 1, то будем говорить, что f s-дифференцируемо n раз в точке x по Фреше. Отметим, что в этом случае справедливо равенство: 1 n '\\"(-1)k Ck f (x + (n - 2k)h) = ∂[n]f (x)(h)+ o(lhln). 2n n k=0 Из предложения 2.3 вытекает свойство «биномиальности» для ∂[n]f (x). Предложение 2.4. Для любых h, k ∈ E верно: n n ∂[n]f (x)(h + k) = '\\" Cl ∂[n]f (x)((h)l, (k)n-l . (2.28) l=0 Полученную ранее в случае скалярного аргумента формула Тейлора (теорема 2.3) легко перенести на векторный случай. Теорема 2.15. Предположим, что существует (f (n-1))[∗](x) и отображение f абсолютно непрерывно на отрезке [x; x + h]. Тогда имеет место оценка - n 1 f (x + h) - '\\" f (k) k (x) 1 (h) ∈ co ∂[n]f ((x; x + h)) · (h)+ o(lhln). (2.29) k! n! k=0 ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ - 2: СИММЕТРИЧЕСКИЙ ВАРИАНТ 121 Доказательство. Положим ϕ(t) = f (x+th), ϕ : [0; 1] → E. При этом f (x+h) = ϕ(1), f (k)(x)(h)k = ϕ(k)(0)(h)k и ∂[n]f (x)(h) = ∂[n]ϕ(0)(h). Применяя к ϕ(t) формулу (2.12) на отрезке [0; θ], получаем: - n 1 ϕ(θ) - '\\" ϕ (k) (0) 1 θk ∈ co ∂[n]ϕ((0; θ)) · θn + o(θn). Возвращаясь к f, имеем: k! n! k=0 - n 1 f (x + θh) - '\\" f (k) (x) 1 (θh)k ∈ co ∂[n]f ((x + θh)) · (θh)+ o((θh)n). k! n! k=0 Переходя во всех слагаемых от θh к h, мы получаем исходное равенство (2.29). Справедливы также аналоги теорем 2.4 и 2.5 для случаев, соответственно, нечетного и четного порядков. Теорема 2.16. Предположим, что существует (f (2n))[∗](x), и отображение f сильно абсолютно непрерывно на отрезке [x; x + h]. Тогда справедлива оценка n f (x + h) - f (x - h) - 2 '\\" f (2k-1) 2k 1 (x) 2 (h) - ∈ co ∂[2n+1]f ((x; x + h)) · (h)+ o(lhl2n+1). k=1 (2k - 1)! (2n + 1)! Теорема 2.17. Предположим, что существует (f (2n-1))[∗](x), и отображение f сильно абсолютно непрерывно на отрезке [x; x + h]. Тогда справедлива оценка - n 1 f (x + h)+ f (x - h) - 2 '\\" f (2k) 2k (x) 2 (h) ∈ co ∂[2n+2]f ((x; x + h)) · (h)+ o(lhl2n). k=0 (2k)! (2n)! 2. СИММЕТРИЧЕСКИЙ K-СУБДИФФЕРЕНЦИАЛ ПЕРВОГО ПОРЯДКА ДЛЯ ОТОБРАЖЕНИЙ СКАЛЯРНОГО АРГУМЕНТА 1. KS -субдифференцируемость в вещественнозначном случае. Основные определения. В пункте 3.1 проверена регулярность определения относительно обычной s-производной, дано полное описание KS -субдифференциалов от функционалов, получено условие монотонности функции в терминах KS -субдифференциалов. Прежде всего, по образцу определения общего (центрированного) K-субдифференциала (см. [17, 19]), заменяя обычное разностное отношение на симметрическое, введем понятие симметрического K-субдифференциала (или KS -субдифференциала) первого порядка. Всюду далее F - вещественное банахово пространство, f : R ⊃ U (x) → F. Определение 3.1. Частный симметрический выпуклый субдифференциал имеет вид: ∂[∗] / f (x + h) - f (x - h) cof (x, δ) = co 0 < h < δ . 2h Если существует K-предел ∂[∗]f (x) = Klim ∂[∗]f (x, δ), то назовем его K -субдифференциалом K co S δ→+0 (или симметрическим K-субдифференциалом) первого порядка отображения f в точке x. Нетрудно убедиться, что справедлива следующая Теорема 3.1. Если существует обычная симметрическая производная f [∗](x), то ∂[∗] / K f (x) = f [∗](x) . Доказательство. Из определения f [∗](x) следует, что для любой замкнутой выпуклой окрестности нуля U ⊂ E существует положительное δ = δU такое, что ( Δ1f (x, h) [ ] \\ Отсюда вытекает, что (0 < h < δU ) =⇒ 2h ∈ f ∗ (x)+ U . (/ Δ1f (x, h) [ ] \\ (0 < δ < δU ) =⇒ 0 < h < δ 2h ⊂ f ∗ (x)+ U , 122 И. В. ОРЛОВ, И. В. БАРАН и, следовательно, в силу замкнутости и выпуклости U верно включение ( 1 \\ co / Δ f (x, h) [∗] [∗] [∗] 2h 0 < h < δ ⊂ f (x)+ U ⇐⇒ (∂cof (x, δ) ⊂ f (x)+ U ). K Отсюда, переходя к K-пределу, получаем ∂[∗]f (x) ⊂ /f [∗](x) , и т. к. /f [∗](x) - одноточечное K ) = множество, то ∂[∗]f (x / f [∗](x) . K K В вещественнозначном случае ∂[∗]f (x) может быть вычислен по простой формуле. Заметим вначале, что в этом случае ∂[∗]f (x) есть компактный отрезок. Теорема 3.2. Функция f : [a, b] → R KS -субдифференцируема в точке x ∈ [a, b] тогда и только тогда, когда в этой точке существуют конечные верхняя и нижняя симметрические производные: -∞ < f [∗](x) <: f [∗](x) < +∞; при этом ∂[∗] K f (x) = [f [∗](x); f [∗](x)]. (3.1) Доказательство. По определению верхней и нижней симметрических производных, f [∗](x) = lim f (x + h) - f (x - h) , f [∗](x) = lim f (x + h) - f (x - h) . (3.2) h→+0 2h h→+0 2h 1. Пусть величины (3.2) конечны, B = [f [∗](x); f [∗](x)], Uε = (-ε; ε). По свойствам верхнего и нижнего пределов: ∀ ε > 0 ∃ δ > 0 (0 < h <: δ) : f [∗](x) - ε <: f (x + h) - f (x - h)/2h <: f [∗](x)+ ε. Отсюда следует ∂[∗] / f (x + h) - f (x - h) [∗] [∗] cof (x, δ) = co 0 < h < δ 2h ⊂ (f (x) - ε; f (x)+ ε) при δ <: δ, т. е. ∂[∗]f (x, δ) ⊂ B +U . Переход к K-пределу с использованием признака Вейерштрасса co ε для K-пределов (теорема 1.1) дает существование K-предела и включение ((∀ε > 0) ∂[∗]f (x) ⊂ (f [∗](x) - ε; f [∗](x)+ ε) =⇒ (∂[∗]f (x) ⊂ [f [∗](x); f [∗](x)] . (3.3) K K K 2. Обратно, пусть существует ∂[∗]f (x) = [y1; y2]. Тогда, по определению K-предела ∀ ε > 0 ∃ δ > 0: ∂[∗] / f (x + h) - f (x - h) cof (x, δ) = co 0 < h < δ 2h ⊂ (y1 - ε; y2 + ε). Тем более, при 0 < h < δ выполнено неравенство: f (x + h) - f (x - h) y1 - ε < < y2 + ε. 2h Переходя теперь к нижнему и верхнему пределам, получаем: (y1 - ε <: f [∗](x) <: f [∗](x) <: y2 + ε (∀ ε > 0) =⇒ ( f [∗](x); f [∗](x)] ⊂ [y1; y2] [ . Таким образом, K [f [∗](x); f [∗](x)] ⊂ ∂[∗]f (x). (3.4) Из включений (3.3) и (3.4) следует равенство (3.1). Легко видеть, что справедливо и обратное утверждение. K ∂[∗] Теорема 3.3. Если KS -субдифференциал ∂[∗]f (x) является одноточечным множеством: K f (x) = {y}, то функция f симметрически дифференцируема в точке x. Приведем простой пример неодноточечного KS -субдифференциала. ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ - 2: СИММЕТРИЧЕСКИЙ ВАРИАНТ 123 Пример 3.1. Положим f (x) = x sin 1 x при x > 0; f (x) = x2 sin 1 x при x < 0; f (0) = 0. Вычислим KS -субдифференциал f в нуле. Имеем при любом h > 0: Δ1f (0, h) = f (h) - f (-h) = h sin 1 + h2 sin 1 = (h + h2) sin 1 , Отсюда следует: Δ1f (0, h) 2h h h (h + h2) sin 1 = 2h h 1+ h = 2 h 1 sin . h 1 1 f [∗](0) = lim Δ f (0, h) 1 1 = (-1) = - , f [∗](0) = lim Δ f (0, h) 1 1 = · 1 = . h→+0 2h 2 2 h→+0 2h 2 2 K K В силу теоремы 3.2 существует KS -субдифференциал ∂[∗]f (0) = [-1/2, 1/2]. Заметим при этом, что, т. к. ∂[∗]f (0) не является одноточечным, то f [∗](x) не существует. Рассмотрим теперь вопрос о KS -субдифференциале монотонной функции. Теорема 3.4. Пусть функция f (x) возрастает и KS -субдифференцируема в точке x. Тогда выполнено неравенство K inf ∂[∗]f (x) ;:? 0. Доказательство. В силу возрастания f симметрическое разностное отношение в точке x, очевидно, неотрицательно: Δ1f (x, h) 2h = f (x + h) - f (x - h) 2h ;:? 0 (h > 0). co Отсюда следует, что при любом δ > 0 верно включение ∂[∗]f (x, δ) ⊂ [0, +∞), откуда, переходя к K K-пределу, получаем (∂ ] co f (x) ⊂ ∂[∗]f (x) ⊂ [0, +∞) ⇐⇒ (inf ∂ [∗] K 0 f (x) ;:? . 2. Связь симметрического и обычного K-субдифференциалов первого порядка. Как известно, симметрическая производная является обобщением обычной производной. Покажем, что и KS -субдифференциал является обобщением обычного K-субдифференциала, при этом симметрическая оценка - более точная. K ∂[∗] Теорема 3.5. Если существует K-субдифференциал ∂K f (x), то существует и KS -субдифференциал ∂[∗]f (x), причем K f (x) ⊂ ∂K f (x). (3.5) Доказательство. Преобразуем симметрическое разностное отношение: f (x + h) - f (x - h) = 1 Г f (x + h) - f (x) + f (x - h) - f (x) l. 2h 2 h -h Отсюда следует: ∂[∗] / f (x + h) - f (x - h) cof (x, δ) = co 0 < h < δ = 2h 1 / f (x + h) - f (x) f (x - h) - f (x) = co 2 ⊂ + h -h 0 < h < δ 1 Г / f (x + h) - f (x) / f (x - h) - f (x) l ⊂ 2 co h 1 Г ⊂ 0 < h < δ + co -h l 0 < h < δ ⊂ 2 ∂cof (x, δ)+ ∂cof (x, δ) ⊂ ∂cof (x, δ) = ∂cof (x, δ) co в силу выпуклости и замкнутости множества ∂cof (x, δ). Следовательно, ∂[∗]f (x, δ) ⊂ ∂co f (x, δ). Переходя к K-пределу при δ → +0 и используя признак Вейерштрасса для K-пределов при B = ∂K f (x) (см. теорему 1.1), получаем включение (3.5). Замечание 3.1. Заметим, что включение в формуле (3.5) может быть строгим. 124 И. В. ОРЛОВ, И. В. БАРАН K Пример 3.2. Пусть f (x) = |x|. Тогда, как легко вычислить, ∂K f (0) = [-1, 1], но ∂[∗]f (0) = {0}. Таким образом, ∂[ ] ∗ K f (0) ∂K f (0). K Замечание 3.2. Если существует KS -субдифференциал ∂[∗]f (x), то обычный K-субдифференциал ∂K f (x) может не существовать. Пусть, например, f (x) = K =⇒ (∂[∗]f (0) = {0}). При этом √3 x2. Тогда (f [∗](0) = 0) =⇒ (∂f (0) = +∞, ∂f (0) = -∞) =⇒ (∂K f (0) не существует). 3. Субаддитивность KS -субдифференциала первого порядка. Рассмотрим ряд свойств KS субдифференциалов первого порядка, среди которых отметим субаддитивность. Теорема 3.6 (субаддитивность). Пусть f, g : R → F. Если отображения f и g KS -субдифференцируемы в точке x, то отображение f + g также KS -субдифференцируемо в точке x, причем ∂[∗] [∗] [∗] K (f + g)(x) ⊂ ∂K f (x)+ ∂K g(x). (3.6) Доказательство. Преобразуем симметрическое разностное отношение для f + g: Δ1(f + g)(x, h) 2h = (f (x + h)+g(x + h)) - (f (x - h)+g(x - h)) = 2h Отсюда следует включение: Δ1f (x, h) = 2h Δ1g(x, h) + . 2h ∂[∗] / Δ 1 f (x, h) Δ1 g(x, h) co(f + g)(x, δ) = co ⊂ + 2h 2h 0 < h < δ / Δ1f (x, h) / Δ1g(x, h) ⊂ co ⊂ 0 < h < δ 2h + co 0 < h < δ 2h (3.7) / Δ1f (x, h) / Δ1g(x, h) ⊂ co 0 < h < δ 2h + co 0 < h < δ . 2h Далее, для произвольной окрестности нуля U ⊂ E выберем замкнутую выпуклую окрестность нуля U∗ так, чтобы U∗ + U∗ ⊂ U, и δU ∗ > 0 такое, чтобы при 0 < δ < δU ∗ выполнялись включения: ∂[∗] [∗] [∗] Тогда имеем: co cof (x, δ) ⊂ ∂K f (x)+ U∗, ∂[∗]g(x, δ) ⊂ ∂K g(x)+ U∗. / Δ 1 f (x, h) co / Δ1 g(x, h) 2h ⊂ ∂[∗] 0 < h < δ [∗] + co [∗] 2h 0 < h < δ ⊂ ∗ [∗] ∗ cof (x, δ)+ ∂cog(x, δ) ⊂ (∂K f (x)+ U )+ (∂K g(x)+ U ) ⊂ [∗] [∗] [∗] [∗] ⊂ (∂K f (x)+ ∂K g(x)) + (U∗ + U∗) ⊂ (∂K f (x)+ ∂K g(x)) + U. Так как множество ∂[∗]f (x)+ ∂[∗]g(x) компактно, а множество U замкнуто, то множество (∂[∗]f (x)+ K K K ∂[∗] K g(x)) + U ) замкнуто, откуда следует: 1 1 co / Δ f (x, h) / Δ g(x, h) [∗] [∗] 2h 0 < h < δ + co 2h 0 < h < δ ⊂ (∂K f (x)+ ∂K g(x)) + U. (3.8) Из (3.7) и (3.8) следует включение: ∂[∗] [∗] [∗] co(f + g)(x, δ) ⊂ (∂K f (x)+ ∂K g(x)) + U при δ < δU ∗ . Отсюда и из определения K-предела следует: co [∗] ∂K (f + g)(x) = Klim ∂[∗](f + g)(x, δ) ⊂ (1 [(∂ [∗] K f (x)+ ∂ [∗] K g(x)) + U ] = ∂ [∗] K f (x)+ ∂ [∗] K g(x). δ→+0 U =U (0) ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ - 2: СИММЕТРИЧЕСКИЙ ВАРИАНТ 125 Заметим, что равенство в (3.6) может не иметь места. Пример 3.3. Так же, как и в примере 3.1, рассмотрим функцию f (x) = x sin 1 x при x > 0; f (x) = x2 sin 1 x при x < 0; f (0) = 0. ( ∗ Пусть g(x) = -f (x). Тогда ((f +g)(x) ≡ 0 =⇒ ∂[∗] K f (0) = [-1/2, 1/2] (см. пример 3.1), имеем: K ∂[ ](f +g)(x) ≡ {0} . В то же время, поскольку ∂[∗] K f (0) + ∂[∗]g(0) = = [- K 1 1 , ]+ [- 2 2 1 1 , ] 2 2 Таким образом, ∂[∗](f + g)(0) = {0} [-1; 1] = ∂[∗]f (0) + ∂[∗]g(0). = [-1, 1]. K K K Однако, если одна из функций в теореме 3.6 симметрически дифференцируема в обычном смысле, то включение (3.6) превращается в точное равенство. Теорема 3.7. Если отображение f KS -субдифференцируемо в точке x, а отображение g симметрически дифференцируемо в точке x, то ∂[∗] [∗] [∗] [∗] K (f + g)(x) = ∂K f (x)+ ∂K g(x) = ∂K f (x)+ g[∗](x). (3.9) Доказательство. В силу теоремы 3.6 выполнено включение ∂[∗] [∗] K (f + g)(x) ⊂ ∂K f (x)+ {g[∗](x)}. (3.10) Покажем, что справедливо и обратное включение. В силу определения KS -субдифференциала как K-предела частных симметрических субдифференциалов при любом δ > 0 справедливо включение ∂[∗] [∗] K f (x) ⊂ ∂cof (x, δ). Отсюда следует: ∂[∗] / Δ1 f (x, h) co K f (x)+ g[∗](x) ⊂ ∂[∗]f (x, δ)+ g[∗](x) = co 0 < h < δ 2h + g[∗](x) = (3.11) 1 = co / Δ f (x, h) + g[∗](x) 0 < h < δ . 2h Пусть теперь U - произвольная окрестность нуля в E. Выберем замкнутую выпуклую симметричную окрестность нуля U∗ ⊂ E так, чтобы U∗ + U∗ ⊂ U. Так как Δ1g(x, h) g[∗](x) = lim , U ∗ то найдется такое δ = δ1 h→0 U ∗ > 0, что при 0 < h < δ1 2h выполняется включение: ( Δ1g(x, h) [ ] ( [ ] Δ1g(x, h) 2h ∈ g ∗ (x)+ U∗ в силу выпуклости и симметричности U∗. =⇒ g ∗ (x) ∈ + U∗ 2h , (3.12) U ∗ Из (3.11) и (3.12) получаем при δ < δ1 : ∂[∗] / Δ1 f (x, h) Δ1 g(x, h) K f (x)+ g[∗](x) ⊂ co + 2h 2h + U∗ 0 < h < δ = 1 1 / 1 = co / Δ f (x, h) + Δ g(x, h) Δ (f + g)(x, h) 2h 2h 0 < h < δ = ∂[∗] + U∗ = co 2h 0 < h < δ + U∗ = co(f + g)(x, δ)+ U∗. Далее, из определения KS -субдифференциала следует: ∂[∗] [∗] U ∗ co(f + g)(x, δ) ⊂ ∂K (f + g)(x)+ U∗ при достаточно малом δ < δ2 . U ∗ Следовательно, при δ < min(δ1 ∂[∗] , δ U ∗ 2 ) выполняется: [∗] [∗] K f (x)+ g[∗](x) ⊂ [∂co(f + g)(x, δ)+ U∗]+ U∗ ⊂ ∂K (f + g)(x)+ U. 126 И. В. ОРЛОВ, И. В. БАРАН Отсюда получаем: K f (x)+ g[∗](x) ⊂ (1 (∂K (f + g)(x)+ U ) = ∂K (f + g)(x), ∂[∗] U =U (0) [∗] [∗] в силу замкнутости последнего множества. Таким образом, ∂[∗] [∗] K (f + g)(x) ⊃ ∂K f (x)+ g[∗](x). (3.13) Из включений (3.10) и (3.13) вытекает равенство (3.9). Следующий результат очевиден. Теорема 3.8 (однородность по f ). Пусть отображение f : R → E KS -субдифференцируемо в точке x ∈ R. Тогда для любого λ ∈ R верно: ∂[∗] [∗] K (λf )(x) = λ ∂K f (x). Следствие 3.1 (сублинейность по f ). В условиях теоремы 3.7 для любых α, β ∈ R верно: ∂[∗] [∗] [∗] K (αf + βg)(x) ⊂ α∂K f (x)+ β∂K g(x). 4. Теорема о среднем для KS -субдифференцируемых отображений. Наконец, в пункте 3.4 мы рассматриваем формы формулы конечных приращений и теоремы о среднем для KS субдифференцируемых отображений с оценкой по норме, не требующие абсолютной непрерывности отображений. Как приложение, описан широкий класс случаев, когда KS -субдифференцируемость всюду на отрезке влечет почти всюду обычную дифференцируемость. Здесь, в отличие от разделов пункта 2.1, мы рассмотрим лишь случай оценки сверху, позволяющий исключить требование абсолютной непрерывности. Вначале приведем подходящую форму теоремы о конечных приращениях. Теорема 3.9 (формула конечных приращений). Пусть F - вещественное банахово пространство, f : [a, b] → F, g : [a, b] → R, g возрастает на [a, b]. Если отображения f и g непрерывны на [a, b], KS -субдифференцируемы на (a, b) и выполнена локальная оценка [∗] [∗] sup l∂K f (x)l <: inf ∂K g(x) (a < x < b), то имеет место глобальная оценка lf (b) - f (a)l <: g(b) - g(a). Доказательство. Покажем, что ∀x ∈ [a, b] ∀ε > 0 выполняется неравенство: lf (x) - f (a)l <: g(x) - g(a)+ ε(x - a)+ ε. (3.14) Обозначим через U = {x ∈ [a, b] (3.14) не выполнено , т. е. при x ∈ U : lf (x) - f (a)l > g(x) - g(a)+ ε(x - a)+ ε. (3.15) Так как отображения f и g непрерывны на [a, b], а неравенство (3.15), в свою очередь, может быть записано в виде {x ∈ [a, b] ψ(x) > 0 , где ψ(x) - непрерывная функция, то множество U открыто. Докажем, что U = ∅. Допустим противное: U /= ∅. Тогда существует c = inf U. При этом: 1. c > a. Действительно, так как обе части неравенства (3.14) непрерывны и (3.14) верно в строгой форме при x = a, то оно верно и в некотором полуинтервале [a, a + δ). 2. c /∈ U, так как множество U является открытым. 3. c < b. Действительно, если допустим, что c = b, то, поскольку U открыто, получаем U∩[a, b] = ∅ - противоречие. K и ∂[∗] Таким образом, a < c < b. Следовательно, в точке c существуют KS -субдифференциалы ∂[∗]f (c) K g(c), и выполняется условие: [∗] [∗] sup l∂K f (c)l <: inf ∂K g(c). (3.16) В силу определения KS -субдифференциала ∀ε > 0 ∃δ(ε) > 0 ∀δ < δ(ε): co / f (x + h) - f (x - h) [∗] 2h 0 < h < δ 2 ⊂ O ε (∂K f (x)), ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ - 2: СИММЕТРИЧЕСКИЙ ВАРИАНТ 127 co / g(x + h) - g(x - h) [∗] 2h Отсюда получаем при 0 < h < δ(ε): 0 < h < δ 2 ⊂ O ε (∂K g(x)). 1 f (c + h) - f (c - h) 1 ε g(c + h) - g(c - h) ε 1 1 [∗] [∗] 1 2h 1 <: sup l∂K f (c)l + 2 ; 2h ;:? inf ∂K g(c) - 2 . (3.17) Из (3.16) и (3.17) следует: 1 f (c + h) - f (c - h) 1 ε ε g(c + h) - g(c - h) ε ε 1 1 [∗] [∗] 1 2h т. е. 1 <: sup l∂K f (c)l + 2 <: inf ∂K g(c)+ 2 <: + + , 2h 2 2 1 1 f (c + h) - f (c - h) 1 g(c + h) - g(c - h) 1 1 2h 1 <: + ε. 2h Умножая обе части на 2h, получаем: lf (c + h) - f (c - h)l <: [g(c + h) - g(c - h)] + 2εh. (3.18) Далее, из условия c /∈ U вытекает, что при x = c - h выполняется (3.14): lf (c - h) - f (a)l <: [g(c - h) - g(a)] + ε((c - h) - a)+ ε. (3.19) Из неравенств (3.18) и (3.19) находим: lf (c + h) - f (a)l = lf (c + h) - f (c - h)+ f (c + h) - f (a)l <: <: lf (c + h) - f (c - h)l + lf (c + h) - f (a)l <: <: [g(c + h) - g(c - h)] + 2εh + [g(c - h) - g(a)] + ε((c - h) - a)+ ε = = [g(c + h) - g(a)] + ε((c + h) - a)+ ε, откуда следует: lf (c + h) - f (a)l <: [g(c + h) - g(a)] + ε((c + h) - a) + ε. Таким образом, неравенство (3.14) верно при всех x = c + h ∈ (c, c + δ), что противоречит определению c = inf U. Следовательно, U = ∅ и неравенство (3.14) верно для любого x ∈ [a, b]. Положим теперь x = b в неравенстве (3.14), тогда: lf (b) - f (a)l <: g(b) - g(a)+ ε(b - a)+ ε. Перейдя к пределу при ε → 0, получим: lf (b) - f (a)l <: g(b) - g(a). Из теоремы 3.9 легко следует оценочная по норме форма теоремы о среднем для KS -субдифференциалов. Теорема 3.10 (теорема о среднем). Если отображение f : [a, b] → F непрерывно на [a, b] и KS -субдифференцируемо на (a, b), то выполняется оценка ( [∗] lf (b) - f (a)l <: sup x∈(a,b) sup l∂K f (x)l · (b - a). (3.20) Доказательство. Обозначим k := sup K (sup l∂[∗]f (x)l (0 <: k <: +∞). При k = ∞ неравенx∈(a,b) [∗] ство (3.20), очевидно, выполняется. Допустим, что k < ∞, и положим g(x) = kx. Тогда ∂K g(x) = {g∗(x)} = {k}. Отсюда, применяя теорему 3.9, получаем: lf (b) -f (a)l <: g(b) -g(a) = k · (b-a). Отметим несколько легко вытекающих из теоремы о среднем результатов, полезных при вычислении KS -субдифференциалов. Определение 3.2. Назовем отображение f : (a, b) → F ограниченно KS -субдифференцируемым на (a, b) (f ∈ B[1]((a; b),F )), если sup (sup l∂[∗]f (x)l < ∞. K x∈(a,b) Теорема 3.11. Пусть f : [a, b] → F. Если отображение f непрерывно на [a, b] и ограниченно KS -субдифференцируемо на (a, b), то f удовлетворяет условию Липшица на [a, b] (f ∈ Lip([a; b], E)). Напомним, что банахово пространство F обладает свойством Радона-Никодима, если любое абсолютно непрерывное отображение f : [a, b] → F почти всюду дифференцируемо на [a; b]. 128 И. В. ОРЛОВ, И. В. БАРАН Теорема 3.12. Пусть пространство F обладает свойством Радона-Никодима. Если отображение f : [a, b] → F непрерывно на [a, b] и f ∈ B[1]((a; b),F ), то f почти всюду дифференцируемо на [a, b] в обычном смысле. Замечание 3.3. Напомним, что класс банаховых пространств, обладающих свойством Радона- Никодима, достаточно широк. В частности, к нему относятся все рефлексивные банаховы пространства. Для отображений в такие пространства в условиях последней теоремы KS субдифференцируемость может отличаться от обычной дифференцируемости лишь на множестве меры нуль. Отметим также, что в работах [18, 28] рассмотрены применения K-субдифференциалов к исследованию проблемы Радона-Никодима для интеграла Бохнера. 4. СИММЕТРИЧЕСКИЕ K-СУБДИФФЕРЕНЦИАЛЫ ВТОРОГО И ВЫСШИХ ПОРЯДКОВ ДЛЯ ОТОБРАЖЕНИЙ СКАЛЯРНОГО АРГУМЕНТА 1. KS -субдифференциалы второго порядка. В пункте 4.1 дается определение (в случае скалярного аргумента) второго KS -субдифференциала и рассматриваются его простейшие свойства, включая регулярность относительно обычной s-дифференцируемости второго порядка, точное описание вторых KS -субдифференциалов от функционалов, рекуррентную связь с обычной дифференцируемостью и субаддитивность по функции. Всюду далее будем рассматривать отображение f : R → F, определенное в некоторой окрестности U (x) точки x ∈ R, где F - произвольное вещественное банахово пространство. Отправляясь от определения второй симметрической производной, перейдем к основному определению. Определение 4.1. Частным выпуклым симметрическим субдифференциалом второго порядка f в точке x назовем множество ∂[∗∗] / f (x +2h) - 2f (x)+f (x - 2h) co f (x, δ) = co 4h2 0 < h < δ . Если существует K-предел ∂[∗∗]f (x) = Klim ∂[∗∗]f (x, δ), назовем его KS -субдифференциалом вто- K δ→+0 co рого порядка отображения f в точке x. Нетрудно убедиться, что справедлива ∂[∗∗] Теорема 4.1 (регулярность). Обычная вторая симметрическая производная f [∗∗](x) существует тогда и только тогда, когда существует одноточечный второй KS -субдифференциал K f (x). При этом выполняется равенство ∂[∗∗] / K f (x) = f [∗∗](x) . (4.1) Доказательство. Пусть существует обычная симметрическая производная второго порядка f [∗∗](x). По определению f [∗∗](x) = lim h→+0 f (x +2h) - 2f (x)+f (x - 2h) . 4h2 Для любой замкнутой выпуклой окрестности нуля U ⊂ E ∃ δ = δU > 0 (0 < h < δU ) имеем: Δ2f (x, 2h) [ ] / Δ 2 f (x, 2h) Отсюда [∗∗] 4h2 ∈ f ∗∗ (x)+ U. 4h2 0 < h < δ ⊂ f (x)+ U, и, следовательно, / Δ 2 f (x, 2h) co [∗∗] 4h2 0 < h < δ ⊂ f (x)+ U co в силу замкнутости и выпуклости U, т. е. ∂[∗∗]f (x, δ) ⊂ f [∗∗](x)+U. Переходя к K-пределу, получаем [∗∗] / [∗∗] / ∂K f (x) ⊂ f [∗∗](x) . Так как {f [∗∗](x) - одноточечное множество, то ∂K f (x) = f [∗∗](x) . ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ - 2: СИММЕТРИЧЕСКИЙ ВАРИАНТ 129 С другой стороны, пусть ∂[∗∗]f (x) = /y - одноточечное множество. Поскольку ∂[∗∗]f (x) = K K co Klim ∂[∗∗]f (x, δ), то из определения K-предела следует, что ∀ε > 0 ∃δ = δ(ε): δ→+0 ∂[∗∗] / Δ 2 f (x, 2h) co f (x, δ) = co 2 4h2 0 < h < δ ⊂ (y - ε, y + ε). ∈ - Тогда тем более Δ f (x, 2h) (y ε, y + ε) при h < δ(ε). В результате существует 4h2 lim h→0 Δ2f (x, 2h) 4h2 = y, т. е. y = f [∗∗](x) и выполняется равенство (4.1). K Таким образом, второй симметрический субдифференциал можно рассматривать как обобщение обычной второй симметрической производной. В вещественнозначном случае ∂[∗∗]f (x) есть компактный отрезок, концами которого являются нижняя и верхняя вторые симметрические производные. Теорема 4.2. Функция f : R → R имеет KS -субдифференциал второго порядка в точке x ∈ [a, b] тогда и только тогда, когда в этой точке конечны верхняя и нижняя симметрические производные: -∞ < f [∗∗](x) <: f [∗∗](x) < +∞; при этом ∂[∗∗] K f (x) = [f [∗∗](x); f [∗∗](x)]. (4.2) Доказательство. По определению верхней и нижней симметрических производных, f [∗∗](x) = lim h→+0 f [∗∗](x) = lim h→+0 f (x +2h) - 2f (x)+f (x - 2h) , 4h2 f (x +2h) - 2f (x)+f (x - 2h) . 4h2 1. Пусть выполнено -∞ < f [∗∗](x) <: f [∗∗](x) < +∞. Положим B = [f [∗∗](x), f [∗∗](x)]; Uε = [-ε, ε]. По свойствам lim и lim ∀ ε > 0 ∃ δ > 0 (0 < h <: δ): f [∗∗](x) - ε <: f (x <: f +2h) - 2f (x)+f (x - 2h) 4h2 [∗∗] (x)+ ε. [∗∗] ˆ / Δ2 f (x, 2h) Отсюда ∂ f (x, δ) = co 0 < h < δ ⊂ [f [∗∗](x) - ε; f [∗∗](x) + ε] при δˆ <: δ, т. е. co ∂[∗∗] 4h2 co f (x, δ) ⊂ B + Uε. Переход к K-пределу с использованием признака Вейерштрасса для K-пре- K делов (теорема 1.1) дает существование ∂[∗∗]f (x) ⊂ [f [∗∗](x) - ε; f [∗∗](x)+ ε]. При ε → 0 имеем: ∂[∗∗] K f (x) ⊂ [f [∗∗](x); f [∗∗](x)]. (4.3) [∗∗] [∗∗] 2. Обратно, пусть ∃ ∂K f (x) и ∂K f (x) = [y1; y2]. Тогда ∀ ε > 0 ∃ δ > 0: ∂[∗∗] / Δ 2 f (x, 2h) Тем более, co f (x, δ) = co 4h2 Δ2f (x, 2h) 0 < h < δ ⊂ (y1 - ε; y2 + ε). y1 - ε < 4h2 < y2 + ε, 0 < h < δ. Поэтому, переходя к lim и lim, получаем существование конечных верхней и нижней вторых симметрических производных: y1 - ε <: f [∗∗](x) <: f [∗∗](x) <: y2 + ε ∀ ε > 0. Отсюда вытекает [f [∗∗](x); f [∗∗](x)] ⊂ [y1; y2], т. е. K [f [∗∗](x); f [∗∗](x)] ⊂ ∂[∗∗]f (x). (4.4) Из включений (4.3) и (4.4) следует равенство (4.2). Рассмотрим случай, когда вещественнозначная функция f дифференцируема в точке x. 130 И. В. ОРЛОВ, И. В. БАРАН Теорема 4.3. Пусть функция f : R → R дифференцируема в окрестности точки x, а f∗ K KS -субдифференцируема в точке x. Тогда существует ∂[∗∗]f (x) и верна оценка ∂[∗∗] [∗] K f (x) ⊂ ∂K (f∗)(x) = [f [∗](f ∗)(x); f [∗](f ∗)(x)]. Доказательство. Применяя теорему Коши по переменной h, имеем: f (x +2h) - 2f (x)+f (x - 2h) 4h2 = (0 < θ < 1). Отсюда 2f∗(x + 2θh) - 2f∗(x - 2θh) = 8θh f∗(x + 2θh) - f∗(x - 2θh) 4θh / Δ2 f (x, 2h) co / Δ1 f∗ (x, 2θh) / Δ1 f∗ (x, k) 4h2 0 < h < δ = co 2(2θh) 0 < θh < δ ⊂ co 2k 0 < k < δ . Переходя к K-пределу с использованием признака Вейерштрасса, получаем: ∂[∗∗]f (x) ⊂ ∂[∗](f ∗)(x). K K В вещественном случае из теоремы 3.2 имеем: ∂[∗](f ∗)(x) = [f (f )(x); f [∗](f )(x)]. Отсюда ∂[∗∗] [∗] ] ∗ ∗ K K f (x) ⊂ ∂K (f∗)(x) = [f [∗](f ∗)(x); f [∗](f ∗)(x)]. x Пример 4.1. Положим ϕ(x) = [ f (t) dt, где функция f задана равенствами: 0 ⎧ 1 ⎪⎨f (x) = x sin x, x > 0, 1 f (0) = 0. ⎪⎩f (x) = x2 sin , x < 0, x Тогда ϕ(x) всюду дифференцируема и ϕ∗(x) = f (x). Значит, как было показано в примере 3.1, (ϕ∗)[∗](0) = f [∗](0) = - 1 , (ϕ∗)[∗](0) = f [∗](0) = 1 . 2 2 K Отсюда по теореме 4.3 получаем ∂[∗∗]ϕ(0) = = [-1/2; 1/2]. Приведем пример вычисления второго симметрического субдифференциала в случае, когда второй симметрической производной не существует. Пример 4.2. Положим f (x) = x2 sin 1 x при x > 0; f (x) = x3 sin 1 x при x < 0; f (0) = 0. Нетрудно K убедиться, что f [∗∗](0) = -1, f [∗∗](0) = 1. В силу теоремы 4.2 существует ∂[∗∗]f (0) = [-1, 1]. Одним из наиболее важных свойств как обычного K-субдифференциала (см. [17, 20]), так и симметрических субдифференциалов первого и второго порядков является субаддитивность по f. Теорема 4.4 (субаддитивность по f ). Пусть f, g : R → F, где F - вещественное банахово пространство. Если отображения f и g дважды KS -субдифференцируемы в точке x, то отображение f + g также дважды KS -субдифференцируемо в точке x, причем ∂[∗∗] [∗∗] [∗∗] K (f + g)(x) ⊂ ∂K f (x)+ ∂K g(x). (4.5) Доказательство. Преобразуем симметрическое разностное отношение для f + g: Δ2(f + g)(x, 2h) 4h2 = Δ2f (x, 2h) 4h2 + Δ2g(x, 2h) 4h2 . Отсюда следует включение: ∂[∗∗] / Δ 2 f (x, 2h) Δ2 g(x, 2h) co (f + g)(x, δ) = co ⊂ 4h2 + 4h2 0 < h < δ / Δ2f (x, 2h) / Δ2g(x, 2h) ⊂ co 4h2 ⊂ 0 < h < δ + co 4h2 0 < h < δ (4.6) / Δ2f (x, 2h) / Δ2g(x, 2h) ⊂ co 4h2 0 < h < δ + co 4h2 0 < h < δ . ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ - 2: СИММЕТРИЧЕСКИЙ ВАРИАНТ 131 Далее, для произвольной окрестности нуля U ⊂ E выберем замкнутую выпуклую окрестность нуля U∗ так, чтобы U∗ + U∗ ⊂ U, и δU ∗ > 0 такое, чтобы при 0 < δ < δU ∗ выполнялись включения: ∂[∗∗] [∗∗] [∗∗] co co f (x, δ) ⊂ ∂K f (x)+ U∗, ∂[∗∗]g(x, δ) ⊂ ∂K g(x)+ U∗. Тогда имеем: / Δ 2 f (x, 2h) co / Δ2 g(x, 2h) [∗∗] [∗∗] [∗∗] 4h2 0 < h < δ [∗∗] + co 4h2 [∗∗] 0 < h < δ [∗∗] ⊂ ∂co f (x, δ)+ ∂co [∗∗] g(x, δ) ⊂ [∗∗] ⊂ (∂K f (x)+ U∗)+ (∂K g(x)+ U∗) ⊂ (∂K f (x)+ ∂K g(x)) + (U∗ + U∗) ⊂ (∂K f (x)+ ∂K g(x)) + U. Так как множество ∂[∗∗]f (x)+∂[∗∗]g(x) компактно, а множество U замкнуто, то множество (∂[∗∗]f (x)+ K K K ∂[∗∗] K g(x)) + U ) замкнуто, откуда следует: 2 co / Δ f (x, 2h) / Δ2 g(x, 2h) [∗∗] [∗∗] 4h2 0 < h < δ + co 4h2 0 < h < δ ⊂ (∂K f (x)+ ∂K g(x)) + U. (4.7) Из (4.6) и (4.7) следует включение: ∂[∗∗](f + g)(x, δ) ⊂ (∂[∗∗]f (x)+ ∂[∗∗]g(x)) + U при δ < δU . Отсюда co и из определения K-предела получаем: co ∂[∗∗] K (f + g)(x) = Klim ∂[∗∗](f + g)(x, δ) ⊂ (1 1(∂ [∗∗] K K f (x)+ ∂ [∗∗] K K g(x)) + U K = ∂[∗∗] ∗ f (x)+ ∂ [∗∗] K g(x). δ→+0 U =U (0) Нетрудно показать, что если одна из функций в теореме 4.4 дважды симметрически дифференцируема в обычном смысле, то включение (4.5) превращается в точное равенство. Теорема 4.5. Если отображение f дважды KS -субдифференцируемо в точке x, а отображение g дважды симметрически дифференцируемо в точке x, то ∂[∗∗] [∗∗] K (f + g)(x) = ∂K f (x)+ g[∗∗](x). (4.8) 2. K-теорема Шварца и обобщенная K-теорема Шварца для KS -субдифференциалов второго порядка. Приступая к реализации плана переноса обобщенного суммирования Римана на случай вторых KS -субдифференциалов, в пункте 4.2 мы переносим классическую теорему Шварца, обобщенную теорему Шварца и ослабленное условие Шварца на случай дважды KS субдифференцируемых функций. Для удобства дальнейших рассуждений примем для основной функции обозначение F. Здесь мы рассмотрим только вещественный случай F : R → R. Важную роль в приложениях симметрических производных к рядам Фурье играет следующая теорема Шварца (см. [4, 30]): Теорема 4.6 (теорема Шварца). Если F (x) непрерывна на [a; b] и F [∗∗](x) = 0 при a < x < b, то F (x) линейна на этом отрезке. Если условие F [∗∗](x) = 0 выполняется всюду, кроме отдельных «точек неизвестности», то справедлива следующая Теорема 4.7 (обобщенная теорема Шварца). Пусть для непрерывной на [a; b] функции F (x) выполнено равенство F [∗∗](x) = 0 всюду на (a; b), кроме конечного числа «точек неизвестности» a < x1 < x2 < ... < xm < b. Если в каждой из этих точек выполняется более слабое условие Δ2F (xi, h) lim h→0 2h = 0, то F (x) линейна на этом промежутке. ∂[∗∗] Оказывается, второй KS -субдифференциал в подобных случаях может играть ту же роль, что и обычная вторая симметрическая производная, с заменой равенства F [∗∗](x) = 0 на оценку 0 ∈ K F (x). K Теорема 4.8 (K-теорема Шварца). Если функция F (x) непрерывна на [a; b], ∂[∗∗]-субдиффе- K ренцируема на (a; b) и выполнено включение 0 ∈ ∂[∗∗]F (x) при a < x < b, то F (x) - линейная функция: F (x) = Ax + B (a <: x <: b). (4.9) 132 И. В. ОРЛОВ, И. В. БАРАН Доказательство. Для произвольного ε > 0 построим пару вспомогательных функций ϕ±(x) = ± Тогда при x ∈ (a; b) имеем: 1 F (x) - F (a) - ∂[∗∗] F (b) - F (a)(x a) b - a - [∗∗] + ε(x - a)(x - b). K ϕ±(x) = ±∂K F (x)+ 2ε, (4.10) при этом ϕ±(a) = ϕ±(b) = 0. Докажем, что ϕ±(x) ≡ 0 при a <: x <: b. Проведем проверку для ϕ+(x). Если допустить, что ϕ+(x) /≡ 0 и принимает в некоторых точках (a; b) строго положительные значения, то непрерывная функция ϕ+(x) достигает своего наибольшего положительного значения в некоторой внутренней точке x0 ∈ (a; b). В таком случае для достаточно малого h > 0: ϕ+(x0 ± 2h) <: ϕ+(x0). Таким образом, Δ2 hϕ+(x0) = (ϕ+(x0 + 2h) - ϕ+(x0)) + (ϕ+(x0 - 2h) - ϕ+(x0)) <: 0. 2 Вместе с тем при достаточно малых h: Δ ϕ+(x0, h) <: 0 при 0 < h < δ. Значит, 4h2 ∂[∗∗] + 0 / Δ2 ϕ (x , h) и, наконец, co ϕ+(x0, δ) = co ∂[∗∗] 4h2 0 < h < δ ⊂ (-∞; 0], co K ϕ+(x0) = Klim ∂[∗∗]ϕ+(x0, δ) ⊂ (-∞; 0], δ→+0 вопреки равенству (4.10). Следовательно, ϕ+(x) <: 0 ∀ x ∈ [a; b], откуда F (x) - F (a) - F (b) - F (a) b - a (x - a) < ε(b - a)2. (4.11) Переходя в оценке (4.11) к пределу при ε → 0, получаем тождество F (b) - F (a) F (x) ≡ F (a) - что равносильно равенству (4.9). (x - a), b - a Аналогично, если условия K-теоремы Шварца выполнены, за исключением конечного числа «точек неизвестности», то справедлива обобщенная K-теорема Шварца. K Теорема 4.9. Пусть функция F (x) непрерывна на [a; b] и ∂[∗∗]-субдифференцируема на (a; b), K причем 0 ∈ ∂[∗∗]F (x) всюду, кроме конечного числа «точек неизвестности» a = x0 < x1 < x2 < ··· < xn < xn+1 = b. Если в каждой из этих точек выполняется «ослабленное K-условие Шварца»: 2 0 ∈ Klim co / Δ F (xi, h) 0 < h < δ (i = 0,n + 1), (4.12) δ→+0 2h то F (x) - линейная функция на [a; b]. Доказательство. Зафиксируем i = 1, n. По предыдущей теореме F (x) - линейная функция в промежутке [xi-1; xi]: F (x) = cx + d, а в смежном промежутке [xi; xi+1]: F (x) = c∗x + d∗. При этом в точке x = xi имеем: Условие (4.12) для x = xi дает: F (xi) = cxi + d = c∗xi + d∗. (4.13) / F (xi +2h) - F (xi) F (xi - 2h) - F (xi) 0 ∈ Klim co δ→+0 2h - -2h 0 < h < δ . (4.14) Выражение в фигурных скобках в (4.14) есть разность угловых коэффициентов прямых y = cx + d и y = c∗x + d∗ и не зависит от h при достаточно малом 0 < h < δ, т. е. является константой. Таким ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ - 2: СИММЕТРИЧЕСКИЙ ВАРИАНТ 133 образом, оценка (4.14) принимает вид: ( ( F (xi +2h) - F (xi) 0 ∈ 2h - F (xi - 2h) - F (xi) 1\\ -2h ⇔ ⇔ ( F (xi +2h) - F (xi) F (xi - 2h) - F (xi)\\ = , 2h -2h - откуда получаем c = c∗. Тогда из (4.13) следует, что d = d∗, т. е. функция y = c∗x + d∗ является линейным продолжением на отрезок [xi; xi+1] функции y = cx + d, заданной на [xi 1; xi]. Применяя n это утверждение по индукции последовательно ко всем парам отрезков /[xi 1; x ]; [x ; x ] , мы приходим к утверждению теоремы. Замечание 4.1. Используя свойство K-предела: Klim co /Φ(x, h) 0 < h < δ = lim Φ(x, h), lim - i i Φ(x, h) , i+1 i=1 δ→+0 1 h→+0 h→+0 «ослабленное K-условие Шварца» можно переписать в виде: lim h→+0 Δ2F (x, h) 2h <: 0 <: lim h→+0 Δ2F (x, h) . 2h 3. Обобщенный метод суммирования Римана. Посредством перехода в конструкции классического метода Римана (см. [4, 30]) от обычной второй симметрической производной к соответствующему KS -субдифференциалу мы введем понятие так называемого K-метода Римана суммирования тригонометрических рядов. При этом докажем регулярность этого метода и покажем на примере его область применимости. Вначале напомним схему классического метода Римана. Рассмотрим тригонометрический ряд с ограниченными коэффициентами ∞ a0 + '\\" an 2 n=1 cos nx + bn sin nx. (4.15) Интегрируя его почленно два раза, получим абсолютно и равномерно сходящийся ряд. Обозначим через F (x) его сумму. Это непрерывная функция, которая называется функцией Римана для тригонометрического ряда (4.15): a0 F (x) = 4 ∞ x2 + Cx + D - '\\" n=1 an cos nx + bn sin nx n2 . Допустим, что в некоторой точке x0 функция F (x) имеет вторую симметрическую производную F [∗∗](x0). Тогда ряд (4.15) суммируем в точке x0 методом Римана, и его римановская сумма равна F [∗∗](x0). Заменяя в описанной выше конструкции классического метода Римана вторую симметрическую производную на второй симметрический K-субдифференциал, мы приходим к K-методу Римана суммирования тригонометрических рядов. ∂[∗∗] Определение 4.2. Если в некоторой точке x0 функция F (x) имеет второй KS -субдифференциал K K F (x0), то будем говорить, что тригонометрический ряд (4.15) суммируем в точке x0 K-методом Римана, и его K-сумма есть множество ∂[∗∗]F (x0). K Так как KS -субдифференциал ∂[∗∗]F (x) есть обобщение обычной симметрической производной F [∗∗](x), то K-метод Римана является, вообще говоря, более общим, чем классический метод Римана. Теорема 4.10. Если тригонометрический ряд (4.15) с коэффициентами, стремящимися к нулю, суммируется методом Римана в точке x0 к числу S, то он суммируется в этой точке к {S} и K-методом Римана, причем имеет место равенство ∂[∗∗] K F (x0) = {F [∗∗](x0)} = {S}. (4.16) 134 И. В. ОРЛОВ, И. В. БАРАН Как следствие, учитывая регулярность классического метода Римана, приходим к регулярности K-метода Римана относительно обычной сходимости. Следствие 4.1. Если в условиях теоремы 4.10 ряд (4.15) суммируется обычным образом в точке x0 к числу S, то он суммируется в этой точке к S и K-методом Римана. Продемонстрируем на примере, что область применимости K-метода Римана строго шире области применимости классического метода Римана. Пример 4.3. Положим Φ(x) = x sin 1 при x > 0; Φ(x) = x2 sin 1 при x < 0; Φ(0) = 0. x x x r Введем теперь функцию F (x) = 0 Φ(t) dt. Тогда F ∗(x) = Φ(x), следовательно: ∂[∗∗] 1 1 1 1 1 При этом K F (0) = (F ∗)[∗](0); (F ∗)[∗](0) = - (Φ)[∗](0); (Φ)[∗](0) = ; . 2 2 ⎪ f (x) = F ∗∗(x) = Φ∗(x) = ⎧ 1 ⎪sin x ⎨ ⎪ 1 - x cos 1 1 при x > 0, x 1 ⎪⎩2x sin x - cos x при x < 0. В силу того, что функция Φ(x) непрерывна в точке x = 0, имеем f ∈ L1(R) и F (x) - функция Римана для f (x). Таким образом, ряд Фурье для f (x) суммируем в точке x = 0 K-методом Римана к множеству [-1/2; 1/2] и поэтому не суммируется классическим методом Римана в этой точке. K-метод Римана, как и классический метод Римана, в приложении к рядам Фурье в силу теоремы 4.10 дает следующий результат. Теорема 4.11. Ряд Фурье от любой суммируемой функции f (x) на [-π; π] суммируется Kметодом Римана почти всюду к этой функции. 4. «Ослабленное K-условие Шварца» для тригонометрических рядов и обобщенная теорема Кантора. На основе предыдущих результатов (в пункте 4.4) мы обобщим теорему Кантора о суммировании методом Римана тригонометрического ряда на случай K-метода Римана. Отметим, что при этом удается исключить условие стремления к нулю коэффициентов ряда. Важным результатом классической теории рядов Фурье является следующая Теорема 4.12 (теорема Кантора). Если тригонометрический ряд (4.15) с коэффициентами, стремящимися к нулю, суммируем к нулю методом Римана всюду, кроме, быть может, конечного числа точек, то все его коэффициенты равны нулю. Заметим, что в условиях теоремы Кантора во всех «точках неизвестности» x1,..., xn автоматически выполнено (см. [30, п. 747, вторая теорема Римана]) ослабленное условие Шварца: Δ2F (xi, h) lim h→+0 2h = 0. (4.17) Докажем теперь аналог теоремы Кантора для K-метода Римана, в котором ослабленное условие Шварца (4.17) заменяется еще более слабым условием: lim h→+0 Δ2F (xi, h) 2h <: 0 <: lim h→+0 Δ2F (xi, h) 2h , (4.18) при исключении условия стремления к нулю коэффициентов тригонометрического ряда. Теорема 4.13 (K-теорема Кантора). Если тригонометрический ряд (4.15) с ограниченными коэффициентами (где необязательно an, bn → 0) суммируется к нулю K-методом Римана всюду, кроме конечного числа точек x1,..., xn, в которых выполняется «ослабленное K-условие Шварца» (4.18), то an = bn = 0. ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ - 2: СИММЕТРИЧЕСКИЙ ВАРИАНТ 135 Доказательство. По условию теоремы «ослабленное K-условие Шварца» выполнено. Это позволяет применить в нашем случае теорему 4.9 к функции F (x). По обобщенной теореме Шварца (теорема 4.7) функция Римана F (x) должна быть линейной на каждом интервале (a; b), где ряд (4.15) сходится к нулю. Тогда имеем F (x) = Ax + B (a <: x <: b). (4.19) Но, так как F (x) есть функция Римана для ряда (4.15), то a0 F (x) = 4 ∞ x2 + Cx + D - '\\" n=1 an cos nx + bn sin nx n2 . (4.20) Из (4.19) и (4.20), обозначая A1 = C - A, B1 = D - B, получаем: ∞ a0 x2 + A x + B = '\\" an cos nx + bn sin nx 4 1 1 n=1 n2 . Но правая часть имеет период 2π, значит, и левая тоже, а это возможно только при a0 = 0 и A1 = 0. (4.21) Значит, ∞ B1 = '\\" n=1 an cos nx + bn sin nx n2 . (4.22) Ряд (4.22) сходится равномерно по мажорантному признаку Вейерштрасса, поэтому его коэффициенты являются коэффициентами Фурье от его суммы, но она есть постоянное число B1, а потому an/n2 = bn/n2 = 0 (n = 1, 2,.. .), откуда следует an = bn = 0 (n = 1, 2,.. .). (4.23) Из (4.21) и (4.23) следует, что ряд (4.22) - нулевой. 5. Пример эффективности «K-условия Шварца» для рядов Фурье. Эффективность «ослабленного K-условия Шварца» демонстрируется на примере достаточно общего вида. Построим функцию F (h), которая при h > 0 будет иметь вид: РИС. 4.1 При этом hn '\\J 0, kn '\\J 0,F (0) = 0 и F (h) четным образом продолжается для h < 0, причем F (h) C2-сглажена в малых окрестностях угловых точек. Рассмотрим поведение функции F (h) на n-м шаге. 136 И. В. ОРЛОВ, И. В. БАРАН kn F (h) kn 1. h2n <: h <: h2n-1: F (h) = kn, . <: h2n-1 h <: h2n F (h) kn - kn+1 2. h2n+1 <: h <: h2n: F (h) линейная, Потребуем, чтобы выполнялись условия: hn+1 h ≡ h2n - kn+1 . h2n+1 kn 1. lim n→∞ hn = 0, lim n→∞ kn = 0; (ii) 0 < lim n→∞ h2n = L < ∞. В этом случае lim kn = lim kn § lim h2n = L · 0 = 0, n→∞ h2n-1 n→∞ h2n n→∞ h2n-1 lim kn - kn+1 = lim kn + o(kn) = lim kn = L. n→∞ h2n - h2n+1 n→∞ h2n + o(h2n) n→∞ h2n Следовательно, lim(F (h)/h) = L, lim(F (h)/h) = 0, откуда следует h→0 h→0 2 Klim co / Δ F (0, h) 0 < h < δ = [0; L] э 0. (4.24) δ→+0 2h 2 В частности, из (4.24) следует lim h→+0 Δ F (0, h) 4h2 K = F [∗∗](0) = +∞, т. е. F не является ∂[∗∗]-субдифференцируемой в нуле. Отметим, что F (h) - функция Римана для функции f (h) = F ∗∗(h) (h /= 0). Приведем конкретный пример. Пример 4.4. Пусть hn = kn 1 , kn = n! 1 ∈ (n N). Тогда lim (2n)! n→∞ hn+1 hn = 0, lim n→∞ kn+1 kn = 0, lim n→∞ h2n = 1. Таким образом, последовательности hn '\\J 0 и kn '\\J 0 удовлетворяют описанным выше условиям (i)-(ii). 6. Формула Тейлора для KS -субдифференциалов высших порядков. Здесь мы перенесем результаты пункта 2.1 на случай KS -субдифференцируемых отображений. Далее полагаем, что f : R ⊃ U (x) → F, где F - вещественное банахово пространство. Введем понятие KS -субдифференциала n-го порядка. Определение 4.3. Назовем KS -субдифференциалом n-го порядка отображения f в точке x следующий K-предел, если он существует: ∂[n] n / 1 '\\" K f (x) = Klim co (-1)k Ck f (x + (n - 2k)h) 0 < h < δ . δ→+0 (2h)n n k=0 Справедлив следующий аналог предложения 2.1. K K Предложение 4.1. Если существует ∂[∗](f (n-1))(x), то существует KS -субдифференциал nго порядка ∂[n]f (x) и имеет место включение ∂[n] [∗] K f (x) ⊂ ∂K (f (n-1))(x). Получим теперь формулу Тейлора с остаточным членом в форме Пеано для KS -субдифференциалов. K Теорема 4.14. Предположим, что существует ∂[∗]f (n-1)(x) и отображение f абсолютно непрерывно в окрестности точки x. Тогда имеет место оценка n-1 (k) n / 1 f (x + h) - '\\" f k 1. h h ∈ co (∂[∗]f (n-1))(x + θh) + o(hn). (4.25) k! k=0 n! K 0<θ<1 ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ - 2: СИММЕТРИЧЕСКИЙ ВАРИАНТ 137 K Доказательство. Из существования ∂[∗]f (n-1)(x) следует, что f имеет обычные производные до (n - 1) порядка включительно в окрестности точки x. Применим математическую индукцию. 1. При n = 1 оценка (4.25) приводит к теореме о среднем (см. п. 5, теорема 5.20): co f (x + h) - f (x) ∈ / 1 K (∂[∗]f )(x + θh) · h + o(h). 0<θ<1 2. Допустим, утверждение теоремы верно для любого f , удовлетворяющего условию теоремы для порядка (n - 1): hn-1 / 1 ( [∗] (n- 2)) n-1 f (x + h) - f (x) ∈ (n - 1)! co 0<θ<1 ∂K f (x + θh) + o(h ). / 1 ( [∗] (n-2)) Отсюда для любого yn-1 ∈ co 0<θ<1 ∂K f (x + θh) hn-1 имеем: n 1 f (x + h) - f (x) - (n - 1)! yn-1 ∈ o(h - ), где o(hn-1) не зависит от выбора yn вспомогательную функцию: -1. Введем для любого yn 1 / ∈ co 0<θ<1 K (∂[∗]f (n-1))(x + θh) n - - '\\" n-1 f (k)(x) r (f ; h) = f (x + h) f (x) k! hk - hn n! yn. k=1 Вычислим обычную производную по h вспомогательной функции rn: f (x) n-1 (k) n(f ; h) = f (x + h) - '\\" h hn-1 - yn. r∗ ∗ k=1 (k - 1)! k-1 (n - 1)! Поскольку ∂[∗]f (n-1)(x) = ∂[∗]((f ∗)(n-1))(x), то по допущению индукции r∗ (f ; h) = rn 1(f∗; h) = K K n - o(hn-1). Применяя классическую теорему о среднем (0 < θ < 1), получаем: / rn(f ; h) ∈ co r∗ (f ; θh) 0 < θ < 1 · h = o(hn-1) · h = o(hn). n n-1 (k) n k Итак, доказано по индукции, что f (x + h) - '\\" f (x) h h - y = o(hn), где многозначная оценка k! k=0 n! n «о» не зависит от выбора yn ∈ co / 1 0<θ<1 K (∂[∗]f (n-1))(x + θh) . Следовательно, - n 1 f (x + h) - '\\" f (k) (x) hn hk ∈ y + o(hn) k! k=0 n! n при любом выборе yn ∈ co / 1 0<θ<1 K (∂[∗]f (n-1))(x + θh) . Таким образом, мы получили равенство (4.25). Отметим, что здесь, как и в соответствующей теореме пункта 2.3, при n ;:? 4 условие абсолютной непрерывности f в окрестности x выполняется автоматически, ввиду f ∈ C1(U (x)). Для нечетного порядка имеет место следующая формула Тейлора. Теорема 4.15. Предположим, что существует ∂[∗](f (2n))(x) = ∂[2n+1]f (x) и отображение f K K абсолютно непрерывно в окрестности точки x. Тогда имеет место оценка n f (x + h) - f (x - h) - 2 '\\" f (2k-1) (x) h2n+1 h2k-1 ∈ 2 ∂[2n+1]f (x)+ o(h2n+1). (4.26) k=1 (2k - 1)! (2n + 1)! K 138 И. В. ОРЛОВ, И. В. БАРАН Доказательство. Применяя формулу Тейлора (4.25) порядка (2n + 1) к f (x + h) и f (x - h), получаем: 2n f (x + h) - '\\" f (k) (x) h2n+1 hk ∈ co ∂[2n+1]f ((x; x + h)) + o(h2n+1); (4.27) k! k=0 2n (k) (2n + 1)! K 2n+1 ( h)k f (x - h) - '\\" f (x) (-h) - ∈ co ∂[2n+1]f ((x - h; x)) + o((-h)2n+1). (4.28) k! k=0 (2n + 1)! K Вычитая почленно оценки (4.27) и (4.28) и приводя слева подобные члены, получаем: n f (x + h) - f (x - h) - 2 '\\" f (2k-1) (x) h2k-1 ∈ h2n+1 k=1 ( (2k - 1)! [2n+1] [2n+1] 2n+1 ∈ (2n + 1)! co ∂K f ((x; x + h)) + co ∂K f ((x - h; x)) + o(h ) ⊂ h2n+1 ( [2n+1] [2n+1] 2n+1 ⊂ (2n + 1)! co ∂K f ((x - h; x + h)) + co ∂K f ((x - h; x + h)) h2n+1 + o(h ) = = 2 co ∂[2n+1] 2n+1 (2n + 1)! K f ((x - h; x + h)) + o(h ). Аналогично доказывается формула Тейлора в четном случае. Теорема 4.16. Предположим, что существует ∂[2n]f (x) = ∂[∗](f (2n-1))(x) и отображение f K K абсолютно непрерывно в окрестности точки x. Тогда имеет место оценка - n 1 f (x + h)+ f (x - h) - 2 '\\" f (2k) (x) h2n h2k ∈ 2 ∂[2n]f (x)+ o(h2n). (4.29) k=0 (2k)! (2n)! K 1. СИММЕТРИЧЕСКИЙ K-СУБДИФФЕРЕНЦИАЛ ПЕРВОГО ПОРЯДКА ДЛЯ ОТОБРАЖЕНИЙ ВЕКТОРНОГО АРГУМЕНТА 1. KS -сублинейные операторы и их основные свойства. Здесь, опираясь на известные свойства конуса K-операторов, мы описываем соответствующие свойства KS -операторов. Напомним некоторые сведения из теории K-операторов, построенной недавно в работах [16, 19]. Пусть F - вещественное банахово пространство. Через FK обозначим выпуклый конус всех непустых компактных выпуклых подмножеств F. Конус FK является индуктивно упорядоченным и нормированным относительно нормы lCl = sup lyl. Конус FK обладает также свойством квазиполноты y∈C (см. [16, теорема 3.3]), т. е. является банаховым конусом. Сублинейный оператор A : E → FK , где A - линейное пространство, называется E-оператором. Свойства K-операторов исследованы в [16]. Введем теперь понятие KS -оператора. Заметим, что оно отличается от понятия K-оператора выполнением свойства однородности в полном объеме, в то время как K-операторы обладают лишь свойством позитивной однородности. Определение 5.1. Пусть E - линейное пространство, F - банахово пространство. Отображение A : E → FK назовем KS -сублинейным оператором (или KS -оператором), если для любых h1, h2,h ∈ E верно: 1. A(h1 + h2) ⊂ Ah1 + Ah2; (ii) A(λh) = λ · Ah при любом λ ∈ R. Далее операторы, удовлетворяющие свойствам (i)-(ii), будем называть s-сублинейными. Рассмотрим теперь случай, когда E - также банахово пространство. Пусть A - KS -оператор, действующий из E в FK . ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ - 2: СИММЕТРИЧЕСКИЙ ВАРИАНТ 139 Определение 5.2. Будем говорить, что KS -оператор A ограничен (по норме), если lAl := sup ±h±<:1 lAhl < ∞. (5.1) Замечание 5.1. Нетрудно убедиться, что норма KS -оператора обладает обычными свойствами нормы: 1. lAl ;:? 0, (lAl = 0) ⇐⇒ A = 0; 1. lA + Bl <: lAl + lBl; 2. lλ · Al = |λ|· lAl при любом λ ∈ R. Поскольку KS -операторы являются частным случаем K-операторов, то для них сохраняется также свойство: 3. lAhl <: lAl· lhl. По этой же причине для KS -операторов сохраняется следующая связь между непрерывностью и ограниченностью по норме (см. [16, теорема 3.1]): Теорема 5.1. KS -оператор A : E → FK ограничен по норме тогда и только тогда, когда A непрерывен в нуле или, что равносильно, тогда и только тогда, когда A равномерно полунепрерывен сверху всюду на E. K K Обозначим множество всех ограниченных KS -операторов A : E → FK через LS (E; F ). Нетрудно видеть, что LS (E; F ) - нормированный конус, являющийся подконусом нормированного конуса LK (E; F ). K K Теорема 5.2. Для любых нормированных пространств E и F множество LS (E; F ) образует нормированный конус. При этом конус LS (E; F ) индуктивно упорядочен отношением (A1 <: A2) : ⇐⇒ (A1h ⊂ A2h (∀ h ∈ E)), K и норма в LS (E; F ) согласована с отношением порядка: (A1 <: A2) =⇒ (lA1l <: lA2l). Получим основной результат этого пункта, используя теорему о банаховом конусе LK (E; F ) (см. [16, теорема 3.3]). K Теорема 5.3. Если пространство F - банахово, то LS (E; F ) - банахов конус. K Доказательство. В силу банаховости конуса LK (E; F ) (см. [16, теорема 3.3]) достаточно лишь проверить замкнутость в конусе LK (E; F ) подконуса LS (E; F ). K R K Итак, пусть An ∈ LS (E; F ) (n = 1, 2,... ), lAn - Al → 0 в LK (E; F ). Переходя к пределу в равенстве lλ · Anl = |λ|· lAnl, получаем lλ · Al = |λ|· lAl (∀ λ ∈ ), т. е. свойство однородности выполнено для -оператора A в полном объеме. K Таким образом, A - KS -оператор, т. е. конус LS (E; F ) замкнут в LK (E; F ). 2. KS -субдифференциалы по направлению, слабые KS -субдифференциалы и их простейшие свойства. В этом пункте вводятся KS -субдифференциал по направлению и слабый KS -субдифференциал в банаховых пространствах и изучаются их простейшие свойства. Пусть отображение f : E → F (E - вещественное линейное пространство, F - вещественное банахово пространство) определено в окрестности точки x ∈ E, h ∈ U (0) ⊂ E, co - замкнутая выпуклая оболочка множества в F. Вводимый ниже симметрический компактный субдифференциал по направлению будем называть также KS -субдифференциалом по направлению. Определение 5.3. KS -субдифференциал отображения f в точке x по направлению h есть следующий K-предел (если он существует): ∂[∗] ( f (x + th) - f (x - th) 1 [∗] K f (x, h) = Klim co δ→+0 0 < t < δ 2t =: Klim ∂δ δ→+0 f (x, h). ∂[∗] Рассмотрим простейшие свойства KS -субдифференциалов по направлению. Отметим, что K f (x, h) обладает полной однородностью (в отличие от позитивной однородности ∂K f (x, h)). 140 И. В. ОРЛОВ, И. В. БАРАН Предложение 5.1 (полная однородность по h). Для любых h ∈ U и λ ∈ R верно: ∂[∗] [∗] Доказательство. Имеем при λ ;:? 0: ∂[∗] K f (x, λh) = λ · ∂K f (x, h). ( f (x + t(λh)) - f (x - t(λh)) 1 K f (x, λh) = Klim co δ→+0 0 < t < δ = 2t co = Klim ( f (x +(tλ)h) - f (x - (tλ)h) 1 λ 0 < tλ < λδ = δ→+0 = 2tλ Г ( f (x + t˜h) - f (x - t˜h) 1l δ˜ = λ · δ, δ˜ → +0, tλ = t˜ = Klim λ co 0 < t˜ < δ˜ = [∗] δ → ˜ +0 2t˜ [∗] [∗] = λ · ∂K f (x, h). При λ < 0 остается учесть очевидное равенство ∂K f (x, -h) = -∂K f (x, h). Предложение 5.2 (субаддитивность по f ). Для любого h ∈ U верно: ∂[∗] [∗] [∗] Доказательство. Имеем: ∂[∗] K (f1 + f2)(x, h) ⊂ ∂K f1(x, h)+ ∂K f2(x, h). ( f1(x + th)+f2(x + th) - f1(x - th) - f2(x - th) 1 K (f1 + f2)(x, h) = Klim co δ→+0 (( f1(x + th) - f1(x - th) 1 2t ( f2(x + th) - f2(x - th) 1 0 < t < δ = \\ = Klim co δ→+0 + 2t 2t 0 < t < δ ⊂ Г ( f1(x + th) - f1(x - th) 1 ( f2(x + th) - f2(x - th) 1l ⊂ Klim co δ→+0 0 < t < δ 2t + co 0 < t < δ = 2t Г ( f1(x + th) - f1(x - th) 1 ( f2(x + th) - f2(x - th) 1l = Klim co δ→+0 0 < t < δ 2t + co 0 < t < δ . 2t Отсюда получаем: ∂[∗] ( f1(x + th) - f1(x - th) 1 K 1 2 ⊂ (f + f )(x, h) Klim co δ→+0 2t ( f2(x + th) - f2(x - th) 1 0 < t < δ + + Klim co δ→+0 0 < t < δ 2t = ∂[∗]f1(x, h)+ ∂[∗]f2(x, h). K K Легко проверяются также следующие утверждения (ниже F1, F2,G - банаховы пространства). Предложение 5.3 (однородность по f ). Для любых h ∈ U и λ ∈ R верно: ∂[∗] [∗] K (λf )(x, h) = λ · ∂K f (x, h). K Таким образом, ∂[∗]f (x, h) является s-сублинейным по f оператором. Предложение 5.4. Пусть f = (f1, f2) : E → F1 × F2. Тогда для любого h ∈ U ∂[∗] [∗] [∗] K (f1, f2)(x, h) ⊂ ∂K f1(x, h) × ∂K f2(x, h). → Предложение 5.5. Пусть E -f → F -A G, A ∈ L(F, G). Тогда для любого h ∈ U ∂[∗] [∗] K (A · f )(x, h) = A(∂K f (x, h)). В доказательстве заключительного утверждения используется признак Вейерштрасса для Kпределов (теорема 1.1). Предложение 5.6. Пусть заданы отображения f, g : E → F, причем: 1. g KS -субдифференцируемо по направлению h в точке x ∈ E; 2. для достаточно малых δ > 0 : ∂[∗]f (x, δ) ⊂ ∂[∗]g(x, δ). K K ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ - 2: СИММЕТРИЧЕСКИЙ ВАРИАНТ 141 Тогда f также KS -субдифференцируемо в точке x по направлению h, причем: ∂[∗] [∗] K f (x, h) ⊂ ∂K g(x, h). (5.2) Доказательство. Так как g KS -субдифференцируемо по направлению h в точке x, то существует ∂[∗] [∗] Таким образом, по теореме 1.1: K g(x, h) = Klim ∂δ g(x, h) =: B . δ→0 [∗] ∀ U (0) ∃ δU > 0 : (0 < δ < δU ) ⇒ (B ⊂ ∂δ g(x, h) ⊂ B + U ). Так как ∂[∗] f (x, h) ⊂ ∂[∗] g(x, h), то: δ δ [∗] [∗] ∀ U (0) ⊂ E ∃ δU > 0 : (0 < δ < δU ) ⇒ (∂δ f (x, h) ⊂ ∂δ g(x, h) ⊂ B + U ). Таким образом, по следствию 1.1, существует K-предел: Klim ∂[∗] f (x, h) = ∂[∗] f (x, h), причем справедлива оценка (5.2). δ→0 δ K Перейдем к понятию слабого KS -субдифференциала. K Определение 5.4. Пусть отображение f : E → F определено в окрестности точки x ∈ E и KS -субдифференцируемо в точке x по любому направлению h ∈ U (0) ⊂ E. Будем говорить, что f слабо KS -субдифференцируемо в точке x, если KS -субдифференциал по направлению ∂[∗]f (x, h) : E → FK s-сублинеен по h. Замечание 5.2. На слабые KS -субдифференциалы автоматически распространяются рассмотренные выше свойства KS -субдифференциалов по направлению при любом фиксированном h. Для слабых KS -субдифференциалов мы примем обозначение ∂[∗]f (x)h. Здесь ∂[∗]f (x) - KS -суб- K K линейный оператор, действующий из E в FK . 3. KS -субдифференциалы Гато и Фреше. Строгий K-субдифференциал. В этом пункте мы введем основные понятия и изучим простейшие свойства KS -субдифференциалов Гато и Фреше и дадим определение строгой K-субдифференцируемости по Фреше. K ∂[∗] Определение 5.5. Пусть отображение f : E → F определено в окрестности точки x ∈ E и слабо KS -субдифференцируемо в точке x. Будем говорить, что f KS -субдифференцируемо по Гато в точке x, если слабый KS -субдифференциал ∂[∗]f (x) непрерывен в нуле или, что равносильно, K f (x) ограничен по норме. Определение 5.6. Если отображение f KS -субдифференцируемо по Гато в точке x, причем сходимость в K-пределе Klim ∂[∗]f (x, h) равномерна по всем направлениям lhl <: 1, то KS -опе- δ→0 δ K ратор ∂[∗]f (x) назовем KS -субдифференциалом Фреше или сильным KS -субдифференциалом f в точке x. Отметим простейшие свойства KS -субдифференциалов Гато и Фреше, вытекающие из соответствующих свойств KS -субдифференциалов по направлению. Теорема 5.4. Пусть отображение f KS -субдифференцируемо по Гато (Фреше), λ ∈ R. Тогда отображение λf также KS -субдифференцируемо по Гато (Фреше), и имеет место равенство ∂[∗] [∗] K (λf )(x)h = λ∂K f (x)h. Теорема 5.5. Если отображения f и g KS -субдифференцируемы по Гато (Фреше), то сумма f + g также KS -субдифференцируема по Гато (Фреше), и для любого h ∈ U имеет место включение ∂[∗] [∗] [∗] K (f + g)(x)h ⊂ ∂K f (x)h + ∂K g(x)h. 142 И. В. ОРЛОВ, И. В. БАРАН Теорема 5.6. Пусть f = (f1, f2) : E → F1 × F2. Если отображения f1 и f2 KS -субдифференцируемы в точке x по Гато (Фреше), то отображение f также KS -субдифференцируемо в точке x по Гато (соответственно, по Фреше), при этом ∂[∗] [∗] [∗] K (f1, f2)(x)h ⊂ (∂K (f1)(x), ∂K (f2)(x)) · h. → Теорема 5.7. Пусть E -f → F -A G, f - KS -субдифференцируемое по Гато (Фреше) отображение, A ∈ L(E, F ). Тогда композиция A◦f также KS -субдифференцируема по Гато (Фреше), и выполняется равенство ∂[∗] [∗] K (A ◦ f )(x)h = A(∂K f (x)h). Далее, по аналогии с понятием строгой дифференцируемости по Фреше, мы введем понятие строгой K-субдифференцируемости по Фреше. Это понятие понадобится нам в дальнейшем для исследования важного вопроса о KS -субдифференцируемости композиции. Определение 5.7. Назовем отображение f : E ⊃ U (x) → F строго K-субдифференцируемым (по Фреше) в точке x ∈ E, если ∀ h1, h2 ∈ U (0) существует K-предел ∂S ( f (x + th1) - f (x + th2) 1 K f (x)(h1 - h2) = Klim co δ→+0 0 < t < δ t , (5.3) который является сублинейным по (h1 - h2) ограниченным K-оператором, причем сходимость в K-пределе (5.3) равномерна по lh1l <: 1, lh2l <: 1. K Замечание 5.3. Нетрудно видеть, что строго K-субдифференцируемое отображение f является сильно K-субдифференцируемым; при этом ∂S f (x) = ∂K f (x). Отметим также, что простейшие свойства строго K-субдифференцируемых отображений аналогичны свойствам сильно K-субдифференцируемых отображений (см. [16]). 4. Критерии KS -субдифференцируемости и строгой K-субдифференцируемости. Здесь изложены последовательно критерии KS -субдифференцируемости: слабой, по Гато, сильной, позволяющие исключить вычисление KS -субдифференциалов по направлению. Добавлен также аналогичный критерий строгой K-субдифференцируемости. Приведем вначале вспомогательный результат. K Теорема 5.8. Пусть E, F - вещественные банаховы пространства, отображение f : E → F определено в некоторой окрестности точки x ∈ E, h ∈ E. Тогда ∂[∗]f (x, h) существует в том и только том случае, если существует Bh ∈ FK такое, что для любой окрестности U (0) ⊂ F найдется δU > 0, для которого U ⇒ δ ⊂ h (0 < δ < δ ) (∂[∗]f (x, h) B + U (0)). (5.4) Доказательство. Так как ∂[∗]f (x, h) = Klim ∂[∗]f (x, h), то достаточно применить предложение 5.6 K [∗] δ→0 δ к системе {Bδ = ∂δ f (x, h)}δ>0 и множеству B˜ = Bh. Чтобы получить вначале критерий слабой KS -субдифференцируемости, используем понятие многозначного малого отображения (см. [16]). Определение 5.8. Пусть F - вещественное банахово пространство. Обозначим через FB конус всех замкнутых ограниченных выпуклых подмножеств в F с нормой lBl = sup lyl. Отображение y∈B ψ : R ⊃ V (0) → FB назовем малым (в нуле), если lψ(t)l→ 0 при t → 0. Получим критерий слабой KS -субдифференцируемости, следуя схеме вывода критерия K-субдифференцируемости (см. [16, теорема 4.1]). Теорема 5.9. В условиях теоремы 5.8 отображение f слабо KS -субдифференцируемо в точке x тогда и только тогда, когда существуют s-сублинейный по h оператор B : h ∈ E → B(h) ∈ FK и отображение ψ : E ⊃ S1 → FB , где S1 = {h ∈ E lhl <: 1}, такие, что f (x + h) - f (x - h) ∈ 2B(h)+ ψ(h), (5.5) [∗] где (ψ(th)/t) → 0 при t → 0 (∀h ∈ S1). При этом ∂K f (x)h ⊂ B(h). ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ - 2: СИММЕТРИЧЕСКИЙ ВАРИАНТ 143 Доказательство. Докажем необходимость. Пусть f слабо KS -субдифференцируемо в точке x. Тогда для любого фиксированного h ∈ S1 применимо условие (5.4). Полагая U = Uε(0), найдем δ = δh(ε) > 0, для которого: (0 < δ < δh(ε)) ⇒ (∂ δ f (x, h) ⊂ B(h)+ Uε), K причем оператор B(h) = ∂[∗]f (x)h - s-сублинейный по h. Так как при этом δh(ε) можно уменьшать, то без ограничения общности можно считать, что δh(ε) строго убывает к нулю при ε '\\J 0. Тогда существует обратная функция ε = εh(δ) (также строго убывающая к нулю при δ '\\J 0), для которой ∂[∗] δ f (x, h) ⊂ B(h)+ Uεh (δ). Так как f (x + th) - f (x - th) [∗] то отсюда получаем: 2t ∈ ∂δ f (x, h) при 0 < t < δ, f (x + th) - f (x - th) ∈ 2B(th)+ tεh(t), (5.6) где εh(t) → 0 при t → 0. Положим ψ(th) = tεh(t) (в частности, ψ(h) = εh(1)). Тогда: ψ(th)/t = εh(t) → 0 при t → 0, т. е. (5.5) выполняется. Проверим достаточность. Пусть выполняется (5.5). Тогда, заменяя h 1→ th в (5.5), получим: f (x + th) - f (x - th) ∈ 2B(th)+ ψ(th), что равносильно включению: f (x + th) - f (x - th) 2t ∈ B(h)+ ψ(th) . t δ Следовательно, ∂[∗]f (x, h) ⊂ B(h)+ Uε при 0 < δ <: δh(ε), т. е. условие (5.4) выполнено для любого h ∈ S1, откуда, по теореме 5.8, отображение f KS -субдифференцируемо по любому направлению h ∈ S1. Теперь получим критерии KS -субдифференцируемости по Гато и по Фреше. Здесь мы также следуем схеме вывода соответствующих критериев K-субдифференцируемости (см. [16, теорема 5.8]). Теорема 5.10. Пусть E, F - вещественные банаховы пространства, а отображение f : E → F слабо KS -субдифференцируемо в точке x ∈ E. Тогда: K 1. Отображение f KS -субдифференцируемо по Гато тогда и только тогда, когда существует оператор B ∈ LS (E; F ) такой, что f (x + h) - f (x - h) ∈ 2Bh + ψ(h), (5.7) K где (ψ(th)/t) → 0 при t → 0 (∀h ∈ E); при этом ∂[∗]f (x)h ⊂ Bh (∀ h ∈ E). 2. Отображение f KS -субдифференцируемо по Фреше в точке x тогда и только тогда, когда f KS -субдифференцируемо по Гато в точке x и K K <: f (x + h) - f (x - h) ∈ 2∂[∗]f (x)h + ψ(h), (5.8) где ψ(h) = o(lhl) при lhl→ 0, или, равносильно, (ψ(th)/t) ⇒ 0 при t → 0 (∀ h ∈ S1 ⊂ E). Доказательство. 1. Если (5.7) выполнено, то по теореме 5.8: ∂[∗]f (x)h =: Ah ⊂ Bh, откуда lAl lBl < ∞, т. е. A ограничен. Таким образом, отображение f KS -субдифференцируемо по x. Гато в точке Обратно, если f KS -субдифференцируемо по Гато в точке x, то, подставляя в (5.5) K Bh = 2∂[∗]f (x)h, получим (5.7). 2. Если выполнено (5.8), то, повторяя выкладку из доказательства достаточности в теореме 5.9, получим: ∂[∗] K f (x)h ⊂ Ah + ψ(th) . t Так как ψ(h) → 0 при lhl→ 0, то (ψ(th)/t) ⇒ 0 при t → 0, lhl <: 1. Следовательно, K Ah ⊂ ∂[∗]f (x, t)h ⊂ Ah + U при |t| < δU (∀lhl <: 1), т. е. выполнено определение KS -субдифференцируемости по Фреше. Обратно, если f KS -субдифференцируемо по Фреше, т. е. ∂[∗]f (x, h) ⇒ ∂[∗]f (x, h) при t → 0, lhl <: 1, то в доказательстве t K 144 И. В. ОРЛОВ, И. В. БАРАН необходимости теоремы 5.8 определение δh(ε), а значит, и определение ψ(th), не зависит от выбора h, т. е. зависит только от lh˜ = thl = t. Таким образом, заменяя в (5.6) th = h˜, получаем K f (x + h˜) - f (x - h˜) ∈ ∂[∗]f (x, h˜)+ ψ(h˜), где ψ(h˜) → 0 при lh˜l→ 0, т. е. выполнено (5.8). Аналогичным образом проверяется следующий критерий строгой K-субдифференцируемости. Теорема 5.11. Пусть E, F - вещественные банаховы пространства, отображение f : E ⊃ U (x) → F сильно K-субдифференцируемо в точке x ∈ E. Тогда f строго K-субдифференцируемо в точке x в том и только в том случае, если f (x + h1) - f (x + h2) ∈ ∂K f (x)(h1 - h2)+ o(lh1 - h2l) при h1 → 0, h2 → 0. K При этом ∂S f (x) = ∂K f (x). K 5. Общие свойства сильных KS -субдифференциалов. Среди свойств KS -субдифференциалов, рассмотренных в этом параграфе, отметим точное описание KS -субдифференциалов от функционалов, «формулу полного KS -субдифференциала», покоординатную KS -субдифференцируемость, KS -матрицы Якоби и, наконец, нетривиальный результат о KS -субдифференцируемости композиции. Выделим вначале важный случай KS -субдифференцирования функционала f : E → R. Здесь можно дать простую формулу для вычисления ∂[∗]f (x, h). Теорема 5.12. Функционал f : E → R KS -субдифференцируем в точке x по направлению h тогда и только тогда, когда существуют конечные верхний и нижний симметрические дифференциалы f по направлению h в этой точке: ∂[∗]f (x, h) и ∂[∗]f (x, h). При этом имеет место равенство ∂[∗] 1 K f (x, h) = ∂[∗]f (x, h); ∂[∗]f (x, h) . (5.9) Доказательство. Введем вспомогательную функцию ϕ(t) = f (x + th), ϕ : [-1; 1] → R. Поскольку при 0 < t <: 1: f (x + th) - f (x - th) = ϕ(t) - ϕ(-t), 2t 2t то отсюда следует (см. [16, теорема 4.1]): ∂[∗] [∗] 1 1 K f (x, h) = ∂K ϕ(0) = ϕ[∗](0); ϕ[∗](0) = ∂[∗]f (x, h); ∂[∗]f (x, h) . Определение 5.9. Пусть E - линейное пространство, F - нормированное пространство. Отображение f : E → F назовем s-сублинейным функционалом, если для любых h, k ∈ E верно: 1. f (h + k) <: f (h)+ f (k); 2. f (λh) = λ · f (h) при любом λ ∈ R. Соответственно, функционал f будем называть s-надлинейным, если для любых h, k ∈ E верно: 1. f (h + k) ;:? f (h)+ f (k); 2. f (λh) = λ · f (h) при любом λ ∈ R. Теорема 5.13. Пусть E - вещественное банахово пространство. Если функционал f : E → R сильно KS -субдифференцируем в точке x, то для любого h ∈ E справедливо равенство ∂[∗] 1 K f (x)h = ∂[∗]f (x)h; ∂[∗]f (x)h (5.10) где функционал ∂[∗]f (x)h (соответственно, ∂[∗]f (x)h) - s-надлинейный (соответственно, sсублинейный). K Доказательство. Равенство (5.10) для KS -субдифференциала по направлению было доказано в теореме 5.12. Так как ∂[∗]f (x) - сублинейный ограниченный KS -функционал, то получаем требуемые свойства функционалов ∂[∗]f (x, h) и ∂[∗]f (x, h). ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ - 2: СИММЕТРИЧЕСКИЙ ВАРИАНТ 145 Изучение общих свойств KS -субдифференциалов мы начнем с необходимого условия Kсубдифференцируемости. Далее для отображения f (x1, x2) мы обозначаем частные KS -субдифференциалы по переменным x1, x2 соответственно через (∂[∗])x1 f (x1, x2) и (∂[∗])x2 f (x1, x2): (∂[∗] K K ( f (x1 + th1,x2) - f (x1 - th1,x2) 1 K )x1 f (x1, x2)h1 = Klim co δ→+0 0 < t < δ , 2t (∂[∗] ( f (x1,x2 + th2) - f (x1,x2 - th2) 1 K )x2 f (x1, x2)h2 = Klim co δ→+0 0 < t < δ . 2t Теорема 5.14. Пусть E1,..., En, F - вещественные банаховы пространства. Если отображение f : E1 × ··· × En → F KS -субдифференцируемо в точке x = (x1,..., xn) по совокупности переменных, то f KS -субдифференцируемо в этой точке по каждой из переменных в отдельности. При этом справедлива оценка n ( ∂[∗]f \\ K f (x1,..., xn)(h1,..., hn) ⊂ ∂[∗] '\\" ∂x (x1,..., xn)hi. (5.11) i=1 i K Доказательство. 1. По определению частных KS -субдифференциалов: (∂[∗] ( f (xj + thi,xi) - f (x1,x2) 1 K )hi f xj (xi, δ) = co С другой стороны, 0 < t < δ t (i, j = 1, 2). (∂[∗] ( f (x1 + th1,x2) - f (x1 - th1,x2) 1 K )(h1, 0)f ((x1, x2), δ) = co 0 < t < δ , 2t (∂[∗] ( f (x1,x2 + th2) - f (x1,x2 - th2) 1 K )(0, h2)f ((x1, x2), δ) = co 0 < t < δ . 2t Переходя в этих равенствах к K-пределу по направлениям (h1, 0) и (0, h2) соответственно, получим: (∂[∗] [∗] [∗] [∗] K )x1 f (x1, x2)h1 = ∂K f (x1, x2)(h1, 0), (∂K )x2 f (x1, x2)h2 = ∂K f (x1, x2)(0, h2). 2. Если отображение f слабо KS -субдифференцируемо в точке (x1, x2), h = (h1, h2) = (h1, 0) + (0, h2), то ввиду субаддитивности KS -субдифференциалов по h имеем: ∂[∗] [∗] [∗] [∗] [∗] K f (x1, x2)(h1, h2) ⊂ ∂K f (x1, x2)(h1, 0)+∂K f (x1, x2)(0, h2) = (∂K )x1 f (x1, x2)h1 +(∂K )x2 f (x1, x2)h2. В случае функционалов оценка (5.11) приобретает более точный вид. Следствие 5.1. Пусть E1,..., En - нормированные пространства. Если функционал f : E1 × ··· × En → R сильно KS -субдифференцируем в точке x, то имеет место «формула полного KS -субдифференциала» (для любого h = (h1,..., hn) ∈ E1 × ··· × En) в оценочной форме: n [∗] Г n ∂[∗]f n ∂[∗]f l ∂[∗] '\\"( ∂ f '\\" '\\" K f (x)(h1,..., hn) ⊂ i=1 ∂hi (x)hi = K i=1 (x); ∂hi i=1 (x) ∂hi . (5.12) В частности, если функционал f : Rn → R сильно KS -субдифференцируем в точке x, то в этой точке существуют и конечны нижние и верхние частные симметрические производные f по всем переменным, причем выполнена оценка n [∗] n [∗] 1 [ ] ∂[∗] Г'\\" ∂ f '\\" ∂ f l [∗] ∗ где K f (x)(h1, ··· , hn) ⊂ i=1 (x)hi; ∂xi i=1 (x)hi ∂xi = ∇ f (x); ∇ f (x) § h, [∗] [ ] ( ∂[∗]f [∗] ( ∂ f ∗ ∇ f (x) = ∇ (x) ∂xi , i=1,n f (x) = (x) ∂xi . i=1,n Теперь рассмотрим вопрос о покоординатной KS -субдифференцируемости отображения f : E → F1 × ··· × Fm, где E, F1,..., Fm - нормированные пространства. 146 И. В. ОРЛОВ, И. В. БАРАН Теорема 5.15. Отображение f KS -субдифференцируемо в точке x ∈ E тогда и только тогда, когда все координатные отображения fj , j = 1, m, KS -субдифференцируемы в точке x. При этом справедлива оценка ∂[∗] m тт ( [∗] K f (x)h ⊂ j=1 ∂K fj (x)h . (5.13) В частности, если f : R → Rm, то последняя оценка принимает вид m (Г d[∗]f d[∗]f l \\ K f (x)h ⊂ ∂[∗] тт j=1 j (x); dx j (x) dx · h . (5.14) При этом прямоугольные оценки (5.13) и (5.14) точны по проекциям. Доказательство. Напомним свойство покоординатной сходимости для K-предела: Klim(B1 × ··· × Bn) = (Klim B1) × ··· × (Klim Bn). δ δ→+0 δ t→+0 δ t→+0 δ Отсюда, применяя определение KS -субдифференциала к отображению f = (f1,..., fm), получаем (для любого h ∈ E): ∂[∗] (( f1(x + th) - f1(x - th) fm(x + th) - fm(x - th)\\ 1 K f (x, h) = Klim co δ→+0 ,..., 2t 2t 0 < t < δ ⊂ Г( f1(x + th) - f1(x - th) 1 ⊂ Klim co δ→+0 0 < t < δ 2t × ···× ( fm(x + th) - fm(x - th) 1l × 2t 0 < t < δ = ( = Klim co 0 < t < δ ( f1(x + th) - f1(x - th) 1\\ × ···× δ→+0 2t ( ( fm(x + th) - fm(x - th) 1\\ × Klim co δ→+0 0 < t < δ 2t = ∂[∗]f1(x, h) × ··· × ∂[∗]fm(x, h). (5.15) K K При этом ∂[∗]f (x, h) существует тогда и только тогда, когда существуют все ∂[∗]fj (x, h), j = 1, m. K K K ∂[∗] Далее, ∂[∗]f (x, h) - s-сублинейный ограниченный (по h) KS -оператор тогда и только тогда, когда K K K K fj (x, ·) ∈ LS (E; Fj ), j = 1, m. Наконец, в силу точности по проекциям оценки в (5.15) сходимость в K-пределе ∂[∗]f (x, h) равномерна по lhl <: 1 тогда и только тогда, когда это справедливо для всех K-пределов ∂[∗]fj (x, h), j = 1, m. Таким образом, оценка (5.13) выполнена и точна по проекциям. Перейдем к вопросу о KS -матрице Якоби для отображений f : n ТТ Ei → i=1 m ТТ Fj , где Ei (i = j=1 1, n), Fj (j = 1, m) - нормированные пространства. Используя предыдущие результаты, нетрудно получить следующее утверждение. Теорема 5.16. Если отображение f KS -субдифференцируемо в точке x = (x1,..., xn), то m ( n ( ∂[∗]f \\ \\ K f (x1,..., xn)(h1,..., hn) ⊂ ∂[∗] тт j=1 '\\" i=1 j ∂xi (x1,..., xn)hi K . (5.16) Определение 5.10. KS -матрицу сублинейных KS -операторов J [∗] (( ∂ [∗] fj \\ \\i=1,n, j=1,m (( ∂ [∗] fj \\ \\ K f (x) = ∂xi (x) K K ∂xi (x) ∈ LK (Ei; Fj ) K назовем KS -матрицей Якоби отображения f в точке x. Выделим случай евклидовых пространств, где оценка (5.16) существенно уточняется. ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ - 2: СИММЕТРИЧЕСКИЙ ВАРИАНТ 147 Теорема 5.17. Пусть E1,..., En - нормированные пространства. Если отображение f : E1 × ··· × En → Rm сильно KS -субдифференцируемо в точке x, то для любого h = (h1,..., hn) справедлива оценка m Г n ∂[∗]f n ∂[∗]f l ∂[∗] K f (x)(h1,..., hn) ⊂ тт '\\" j ∂h (x); '\\" j ∂h (x) . j=1 В частности, в случае f : Rn → Rm получаем: i=1 i i=1 i m Г n ∂[∗]f n ∂[∗]f m l ( ∂[∗] K f (x)(h1,..., hn) ⊂ тт '\\" j ∂x (x)hi; '\\" j ∇ ∂x (x)hi = тт [ [∗] fj (x); ∇ [∗] fj (x)], h = j=1 i=1 i i=1 i j=1 = [J [∗] [∗] ( ∂[∗]fj j=1,m ( ∂[∗]fj j=1,m f (x); J f (x)] · h, где J [∗](x) = (x) , J [∗](x) = (x) - соответственно, нижняя и верхняя f ∂xi i=1,n f ∂xi i=1,n симметрические матрицы Якоби f в точке x, [J [∗](x); J [∗](x)] - m-мерный отрезок, стягиваюf f щий эти матрицы. Рассмотрим, наконец, важный вопрос о KS -субдифференцируемости композиции. Как известно, композиция симметрически дифференцируемых функций не является, вообще говоря, симметрически дифференцируемой. Однако мы покажем, что композиция строго K-субдифференцируемого отображения и KS -субдифференцируемого отображения сохраняет KS -субдифференцируемость. Тем самым результат теоремы 2.12 обобщается на случай субдифференциалов. Теорема 5.18. Пусть E, F, G - вещественные банаховы пространства, f : E ⊃ U (x) → F и g : F ⊃ V (y = f (x)) → G. Если отображение g строго K-субдифференцируемо в точке y, а отображение f непрерывно и KS -субдифференцируемо в точке x, то композиция g ◦ f также KS -субдифференцируема в точке x. При этом выполняется оценка ∂[∗] [∗] K (g ◦ f )(x)h ⊂ l∂K g(y) ◦ ∂K f (x)lh. (5.17) Доказательство. Имеем, последовательно используя критерий строгой K-субдифференцируемости (теорема 5.11), критерий KS -субдифференцируемости (теорема 5.10) и непрерывность f в точке x: g(f (x + h)) - g(f (x - h)) = k+(h) = f (x + h) - f (x), k-(h) = f (x - h) - f (x) = = g(y + k+(h)) - g(y + k-(h)) ∈ ∂K g(y)(k+(h) - k-(h)) + o(lk+(h) - k-(h)l) = = ∂K g(y)(f (x + h) - f (x - h)) + o(lf (x + h) - f (x - h)l) ⊂ ⊂ ∂K g(y)(2∂[∗]f (x)h + o( hl)) + o(l2∂[∗]f (x)h + o(lhl)l) ⊂ K l K ⊂ 2l∂K g(y) ◦ ∂[∗]f (x)lh + {∂K g(y)(o(lhl)) + 2l∂[∗]f (x)l· o(lhl)+ o(lhl) = K K K = 2l∂K g(y) ◦ ∂[∗]f (x)lh + o(lhl). Последняя оценка в силу теоремы 5.10 влечет KS -субдифференцируемость g ◦ f и оценку (5.17). 6. Формула конечных приращений и теорема о среднем для абсолютно непрерывных KS -субдифференцируемых отображений. Полученные ранее для s-дифференцируемых отображений формула конечных приращений и теорема о среднем здесь обобщаются на случай KS субдифференцируемых абсолютно непрерывных на векторном отрезке отображений. Вначале получим формулу конечных приращений для KS -субдифференцируемых отображений вещественного аргумента, видоизменяя доказательство теоремы 2.1 для s-дифференцируемых отображений. 148 И. В. ОРЛОВ, И. В. БАРАН Теорема 5.19 (формула конечных приращений). Пусть отображения f : R ⊃ [a; b] → F и g : R ⊃ [a; b] → R абсолютно непрерывны на [a; b] и KS -субдифференцируемы на (a; b), причем g возрастает. Если для некоторого замкнутого выпуклого множества B ⊂ F выполнена локальная оценка ∂[∗]f (x) ∈ ∂[∗]g(x) · B (a < x < b), то справедлива глобальная оценка K K f (b) - f (a) ∈ [g(b) - g(a)] · B. (5.18) Доказательство. 1. Фиксируем ε > 0. Используя определение KS -субдифференциала, выберем для каждого x ∈ [a + ε; b - ε] такое δ = δ(ε, x) > 0, что ⎧ f (x + h) - f (x - h) ⎪ [∗] K ⎨ (0 < h <: δ) ⇒ ⎪ 2h ∈ Uε(∂ g(x + h) - g(x - h) g(x) · B); [∗] ⎩ 2h ∈ Uε(∂K g(x)) (здесь Uε - ε-окрестность множества). Отсюда получаем: (0 < h <: δ) ⇒ ( f (x + h) - f (x - h) 2h ∈ U2ε ( g(x + h) - g(x - h) \\\\ 2h · B . (5.19) 0. Система сегментов {U δ (x)}x∈[a+ε;b-ε], δ < δ(ε, x), очевидно, образует покрытие Витали множества [a + ε; b - ε]. По второй теореме Витали о покрытиях (см. [15]), для любого заданного δi i i=1 η > 0 из данного покрытия можно выделить такую конечную систему сегментов {U (x ) n , n i что mes(S = [a + ε; b - ε]\\ 1 U δ (xi) < η. Последнее множество S состоит из конечного числа i=1 отрезков [αj ; βj ], j = 1,n + 1. В силу абсолютной непрерывности отображений f и g на [a; b], можно подобрать такое η = η(ε) > 0, что n+1 n+1 ( n+1 '\\" '\\" (mes S = '\\"(βj - αj ) < η ⇒ lf (βj ) - f (αj )l < ε, [g(βj ) - g(αj )] < ε . (5.20) Итак, j=1 j=1 n j=1 n+1 f (b - ε) - f (a + ε) = '\\"[f (xi + δi) - f (xi - δi)] + '\\"[f (βj ) - f (αj )], (5.21) где в силу (5.19) i=1 j=1 ( g(xi + δi) - g(xi - δi) \\ f (xi + δi) - f (xi - δi) ∈ 2δi · Uε и из (5.20) следует: 2δi · B (i = 1, n), (5.22) n+1 '\\"[f (βj ) - f (αj )] ∈ Uε(0), j=1 n+1 '\\"[g(βj ) - g(αj )] ∈ (-ε; ε). (5.23) j=1 Подставляя оценки (5.22) и (5.23) в (5.21), с учетом выпуклости B имеем: n f (b - ε) - f (a + ε) ∈ '\\" i=1 Г 2δi · Uε ( g(xi + δi) - g(xi - δi) 2δi \\l · B + Uε(0) ⊂ ⊂ Uε / n \\ '\\" g(xi + δi) - g(xi - δi) · B i=1 + Uε(0) ⊂ (5.24) ⊂ Uε ([(g(b - ε)+ ε) - (g(a + ε) - ε)] · B)+ Uε(0). 1. Переходя в (5.24) к пределу при ε → 0, с учетом замкнутости B получаем (5.18). Докажем теперь теорему о среднем для KS -субдифференцируемых отображений векторного аргумента. Заметим, что далее под абсолютной непрерывностью отображения f : E ⊃ [x; x+h] → F мы понимаем абсолютную непрерывность композиции f (x + th), 0 <: t <: 1. ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ - 2: СИММЕТРИЧЕСКИЙ ВАРИАНТ 149 Теорема 5.20 (теорема о среднем). Пусть отображение f : E ⊃ [x; x + h] → F абсолютно непрерывно на [x; x + h] и KS -субдифференцируемо на (x; x + h). Тогда выполняется оценка co f (x + h) - f (x) ∈ ( 1 0<θ<1 K ∂[∗]f (x + θh) · h. (5.25) Доказательство. Достаточно применить полученный результат к композиции ϕ(t) = f (x + th), [∗] [∗] ϕ : R ⊃ [0; 1] → F, учитывая очевидное равенство ∂K ϕ(θ) = ∂K f (x + θh) · h. Предъявим как следствие теорему о среднем с оценкой по норме. Следствие 5.2. В условиях теоремы 5.20 справедлива оценка lf (x + h) - f (x)l <: sup 0<θ<1 [∗] l∂K f (x + θh)l· lhl. (5.26) 2. СИММЕТРИЧЕСКИЕ K-СУБДИФФЕРЕНЦИАЛЫ ВЫСШИХ ПОРЯДКОВ ДЛЯ ОТОБРАЖЕНИЙ ВЕКТОРНОГО АРГУМЕНТА 1. Основные определения и формулаТейлора. Вначале мы вводим базисное понятие субстепенного KS -оператора; отметим важное свойство суббиномиальности (как обобщение субаддитивности). Затем, действуя вновь в духе схемы Гато-Адамара-Фреше, мы приходим к сильному KS субдифференциалу n-го порядка как к ограниченному субстепенному KS -оператору n-го порядка. Конструкция позволила перенести на KS -субдифференциальный случай полученную ранее в sдифференциальном случае формулу Тейлора. Дадим определение субстепенного KS -оператора. Определение 6.1. Пусть E и F - вещественные банаховы пространства. Отображение A : E → FK будем называть субстепенным KS -оператором n-го порядка, если A порождается некоторым n ··· n-сублинейным симметрическим KS -оператором A : ,.E × × E"" → FK : A(h) := A (h)n. (6.1) В частности, A(λh) = λn ·A(h), при любом λ ∈ R. Здесь и далее через (h)n для h ∈ E мы обозначаем диагональный поливектор (h,..., h). Оператор A при n = 2 будем называть субквадратичным ""n,. KS -оператором, при n = 3 - субкубическим KS -оператором. Определение 6.2. Будем говорить, что KS -оператор A ограничен (по норме), если lA l = sup ±h1±<:1,...,±hn±<:1 lA (h1,..., hn)l < ∞. (6.2) Если A ограничен, то величину (6.2) назовем нормой KS -оператора A . Так как KS -оператор A порождается KS -оператором A , положим lAl := lA l. Рассмотрим свойство «суббиномиальности» для субстепенного KS -оператора. Предложение 6.1. Если A : E → FK - субстепенной KS -оператор n-го порядка, то для любых h, k ∈ E верно: n ( n A(h + k) ⊂ '\\" Cl A (h)l, (k)n-l . (6.3) l=0 Доказательство. Пусть A порождается некоторым n-сублинейным симметрическим KS -оператором A : A(h + k) := A (h + k)n для любых h, k ∈ E. Имеем, применяя известное свойство 150 И. В. ОРЛОВ, И. В. БАРАН сочетаний и симметричность порождающего оператора: A (h + k)n ⊂ C0 A(h)n + (C1 + C0 )A ((h)n-1, k)+ (C2 + C1 )A ((h)n-2, (k)2)+ ··· + + (Cm-1 n-1 m n-1 n-m n-1 m n-1 n-1 n-2 n-1 n-1 n-1 n n-1 + Cn-1)A ((h) , (k) )+ ··· + (Cn-1 + Cn-1 )A (h, (k) )+ Cn-1 A (k) = = A (h)n + C1A(( n h)n-1, k)+ C2A((h)n-2, ( n k)2)+ ·· CmA((h)n-m, (k)m)+ ··· + Cn-1A(h, (k)n-1)+ A(k)n n n · + n n + = '\\" Cl A((h)l, (k)n-l). l=0 Введем определение KS -субдифференциала n-го порядка по направлению h ∈ E для отображения f : E ⊃ U (x) → F. Определение 6.3. Назовем KS -субдифференциалом n-го порядка по направлению h отображения f в точке x следующий K-предел, если он существует: n ∂[n] / 1 '\\" K f (x, h) = Klim co (-1)k Ck f (x + (n - 2k)th) 0 < t < δ . (6.4) δ→+0 (2t)n n k=0 K K K Если ∂[n]f (x, h) существует по любому направлению h ∈ E и является субстепенным KS -оператором n-го порядка, то будем говорить, что f слабо KS -субдифференцируемо n раз в точке x и примем обозначение ∂[n]f (x)(h). Отметим, что в этом случае легко указать n-сублинейный симметрический KS -оператор, порождающий KS -оператор ∂[n]f (x): [n] n / 1 '\\" n-2k '\\" ∂ K f (x)(h1,..., hn) = Klim co δ→+0 ∂[n] (2t)n k=0 [n] n (-1)k Ck f (x + t i=0 hi) 0 < t < δ , [n] K f (x)(h) = ∂ K f (x)(h,..., h). Оператор ∂ K f (x) назовем полисимметрическим KS -субдифференциалом n-го порядка отображения f в точке x. K K Далее, если субстепенной KS -оператор n-го порядка ∂[n]f (x) ограничен, то будем говорить, что f KS -субдифференцируемо n раз в точке x по Гато. Наконец, если ∂[n]f (x) - KS -субдифференциал Гато и сходимость в равенстве (6.4) равномерна по всем направлениям lhl <: 1, то будем говорить, что f KS -субдифференцируемо n раз в точке x по Фреше (или сильно KS субдифференцируемо n раз в точке x). Отметим, что в этом случае справедливо включение: 1 n '\\"(-1)k Ck f (x + (n - 2k)th) ⊂ ∂[n]f (x)(h)n + o(lhln). (2t)n n K k=0 K Как следствие предложения 6.1, получаем свойство «суббиномиальности» для ∂[n]f (x, h). Предложение 6.2. Для любых h, k ∈ E верно: n ∂[n] K f (x)(h + k)n ⊂ '\\" l=0 n K Cl ∂[n]f (x)( (h)l, (k)n-l . (6.5) Отметим простейшие свойства KS -субдифференциалов n-го порядка по направлению. Доказательства аналогичны случаю n = 1. Предложение 6.3 (однородность n-го порядка по h). Для любых h ∈ E и λ ∈ R верно: ∂[n] [n] K f (x, λh) = λn · ∂K f (x, h). Легко также проверяются следующие утверждения. Предложение 6.4 (субаддитивность по f ). Для любого h ∈ E верно: ∂[n] [n] [n] K (f1 + f2)(x, h) ⊂ ∂K f1(x, h)+ ∂K f2(x, h). ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ - 2: СИММЕТРИЧЕСКИЙ ВАРИАНТ 151 Предложение 6.5 (однородность по f ). Для любых h ∈ E и λ ∈ R верно: ∂[n] [n] K (λ · f )(x, h) = λ · ∂K f (x, h). Предложение 6.6. Пусть f = (f1,..., fm) : E → F1 ×···× Fm. Тогда для любого h ∈ E верно: m K (f1,..., fm)(x, h) ⊂ ∂[n] тт k=1 K ∂[n]fk (x, h). → Предложение 6.7. Пусть E -f → F -A G, A ∈ L(F, G). Тогда для любого h ∈ E верно: ∂[n] [n] K (A · f )(x, h) = A(∂K f (x, h)). В доказательстве заключительного утверждения используется признак Вейерштрасса для Kпределов (теорема 1.1). Предложение 6.8. Пусть заданы отображения f, g : E → F, причем: 0. g KS -субдифференцируемо по направлению h в точке x ∈ E; 1. для достаточно малых δ > 0 выполнено ( Δnf (x, th) 1 ( Δng(x, th) 1 co (2t)n 0 < t < δ ⊂ co (2t)n 0 < t < δ . Тогда f также KS -субдифференцируемо в точке x по направлению h, причем ∂[n] [n] K f (x, h) ⊂ ∂K g(x, h). Справедлива следующая формула Тейлора для KS -субдифференциалов Фреше. K Теорема 6.1. Предположим, что существует ∂[∗](f (n-1))(x) и отображение f (x) радиально сильно абсолютно непрерывно в окрестности U (x). Тогда имеет место включение - n 1 f (x + h) - '\\" f (k) (x) 1 (h)k ∈ co ∂[n]f ((x; x + h)) · (h)+ o(lhln). (6.6) k! k=0 n! K Доказательство. Положим ϕ(t) = f (x + th), ϕ : [0; 1] → E, тогда f (x + h) = ϕ(1). При этом f (k)(x)(h)k = ϕ(k)(0) и ∂[n]f (x)(h) = ∂[n]ϕ(0). Применяя к ϕ(t) формулу (6.6) на [0; θ], получаем: n-1 K K (k) k ϕ(θ) - '\\" ϕ (0) 1 θ ∈ co ∂[n]ϕ((0; θ)) · (θ)n + o(θn). k! k=0 n! K Возвращаясь к f (x + θh), имеем: - n 1 f (x + θh) - '\\" f (k) k (x) 1 (h) ∈ co ∂[n]f ((x + θh)) · (θh)n + o((θh)n). k! n! k=0 Заменяя обозначение во всех слагаемых: θh 1→ h, мы получаем требуемое равенство (6.6). Для нечетного порядка из (6.6) вытекает аналогично результатам пункта 4.6 следующая K Теорема 6.2. Предположим, что существует ∂[∗](f (2n))(x) и отображение f радиально сильно абсолютно непрерывно в некоторой окрестности U (x). Тогда справедлива оценка n f (x + h) - f (x - h) - 2 '\\" f (2k-1) 2k 1 2. 2 (h) - ∈ ∂[2n+1]f (x)(h)+ o(lhl2n+1). (6.7) k=1 (2k - 1)! (2n + 1)! K Отметим также случай четного порядка. K Теорема 6.3. Предположим, что существует ∂[∗](f (2n-1))(x) и отображение f радиально сильно абсолютно непрерывно в некоторой окрестности U (x). Тогда справедлива оценка - n 1 f (x + h)+ f (x - h) - 2 '\\" f (2k) 2k (x) (h) ∈ 2 K ∂[2n]f (x) (h)+ o(lhl2n). (6.8) k=0 (2k)! (2n)! 152 И. В. ОРЛОВ, И. В. БАРАН 2. KS -субдифференциалы высших порядков от функционалов. Здесь дается точное описание высших KS -субдифференциалов от функционалов. На этой основе получена «формула полного KS -субдифференциала» для высших порядков, а также рассмотрены KS -матрицы Якоби высших порядков. Вывод следующих результатов аналогичен случаю центрированных K-субдифференциалов (см. [16]). Теорема 6.4. Пусть E - вещественное банахово пространство. Если функционал f : E ⊃ U (x) → R KS -субдифференцируем n раз в U (x) и (n- 1) раз дифференцируем обычным образом в точке x, то для любого h ∈ E имеет место включение ∂[n] K f (x)(h)n ⊂ Г ∂ [∗]( ∂h f (n-1)(·)·(h)n-1 (x); ∂ [∗] ( ∂h f (n-1)(·)·(h)n-1 l (x) Г ∂ [∗] = ; ∂h ∂ [∗] l( ∂h ∂ n-1f ∂hn-1 \\ (x)·(h)n. В частности, в случае f : R ⊃ U (x) → R справедлива оценка [∗] n-1 [∗] n-1 [n] [n] ∂[n] Г d ( d f \\ d ( d f \\ l Г d f d f l K f (x) ⊂ dx dxn-1 (x); dx dxn-1 1. := dxn (x); dxn (x) . Рассмотрим далее случай функционала от нескольких переменных f : E1 × ··· × Em → R, где E1,..., Em - вещественные банаховы пространства. Теорема 6.5. Если функционал f : E1 × ··· × Em ⊃ U (x) → R (n - 1) раз дифференцируем и n раз KS -субдифференцируем в точке x, то имеет место оценка m ( ∂[∗] \\ Г( ∂[∗] ∂[∗] \\n-1 l ∂[n] '\\" 1 ··· K f (x)(h) ⊂ ∂x h + + hm ∂x ∂x · f (x) · hi. (6.9) i=1 i K 1 m Замечание 6.1. Отметим, что вводя в случае f : Rm → R нижнюю и верхнюю симметрические матрицы Якоби n-го порядка: J [n]f = ( ∂[∗] ( ∂n-1f \\\\ ( ∂[n]f \\ =: ; ∂xin ∂xi1 ... ∂xin-1 ∂xi1 ... ∂xin J [n]f = ( ∂[∗] ( ∂n-1f \\\\ ( ∂[n]f \\ =: , ∂xin ∂xi1 ... ∂xin-1 ∂xi1 ... ∂xin K K оценку (6.9) можно записать в виде: ∂[n]f (x)·(h) ⊂ [J [n]f (x); J [n]f (x)]·(h), где [J [n]f (x); J [n]f (x)] - (nm)-мерный матричный отрезок, соединяющий концевые матрицы (по главной диагонали). В частности, в важном случае n = 2 мы получаем оценку: ∂[∗∗]f (x) · (h) = [J [∗∗]f (x); J [∗∗]f (x)] · (h)2, ] m [∗∗ где [J f (x); J [∗∗]f (x)] - 2 -мерный матричный прямоугольник, соединяющий нижнюю и верхнюю симметрические матрицы Гессе. Вершинами этого прямоугольника служат 2m матриц, одна часть строк которых берется из J [∗∗]f (x), а другая часть строк - из J [∗∗]f (x). Следствие 6.1. Если отображение f = (f1,..., fl) KS -субдифференцируемо n раз в U (x) и (n - 1) раз дифференцируемо обычным образом в этой точке, то имеет место оценка l Г m ∂[∗] m ∂[∗] l (( ∂ ∂ \\n \\ ∂[n] K f (x)(h) ⊂ тт '\\" hi; ∂x i · '\\" h ∂x ∂x h1 + ··· + ∂x hm § fj (x). j=1 i=1 i i=1 i 1 m 3. KS -субдифференцируемость и симметрическая субгладкость. В этом пункте мы вводим удобное понятие симметрической субгладкости первого порядка как простого достаточного условия KS -субдифференцируемости. В случае функционалов s-субгладкость выражается в терминах sub нижних и верхних симметрических производных. Дана двухсторонняя оценка класса C1,s (D). Перенесем определение полунепрерывности (см. [16]) на симметрический случай. K LS Определение 6.4. Пусть E и F - вещественные банаховы пространства, Λ : E ⊃ U (x) → K (E; F ). Будем говорить, что отображение Λ субнепрерывно в точке x ∈ E (обозначение Λ ∈ Csub(x)), если для некоторого Λx ∈ LS (E; F ) выполняется условие: ∀ε > 0 ∃ δ > 0 (lhl < δ) ⇒ (Λ(x + h) ::S Λx + Y (h), где lY (h)l < ε). (6.10) ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ - 2: СИММЕТРИЧЕСКИЙ ВАРИАНТ 153 Основным для нас является то обстоятельство, что в случае субдифференциалов (т. е. при K Λ = ∂[∗] K F : E → LS (E; F )) в условии (6.10) можно заменить Λ(x) = ∂ [∗] K f (x) на произвольный L ( элемент K S E; F ). Это и есть общая форма достаточного условия KS -субдифференцируемости. Теорема 6.6. Пусть E, F - вещественные банаховы пространства, отображение f : E ⊃ K K U (x) → F непрерывно в точке x. Если отображение ∂[∗]f : E ⊃ U (x) → LS (E; F ) субнепрерывно в точке x K и для некоторого K-оператора Df,x ∈ LS (E; F ) выполнено условие [∗] ∀ε > 0 ∃ δ > 0 (0 < lhl < δ) ⇒ (∂K f (x + h) ::S f,x + Y (h), где lY (h)l < ε), (6.11) sub то f KS -субдифференцируемо в точке x. Будем писать в этом случае f ∈ C1,s (x) и называть отображение f s-субгладким (точнее, C1,s-субгладким) в точке x. Доказательство. Фиксируем h ∈ E. Из условия (6.11) вытекает оценка при 0 < θ < 1 : ∂K f (x + θh) ⊂ Df,x + Y (θh), где lY ( h)l→ 0 при l hl→ 0. Отсюда, применяя на отрезке [x; x + h] к f теорему о среднем 5.20, получаем: ( 1 [∗] \\ ( \\ f (x + h) - f (x) ∈ co 0<θ<1 ∂K f (x + θh) · h ⊂ co Df,x · h + 1 0<θ<1 Y (θh) · h ⊂ Таким образом, ⊂ Df,x · h + Uε(0) · h при lhl < δ = δ(ε). f (x + h) - f (x) ∈ Df,x · h + o(lhl), т. е. выполнено условие критерия сильной KS -субдифференцируемости (теорема 5.10) для f в точке x. Перейдем к субнепрерывности частных KS -субдифференциалов как достаточному условию KS субдифференцируемости. Теорема 6.7. Пусть E1,..., En, F - вещественные банаховы пространства, f : E1 × ... × En ⊃ U (x) → F. Тогда (f ∈ C1,s (x)) ⇐⇒ (( ∂[∗]f \\ \\ ∈ Csub(x); i = 1,n =⇒ (f KS -субдифференцируемо в точке x). sub ∂xi K Доказательство. Поскольку n ( ∂[∗]f \\ ∂[∗] ( ∂[∗]f \\ K f (x) = i=1 ∂xi (x), (6.12) K то из субнепрерывности ∂xi K в точке x в силу (6.11) легко следует субнепрерывность ∂[∗]f в K K этой точке. Обратно, субнепрерывность ∂[∗]f в точке x согласно определению (6.11) с учетом (6.12) означает: ( n ( ∂[∗]f \\ \\ ∀ ε > 0 ∃ δ > 0 (0 < lhl < δ) =⇒ ∂xi (x + h) ::S f,x + Y (h), где lY (h)l < ε K . (6.13) i=1 n n При этом в силу разложения LK (ffi Ei; F ) = ffi LK (Ei; F ) имеем: n Df,x = Di i=1 i=1 n f,x K i i=1 f,x, Y (h) = i=1 Y i(h), где Di , Y i(h) ∈ L (E ; F ). Отсюда и из (6.13) следует для любого i = 1, n; (( ∂[∗]f \\ i i i \\ ∀ ε > 0 ∃ δ > 0 (0 < lhl < δ) =⇒ ( ∂[∗]f \\ ∂xi (x + h) ::S K f,x + Y (h), где lY (h)l < ε , т. е. в силу (6.11) ∂xi ∈ Csub(x) при i = 1, n. K 154 И. В. ОРЛОВ, И. В. БАРАН Рассмотрим теперь случай функционалов f : E → R. Здесь мы выходим на узловые условия полунепрерывности снизу (по x) ∂[∗]f ∂h и полунепрерывности сверху (по x) ∂[∗]f ∂h , которые в сово- K купности равносильны субнепрерывности KS -субдифференциала ∂[∗]f = Г ∂[∗]f ; ∂h ∂[∗]f l ∂h : E → RK . Теорема 6.8. Пусть E - вещественное банахово пространство, f : E ⊃ U (x) → R. Тогда sub (f ∈ C1,s (x)) ⇐⇒ ( ∂[∗]f ⇐⇒ полунепрерывен снизу в точке x, ∂h ∂[∗]f \\ полунепрерывен сверху в точке x ∂h =⇒ (f KS -субдифференцируем в точке x). Доказательство. Применяя определение субнепрерывности в нашем случае, получаем: ∀ ε > 0 ∃δ > 0 (lkl < δ) =⇒ (Г ∂[∗]f (x + k); ∂h ∂[∗]f l (x + k) ∂h ( ∂[∗]f - ⊂ (x) ε; ∂h ∂[∗]f (x)+ ε ∂h \\\\ . (6.14) Включение справа в (6.14) равносильно выполнению пары неравенств (при lkl < δ): ∂[∗]f ∂h (x + k) > ∂[∗]f ∂h (x) - ε; ∂[∗]f ∂h (x + k) < ∂[∗]f ∂[∗]f ∂h (x)+ ε, ∂[∗]f что в точности означает полунепрерывность в точке x для (сверху) и ∂h (снизу). ∂h В частности, для функционалов многих переменных справедливо условие: Теорема 6.9. Пусть E1,..., En - вещественные банаховы пространства, f : E1 × ··· × En ⊃ U (x) → R. Тогда (f ∈ C1,s (x)) ⇐⇒ ( [∗] ∇ f = (( ∂[∗]f \\ \\ полунепрерывен снизу в точке x sub K [∗] ∂xi (( ∂[∗]f \\ K i=1,n \\ \\ (покоординатно), ∇K f = ∂xi K i=1,n полунепрерывен сверху в точке x =⇒ (f KS -субдифференцируем в точке x). В частности, в случае f : Rn → R имеем: ( ( ∂[∗]f \\ [∗] (f ∈ C1,s (x)) ⇐⇒ ∇ f = полунепрерывен снизу в точке x, sub [∗] ( ∂[∗]f \\ ∂xi i=1,n \\ ∇ f = ∂xi i=1,n полунепрерывен сверху в точке x =⇒ =⇒ (f KS -субдифференцируем в точке x). Наконец, выразим условия s-субгладкости в терминах верхней и нижней симметрических Kматриц Якоби. Теорема 6.10. Пусть E1,..., En; F1,..., Fm - вещественные банаховы пространства, f : E1 × ··· × En ⊃ U (x) → F1 × ··· × Fm. Тогда sub (f ∈ C1,s (x)) ⇐⇒ K (матрица J [∗] f = (( ∂[∗]fj \\ ∂xi K [∗] \\j=1,m полунепрерывна снизу i=1,n j=1,m K (поэлементно) в точке x, матрица J [∗] f = (( ∂ fj \\ \\ полунепрерывна сверху ∂xi K i=1,n ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ - 2: СИММЕТРИЧЕСКИЙ ВАРИАНТ 155 \\ в точке x =⇒ (f KS -субдифференцируемо в точке x). В частности, в случае f : Rn → Rm имеем: (f ∈ C1,s (x)) ⇐⇒ ( ( ∂[∗]fj \\j=1,m матрица J [∗]f = полунепрерывна снизу в точке x, sub [∗] j=1,m ∂xi i=1,n матрица J [∗]f = ( ∂ fj \\ \\ полунепрерывна сверху в точке x = ∂xi ⇒ i=1,n =⇒ (f KS -субдифференцируемо в точке x). sub Дадим некоторое описание класса C1,s (D) s-субгладких функционалов на выпуклом компакте D. Прежде всего, легко видеть, что все такие функционалы удовлетворяют условию Липшица; в то же время симметрическая субгладкость слабее несимметрической. Теорема 6.11. Пусть D - выпуклый компакт в вещественном банаховом пространстве E. Тогда Lip(D) ⊃ C1,s (D) ⊃ C1 (D). sub sub Сравним теперь s-субгладкость с кусочной симметрической гладкостью. Здесь мы будем понимать кусочную симметрическую гладкость в самом широком смысле: f ∈ C 1,s p.s. ( n \\ 1 Di , i=1 D если каждое сужение f i принадлежит классу C1,s(Di). При этом Di - произвольные замкнутые области в E, пересекающиеся по границе. Ситуация вполне аналогична несимметрическому субгладкому случаю, рассмотренному в работе [16]. C1,s В случае выпуклой компактной области D имеет место двухсторонняя строгая оценка класса sub(D): C1,s 1,s p.s.(D) Csub(D) Lip(D). 4. KS -субдифференциалы и симметрическая субгладкость высших порядков. Здесь результаты предыдущего параграфа обобщаются на случай субгладкости и KS -субдифференцируемости высших порядков. Мы введем понятие s-субгладкости n-го порядка и покажем, что такая субгладкость является достаточным условием KS -субдифференцируемости n-го порядка. Вначале приведем обобщение теоремы 6.6. Теорема 6.12. Пусть E, F - вещественные банаховы пространства, отображение f : E ⊃ U (x) → F (n - 1) раз KS -субдифференцируемо в точке x и n раз KS -субдифференцируемо в проколотой окрестности U˙ (x). Если отображение ∂[n]f : E ⊃ U˙ (x) → Ln,s(E; F ) субнепрерывно K K в точке x (∂[n]f ∈ Csub(x)), т. е. при некотором Dn ∈ Ln,s(E; F ) верно K [n] f,x K n ∀ε > 0 ∃ δ > 0 (0 < lhl < δ) ⇒ (∂K f (x + h) ::S f,x + Y (h), где lY (h)l < ε), то f KS -субдифференцируемо n раз в точке x, причем ∂[n]f (x) ::S Dn (т. е. ∂[n]f (x)(h) ⊂ n Df,x(h) ∀ h ∈ E). K f,x K Определение 6.5. Будем говорить, что f : E ⊃ U (x) → F - s-субгладкое отображение n-го порядка (или Cn,s-субгладкое отображение) в точке x, и писать f ∈ Cn,s (x), если ∂[n]f ∈ Csub(x). В случае n = 0 мы отождествляем классы C0,s (x) и Cs (x). sub K sub sub Перенесем на случай высших порядков достаточное условие KS -субдифференцируемости в терминах частных KS -субдифференциалов (теорема 6.7). Теорема 6.13. Пусть E1,..., En,F - вещественные банаховы пространства, f : E1 × ··· × Em ⊃ U (x) → F. Тогда sub (f ∈ Cn,s (x)) ⇐⇒ (( ∂[n]f \\ ∂xi i ∈ C s sub \\ (x) (∀ 1 <: i1 <: ... <: in <: m) ( [n] =⇒ ∃ ∂K f (x) . 1 ... ∂x n K 156 И. В. ОРЛОВ, И. В. БАРАН Выделим случай функционалов f : Rm → R. Теорема 6.14. Пусть f : Rm ⊃ U (x) → R. Тогда (f ∈ Cn,s (x)) ⇐⇒ ( все ∂[∗] ( ∂n-1f \\ ∂[∗] и ( ∂n-1f \\ sub ∂xi n ∂xi1 ... ∂xi n-1 ∂xin ∂xi1 \\ ... ∂xi ( n-1 [n] полунепрерывны в точке x, соответственно, снизу и сверху =⇒ ∃ ∂K f (x) . Замечание 6.2. 0. Вводя нижнюю и верхнюю симметрические матрицы Якоби n-го порядка: J [n]f = ( ∂[n]f ∂xi1 ... ∂xin \\ ; J [n]f = ( ∂[n]fj \\ , ∂xi1 ... ∂xin sub теорему 6.14 можно сформулировать так: (f ∈ Cn,s (x)) ⇐⇒ ( J [n]f и J [n]f ) полунепрерывны \\ в точке x, соответственно, снизу и сверху . 1. Наконец, опираясь на описание класса C1,s (D) и определение класса Cn,s (D), нетрудно дать sub sub sub примерное описание класса Cn,s (D), где D - выпуклая компактная область. sub а) Очевидно, (f ∈ Cn,s (D)) =⇒ (f [n-1] ∈ Lip(D)) ⇔ (f ∈ Lipn,s(D)); в то же время sгладкость n-го порядка слабее несимметрической гладкости n-го порядка: Cn n,s n,s sub(D) ⊂ Csub(D) ⊂ Lip (D). б) Полученный результат без труда переносится на случай кусочной s-гладкости и s-субгладкости высших порядков: Cn n,s p.s.(D) ⊂ Csub(D). Это включение также является строгим. При этом «кусочная» s-субгладкость n-го порядка не отличается от «полной» субгладкости: C ( n,s sub (D) = Cn,s (D). p.s. sub Таким образом, в случае выпуклой компактной области D имеем: Cn n,s n,s n,s sub(D) Csub(D) = (Csub)p.s.(D) Lip (D). 5. KS -субдифференциал основного вариационного функционала. В заключительном параграфе построенный выше аппарат KS -субдифференциального исчисления применяется к оценке первой K-вариации одномерного вариационного функционала. Рассмотрены различные частные случаи и примеры. В работе [16] было показано, что одномерный вариационный функционал с C1-субгладким интегрантом b r Φ(y) = a sub f (x, y, y∗)dx (y ∈ C1[a; b],f ∈ C1 ([a; b] × R2),u = f (x, y, z)) (6.15) сильно K-субдифференцируем в C1[a; b], причем оценка его первой K-вариации имеет вид: ⎡rb ( ∂f ∂f \\ b r ( ∂f ∂f \\ ⎤ ∂K Φ(y)h ⊂ ⎣ a (∀h ∈ C1[a; b]). (x, y, y∗)h + (x, y, y∗)h∗ ∂y ∂z dx; a (x, y, y∗)h + (x, y, y∗)h∗ ∂y ∂z dx⎦ (6.16) Наша цель - обобщить оценку (6.16) на случай s-субгладких интегрантов и получить оценку K KS -субдифференциала ∂[∗]Φ(y). При этом симметрическая оценка оказывается более точной. ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ - 2: СИММЕТРИЧЕСКИЙ ВАРИАНТ 157 sub Теорема 6.15. Пусть для вариационного функционала (6.15) интегрант f является C1,sсубгладким: f ∈ C1,s (R3). Тогда Φ сильно KS -субдифференцируем всюду в C1[a; b], причем справедлива оценка ∗ ∂[∗] ⎡rb / ∂[ ]f ∂ [∗]f b \\ r / ∂ [∗]f ∂ [∗]f \\ ⎤ K Φ(y)h ⊂ ⎣ a (x, y, y∗)h + ∂y (x, y, y∗)h∗ ∂z dx; a (x, y, y∗)h + ∂y (x, y, y∗)h∗ ∂z dx⎦ (∀h ∈ C1[a; b]). (6.17) Доказательство. Введем вначале вспомогательный линейный оператор (Ay)(x) = (x, y(x), y∗(x)), A : C1[a, b] -→ R × C1[a, b] × C[a, b]. Очевидно, оператор A непрерывен. Введем еще два вспомогательных отображения - нелинейный оператор композиции Bf (A )(y) = f (A (y)), A ∈ L(C1[a, b]; R × C1[a, b] × C[a, b]), Bf : L(C1[a, b]; R × C1[a, b] × C[a, b]) -→ C[a, b], и линейный интегральный функционал b r G(v) = a v(x)dx, G : C[a, b] -→ R. Тогда вариационный функционал Φ может быть записан в виде композиции Φ(y) = G(Bf (Ay)). (6.18) Применяя к композиции (6.18) теорему о KS -субдифференцировании композиции, получаем K ∂K Φ(y, h) = ∂K (G ◦ Bf ◦ A)(y)h ⊂ [∂K G(v) · [∂u2u3 Bf (u) · ∂(A(y))]]h. (6.19) Теперь рассмотрим в отдельности компоненты справа в (6.19). 1. Т. к. A - линейный непрерывный оператор, то он дифференцируем по Фреше, причем A∗(y) ≡ 1. Следовательно, ∂[ ] ∗ K (Ay)(x) = (x, y(x), y∗(x)), 2. Для оператора Bf (u) = Bf ((u1, u2, u3)) мы вычисляем KS -субдифференциал по u2, u3. Получаем: ∂yz Г ∂[∗]f ∂[∗]f ∂[∗]f ∂[∗]f l K Bf (A(y))h ⊂ (x, y, y∗)h + ; ∂y ∂z(x, y, y )h (x, y, y∗)h + ∂y (x, y, y∗)h∗ . ∂z ∗ ∗ 3. Так как G - линейный непрерывный функционал, то он строго дифференцируем по Фреше, причем G∗(v) ≡ G. Отсюда: b [∗] [∗] [ ] [ ] ∂[∗] r Г ∂ f ∂ f ∂ ∗ f ∂ ∗ f l K Φ(y)h ⊂ (x, y, y∗)h + ; ∂y ∂z(x, y, y )h (x, y, y∗)h + ∂y (x, y, y∗)h∗ ∂z dx = ∗ ∗ a b Гr ( ∂[∗]f = ∂y (x, y, y∗)h + ∂[∗]f ∂z (x, y, y∗)h∗ dx; b r ( ∂[∗]f ∂y (x, y, y∗)h + ∂[∗]f ∂z (x, y, y∗)h∗ l dx . (6.20) Отметим частный случай оценки (6.17), когда интегрант образован внешней композицией s-субгладкой функции с гладкой. 158 И. В. ОРЛОВ, И. В. БАРАН Теорема 6.16. Пусть b r Φ(y) = a sub ϕ lf (x, y, y∗)l dx (y ∈ C1[a; b],f ∈ C1(R3),ϕ ∈ C1,s (R)). Тогда справедлива оценка ∂[∗] b Гr ∗ ( ) ( ∂f ∂f \\ K Φ(y)h ⊂ b ϕ[ ] a f (x, y, y∗) (x, y, y∗)h + ∂y (x, y, y∗)h∗ ∂z dx; r ( ∂f ∂f \\ l ϕ[∗] (f (x, y, y∗)) ∂y a (x, y, y∗)h + (x, y, y∗)h∗ dx ∂z (∀h ∈ C1[a; b]). (6.21) Доказательство. По формуле (6.20) имеем: ∂[∗] K Φ(y)h ⊂ b Гr ( ∂[∗] ∂[∗] b \\ r ( ∂[∗] ∂[∗] \\ l ⊂ ϕ(f (x, y, y∗))h + ϕ(f (x, y, y∗))h∗ ∂y ∂z a dx; a ϕ(f (x, y, y∗))h + ϕ(f (x, y, y∗))h∗ ∂y ∂z dx . При этом, учитывая гладкость f, имеем: (6.22) ∂[∗] ∂y ∂[∗] ∂y ϕ(f (x, y, y∗)) = ϕ[∗](f (x, y, y∗)) · ϕ(f (x, y, y∗)) = ϕ[∗](f (x, y, y∗)) · ∂f (x, y, y∗); ∂y ∂f (x, y, y∗); ∂y ∂[∗] ∂z ∂[∗] ∂z ϕ(f (x, y, y∗)) = ϕ[∗](f (x, y, y∗)) · ϕ(f (x, y, y∗)) = ϕ[∗](f (x, y, y∗)) · ∂f (x, y, y∗); ∂z ∂f (x, y, y∗). ∂z (6.23) Подставляя (6.23) в (6.22) и вынося общие множители, приходим к оценке (6.21). Еще один существенный частный случай представляет внутренняя композиция s-субгладкой функции с гладкой. Здесь, для простоты, мы рассмотрим композицию только по третьей переменной. Теорема 6.17. Пусть b r Φ(y) = a sub f (x, y, ϕ(y∗))dx (y ∈ C1[a; b],f ∈ C1(R3),ϕ ∈ C1,s (R)). Тогда справедлива оценка b ∂[∗] r K Φ(y)h ⊂ a ∂f (x, y, ϕ(y∗))hdx+ ∂y ⎡rb ∂f [∗] ∗ ∗ b r ∂f ⎤ ∗ [∗] ∗ ∗ 1 · ⎣ + (x, y, ϕ(y∗)) ϕ (y )h dx; ∂z a a · (x, y, ϕ(y )) ϕ ∂z (y )h dx⎦ (h ∈ C [a; b]). (6.24) Доказательство. Учитывая гладкость f, имеем: ∂[∗] ∂[∗] ∂y f (x, y, ϕ(y∗)) = ∂f ∂f (x, y, ϕ(y∗)); ∂y ∂[∗] ∂[∗] ∂z f (x, y, ϕ(y∗)) = ∂f ∂f · (x, y, ϕ(y∗)) ϕ[∗](y∗); ∂z f (x, y, ϕ(y∗)) = ∂y (x, y, ϕ(y∗)); ∂y f (x, y, ϕ(y∗)) = ∂z · (x, y, ϕ(y∗)) ϕ[∗](y∗). (6.25) ∂z Подставляя (6.25) в (6.20) и вынося общие множители, приходим к оценке (6.24). ВВЕДЕНИЕ В СУБЛИНЕЙНЫЙ АНАЛИЗ - 2: СИММЕТРИЧЕСКИЙ ВАРИАНТ 159 Отметим в качестве конкретного примера случай интегранта, образованного композицией гладкой функции и модуля. Пример 6.1. Пусть b r Φ(y) = a |f (x, y, y∗)|dx (y ∈ C1[a; b],f ∈ C1(R3)). (6.26) Здесь, в обозначениях теоремы 6.16, ϕ(t) = |t|, откуда ϕ всюду симметрически дифференцируема, и ϕ[∗](t) = sign t. (6.27) Подстановка (6.27) в (6.21) после преобразований приводит к точному равенству b r ∂[∗] K Φ(y)h = ∂[∗]Φ(y)h = a sign(y∗) · ( ∂f h + ∂y ∂f \\ h∗ ∂z dx. (6.28) Заметим, что вычисление несимметрического K-субдифференциала (см. [16, пример 5.1]) приводит лишь к оценке: ( r ∂f ∂f r ∂f ∂f \\ r ∂f ∂f ∂K Φ(y)h ⊂ (y∗>0) - ( h + h∗)dx ∂y ∂z (y∗<0) ( h + h∗)dx ∂y ∂z + (y∗=0) [-1; 1]( ∂y h + ∂z h∗)dx. (6.29) K При этом только в частном случае mes (y∗ = 0) = 0 оценка (6.29) переходит в точное равенство (6.28) для классической первой вариации ∂Φ(y)h. Таким образом, в случае mes (y∗ = 0) = 0 имеет место точное равенство ∂[∗]Φ(y)h = ∂Φ(y)h. ЗАКЛЮЧИТЕЛЬНЫЕ ЗАМЕЧАНИЯ. В заключение работы скажем несколько слов о возможных перспективах применения симметрических конструкций (как дифференциалов, так и субдифференциалов) в теории экстремальных задач. 1. Очевидно, сама симметричность разностных отношений, служащая стержнем всей теории, не позволяет надеяться на получение симметрических аналогов классических аналитических условий экстремума (в силу центрированности этого понятия). 2. Однако, эта же симметричность позволяет ставить вопрос о локальной оценке знака первой и высших симметрических разностей для функционалов, что достаточно близко по духу к широко используемым в теории вероятностей понятиям асимметрии, эксцесса и т. п. Таким образом, просматривается перспектива комбинированного подхода к экстремальным задачам (как в теории вероятностей, так и в теории оптимального управления и вариационном исчислении): a) Определение точек экстремума с помощью общих (центрированных) дифференциалов и субдифференциалов. б) Классификация типа экстремума (асимметрия, эксцессы высших порядков) с помощью симметрических дифференциалов и субдифференциалов. Одной из целей настоящей статьи является построение базовых конструкций для такой работы. Авторы надеются, что судьба будет благоприятствовать им в скорейшей реализации намеченного плана.