Аналогично выпуклость вверх (строгая) равносильна невозрастанию (строгому убыванию) f′.
Развернуть
Необходимость. Пусть f выпукла вниз, x1,x2∈X˚, x1<x2. По лемме о трёх хордах для любого x∈(x1,x2)
x−x1f(x)−f(x1)≤x2−x1f(x2)−f(x1)≤x2−xf(x2)−f(x).
Переходя к пределу в левом неравенстве при x→x1+, получаем f′(x1)≤x2−x1f(x2)−f(x1); в правом при x→x2− получаем x2−x1f(x2)−f(x1)≤f′(x2). Значит, f′(x1)≤f′(x2).
В случае строгой выпуклости возьмём x=2x1+x2 и точки t∈(x1,x), s∈(x,x2). По строгой лемме, применённой к тройкам x1<t<x и x<s<x2, и к тройке x1<x<x2:
t−x1f(t)−f(x1)<x−x1f(x)−f(x1)<x2−xf(x2)−f(x)<x2−sf(x2)−f(s).
Предельный переход при t→x1+, s→x2− даёт f′(x1)≤x−x1f(x)−f(x1)<x2−xf(x2)−f(x)≤f′(x2), т. е. f′(x1)<f′(x2).
Достаточность. Пусть f′ не убывает на X˚, и x1<x<x2 — точки X. Функция f непрерывна на [x1,x] и [x,x2] и дифференцируема внутри них, поэтому по теореме Лагранжа
x−x1f(x)−f(x1)=f′(c1),x2−xf(x2)−f(x)=f′(c2),x1<c1<x<c2<x2.
Так как c1,c2∈X˚ и c1<c2, имеем f′(c1)≤f′(c2) (при строгом возрастании f′ — строгое неравенство). Обозначим A=x−x1f(x)−f(x1), B=x2−x1f(x2)−f(x1), C=x2−xf(x2)−f(x); доказано A≤C. Средняя дробь есть взвешенное среднее крайних:
B=x2−x1(x−x1)A+(x2−x)C,
так как (x−x1)A+(x2−x)C=(f(x)−f(x1))+(f(x2)−f(x))=f(x2)−f(x1). Поэтому A≤B≤C (при A<C — строгие неравенства), т. е. выполнены неравенства леммы о трёх хордах. По лемме f выпукла вниз (строго). Случай выпуклости вверх получается заменой f на −f. ■