Градиентный метод с дроблением шага. Тест 1

Выполните несколько итераций (не менее двух) решения двумерной задачи локальной безусловной оптимизации

(1)

(2)

градиентным методом с дроблением шага, исходя из точки

Примите

, в качестве нормы вектора градиента используйте евклидову норму.

Траекторию поиска изобразите на рисунке, на котором приведены линии уровня квадратичной функции (2), которые могут быть получены с помощью следующей MATLAB-программы:

x=-2:0.06:2;
y=x;
[X,Y]=meshgrid(x);
Z=(X).^2+(Y).^2+3*(X+Y).^2;
V=[0.1,0.2,0.4,0.8,1.5,3.,6.,12,24];
[C,h]=contour(X,Y,Z,V);
clabel(C,h);

Ответ

Итерационная формула.

Итерация градиентного метода с дроблением шага для задачи (1), (2) имеет вид

(3)

(4)

а величина шага

находится из условия

(5)

Найдем явные выражения для частных производных функции

(

(6)

Таким образом, из (3), (4), (6) имеем искомую итерационную формулу градиентного метода с дроблением шага для задачи (1), (2).

(7)

Первая итерация (

=0).

Из формул (6), (7) последовательно имеем

Таким образом,

(см. рис. 1).

Условие (5) на первой итерации имеет вид

Поскольку

левая часть этого неравенства равна

. Его правая часть, легко видеть, равна

Таким образом, на первой итерации условие (5) выполняется и величина шага

должна быть изменена:

Вторая итерация (

=1).

Аналогично первой итерации последовательно имеем

Таким образом,

(см. рис. 1).

Условие (5) на второй итерации имеет вид

Поскольку

левая часть этого неравенства равна

. Его правая часть, легко видеть, равна

Таким образом, на второй итерации условие (5) выполняется и величина шага

должна быть изменена:

Третья итерация (

=2).

Аналогично первой итерации последовательно имеем

Таким образом,

(см. рис. 1).

Условие (5) на третьей итерации имеет вид

(

)

0.5

Поскольку

левая часть этого неравенства равна

. Его правая часть, легко видеть, равна

Таким образом, на третьей итерации условие (5) выполняется и величина шага

должна быть изменена:

Рис. 1. Фрагмент (три итерации) траектории поиска минимума функции (2) градиентным методом с дроблением шага, исходя из точки X⁰=(x⁰,y⁰)=(-2.0,1.0).