Рассмотрим следующую многомерную задачу локальной безусловной оптимизации: найти минимум критерия оптимальности (), определенного в -мерном евклидовом пространстве ,

 (1)

При решении задачи (1) методом Хука-Дживса (методом конфигураций, методом пробных шагов) используются итерационные формулы, аналогичные формулам, используемым в методе Гаусса-Зейделя

 (2)

где принято , , вектор определяет направление вдоль -й координатной оси и представляет собой -мерный вектор с компонентами


величины , ,..., – определяются из условий

 (3)

После завершения шагов выполняется спуск в направлении вектора (-) по формуле

 (4)

где - ускоряющий множитель. В различных модификациях метода Хука-Дживса множитель может

 (5)

Заметим, что задачи (5) даже в случае одноэкстремальной функции () могут быть многоэкстремальными задачами оптимизации и могут быть решены рассмотренными в главе 4 методами решения задач одномерной оптимизации.
Итерации заканчиваются при выполнении одного из стандартных условий окончания итераций:

 (6)

Вектор является вектором свободных параметров метода - вектором «пробных шагов» по всем координатным осям.
Известна модификация метода Хука-Дживса, в которой точка определяется не процедурами (2), (3), а методом Гаусса-Зейделя.
Схема метода Хука-Дживса:
  1. Задаем начальную точку , вектор «пробных» шагов и полагаем =0.
  2. Последовательно для =1,2,... по формулам (2), (3) находим точки .
  3. Если , то переходим к п. 4). Иначе уменьшаем длины «пробных» шагов , например, вдвое и переходим к п.2).
  4. Если условие окончания поиска (6) или (6') выполнено, то полагаем и заканчиваем вычисления. Иначе выполняем спуск в направлении вектора по формуле (4), в которой ускоряющий множитель находится, например, из условия (5). Полагаем и переходим к п. 2
Метод Хука-Дживса иллюстрирует рис. 1, на котором показаны линии уровня функции Химмельблау (=2). Ускоряющий множитель находиться из условия локального минимума функции () при движении из точки в направлении вектора .
Рис. 1.  Траектория поиска минимума не овражной функции Химмельблау методом Хука-Дживса.
Метод Хука-Дживса имеет высокую эффективность в случае, если функция () имеет прямолинейный овраг (не обязательно ориентированный вдоль одного из координатных направлений, как в методе Гаусса-Зейделя). При минимизации "овражных" функций, имеющих не прямолинейный овраг, процесс поиска может сильно замедлиться и закончиться далеко от точки истинного минимума (см. рис. 2). На рисунке показаны линии уровня функции Розенброка (=2).
Рис. 2.  Траектория поиска минимума овражной функции Розенброка методом Хука-Дживса. Ускоряющий множитель αr принят равным двум.