Метод Розенброка относится, с одной стороны, к классу
прямых методов оптимизации, а с другой стороны - к классу
детерминированных методов оптимизации. Метод предназначен для решения многомерных
задач локальной безусловной оптимизации. Каждая итерация метода Розенброка состоит из двух этапов. В зависимости от модификации метода первый этап может выполняться с использованием различных методов, например, с помощью
метода Гаусса-Зейделя. В этом случае первый этап метода состоит в выполнении одного шага метода Гаусса-Зейделя. На втором этапе выполняется преобразование системы координат таким образом, чтобы в новой системе координат одна из осей совпадала с направлением шага на предыдущем этапе. Остальные оси новой системы координат обычно находят с помощью процедуры ортогонализации Грамма-Шмидта.