Функция Лагранжа в общей задаче нелинейного программирования представляет собой сумму критерия оптимальности Ф(X) и взвешенную с помощью множителей Лагранжа сумму всех ограничивающих функций.

Множители Лагранжа в общей задаче нелинейного программирования представляют собой веса ограничивающих функций в соответствующей функции Лагранжа.

Условие регулярности ограничивающих функций определяется несколько по-разному в задаче оптимизации с ограничениями типа равенств в такой же задаче с ограничениями типа неравенств. Задача условной оптимизации с ограничениями типа равенств: если точка Y принадлежит множеству допустимых значений вектора варьируемых параметров D, то этим условием является условие линейной независимости градиентов ограничивающих функций h(X) в точке Y. Задача условной оптимизации с ограничениями типа неравенств: если точка Y принадлежит множеству D, то этим условием называется условие линейной независимости градиентов активных ограничений g(X) в точке Y.

Функция Розенброка является одной из широко известных двумерных тестовых функций и определяется следующим образом: Ф(x1,x2)=100(x2-x1^2)^2+(1-x1)^2. Здесь ^ - символ возведения в степень.

Пусть функция Ф(X) и градиенты ограничивающих функций h(X) имеют непрерывные частные производные в некоторой окрестности точки Y, принадлежащей множеству допустимых значений вектора варьируемых параметров D, и пусть эта точка является точкой локального минимума функции Ф(X). Пусть, кроме того, выполняется условие регулярности ограничивающих функций h(X) в точке Y. Тогда существуют такие множители Лагранжа, не все из которых равны нулю одновременно, что для соответствующей функции Лагранжа точка Y является стационарной точкой функции.