Рассмотрим многомерную задачу локальной условной оптимизации
 (1)

где множество допустимых значений определяется только ограничениями типа неравенств
 (2)

и целевая функция и ограничивающие функции являются непрерывными и дифференцируемыми функциями, а ограничивающие функции еще и выпуклы.
Проектирование точки на множество.
Идея метода проекции градиента состоит в том, что если на некоторой итерации точка
 (3)

полученная с помощью градиентного метода наискорейшего спуска (см. главу 7), оказывается вне множества допустимых значений , то она возвращается на это множество. Возврат производится с помощью процедуры "проекция точки на множество". Напомним, что в формуле (3) — длина шага на -ой итерации в направлении ;
единичный вектор направления антиградиента функции в точке , — некоторая векторная норма, например, евклидова.
Определение. Проекцией точки на замкнутое множество называется ближайшая к точка множества . Т.е. точка называется проекцией точки на замкнутое множество , если
 (4)

где — расстояние между точками в некоторой метрике, например,
Проекцию точки на замкнутое множество будем обозначать (см. рис. 1). Очевидно, что , если .
Рис. 1.  К определению проекции точки на множество. Прямая l является касательной к границе области D в точке PD(X)=X.
Можно показать, что если — замкнутое выпуклое множество пространства , то для любой точки существует единственная ее проекция на это множество.
Задача (4) поиска проекции точки на множество также является многомерной задачей условной оптимизации и ее решении может вызвать в общем случае значительные затруднения.
Задача (4) становится задачей квадратичного программирования, если множество задается лишь линейными ограничениями типа неравенств и если функция является квадратичной функцией , например, если .
Наибольший практический интерес представляет ситуация, когда множество таково, что задача (4) может быть решена в явном виде. Приведем несколько наиболее практически важных примеров таких множеств.
Схема комбинации метода проекции градиента с методом дробления шага.
Метод проекции градиента может быть скомбинирован со многими градиентными методами (см. главу 7). Рассмотрим комбинацию метода проекции градиента с градиентным методом дробления шага.
Напомним, что в градиентном методе с дроблением шага величина шага находится из условия
 (5)

Схема метода:
  1. Задаем начальную точку , начальную величину шага и коэффициент дробления шага . Полагаем счетчик числа итераций .
  2. По формуле (3) вычисляем координаты точки и проекцию этой точки на множество D.
  3. Вычисляем величину — значение функции в точке .
  4. Если условие дробления шага выполнено (см. параграф 7.1), то переходим к следующему пункту. Иначе – переходим к п.6.
  5. Полагаем и переходим к п.2.
  6. Проверяем условие окончания поиска (см. ниже). Если условие окончания поиска выполнено, то полагаем и завершаем итерации. Иначе – полагаем переходим к п.2
В качестве критерия окончания поиска можно использоваться одно из стандартных условий окончания итераций
или условие , где — константа, определяющая требуемую точность решения по градиенту функции .
Комбинацию метода проекции градиента и градиентного метода с дроблением шага иллюстрирует рис. 2, на котором показан фрагмент линий уровня функции Химмельблау.
Рис. 2.  Траектория поиска минимума функции Химмельблау комбинацией метода проекции градиента и градиентного метода с дроблением шага.
Известны модификации метода проекции градиента, ориентированные на решение задач условной оптимизации с ограничениями типа равенств.