Широкий класс методов оптимизации ориентирован на решение задач оптимизации, у которых множество допустимых значений вектора варьируемых параметров является выпуклым множеством.
Множество допустимых значений вектора варьируемых параметров называется выпуклым множеством допустимых значений вектора варьируемых параметров, если для любых точек и для любого [0,1] выполняется соотношение . Например, на рис. 1, который иллюстрирует двумерный случай (), все точки отрезка [,] принадлежат множеству и поэтому это множество выпукло. В противном случае множество допустимых значений называется не выпуклым множеством допустимых значений вектора варьируемых параметров. Например, на рис.2 часть [,] отрезка [,] не принадлежат множеству , которое поэтому не является выпуклым.
Рис. 1.  К определению выпуклого множества (n=2).
Рис. 2.  Пример не выпуклого множества (n=2).
Множество будем называть отрезком с концами и обозначать .
На основе введенного понятия, можно дать другое определение выпуклого множества . Множество допустимых значений вектора варьируемых параметров называется выпуклым множеством, если оно наряду с любыми точками , содержит в себе также отрезок .
Из определения следует, что все евклидово пространство является выпуклым множеством.
Легко показать, что любой отрезок в пространстве является выпуклым множеством.
Из курса аналитической геометрии известно, что в пространстве уравнение

 (1)

определяет гиперплоскость. Здесь ,,...,, некоторые константы.
Теорема 1. Гиперплоскость ++...+= является выпуклым множеством в пространстве .
Доказательство. Уравнение (1) перепишем в виде скалярного произведения

 (2)

где -мерный вектор . Возьмем произвольные точки , удовлетворяющие уравнению (2): (,)=, (,)=. Рассмотрим некоторую точку , принадлежащую отрезку . По свойствам скалярного произведения имеем

Это означает, что точка принадлежит гиперплоскости (2)
Очевидно, что в пространстве уравнения (1), (2) определяют прямую, а в пространстве - плоскость.
Опять же из курса аналитической геометрии известно, что в пространстве неравенство

 (3)

определяет полупространство. Здесь ,,...,, также некоторые константы.
Теорема 2. Полупространство ++...+=(,) является выпуклым множеством в пространстве
Теорема 3. Если функции ()0,[1,] выпуклы в ,то множество ={|()0}={|()0,[1,]} является выпуклым
Определение выпуклой функции дано ниже.
Для доказательства выпуклости множеств часто бывает полезна следующая теорема.
Теорема 4. Пересечение любого конечного числа выпуклых множеств является выпуклым множеством.
Доказательство. Пусть ={,,...,} – совокупность выпуклых множеств пространства . Рассмотрим множество
=,
являющееся пересечением множеств совокупности . Пусть точки принадлежат множеству . Тогда они также принадлежат каждому из множеств . Так как множество выпукло, то точка , принадлежит этому множеству. Поскольку множество выбрано произвольно, то точка , принадлежит множеству
Из теоремы 4 следует, что выпуклыми множествами являются, например, следующие множества:
++...+=(,),
++...+=(,),
... ...
++...+=(,).
Утверждение 5. Если функции выпуклы в , а функции - линейны, то множество

 (4)

является выпуклым.
Справедливость утверждения следует из того факта, что по теореме 3 ограничения типа неравенств и по теореме 1 ограничения типа равенств определяют в соотношении (4) выпуклые множества
Покажем в заключение, что гипершар

 (5)

является выпуклым множеством (>0).
Известно, что евклидова норма -мерного вектора есть
=.
Поэтому неравенство (5) можно переписать в виде , где -мерный вектор . Пусть произвольные точки принадлежат гипершару (5) и [0,1]. Тогда по свойству нормы имеем
.